Пост №3445183

Автор: blackheart

Развернуть { «@context»: «http://schema.org», «@type»: «BlogPosting», «mainEntityOfPage»:{ «@type»:»WebPage», «@id»:»http://anime.reactor.cc/post/3445183″ }, «headline»: «Serval (Kemono Friends) :: Kaban (Kemono Friends) :: Kemono Friends :: nyororiso (muyaa) :: Anime (Аниме)», «image»: { «@type»: «ImageObject», «url»: «http://img0.joyreactor.cc/pics/post/full/nyororiso-%28muyaa%29-Kaban-%28Kemono-Friends%29-Kemono-Friends-Anime-4380386.png», «height»: 1000, «width»: 708 }, «datePublished»: «2018-03-26T09:04:06+03:00», «dateModified»: «2018-03-26T09:04:06+03:00», «author»: { «@type»: «Person», «name»: «blackheart» }, «publisher»: { «@type»: «Organization», «name»: «JoyReactor.cc», «logo»: { «@type»: «ImageObject», «url»: «http://joyreactor.cc/images/joyreactor_ie6.png», «width»: 207, «height»: 54 } }, «description»: «» }
Комментировать 
Пост №3445183
Source: Joyreactor

Что мы знаем о ландшафте функции потерь в машинном обучении?

TL;DR

  1. В глубоких нейронных сетях основным препятствием для обучения являются седловые точки, а не локальные минимумы, как считалось ранее.
  2. Большинство локальных минимумов целевой функции сконцентрированы в сравнительно небольшом подпространстве весов. Соответствующие этим минимумам сети дают примерно одинаковый loss на тестовом датасете.
  3. Сложность ландшафта увеличивается по приближении к глобальному минимуму. Почти во всём объёме пространства весов подавляющая часть седловых точек имеет большое количество направлений, по которым из них можно сбежать. Чем ближе к центру кластера минимумов, тем меньше «направлений побега» у встреченных на пути седловых точек.
  4. Всё ещё неясно, как найти в подпространстве минимумов глобальный экстремум. Похоже, что это очень сложно; и не факт, что типичный глобальный минимум намного лучше типичного локального.
  5. В сгустке минимумов существуют особые кривые, соединяющие локальные минимумы. Функция потерь на этих кривых принимает лишь чуть большие значения, чем в самих минимумах.
  6. Некоторые исследователи считают, что широкие минимумы (с большим радиусом «ямы» вокруг) лучше узких. Но есть и немало учёных, которые полагают, что связь ширины минимума с обобщающей способностью сети очень слаба.
  7. Skip connections делают ландшафт более дружелюбным для градиентного спуска. Похоже, что вообще нет причин не использовать residual learning.
  8. Чем шире слои в сети и чем их меньше (до определённого предела), тем глаже ландшафт целевой функции. Увы, чем более избыточна параметризация сети, тем больше нейросеть подвержена переобучению.

Всё, листайте дальше. Я даже КДПВ ставить не буду.
Мне нужны пруфы!
Что мы знаем о ландшафте функции потерь в машинном обучении?
Source: habrahabr

CD Projekt делает ещё одну игру помимо Cyberpunk 2077

После релиза третьей и заключительной части «Ведьмака» про приключения Геральта из Ривии считалось, что польская студия CD Projekt RED занималась разработкой только одного большого проекта — Cyberpunk […]
CD Projekt делает ещё одну игру помимо Cyberpunk 2077
Source: 4pda

Guava, Graal и Partial Escape Analysis

На прошлой неделе случился релиз десятки — и хотя Graal был доступен и раньше, теперь он стал ещё доступней — Congratulations, you’re running #Graal! — просто добавьте

-XX:+UnlockExperimentalVMOptions -XX:+UseJVMCICompiler

Что конкретно это может нам дать и где можно ожидать улучшений, и какие велосипеды надо начинать выпиливать?

Пример, который я буду рассматривать — частично надуманный, однако, основанный на реальных событиях.

Читать дальше →
Guava, Graal и Partial Escape Analysis
Source: habrahabr

Цитата #449630

— И целью существования человека я вижу поддержание и совершенствование смысла и порядка в себе и вокруг себя.
— Метать бисер перед свиньями, например?
Цитата #449630
Source: bash

Пост №3445153

Автор: Rekolit

Кадыров в прямом эфире показал объявленного в федеральный розыск бандитаГлава Чечни Рамзан Кадыров в прямом эфире показал встречу со своим бывшим советником Шаа Турлаевым, который объявлен в федеральный розыск. Видео опубликовано на официальной странице Кадырова в социальной сети «ВКонтакте». Глава республики вел прямую трансляцию из села Беной, где собирался отобедать со своими знакомыми. Cначала Кадыров продемонстрировал подписчикам открывающиеся из его беседки виды на горы и накрытый стол, а затем и тех, с кем планировал разделить трапезу. В частности, в кадр попал одноногий Турлаев, который с 2010 года находится в федеральном розыске по делам об организации покушений на бывшего мэра Хасавюрта Сайгидпаши Умаханова и политика Ису Ямадаева. Кроме того, по данным «Новой газеты», Турлаева подозревают в причастности к заказному убийству депутата Госдумы Руслана Ямадаева в Москве и бывшего охранника Рамзана Кадырова Умара Исраилова в Вене. В годы вооруженного конфликта в Чечне Турлаев был начальником охраны президента непризнанной Чеченской Республики Ичкерия Аслана Масхадова. «Лучшие из лучших», — прокомментировал глава Чечни за кадром, снимая своих знакомых. Еще в 2015 году «Росбалт» со ссылкой на источник в правоохранительных органах писал, что некоторые обвиняемые по громким делам и находящиеся в розыске живут в Чечне и не скрывают своего присутствия в этой республике. В частности, речь шла о Турлаеве. Ситуацию прокомментировал министр Чеченской Республики по национальной политике, внешним связям, печати и информации Джамбулат Умаров. Бывший советник главы Чечни Рамзана Кадырова Шаа Турлаев, который, по некоторым данным, объявлен в федеральный розыск, на самом деле «вернулся к мирной жизни» и является «примером человеческого мужества». «Человек в свое время прекратил боевые действия, вернулся к мирной жизни, призывает молодежь не поддаваться на пропаганду террористов. Он говорит о том, что глубоко ошибался. Шаа — инвалид, потерял ногу… Презумпцию невиновности никто не отменял. Он что, был осужден?» — сказал Умаров. Он назвал появившиеся в СМИ публикации «бессовестной травлей», а самого Турлаева примером «великого покаяния». «Он покаялся перед Богом и народом. Шаа Турлаев имеет для нас большое идеологическое значение. Это пример человеческого мужества. На таких, как Шаа Турлаев, мы должны воспитывать детей», — подчеркнул Умаров. В то же время, как отмечает РБК, база данных МВД «Внимание, розыск» по запросу о Турлаеве сообщает, что «результаты, удовлетворяющие вашему запросу, отсутствуют». Источник: https://lenta.ru/news/2018/03/24/luchshie_iz_luchshih/ Развернуть { «@context»: «http://schema.org», «@type»: «BlogPosting», «mainEntityOfPage»:{ «@type»:»WebPage», «@id»:»http://polit.reactor.cc/post/3445153″ }, «headline»: «Кадыров в прямом эфире показал объявленного в федеральный розыск бандита / бандит :: политика :: кадыров :: новости», «image»: { «@type»: «ImageObject», «url»: «http://img0.joyreactor.cc/pics/post/full/%D0%BF%D0%BE%D0%BB%D0%B8%D1%82%D0%B8%D0%BA%D0%B0-%D0%BA%D0%B0%D0%B4%D1%8B%D1%80%D0%BE%D0%B2-%D0%B1%D0%B0%D0%BD%D0%B4%D0%B8%D1%82-%D0%BD%D0%BE%D0%B2%D0%BE%D1%81%D1%82%D0%B8-4380352.jpeg», «height»: 749, «width»: 720 }, «datePublished»: «2018-03-26T08:14:46+03:00», «dateModified»: «2018-03-26T08:14:46+03:00», «author»: { «@type»: «Person», «name»: «Rekolit» }, «publisher»: { «@type»: «Organization», «name»: «JoyReactor.cc», «logo»: { «@type»: «ImageObject», «url»: «http://joyreactor.cc/images/joyreactor_ie6.png», «width»: 207, «height»: 54 } }, «description»: «Глава Чечни Рамзан Кадыров в прямом эфире показал встречу со своим бывшим советником Шаа Турлаевым, который объявлен в федеральный розыск. Видео опубликовано на официальной странице Кадырова в социальной сети «ВКонтакте». Глава республики вел прямую трансляцию из села Беной, где собирался отобедать» }
Комментировать 
Пост №3445153
Source: Joyreactor

Цитата #449629

crokc: Если ты не будешь за собой следить то через пять лет тебе придется платить за секс
минимум батарейками!)
Цитата #449629
Source: bash

Цитата #449628

xxx: а может бог как сервер. допустим есть, но на земле так много людей, что он просто ложится под обилием запросов.
Цитата #449628
Source: bash

Пост №3445150

Автор: uni-snake

Развернуть { «@context»: «http://schema.org», «@type»: «BlogPosting», «mainEntityOfPage»:{ «@type»:»WebPage», «@id»:»http://blizzard.reactor.cc/post/3445150″ }, «headline»: «Overwatch Ero :: Brigitte (Overwatch) :: Overwatch :: Blizzard (Blizzard Entertainment) :: logancure :: фэндомы», «image»: { «@type»: «ImageObject», «url»: «http://img1.joyreactor.cc/pics/post/full/logancure-Brigitte-%28Overwatch%29-Overwatch-Blizzard-4380349.jpeg», «height»: 1331, «width»: 1024 }, «datePublished»: «2018-03-26T08:10:28+03:00», «dateModified»: «2018-03-26T08:10:28+03:00», «author»: { «@type»: «Person», «name»: «uni-snake» }, «publisher»: { «@type»: «Organization», «name»: «JoyReactor.cc», «logo»: { «@type»: «ImageObject», «url»: «http://joyreactor.cc/images/joyreactor_ie6.png», «width»: 207, «height»: 54 } }, «description»: «» }
Комментировать 
Пост №3445150
Source: Joyreactor