Методы оптимизации нейронных сетей

В подавляющем большинстве источников информации о нейронных сетях под «а теперь давайте обучим нашу сеть» понимается «скормим целевую функцию оптимизатору» лишь с минимальной настройкой скорости обучения. Иногда говорится, что обновлять веса сети можно не только стохастическим градиентным спуском, но безо всякого объяснения, чем же примечательны другие алгоритмы и что означают загадочные inline beta и inline gamma в их параметрах. Даже преподаватели на курсах машинного обучения зачастую не заостряют на этом внимание. Я бы хотел исправить недостаток информации в рунете о различных оптимизаторах, которые могут встретиться вам в современных пакетах машинного обучения. Надеюсь, моя статья будет полезна людям, которые хотят углубить своё понимание машинного обучения или даже изобрести что-то своё.

image

Под катом много картинок, в том числе анимированных gif.

Читать дальше →
Методы оптимизации нейронных сетей
Source: habrahabr

Пост №2937187

Автор: Achi

Развернуть { «@context»: «http://schema.org», «@type»: «BlogPosting», «mainEntityOfPage»:{ «@type»:»WebPage», «@id»:»/post/2937187″ }, «headline»: «Комиксы Cyanide and happiness (Цианистый калий и счастье) :: saudadecomics :: Смешные комиксы (веб-комиксы с юмором и их переводы)», «image»: { «@type»: «ImageObject», «url»: «http://img1.joyreactor.cc/pics/post/full/Cyanide-and-happiness-%D0%9A%D0%BE%D0%BC%D0%B8%D0%BA%D1%81%D1%8B-saudadecomics-3582269.jpeg», «height»: 700, «width»: 820 }, «datePublished»: «2017-01-04T14:04:24+03:00», «dateModified»: «2017-01-04T14:04:24+03:00», «author»: { «@type»: «Person», «name»: «Achi» }, «publisher»: { «@type»: «Organization», «name»: «JoyReactor.cc», «logo»: { «@type»: «ImageObject», «url»: «http://joyreactor.cc/images/joyreactor_ie6.png», «width»: 207, «height»: 54 } }, «description»: «» }
Комментировать 
Пост №2937187
Source: Joyreactor

Смарт-очки ODG R-8 и R-9 оказались первыми устройствами на новом Snapdragon 835

Ожидалось, что первым устройством на базе новейшего процессора Snapdragon 835 станет Samsung Galaxy S8 или другой флагманский смартфон, но на выставке CES 2017 в Лас-Вегасе компания Osterhout […]
Смарт-очки ODG R-8 и R-9 оказались первыми устройствами на новом Snapdragon 835
Source: 4pda

BlackBerry DTEK70 засветился на видео за несколько часов до презентации

Новые рендеры и официальные видео неанонсированного BlackBerry DTEK70, который известен под кодовым именем Mercury, утекли в сеть незадолго до презентации на CES 2017. На изображениях видно устройство […]
BlackBerry DTEK70 засветился на видео за несколько часов до презентации
Source: 4pda

[Перевод] Безопасность в IoT: Архитектура системы безопасности

При проектировании системы важно понять, каким угрозам эта система может подвергаться, и разработать соответствующие меры защиты при проектировании и построении её архитектуры. Особенно важно с самого начала учитывать требования безопасности при проектировании продукта. Если вы понимаете, каким образом злоумышленники могут скомпрометировать вашу систему, то это поможет еще до начала работы принять соответствующие меры по снижению рисков.


Читать дальше →
[Перевод] Безопасность в IoT: Архитектура системы безопасности
Source: habrahabr

Пост №2937176

Автор: ふたなりミルク

ссылка на гифкуРазвернуть { «@context»: «http://schema.org», «@type»: «BlogPosting», «mainEntityOfPage»:{ «@type»:»WebPage», «@id»:»/post/2937176″ }, «headline»: «спасатели :: гиф анимация (гифки — ПРИКОЛЬНЫЕ gif анимашки)», «image»: { «@type»: «ImageObject», «url»: «http://img0.joyreactor.cc/pics/post/full/%D1%81%D0%BF%D0%B0%D1%81%D0%B0%D1%82%D0%B5%D0%BB%D0%B8-%D0%B3%D0%B8%D1%84%D0%BA%D0%B8-3582242.gif», «height»: 320, «width»: 192 }, «datePublished»: «2017-01-04T13:43:27+03:00», «dateModified»: «2017-01-04T13:43:27+03:00», «author»: { «@type»: «Person», «name»: «ふたなりミルク» }, «publisher»: { «@type»: «Organization», «name»: «JoyReactor.cc», «logo»: { «@type»: «ImageObject», «url»: «http://joyreactor.cc/images/joyreactor_ie6.png», «width»: 207, «height»: 54 } }, «description»: «» }
Комментировать 
Пост №2937176
Source: Joyreactor

Смарт-часы No.1 F2 выдержат 365 дней без подзарядки

Начать новый 2017 год компания No.1 решила с анонса смарт-часов F2. Этим производитель показывает, что намерен сосредоточиться на выпуске носимой электроники, значительно расширив свою существующую […]
Смарт-часы No.1 F2 выдержат 365 дней без подзарядки
Source: 4pda

Писательница Рианна Пратчетт прощается с Ларой Крофт

Британская
писательница Рианна Пратчетт, дочь легендарного Терри Пратчетта, известна геймерам
своей работой над сценариями ко многим видеоиграм. Это она придумывала сюжеты к
Thief, Mirror’s Edge и ещё […]
Писательница Рианна Пратчетт прощается с Ларой Крофт
Source: 4pda

ASUSPro B9440 стал самым лёгким 14-дюймовым ноутбуком в мире

Для многих людей не так важна производительность ноутбука, как его компактность и мобильность, а также малый вес, чтобы компьютер можно было без проблем брать с собой в дорогу и на работу. В большинстве […]
ASUSPro B9440 стал самым лёгким 14-дюймовым ноутбуком в мире
Source: 4pda

json-api-normalizer: легкий способ подружить Redux и JSON API

JSON API + redux

В последнее время набирает популярность стандарт JSON API для разработки веб-сервисов. На мой взгляд, это очень удачное решение, которое наконец хоть немного стандартизирует процесс разработки API, и вместо очередного изобретения велосипеда мы будем использовать библиотеки как на стороне сервера, так и клиента для обмена данными, фокусируясь на интересных задачах вместо написания сериалайзеров и парсеров в сто первый раз.

Читать дальше →
json-api-normalizer: легкий способ подружить Redux и JSON API
Source: habrahabr