[Из песочницы] Задача о многоруком бандите — сравниваем эпсилон-жадную стратегию и Томпсоновское сэмплирование

Привет, Хабр! Представляю вашему вниманию перевд статьи Solving multiarmed bandits: A comparison of epsilon-greedy and Thompson sampling.

Задача о многоруком бандите

Задача о многоруком бандите – одна из самых основных задач в науке о решениях. А именно, это задача об оптимальном распределении ресурсов в уcловиях неопределенности. Само название «многорукий бандит» пошло от старых игровых автоматов, которыми управляли при помощи ручек. Эти автоматы получили прозвище «бандиты», потому что после общения с ними люди обычно чувствовали себя ограбленными. А теперь представьте, что таких машин несколько и шанс выиграть у разных машин разный. Раз уж мы взялись играть с этими машинами, мы хотим определить, у какой этот шанс выше и использовать (exploit) эту машину чаще, чем другие.

Проблема в следующем: как нам эффективнее всего понять, какая машина подходит лучше всего, и при этом перепробовать много возможностей в реальном времени? Это не какая-то теоретическая проблема, это проблема, с которой бизнес сталкивается все время. Например, у компании есть несколько вариантов сообщений, которые надо показывать пользователям (в число сообщений, например, входят и реклама, сайты, изображения) так, чтобы выбранные сообщения максимизировали некое бизнес-задание (конверсию, кликабельность и пр.)

Читать дальше →
[Из песочницы] Задача о многоруком бандите — сравниваем эпсилон-жадную стратегию и Томпсоновское сэмплирование
Source: habrahabr

Пост №3668805

Автор: Байрта Дахмутова

ссылка на гифкуРазвернуть { «@context»: «http://schema.org», «@type»: «BlogPosting», «mainEntityOfPage»:{ «@type»:»WebPage», «@id»:»/post/3668805″ }, «headline»: «охранник :: гиф анимация (гифки — ПРИКОЛЬНЫЕ gif анимашки)», «image»: { «@type»: «ImageObject», «url»: «http://img0.joyreactor.cc/pics/post/full/%D0%B3%D0%B8%D1%84%D0%BA%D0%B8-%D0%BE%D1%85%D1%80%D0%B0%D0%BD%D0%BD%D0%B8%D0%BA-%D0%BF%D0%B5%D1%81%D0%BE%D1%87%D0%BD%D0%B8%D1%86%D0%B0-4750764.gif», «height»: 261, «width»: 480 }, «datePublished»: «2018-10-07T18:35:25+03:00», «dateModified»: «2018-10-07T18:35:25+03:00», «author»: { «@type»: «Person», «name»: «Байрта Дахмутова» }, «publisher»: { «@type»: «Organization», «name»: «JoyReactor.cc», «logo»: { «@type»: «ImageObject», «url»: «http://joyreactor.cc/images/joyreactor_ie6.png», «width»: 207, «height»: 54 } }, «description»: «» }
Комментировать 
Пост №3668805
Source: Joyreactor

Пост №3668801

Автор: Байрта Дахмутова

ссылка на гифкуРазвернуть { «@context»: «http://schema.org», «@type»: «BlogPosting», «mainEntityOfPage»:{ «@type»:»WebPage», «@id»:»/post/3668801″ }, «headline»: «тюлень :: гиф анимация (гифки — ПРИКОЛЬНЫЕ gif анимашки)», «image»: { «@type»: «ImageObject», «url»: «http://img0.joyreactor.cc/pics/post/full/%D0%B3%D0%B8%D1%84%D0%BA%D0%B8-%D1%82%D1%8E%D0%BB%D0%B5%D0%BD%D1%8C-%D0%BF%D0%B5%D1%81%D0%BE%D1%87%D0%BD%D0%B8%D1%86%D0%B0-4750760.gif», «height»: 400, «width»: 400 }, «datePublished»: «2018-10-07T18:33:39+03:00», «dateModified»: «2018-10-07T18:33:39+03:00», «author»: { «@type»: «Person», «name»: «Байрта Дахмутова» }, «publisher»: { «@type»: «Organization», «name»: «JoyReactor.cc», «logo»: { «@type»: «ImageObject», «url»: «http://joyreactor.cc/images/joyreactor_ie6.png», «width»: 207, «height»: 54 } }, «description»: «» }
Комментировать 
Пост №3668801
Source: Joyreactor

Пост №3668788

Автор: Narik93

Развернуть

{
«@context»: «http://schema.org»,
«@type»: «BlogPosting»,
«mainEntityOfPage»:{
«@type»:»WebPage»,
«@id»:»/post/3668788″
},
«headline»: «Спасти рядового Котю / спасение :: пожарные :: coub :: котёнок :: доброта»,
«image»: {
«@type»: «ImageObject»,
«url»: «http://img1.joyreactor.cc/pics/post/full/coub-%D0%BF%D0%BE%D0%B6%D0%B0%D1%80%D0%BD%D1%8B%D0%B5-%D0%BA%D0%BE%D1%82%D1%91%D0%BD%D0%BE%D0%BA-%D1%81%D0%BF%D0%B0%D1%81%D0%B5%D0%BD%D0%B8%D0%B5-4750747.jpeg»,
«height»: 720,
«width»: 1280 },
«datePublished»: «2018-10-07T18:26:09+03:00»,
«dateModified»: «2018-10-07T18:26:09+03:00»,
«author»: {
«@type»: «Person»,
«name»: «Narik93»
},
«publisher»: {
«@type»: «Organization»,
«name»: «JoyReactor.cc»,
«logo»: {
«@type»: «ImageObject»,
«url»: «http://joyreactor.cc/images/joyreactor_ie6.png»,
«width»: 207,
«height»: 54
}
},
«description»: «»
}

Комментировать 
Пост №3668788
Source: Joyreactor

Пост №3668787

Автор: SunGato

Рыцари и ПлутыРазвернуть { «@context»: «http://schema.org», «@type»: «BlogPosting», «mainEntityOfPage»:{ «@type»:»WebPage», «@id»:»/post/3668787″ }, «headline»: «Рыцари и Плуты / oglaf :: Кликабельно :: Двери :: Смешные комиксы (веб-комиксы с юмором и их переводы)», «image»: { «@type»: «ImageObject», «url»: «http://img0.joyreactor.cc/pics/post/full/oglaf-%D0%9A%D0%BE%D0%BC%D0%B8%D0%BA%D1%81%D1%8B-%D0%94%D0%B2%D0%B5%D1%80%D0%B8-%D0%9A%D0%BB%D0%B8%D0%BA%D0%B0%D0%B1%D0%B5%D0%BB%D1%8C%D0%BD%D0%BE-4750746.jpeg», «height»: 1192, «width»: 1520 }, «datePublished»: «2018-10-07T18:25:47+03:00», «dateModified»: «2018-10-07T18:25:47+03:00», «author»: { «@type»: «Person», «name»: «SunGato» }, «publisher»: { «@type»: «Organization», «name»: «JoyReactor.cc», «logo»: { «@type»: «ImageObject», «url»: «http://joyreactor.cc/images/joyreactor_ie6.png», «width»: 207, «height»: 54 } }, «description»: «» }
Комментировать 
Пост №3668787
Source: Joyreactor

Пост №3668783

Автор: GraySkull

.»День 148Давно не делал записей. Думаю, сейчас самое время… Утром орки смогли отбросить нас с позиций в промышленной зоне №3. Мы понесли огромные потери, но успели отступить к собору Св. Августа. Здесь наша последняя линия обороны. Бежать больше некуда.————-Лэнс не выдержал. Он сдался. Я лишь на секунду повернулся достать флягу, а он уже сунул ствол себе в рот и нажал на спуск. Боже…————-Только что к нашим позициям пытались добраться остатки 318 полка. Их было видно среди руин, но мы не смогли им помочь. Их догнали орочьи байкеры…————-Уже три часа дня. С разных сторон улья к нам стягиваются разрозненные отделения и взводы гвардейцев. Нас осталось не больше трех тысяч.————-Яррик сейчас мрачнее обычного. Его нетрудно понять. Он ходит по нашим позициям и лязгает своей жуткой клешней.————-Мария, если ты когда-нибудь прочтешь это, помни — я очень тебя люблю. Поцелуй от меня наших детей. Скажи им, что их отец не сдался.————-Они приближаются. Мы все слышим эхо их рева и содрогание земли. Похоже, с ними гаргант. Император защищает!»- Отрывок из дневника неизвестного гвардейца, Армагеддон, Улей Гадес, 941.M41Другие работы автора в группе: https://vk.com/club131798316Развернуть { «@context»: «http://schema.org», «@type»: «BlogPosting», «mainEntityOfPage»:{ «@type»:»WebPage», «@id»:»http://wh.reactor.cc/post/3668783″ }, «headline»: «Commissar Yarrick :: Commissar (wh 40000) :: Armageddon Steel Legion :: Astra Militarum (Imperial Guard, ig) :: Imperium (Империум) :: Wh Песочница :: Wh Other :: Gray-Skull :: Warhammer 40000 (warhammer40000, warhammer40k, warhammer 40k, ваха, сорокотысячник) :: сделал сам (нарисовал сам, сфоткал сам, написал сам, придумал сам, перевел сам) :: artist :: фэндомы», «image»: { «@type»: «ImageObject», «url»: «http://img0.joyreactor.cc/pics/post/full/Warhammer-40000-%D1%84%D1%8D%D0%BD%D0%B4%D0%BE%D0%BC%D1%8B-Gray-Skull-artist-4750734.jpeg», «height»: 1800, «width»: 1400 }, «datePublished»: «2018-10-07T18:21:15+03:00», «dateModified»: «2018-10-07T18:21:15+03:00», «author»: { «@type»: «Person», «name»: «GraySkull» }, «publisher»: { «@type»: «Organization», «name»: «JoyReactor.cc», «logo»: { «@type»: «ImageObject», «url»: «http://joyreactor.cc/images/joyreactor_ie6.png», «width»: 207, «height»: 54 } }, «description»: «."День 148Давно не делал записей. Думаю, сейчас самое время… Утром орки смогли отбросить нас с позиций в промышленной зоне №3. Мы понесли огромные потери, но успели отступить к собору Св. Августа. Здесь наша последняя линия обороны. Бежать больше некуда.————-Лэнс не выдержал. Он сдался. Я » }
Комментировать 
Пост №3668783
Source: Joyreactor

Пост №3668777

Автор: Proteus_An

ссылка на гифкуРазвернуть { «@context»: «http://schema.org», «@type»: «BlogPosting», «mainEntityOfPage»:{ «@type»:»WebPage», «@id»:»http://anime.reactor.cc/post/3668777″ }, «headline»: «fujimaru ritsuka (male) :: Jeanne Alter :: Ruler (Fate/Apocrypha) :: Fate/Grand Order (Fate Grand Order, FGO) :: ShiroTsumekusa (CRAZY CLOVER CLUB ) :: Fate комиксы :: Fate/Apocrypha :: Fate (series) (Fate (srs)) :: Anime Ero (Взрослые Няшки) :: anime gif :: Anime Art (Аниме арт, Аниме-арт) :: Anime Комиксы :: Anime (Аниме)», «image»: { «@type»: «ImageObject», «url»: «http://img0.joyreactor.cc/pics/post/full/Jeanne-Alter-FateGrand-Order-Fate-%28series%29-Anime-4750728.gif», «height»: 1000, «width»: 714 }, «datePublished»: «2018-10-07T18:16:13+03:00», «dateModified»: «2018-10-07T18:16:13+03:00», «author»: { «@type»: «Person», «name»: «Proteus_An» }, «publisher»: { «@type»: «Organization», «name»: «JoyReactor.cc», «logo»: { «@type»: «ImageObject», «url»: «http://joyreactor.cc/images/joyreactor_ie6.png», «width»: 207, «height»: 54 } }, «description»: «» }
Комментировать 
Пост №3668777
Source: Joyreactor

Пост №3668775

Автор: Veris

Развернуть { «@context»: «http://schema.org», «@type»: «BlogPosting», «mainEntityOfPage»:{ «@type»:»WebPage», «@id»:»/post/3668775″ }, «headline»: «HOLLOW KNIGHT Fan Art / Hornet (HK) :: Hollow Knight :: хуманизация (humanization) :: Игры», «image»: { «@type»: «ImageObject», «url»: «http://img0.joyreactor.cc/pics/post/full/Hollow-Knight-%D0%98%D0%B3%D1%80%D1%8B-Hornet-%28HK%29-%D1%85%D1%83%D0%BC%D0%B0%D0%BD%D0%B8%D0%B7%D0%B0%D1%86%D0%B8%D1%8F-4750726.jpeg», «height»: 1084, «width»: 745 }, «datePublished»: «2018-10-07T18:16:04+03:00», «dateModified»: «2018-10-07T18:16:04+03:00», «author»: { «@type»: «Person», «name»: «Veris» }, «publisher»: { «@type»: «Organization», «name»: «JoyReactor.cc», «logo»: { «@type»: «ImageObject», «url»: «http://joyreactor.cc/images/joyreactor_ie6.png», «width»: 207, «height»: 54 } }, «description»: «» }
Комментировать 
Пост №3668775
Source: Joyreactor

Пост №3668774

Автор: Veris

Развернуть { «@context»: «http://schema.org», «@type»: «BlogPosting», «mainEntityOfPage»:{ «@type»:»WebPage», «@id»:»/post/3668774″ }, «headline»: «ШШШй '¡WM ТВ J¡|¡ Д* ч il^l«r JS . '''sÇ!' |T А т "• * * ï — дв*’^ив^ Ш фг s А V -*У .,,и1 /, fQ / Quirrel :: Hornet (HK) :: Hollow Knight :: joelchansousa :: Игры», «image»: { «@type»: «ImageObject», «url»: «http://img1.joyreactor.cc/pics/post/full/joelchansousa-Hornet-%28HK%29-Hollow-Knight-%D0%98%D0%B3%D1%80%D1%8B-4750725.jpeg», «height»: 1415, «width»: 1000 }, «datePublished»: «2018-10-07T18:15:07+03:00», «dateModified»: «2018-10-07T18:15:07+03:00», «author»: { «@type»: «Person», «name»: «Veris» }, «publisher»: { «@type»: «Organization», «name»: «JoyReactor.cc», «logo»: { «@type»: «ImageObject», «url»: «http://joyreactor.cc/images/joyreactor_ie6.png», «width»: 207, «height»: 54 } }, «description»: «j-фмжШ iA% JW» }
Комментировать 
Пост №3668774
Source: Joyreactor

«Технологичные» музыкальные инструменты до XX века: магнетический клавесин и электромеханическое пианино

Мы много пишем об истории известных производителей аудиотехники и инструменты из истории электронной музыки. На этот раз мы решили отправиться ещё дальше в прошлое.

К первым изобретениям и ранним разработкам. Сегодня мы расскажем, как выглядели музыкальные инструменты «на острие технологий» в XVIII и XIX веке, когда единственность и неповторимость музыкальной традиции только начала ставиться под сомнение.

Читать дальше →
«Технологичные» музыкальные инструменты до XX века: магнетический клавесин и электромеханическое пианино
Source: geektimes