Feb. 23rd, 2017

old_ufo: (Default)

Я уже года три, если не четыре, как обещал себе написать этот пост, и вот, день настал.

Вступление. 
Для меня уже довольно давно наличие кандидатской степени или научных публикаций у нас по умолчанию является не плюсом, а большим красным флагом. Особенно в сфере computer vision, machine learning и иже с ними. Да, у меня крутые друзья со степенями, но сейчас речь не о них. Я утверждал и утверждаю, что 99.99% публикаций - мусор, за который должно быть стыдно если не магистрам и аспирантам, так их научрукам.

Как известно, нет худшего врага, чем бывший друг. Когда-то, когда я был в КПИшной аспирантуре, у нас было два обязательных предмета: английский и не помню какой. Экзамен по обоим можно было получить, если провести обзор литературы на английском и написать реферат. Это, кстати, второй не скачанный реферат в моей жизни. Первый был по фракталам и писал я его не себе, но это не важно. 
О, сказали мне. Так это ж это. Можно зафигачить в ВАКовский журнал - вот и будет первый раздел диссера и первая журнальная статья из трех (!). Журнальная. С новизной. Актуальностью. И всем таким прочим. Ну и я, еще не видевший нормальной науки, таки да, согрешил.

Итак, внимание - моя ВАКовская публикация, за которую мне до сих пор стыдно. 
http://www.nbuv.gov.ua/old_jrn/natural/mgs/2011_23/pap-07.pdf

Которую гугл мне периодически добавляет в профиль, а я тщательно удаляю.
Это тупо реферат, где я путаюсь в понятиях и вообще кошмар. Единственное, за что не стыдно - уже тогда я маниакально проставлял все ссылки на литературу. 
Вскоре после этого я поехал в Чехию, а дальше вы знаете.

P.S. Знаете, что еще страшнее? У ЭТОГО есть еще и цитирование. 
https://scholar.google.com.ua/scholar?oi=bibs&hl=en&cites=9484262168701107333&as_sdt=5

Теперь одним пунктом, которым можно меня шантажировать, меньше.

P.P.S. Кто хочет - присоединяйтесь к тегу #скелетывшкафу ;)

old_ufo: (Default)
Совпало две два события: в свое время я НЕ написал пост про офигенную книгу Канемана  https://en.wikipedia.org/wiki/Thinking,_Fast_and_Slow , и недавно сдал экзамен по теории машинного обучения. Так вот, имею что  сказать по этому поводу. 
 
Если книгу до сих пор не читали - прочтите, она того стоит. Автор - психолог Канеман - получил Нобелевку по экономике и не зря. Но сейчас не об этом. 
А о том, что в результате многих экспериментов ученые сделали вывод, что люди не рациональны (внезапно, да? :) ). А именно: боятся потерь больше, чем хотят выиграть. Из-за последнего недополучают выигрышей разного рода в жизни. 
Об этом любят упоминать всякие рационалисты, в частности, Юдковский и его фанаты . Да здравствует Байесова формула и принятие решений по ней. Кто не знает: берем вероятность (статистику) по явлению в мире, умножаем на нашу уверенность, что у нас именно это. Получаем истинную вероятность. Канонический пример: допустим, в мире болеет раком 0.1%. Метод, у которого точность 95%, говорит, что рак. Формула говорит, что вешаться рано, потому что вероятность того, что правда рак = (0.001 *  0.95)/(0.001+0.95 + 0.999 * 0.05) =   1.87%. 
В данном случае формула - ок. 
 
Но тот же Талеб говорит, что в целом такая стратегия ни фига не работает, а надо слушать бабушек и дедушек. 
 
Так вот, обычно он прав.
 
 
Дело в асимметрии, которую наша нейросете-натренированная интуиция отлично впитала в себя. На самом деле, вероятность - фигня. Не совсем фигня, конечно, но это лишь одна сторона медали. Теория машинного обучения говорит нам, что нужно минимизировать нашу функцию потерь. А если нормально оценить вероятности мы не можем (а кто может?), то есть смысл минимизировать максимальные потери, т.е. худший случай. 
 
Простой пример. Лазерная коррекция зрения. Либо получаем либо увеличение качества жизни с большой вероятностью, либо теряем зрение с малой. Байесова стратегия говорит, что когда выгода * вероятность успеха больше потерь * вероятность фейла - надо делать. Минимаксная страгения говорит о том, что в случае фейла - потерять зрения - это катастрофа и ну его нафиг. 
 
Возьмем классические эксперименты о пари на деньги. Да, в теоретическом эксперименте с азартной игрой на малые деньги, есть смысл пойти против природы и сказать себе, что риск 1 гривной примерно равен выигрышу одной гривны. Байесова стратегия говорит, что если сумма ожидаемого выигрыша * вероятность выигрыша > вероятности проигрыша * сумму потеря, надо рискнуть.  Но на практике же люди обычно не считают, а поступают по интуиции и опыту. Т.е. как живут обычно. А обычно, если вы можете с равной вероятностью проиграть миллион или выиграть миллион, то ну его нафиг. Или даже выиграть три миллиона с той же вероятностью, что и проиграть один. Потому что выигрыш трех миллионов, конечно, приятно. Но проигрыш для среднего человека == потеря всего, жить на улице, детей не на что кормить. И это, опять же вполне себе оптимально, если мы выбираем минимаксную стратегию.
 
Или вот кэшлесс. Теоретически выгоды больше, удобно, квартиру скорее ограбят, чем банк. На практике же -  за последние несколько лет упало\закрылось дофига банков - прямо канонично по Талебу - и теории распознавания - возможные потери таковы, что лучше не надо. Ну или диверсифицировать. Тогда максимальный риск ограничен и теория распознавания уже разрешает не быть судьей Чаусом и можно хранить деньги не только в стеклянных банках. Так что не всегда стоит гнаться за "рациональным" прогрессом. Иногда стоит вспомнить опыт предков. Ну или если гнаться - то тогда уже со слегка более глубоким изучением теорвера и прочего, чем пресловутая формула Байеса.

Profile

old_ufo: (Default)
old_ufo

July 2017

S M T W T F S
      1
2345678
9101112131415
16 171819202122
23242526272829
3031     

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Jul. 25th, 2017 10:46 am
Powered by Dreamwidth Studios