Мейнстрим или не мейнстрим?

[old_ufo]

Впервые я (почти?) не опоздал с проверкой мейнстримовой идеи и отправкой её на конференцию.
Как следует инициализировать нейросетки - All you need is a good init
Сам код прост до примитивности: https://github.com/ducha-aiki/LSUVinit/blob/master/tools/extra/lsuv_init.py

Почему "почти"? Потому что на ту же конференцию отправили статью с очень похожей идеей ребята из Беркли и Карнеги-Меллон - Data-dependent Initializations of Convolutional Neural Networks. У них инициализация чуть другая, зато вариантов предложено больше.

Снова встает старая проблема. Если ты делаешь что-то в мейнстримовом направлении, очень трудно не опоздать, плюс статьи быстро стареют. Если ты делаешь не мейнстрим, то мало кто статьи читает (даже если там новый state-of-art на порядки лучше).

upd.: Похожий вопрос на quora

Comments

[me-geneva.livejournal.com]

Золотое правило: Just do. Что еще сказать)

[old_ufo]

Не соглашусь :) Перед этим нужно решить в каком направлении just do и зачем.

[me-geneva.livejournal.com]

В каком лично тебе интереснее. Зачем?) Как это зачем?) Для удовлетворения своего научного интереса, наверное, спасения мира и прочего :) ну или не своего, но это уже детали :)

[old_ufo]

И снова нет. Есть области, куда сейчас смотрят очень многие и человек, который будет тупо ждать очередной конференции, а потом имплементировать лучшие статьи, будет обладать более качественной работающей штукой, чем тот, который будет пилить сам. Отсюда вопрос - смысл?

P.S. Глобально про интерес - да. А вот в частностях начинаются проблемы.

[me-geneva.livejournal.com]

Правильно. Два типа людей: потребители и создатели. Дальше решаешь сам. ^_^ Ну ладно, не факт, что лучше и не факт, что дождешься. Иногда проще быстренько придумать решение, не такое элегантное, но работающее, чем ждать чуда. В моем частном случае - я не ждала и не дождалась. Пришлось пилить. Техническое, не научное решение. Ничего нового, а по факту новое и работает. Зато работает! Поэтому не факт.

[old_ufo]

Лично я не вижу смысла делать какую-то вещь в науке (исключая учебные цели), если она не может быть новой и\или лучшей. Срочная работа (и работа вообще, в смысле алгоритм для своей фирмы)- это другое дело, но мы сейчас не о ней.

[me-geneva.livejournal.com]

Перфикционизм - наше все)))) "Мы же понимаем, что суетный труд не для нас, и, если вареники сами в рот не залетают, значит, погода нелетная" :D
Сорри, у меня сегодня веселое настроение :)
Ну да, тогда остается только застолбить территорию и развивать то, что никто не юзает.. Просто по твоей логике я вообще должна махнуть рукой и сказать - ненене, все за меня уже давно, поэтому чего мне туда даже лезть, к дронам-то... Логика может и есть, но мне вот правда интересно и есть куча идей, которые я просто хочу проверить, и да, может быть они не сработают, а может и сработают. Предварительно проверив, что ЕЩЕ такого нет, и да, это не значит, что через месяц на какой-то конфе это не всплывет, но мне просто интересно, а вдруг :) Не факт, что все, кто смотрят, это увидят, так это увидят и прочее. Не факт.

[old_ufo]

Настя, так я ничего против такого подхода не имею и сам его тоже применяю. Это учебно-хобби-поиграться, из чего может вылезти много чего интересного.

Во-вторых, не всё и не давно. Куча нерешенных задач есть везде. Но одни решают все, а другие - пока никто. Think different, вот это всё.

В-третьих, "суетный труд" тут не в тему. Труд он везде труд. Однако он не отменяет тщеславия, а еще точнее - желания проложить дорогу к местам, где достаточно ресурсов для исследований. Для этого нужно, чтобы тебя знали.
Или ты не хочешь исследовать в каком-нибуть Deep Mind? :)

[me-geneva.livejournal.com]

В каком-нибудь Deep Mind не хочу, хочу вполне в конкретном :D
Да. Надо. Но тут возникает конфликт интересов. Ты делаешь действительно хорошо только то, что тебе действительно интересно. А если так случилось, что мне интересно только то, что делают все... И что теперь, бросить только потому, что кто-то МОЖЕТ БЫТЬ напишет об этом первым и я не успею?) Не спортивно.
Ладно, если чисто из серии: вижу цель - не вижу препятствий, ладно, может тогда и стоит брать что-то другое. ...

[old_ufo]

Если тебе интересно ТОЛЬКО это, и ничего больше - выбора нет, делай это :) Если же есть варианты...

Ну и насчет "может быть". It depends on topic. В некоторых "может быть", в других - "точно". По работе мы игрались с семантической сегментацией. Потом я сказал переключиться на другие вещи, чем сэкономил кучу времени, потому что:

идем сюда и
http://www.cv-foundation.org/openaccess/CVPR2015.py
Ctrl+F "semantic segmentation" = 7 работ, и это только те, кто вынес в название.

Аналогично http://pamitc.org/iccv15/program.php
Ctrl+F "semantic segmentation" = 8 работ, и это только те, кто вынес в название.

[me-geneva.livejournal.com]

Ну была бы 8-я или 9-я работа, плохо ли?) Ладно, да, это конечно зависит от темы. Согласна. У нас такого вот еще не было. А жаль. :)

[old_ufo]

Кстати, в тему на quora: http://qr.ae/RbGONA

[me-geneva.livejournal.com]

Хехе: "your advisor probably has some particular way of doing things that's different from how others do it"... or not :D Если очень хочется, то к чему волноваться, зачем?) Берешь и делаешь. Зная, что да, кто-то может успеть раньше. Все от целей зависит, на самом деле. Если цель чуть больше чем просто интерес, да, наверное стоит задуматься о смене пути достижения. Потому что по поводу моей темы - я это понимаю. Понимаю, что 100500 людей занимаются чем-то подобным. И я могу не успеть с моей-то темой) Брошу ли я?) Нет. No way.

[old_ufo]

Твой случай это вообще что-то отдельное. Цель "сделать научную работу и защитить её", возможно, стоит, но явно не на первом месте среди мотиваций, согласись :)

[me-geneva.livejournal.com]

Точно не на первом, согласна)))

[me-geneva.livejournal.com]

Забыла вчера самое важное - congratulations со статьей!!!

[old_ufo]

Рано :) Это только submission.