Feature Programming
Эссе по итогам нырка в Deep Learning, но не о DL и даже не совсем о Machine Learning, а о новой парадигме программирования, которая рождается из него.
Собственно, нейронные сети я смотрел не потому, что интересуюсь именно ими, а потому что они сейчас демонстрируют наибольший прогресс и характерные черты этой парадигмы.
В следствие выбранной темы, эссе получилось футурологическим и абстрактным. Например, я не буду перечислять области применения DL и достигнутые в них результаты — этим итак всё инфопространство забито.
Оговорка раз: я определённо не эксперт в машинном обучении. Эссе в большей степени отражает мой опыт и картину мира, нежели знания и понимание ML и DL.
Оговорка два: термины «признак», «feature» будут использоваться достаточно вольно.
О книге «Человек говорящий — эволюция и язык»
Кто не знает Хомского? Хомского знают все. По крайней мере все, кто изучал компиляторы, поскольку он внёс существенный вклад в разработку грамматик, на которых построены языки программирования.
«Человек говорящий», однако, посвящена не формальным грамматикам, а более абстрактной вещи — эволюции человеческого языка. И даже более конкретно — взглядам Хомского и Бервика на его эволюцию. И на конкурирующие теории коллег, которых авторы нещадно «троллят».
Главная мысль, которую я вынес из книги, звучит примерно так: об эволюции языка известно то, что ничего не известно, но Хомский c Бервиком имеют определённое мнение.
Звучит это слегка нагло, но по факту мне сложно быть более уверенным в теории авторов, поскольку книга оказалась не совсем научно популярной. Скорее это упрощённый и сжатый пересказ их взглядов на текущее положение дел в вопросе эволюции языка и ретроспективу развития этой области знаний.
Отсюда и особый стиль подачи материала: с первых слов в бой. Буквально. Рассуждения об эволюции начинаются уже в разделе с благодарностями. Довольно быстро в тексте появляется лингвистика, различные грамматики, математика и куча отсылок к статьям других исследователей. И если с эволюцией, математикой и грамматиками у меня всё хорошо, то с лингвистикой не очень и на примерах с реальным текстом я спотыкался. Как и на отсылках к другим работам (особенно, к видам грамматик, не описанных, но упоминающихся в книге).
Тем не менее, общая концепция не сложна и я попробую её тезисно пересказать.
О книге «Онтогенез — от клетки до человека»
Онтогенез — совокупность последовательных морфологических, физиологических и биохимических преобразований, претерпеваемых организмом от оплодотворения до конца жизни.
Если долго интересоваться системной инженерией, самоорганизацией и эволюцией, то рано или поздно купишь книжку по Онтогенезу. Мне повезло и первая книга, на которую я наткнулся, оказалась образцовым примером научно-популярной литературы.
Книга может быть интересна всем, со схожими интересами, но в особенности:
- программистам, чтобы понимали какой примитив эти ваши алгоритмы, которые вы на работе пишите;
- девушкам, чтобы во время беременности не пили, не курили, дышали ровно и, главное, понимали почему надо поступать именно так.
Девушки-программистки, по моим прикидкам, должны глотать эту книгу за раз :-)
На мой взгляд, книга не менее ценна чем «Эгоистичный ген» Ричарда Докинза или «Сумма технологий» Станислава Лема. Хотя и носит сугубо описательный характер, не предлагая новых идей.
О книге «Логика случая»
Всем, интересующимся устройством мира, рекомендую почитать «Логику случая» Евгения Кунина — книгу о современном научном взгляде на эволюцию (который уже сильно отличается от того, чему нас учили в школе).
Особенно рекомендую её программистам, которым интересно изменение софта со временем и развитие «сложности» — очень многие идеи, изложенные в книге, перекликаются с моими наблюдениями за жизненным циклом кода.
Книга изобилует химическими и биологическим терминами, но они не мешают восприятию информации, в крайнем случае пояснение всегда можно найти в википедии.
Для затравки перескажу своими словами наиболее интересные факты. Только учтите, что я ни разу не биолог и могу сильно ошибаться.