Итоги творческого отпуска 2019-2021 годов
Every single day 'cause I love my occupation
A-a-ay, I'm on vacation
If you don't like your life, then you should go and change it
Или как написать том «Войны и мира» за 2 года.
В июне 2019 я уволился из Melsoft и ушёл в творческий отпуск, который длится вот уже 2 года и 2 месяца. Пора подводить итоги.
Расскажу зачем я это сделал, чем занимался, что получилось, что не получилось, какие впечатления остались.
Кратко: всем рекомендую.
ИИ нас всех не(?) заменит
 готовится делать человеческую работу в 3 лица.
(с) сериал [Ijon Tichy: Space Pilot](https://en.wikipedia.org/wiki/Ijon_Tichy:_Space_Pilot)](https://tiendil.org/static/posts/ai-will-not-or-will-replace-us-all/images/ai-will-not-or-will-replace-us-all-cover.jpeg)
Автопилот Ийона Тихого готовится делать человеческую работу в 3 лица.
(с) сериал Ijon Tichy: Space Pilot
GitHub в прошлом месяце выпустил ИИ напарника для программистов, который умеет дописывать код. В догонку OpenAI опубликовали видео с возможностями технологии. Например, демонстрацию разработки игры на JavaScript.
Справедливости ради отмечу, что «игра» откровенно убогая. Но процесс создания впечатляет всё равно.
Одновременно с этим роботы занимаются паркуром, автомобили ездят без водителя, маркетинговые алгоритмы и ленты социальных сетей во всю управляют нашим поведением и даже мыслями.
Время поговорить о замене нас железными мозгами перспективах машинного обучения в его текущем виде.
Для краткости, вместо машинного обучения, нейронных сетей, feature programming и аналогичных вещей далее буду использовать аббревиатуру ИИ — Искусственный Интеллект. Кто знает на какой конкретно технологии всё остановится, но для её пиара гарантировано будут использовать затычку из двух «И».
Эссе включает:
- Оценку возможности прогнозирования.
- Описание факторов, которые влияют на развитие и внедрение ИИ.
- Три классических прогноза: пессимистичный, реалистичный и оптимистичный.
В первой и второй частях я уверен, а вот в прогнозах у меня получается жутковатая картина. В то же время основной проблемой прогнозов я считаю оценку сроков, а не качественных изменений.
Feature Programming
Эссе по итогам нырка в Deep Learning, но не о DL и даже не совсем о Machine Learning, а о новой парадигме программирования, которая рождается из него.
Собственно, нейронные сети я смотрел не потому, что интересуюсь именно ими, а потому что они сейчас демонстрируют наибольший прогресс и характерные черты этой парадигмы.
В следствие выбранной темы, эссе получилось футурологическим и абстрактным. Например, я не буду перечислять области применения DL и достигнутые в них результаты — этим итак всё инфопространство забито.
Оговорка раз: я определённо не эксперт в машинном обучении. Эссе в большей степени отражает мой опыт и картину мира, нежели знания и понимание ML и DL.
Оговорка два: термины «признак», «feature» будут использоваться достаточно вольно.
Ссылки на курсы по Machine Learning & Deep Learning
Перед началом разбирательства с темой собрал для себя список курсов, которые могут быть интересны.
Публикую, чтобы не пропадал зря.
Только ссылки. Свои комментарии вырезал — в исходном виде они никому кроме меня не помогут :-)
Просто о связи линейной алгебры и нейронных сетей
Нашёл серию статей с детальным рассказом о принципах работы нейронных сетей. Начиная от векторного произведения, через матрицы к персептрону и нейронам, Понятно, доступно и последовательно — без скачков через куски теории. С примерами на Python.
- Linear Algebra
- Inner Product Spaces
- The Perceptron, and All the Things it Can’t Perceive
- Neural Networks and the Backpropagation Algorithm
Остальной блог тоже интересен. У автора много вводных статей на математические и программистские темы.