ИИ нас всех не(?) заменит

GitHub в прошлом месяце выпустил ИИ напарника для программистов, который умеет дописывать код. В догонку OpenAI опубликовали видео с возможностями технологии. Например, демонстрацию разработки игры на JavaScript.

Справедливости ради отмечу, что «игра» откровенно убогая. Но процесс создания впечатляет всё равно.

Одновременно с этим роботы занимаются паркуром, автомобили ездят без водителя, маркетинговые алгоритмы и ленты социальных сетей во всю управляют нашим поведением и даже мыслями.

Время поговорить о замене нас железными мозгами перспективах машинного обучения в его текущем виде.

Для краткости, вместо машинного обучения, нейронных сетей, feature programming и аналогичных вещей далее буду использовать аббревиатуру ИИ — Искусственный Интеллект. Кто знает на какой конкретно технологии всё остановится, но для её пиара гарантировано будут использовать затычку из двух «И».

Эссе включает:

1. Оценку возможности прогнозирования.
2. Описание факторов, которые влияют на развитие и внедрение ИИ.
3. Три классических прогноза: пессимистичный, реалистичный и оптимистичный.

В первой и второй частях я уверен, а вот в прогнозах у меня получается жутковатая картина. В то же время основной проблемой прогнозов я считаю оценку сроков, а не качественных изменений.

Далее

Feature Programming

Эссе по итогам нырка в Deep Learning, но не о DL и даже не совсем о Machine Learning, а о новой парадигме программирования, которая рождается из него.

Собственно, нейронные сети я смотрел не потому, что интересуюсь именно ими, а потому что они сейчас демонстрируют наибольший прогресс и характерные черты этой парадигмы.

В следствие выбранной темы, эссе получилось футурологическим и абстрактным. Например, я не буду перечислять области применения DL и достигнутые в них результаты — этим итак всё инфопространство забито.

Оговорка раз: я определённо не эксперт в машинном обучении. Эссе в большей степени отражает мой опыт и картину мира, нежели знания и понимание ML и DL.

Оговорка два: термины «признак», «feature» будут использоваться достаточно вольно.

Далее

О книге «Мир позавчера»

Даймонд Джаред — довольно известный автор антропологических книг, которых у него уже прилично выпущено. «Мир позавчера» — на текущий момент его предпоследняя книга от 2012 года.

Сам «мир» довольно интересен, предполагаю, что и другие книги Джареда ему не уступают. Но, если вы читаете более фундаментальные вещи, а-ля: Масштаб, Иллюзия знания, Изобретение науки, Сумма Технологии или Логика случая, то не ожидайте эпичных откровений. Будут интересные байки и факты, подтверждающие эволюционный взгляд на мир, но не более того.

Как гласит подзаголовок «Чему нас могут научить люди, до сих пор живущие в каменном веке», книга посвящена описанию жизни традиционных сообществ. Не в смысле традиционности из википедии, когда акцент в определении термина сделан на регулируемость, а именно с акцентом на традиционности — автор рассказывает про сообщества, которые тысячелетия жили по своему «первобытному» укладу, без развития. Почему переводчик выбрал именно такой термин и где он правильнее используется: в википедии или в книге, я не знаю.

Тему Джаред подаёт не как беспристрастный учёный, а через субъективное сравнение традиционного уклада с современным. Местами это идёт на пользу изложению, местами — во вред. В частности, под конец книги автор начинает откровенно натягивать сову на глобус, размышляя о малых языках и здоровом питании. Однако такая подача не вызывает отторжения: автор прожил долгую жизнь, повидал многое, имеет право на своё мнение.

Книга разделена на несколько частей, каждая из которых раскрывает один из аспектов жизни традиционных обществ:

• Социальные связи и владение территорией.
• Мир и война.
• Отношение к молодости и старости.
• Отношение к опасности.
• Религия, язык и здоровье — тут натягивают сову.

Темы между собой естественным образом пересекаются: не получится говорить о социальных отношениях без разговора о мире и войне, как и об опасности.

Иллюстрирует свои мысли автор примерами в основном с острова Новая Гвинея. На сколько я понял — это одно из его любимых мест на планете, изучению которого он отдал много сил и времени.

Далее

Воля как артефакт модели реальности

Какое пафосное название я придумал, можно даже пост не писать :-D

Пока читал Я, мозг и возникновение сознания появилась следующая гипотеза:

• Мозг поддерживает модель реальности и активно ей пользуется (строит прогнозы, обновляет её).
• Моделируются внешний мир, собственное тело и даже сам мозг (мы можем задуматься о том, что подумали бы в гипотетической ситуации).
• Составляющими модели являются, в том числе, все наши: ценности, идеи, мысли, желания — всё, что нас определяет.

Тогда что первично: информация о нас в модели реальности или информация о нас в мозге вне модели?

И следующий вопрос: а есть ли информация о нас вне этой модели?

Далее

Избыточность знаний и их эволюция

Как известно многие знания в голове человека избыточны — если удалить кусок информации, его с большой вероятностью можно восстановить. Лучше всего это знают технари с их идиомой «что забыл, то выведешь».

Также скорее всего не секрет, что знания бывают явные и неявные. Явные, это когда один человек другому может сказать «чтобы А делай Б» или «А происходит потому что Б». С неявными знаниями такой финт провести не получится: это знания неформализованные, неосознанные, живущие в привычках человека или даже скрытые в культуре какой-либо группы людей.

Для примера вспомним легенду о том, что университет учит нас учиться. Может и учит, только вот не учебниками, а в лучшем случае примером окружающих людей.

В целом, с передачей неявных знаний сталкивается каждый новичок в коллективе. И в связи с этим явлением у меня появилась интересная концепция эволюции знаний в обществе:

1. Старшее поколение хранит в своих головах полный набор знаний (и явные и неявные).
2. Передать младшему поколению старшее может только явные знания и толику неявных (своим примером).
3. Младшее поколение вынуждено восстанавливать недостающие неявные знания исходя из переданных явных знаний, своей картины мира и рациональности/здравого смысла.
4. Так как у младшего поколения обычно больше информации о мире, чем у старшего (когда оно для себя восстанавливало неявные знания), восстановленные знания получаются точнее, чем у старшего поколения. Может даже часть из них переходит в категорию явного знания.
5. На основе новых неявных знаний младшее поколение корректирует явные знания, делая и их точнее.
6. Младшее поколение становится старшим, переходим к пункту 1.

Получается спиральная динамика циклический процесс улучшения явных и неявных знаний.