ИИ нас всех не(?) заменит

GitHub в прошлом месяце выпустил ИИ напарника для программистов, который умеет дописывать код. В догонку OpenAI опубликовали видео с возможностями технологии. Например, демонстрацию разработки игры на JavaScript.

Справедливости ради отмечу, что «игра» откровенно убогая. Но процесс создания впечатляет всё равно.

Одновременно с этим роботы занимаются паркуром, автомобили ездят без водителя, маркетинговые алгоритмы и ленты социальных сетей во всю управляют нашим поведением и даже мыслями.

Время поговорить о замене нас железными мозгами перспективах машинного обучения в его текущем виде.

Для краткости, вместо машинного обучения, нейронных сетей, feature programming и аналогичных вещей далее буду использовать аббревиатуру ИИ — Искусственный Интеллект. Кто знает на какой конкретно технологии всё остановится, но для её пиара гарантировано будут использовать затычку из двух «И».

Эссе включает:

1. Оценку возможности прогнозирования.
2. Описание факторов, которые влияют на развитие и внедрение ИИ.
3. Три классических прогноза: пессимистичный, реалистичный и оптимистичный.

В первой и второй частях я уверен, а вот в прогнозах у меня получается жутковатая картина. В то же время основной проблемой прогнозов я считаю оценку сроков, а не качественных изменений.

Далее

(Анти?)утопия науки

Я нахожусь далеко от науки, особенно от хардкорной. Да и сроки прогноза неопределённо долгие. Поэтому предлагаю смотреть на эссе, как на описания одного из множества вариантов отдалённого будущего.

Если копнуть в историю науки, можно заметить, что не существует чёткого момента её возникновения. Такого, чтобы: «вот досюда не было науки, а после она уже есть».

Тем более, если смотреть на науку как на движитель прогресса. Если прогресс обеспечивается только наукой, то как он происходил до неё, как она могла возникнуть без прогрессивных изменений?

Очевидно, и до появления концепции научной деятельности, люди познавали мир, улучшали его. Более того, совершенствовали инструменты познания, пока те не оформились в то, что мы зовём наукой.

Фактически, наука — абстракция — мемплекс, который собрал под общим названием набор инструментов для манипуляций реальностью. Набор оказался удачным: результаты его применения усиливают эффективность будущих применений и приносят побочную пользу. Возникшая обратная связь и привела, вкупе с некоторыми другими штуками, к взрывному росту технологий.

Как любой мемплекс, набор концепций науки не фиксирован навечно, он меняется, иногда существенно. Например, критерий фальсифицируемости бы сформулирован относительно недавно — в 1935 году, и привёл к большим сдвигам в научной деятельности. А до этого как-то без него обходились.

То есть изменение даже базовых принципов науки нормально, фатальной катастрофой не грозит, происходило и будет происходить в будущем.

Возможности одного такого изменения и посвящено эссе.

Далее

Feature Programming

Эссе по итогам нырка в Deep Learning, но не о DL и даже не совсем о Machine Learning, а о новой парадигме программирования, которая рождается из него.

Собственно, нейронные сети я смотрел не потому, что интересуюсь именно ими, а потому что они сейчас демонстрируют наибольший прогресс и характерные черты этой парадигмы.

В следствие выбранной темы, эссе получилось футурологическим и абстрактным. Например, я не буду перечислять области применения DL и достигнутые в них результаты — этим итак всё инфопространство забито.

Оговорка раз: я определённо не эксперт в машинном обучении. Эссе в большей степени отражает мой опыт и картину мира, нежели знания и понимание ML и DL.

Оговорка два: термины «признак», «feature» будут использоваться достаточно вольно.

Далее

Воля как артефакт модели реальности

Какое пафосное название я придумал, можно даже пост не писать :-D

Пока читал Я, мозг и возникновение сознания появилась следующая гипотеза:

• Мозг поддерживает модель реальности и активно ей пользуется (строит прогнозы, обновляет её).
• Моделируются внешний мир, собственное тело и даже сам мозг (мы можем задуматься о том, что подумали бы в гипотетической ситуации).
• Составляющими модели являются, в том числе, все наши: ценности, идеи, мысли, желания — всё, что нас определяет.

Тогда что первично: информация о нас в модели реальности или информация о нас в мозге вне модели?

И следующий вопрос: а есть ли информация о нас вне этой модели?

Далее

Избыточность знаний и их эволюция

Как известно многие знания в голове человека избыточны — если удалить кусок информации, его с большой вероятностью можно восстановить. Лучше всего это знают технари с их идиомой «что забыл, то выведешь».

Также скорее всего не секрет, что знания бывают явные и неявные. Явные, это когда один человек другому может сказать «чтобы А делай Б» или «А происходит потому что Б». С неявными знаниями такой финт провести не получится: это знания неформализованные, неосознанные, живущие в привычках человека или даже скрытые в культуре какой-либо группы людей.

Для примера вспомним легенду о том, что университет учит нас учиться. Может и учит, только вот не учебниками, а в лучшем случае примером окружающих людей.

В целом, с передачей неявных знаний сталкивается каждый новичок в коллективе. И в связи с этим явлением у меня появилась интересная концепция эволюции знаний в обществе:

1. Старшее поколение хранит в своих головах полный набор знаний (и явные и неявные).
2. Передать младшему поколению старшее может только явные знания и толику неявных (своим примером).
3. Младшее поколение вынуждено восстанавливать недостающие неявные знания исходя из переданных явных знаний, своей картины мира и рациональности/здравого смысла.
4. Так как у младшего поколения обычно больше информации о мире, чем у старшего (когда оно для себя восстанавливало неявные знания), восстановленные знания получаются точнее, чем у старшего поколения. Может даже часть из них переходит в категорию явного знания.
5. На основе новых неявных знаний младшее поколение корректирует явные знания, делая и их точнее.
6. Младшее поколение становится старшим, переходим к пункту 1.

Получается спиральная динамика циклический процесс улучшения явных и неявных знаний.