Про увольнение Sam Altman и регуляцию ИИ

Последние дни идут новости, что Sam Altman — CEO OpenAI — уволен советом директоров и вслед за ним уходит много сотрудников компании.

Точных причин не названо, формулировка борды в духе «утратил доверие».

На сколько я понимаю, основная гипотеза интернетов на текущий момент — разногласия между фракциями прогрессоров и регуляторов.

• Регуляторы хотят притормозить эксперименты до момента, очевидно, их зарегулирования государством.
• Прогрессоры хотят двигаться вперёд с той же скоростью, а то и с большей.

Sam Altman выступает за фракцию прогрессоров.

Если всё так, то его уход — плохая новость. На мой взгляд, самое вредное, что можно сейчас сделать для отрасли — это зарегулировать её.

Во-первых, нет смысла регулировать промежуточные результаты. Никто не знает что получится в итоге, но текущий консенсус заключается примерно в том, что сейчас мы видим только цветочки. Государственное регулирование — как фарш — обратно провернуть нельзя. Попытка регулировать промежуточный результат вместо конечного приведёт к тому, что итоговые регуляции абсолютно не будут соответствовать регулируемому объекту, а значит будут наносить всем заинтересованным сторонам вред.

Во-вторых, любая регуляция замедляет и удорожает прогресс на порядки. Люди, которые имели дело с интернетом за последние лет 20, легко это подтвердят. Замедление прогресса в такой важной области как ИИ не только нанесёт прямой вред цивилизации, но и перераспределит баланс сил в пользу тех стран, которые не будут регулировать ИИ.

В-третьих, регуляция сильнее ударит по небольшим компаниям, open-source инициативам, науке — по всем, у кого нет лишнего миллиарда на юристов. Привет монополиям, абьюзу технологий, неравенству, etc.

В-четвёртых, сильная регуляции ИИ нужна для не такого уж большого набора областей: медицина, юриспруденция, сложная инженерия, etc. Для бытовых нужд, разлечений, науки, комерции регуляция будет как пятое колесо для телеги. Но регулировать же будут всё, потому что это проще для регуляторов. А значит и вредить будут всему.

В-пятых, разработка ИИ, на текущий момент — это больше инженерия, чем наука. Инженерии особенно важна обратная связь от реальности. Лучшая обратная связь — это коммерциализация разработок. Без этого легко начать сливать миллиарды на воздушные замки, которые никому в реальности не нужны. И в этом плане у OpenAI пока всё шло более чем хорошо. Они постепенно, уверенно вбирали в свой продукт успешные рыночные подходы, базируя их на своих более продвинутых технологиях. Тем самым корректируя направление развития собственных технологий. Что могло в таком подходе не устроить — не понятно.