Computational mechanics & ε- (epsilon) machines

Открыл для себя новые направления для мониторинга.

Computational mechanics

Авторам минус за тавтологию. Есть вычислительная механика, которая занимается численным моделированием механических процессов и про неё есть статься на вики. Этот пост не про неё.

Этот пост про computational mechanics, которая изучает абстракции сложных процессов: как эмерджентное поведения возникает из суммарного поведения / статистики низкоуровневых процессов. Например, почему стабильно Большое Красное Пятно на Юпитере, или, почему результат вычислений процессора не зависит от свойств каждого электрона в нём.

ε- (epsilon) machine

Концепт устройства, которое может существовать в конечном множестве состояний и может предсказывать своё будущее состояние (или распределения состояний?) на основе текущего.

Computational mechanics позволяет (или должно позволять) представить сложные системы как иерархию ε-machine. Тем самым появляется формальный язык для описания сложных систем и эмерджентного поведения.

Для примера, наш мозг можно представить как ε-machine. Формально, состояние мозга никогда не повторяется (напряжения на нейронах, позиции молекул нейромедиаторов, etc), но существует огромное количество ситуаций, когда мы делаем одно и то же в одних и тех же условиях.

Научно-популярное изложение: https://www.quantamagazine.org/the-new-math-of-how-large-scale-order-emerges-20240610/

P.S. Попробую копнуть в научные статьи. Расскажу, если найду что-нибудь интересное и прикладное. P.P.S. Давно думаю в сторону похожей штуки. К сожалению, повороты жизненного пути не позволяет серьёзно копать в науку и математику. Всегда радуюсь, когда сталкиваюсь с результатами копания других людей.

Мои GPT-шки и prompt engineering

Я пользуюсь ChatGPT практически с момента выхода её четвёртой версии (то есть уже больше года). За это время хорошо набил руку в написании запросов к этой штуке.

В какой-то момент, OpenAI разрешили настраивать свой чат с помощью собственных текстовых инструкций (ищите Customize ChatGPT в меню). Я постепенно дописывал туда команды и вот на днях размер инструкций превысил разрешённый максимум :-)

Плюс, оказалось, что универсальный набор инструкций не получается — под каждую задачу их нужно подстраивать, иначе они не будут так полезны как могли бы быть.

Поэтому покумекав, я решил вместо кастомизации своего чата, вынести инструкции в GPT ботов. OpenAI называют их GPTs, по-русски буду называть их GPT-шками. По-сути, это такие же чаты, в которых больше лимит на кастомизированные инструкции и в них можно залить дополнительные тексты как базу знаниий.

Когда-нибудь, я сделаю GPT-шку для этого блога, а пока расскажу про двух рабочих лошадок, которыми пользуюсь каждый день.

• Expert — ответы на вопросы.
• Abstractor — краткое изложение текста.

Для каждой будет описание базового промпта с моими комментариями.

OpenAI недавно открыла магазин GPT-шек, буду благодарен если пролайкаете мои. Конечно, только если они вам полезны.

Далее

Paul Graham: Superlinear returns

Рекомендую эссе Paul Graham: Superlinear returns.

Что мне нравится в текстах Paul Graham так это опережение моих писательских планов. Пол периодически пишет про то, что я давно хочу написать, но пока не могу — ещё не Paul Graham :-D

Конкретно на тему нелинейных изменений я уже лет 10 хочу написать эссе да побольше. Но если бы я сел его писать сейчас, то это был бы длиннопост со странными графиками и терминами и без таких интересных примеров как у Пола. Поэтому приходится давать ссылки на его эссе.

Дальше, в общем-то, можете мой пост не читать. Главное оригинальное эссе прочтите. Но оставлю пару заметок для истории, которые лучше читать после оригинального эссе.

Далее

Мышление письмом

Мышление письмом — это практика перевода своих мыслей в письменную форму.

То, чем я преимущественно занимаюсь в этом блоге, и, по мере сил, на работе.

Наконец нашёл время рассказать про эту штуку подробнее.

Далее

(Анти?)утопия науки

Я нахожусь далеко от науки, особенно от хардкорной. Да и сроки прогноза неопределённо долгие. Поэтому предлагаю смотреть на эссе, как на описания одного из множества вариантов отдалённого будущего.

Если копнуть в историю науки, можно заметить, что не существует чёткого момента её возникновения. Такого, чтобы: «вот досюда не было науки, а после она уже есть».

Тем более, если смотреть на науку как на движитель прогресса. Если прогресс обеспечивается только наукой, то как он происходил до неё, как она могла возникнуть без прогрессивных изменений?

Очевидно, и до появления концепции научной деятельности, люди познавали мир, улучшали его. Более того, совершенствовали инструменты познания, пока те не оформились в то, что мы зовём наукой.

Фактически, наука — абстракция — мемплекс, который собрал под общим названием набор инструментов для манипуляций реальностью. Набор оказался удачным: результаты его применения усиливают эффективность будущих применений и приносят побочную пользу. Возникшая обратная связь и привела, вкупе с некоторыми другими штуками, к взрывному росту технологий.

Как любой мемплекс, набор концепций науки не фиксирован навечно, он меняется, иногда существенно. Например, критерий фальсифицируемости бы сформулирован относительно недавно — в 1935 году, и привёл к большим сдвигам в научной деятельности. А до этого как-то без него обходились.

То есть изменение даже базовых принципов науки нормально, фатальной катастрофой не грозит, происходило и будет происходить в будущем.

Возможности одного такого изменения и посвящено эссе.

Далее