Просто о связи линейной алгебры и нейронных сетей

Нашёл серию статей с детальным рассказом о принципах работы нейронных сетей. Начиная от векторного произведения, через матрицы к персептрону и нейронам, Понятно, доступно и последовательно — без скачков через куски теории. С примерами на Python.

1. Linear Algebra
2. Inner Product Spaces
3. The Perceptron, and All the Things it Can’t Perceive
4. Neural Networks and the Backpropagation Algorithm

Остальной блог тоже интересен. У автора много вводных статей на математические и программистские темы.

Жизнь и работа с моделями

Продолжение жизни и работы с ошибками — обсудим штуки на уровень выше.

Эссе получилось большим, но точно найдутся упущенные моменты. Если я что-то забыл — пишите. Буду благодарен и за более интересные примеры.

Итак. Давайте подумаем, как мы предсказываем будущее всякое.

Предсказаниями мы занимаемся постоянно — это буквально суть нашего существования:

• Переходя из комнаты в комнату мы знаем предполагаем, что мебель будет расставлена аналогично прошлому посещению.
• В холодильнике мы ожидаем увидеть еду, которая, по нашему прогнозу, утолит голод.
• Мы ожидаем, что участники дорожного движения будут вести себя в рамках общеизвестных правил. Если машина даёт сигнал поворота, мы прогнозируем, что она повернёт.

Это примеры «гарантированных» предсказаний, но даже они могут не исполнится:

• Мебель в комнате могла быть переставлена во время нашего отсутствия. В некоторых случаях самой комнаты может уже не быть.
• Супруг мог подъесть оставшуюся еду или та могла испортиться.
• Водитель мог включить поворотник из-за ошибки, а может он просто человек такой.

Фактически, мы никогда не знаем актуальное состояние мира вокруг нас:

• Не воспринимаем весь спектр информации об окружении, например, не видим в инфракрасном свете.
• Сигналы до органов восприятия и от них до мозга передаются не мгновенно.
• Мозг тоже работает не мгновенно.

Мы даже не обладаем всей информацией о прошедших событиях.

Поэтому.

Каждое наше решение и действие основывается на предположениях о прошлом, настоящем и будущем.

Штуки, которыми мы создаём предсказания, называются моделями.

Далее

Как выбрать ВУЗ и специальность

Если вы хотите от жизни большего, не можете сжульничать и родились в СНГ.

Давно хотел написать пару соображений на тему, а раз сейчас идёт вступительная кампания, то и напишу.

Написанное я считаю справедливым для людей, которые хотят расти над собой: стать хорошим специалистом, создать что-то заметное, принести пользу обществу.

Этот текст мало полезен для тех, кому родители уже подготовили тёплое место, кто косит от армии, кто идёт учится «потому что надо» и так далее.

Строго субъективно, конечно.

Далее

RIP Miura, Берсерк окончен

6 мая скончался Kentaro Miura — автор манги Berserk — одного из наиболее влиятельных (1, 2) произведений жанра. И одного из немногих произведений, которые на меня повлияли.

Далее

Одна обёртка — два продукта

Я давно испытываю когнитивный диссонанс по-поводу подачи прогресса в играх. Началось это с расцветом free-to-play и мобилок, в дальнейшем диссонанс всё нарастал и нарастал.

Поэтому я решил разобраться чего у меня так зудит и пришёл к некоторым общим выводам о природе и эволюции массовых продуктов.

Наверняка схожие идеи уже озвучены философами и экономистами лет 30-50 назад. А может и раньше, потому что чётко виден вечный спор о форме и содержании. К сожалению, с подобными работами я не знаком, поэтому буду натягивать сову на глобус как умею. Если вы знакомы с темой — поделитесь ссылками в комментариях.

Начну с игр, как знакомого мне предмета и яркой демонстрации явления. После чего распространю соображения на все медиа-продукты.

По аналогии можно было бы двинуться и дальше, но я постараюсь ограничиться именно медиа частью рынка и концепцией прогресса в использовании его продуктов — это мне сейчас интереснее всего.

В конце эссе будет глава с оговорками и примечаниями. Без них текст получился бы значительно больше и запутаннее.

Далее