Итоги творческого отпуска 2019-2021 годов
Every single day 'cause I love my occupation
A-a-ay, I'm on vacation
If you don't like your life, then you should go and change it
Или как написать том «Войны и мира» за 2 года.
В июне 2019 я уволился из Melsoft и ушёл в творческий отпуск, который длится вот уже 2 года и 2 месяца. Пора подводить итоги.
Расскажу зачем я это сделал, чем занимался, что получилось, что не получилось, какие впечатления остались.
Кратко: всем рекомендую.
Об ИТ, прогрессе и нехватке спецов
Изображение найдено где-то в интернете, если знаете автора — напишите мне.
Занятым в Информационных Технологиях людям может казаться, что цифра уже перевернула мир, но это искажённое восприятие: из того, что ИТ вокруг вас, не следует, что ИТ вокруг всех.
Из-за ммм… «мощи» ИТ решений и их взрывного роста, любого человека, который к ИТ прикасается, моментально втягивает в эту область и обволакивает ей.
На самом деле, вычислительные технологии только начинают шатать мир. Интернеты, википедии, гуглы уже принесли изменения в нашу жизни, но это — первые шаги к переформатированию инфраструктуры, которую строило человечество тысячелетия.
Монополизация машинного обучения
Появление монополий почти всегда идёт во вред, но до всеобъемлющей цифровизации у людей оставались варианты защиты от шантажа отбором товаров или услуг.
С переводом жизни в цифру, средств защиты остаётся всё меньше, отказ от цифровых услуг откатывает уровень жизни на неприемлемые для большинства позиции.
До расцвета машинного обучения проблема IT монополий с трудом, но решалась созданием альтернативного ПО. Его авторами могли выступать как небольшие предприятия, так и сообщества энтузиастов, ратующие за свободное и открытое ПО.
Сначала альтернативный софт можно было создавать в одиночку. Затем группами всё большего размера.
Стоимость разработки росла, но альтернативы продолжали появляться, поскольку основная стоимость производства ПО определялась оплатой труда разработчиков. Люди всегда могут затянуть пояса ради идеи или будущего дохода.
Machine Learning, в его текущем виде, меняет расклад.
Реализация Generative Adversarial Network
В завершение разбирательства с Deep Learning решил посмотреть что-нибудь более интересное и ориентированное на генерацию контента — реализовать GAN.
По правде говоря, большую часть времени с GAN (и Autoencoder) я экспериментировал на спрайтах карты Сказки. Ожидаемо, на таком мизере обучающих данных ничего интересного не получилось. Хотя польза и была. Поэтому для поста я подготовил отдельный notebook с более наглядными результатами — генерацией обуви по набору данных Fashion MNIST.
Ноутбук с реализацией GAN и комментариями.
Про архитектуру GAN лучше почитать в вики, интернетах или моём ноутбуке.
Краткая суть:
- Тренируются две сети: generator & discriminator.
- Генератор учится создавать картинки из шума.
- Дискриминатор учится отличать поддельные картинки от настоящих.
- Ошибка дискриминатора определяется качеством предсказания фейковости изображения.
- Ошибка генератора определяется качеством обмана дискриминатора.
Если правильно подобрать топологии сетей и параметры обучения, то в итоге генератор научается создавать картинки неотличимые от оригинальных. ??????. Profit.
Ссылки на курсы по Machine Learning & Deep Learning
Перед началом разбирательства с темой собрал для себя список курсов, которые могут быть интересны.
Публикую, чтобы не пропадал зря.
Только ссылки. Свои комментарии вырезал — в исходном виде они никому кроме меня не помогут :-)