О книге «Иллюзия знания»

Если вы учились на кафедре ИИТ ФИТиУ БГУИР, то название книги должно пробудить студенческие воспоминания: книга про ту самую «иллюзия понимания», про которую любит рассуждать Владимир Васильевич Голенков.

Основной посыл книги можно сформулировать примерно так: мы не знаем многое из того, о чём думаем как об известном нам, и было бы неплохо хотя бы понять и принять это.

Раскрывается идея через логическое раскручивание результатов психологических экспериментов. Авторы: Стивен Сломан и Филип Фернбах — посвятили свои жизни изучению когнитивистики и с помощью «Иллюзии знания» делятся своими взглядами на принципы функционирования и развития человечества. Взгляды эти довольно интересны и полезны, поскольку всё происходящее вокруг нас имеет своей причиной решения людей, рождающиеся из их знания и незнания.

Я был рад встретить большое количество соображений, которые давно зудели в голове, но не давали формализовать себя.

Особенно хочу порекомендовать «Иллюзию» молодым людям. Она может помочь очертить границы возможного для одного человека и продемонстрировать преимущества и недостатки сотрудничества между людьми.

У меня не вышло за разумное время придумать последовательный план краткого пересказа книги, поэтому просто расскажу о некоторых интересных идеях, изложенных в ней.

Обратите, пожалуйста, внимание — идеи будут в моей интерпретации.

Разум как расширенный фенотип

Это, пожалуй, основная идея книги — её скелет, на котором держится вся остальная логика.

Расширенный фенотип — концепция выдвинутая Докинзом в 1982 году в одноимённой книге. Заключается она в том, что эффект работы генов выходит далеко за границы биологического тела. Например, гены бобров заставляют тех строить плотины и заболачивать местность на многие километры. Иными словами, гены бобров оказывают эффект не только на их тела, но и на значительный кусок планеты. К ярким примерам расширенного фенотипа можно отнести коралловые рифы, муравейники и, конечно, деятельность человека.

Авторы обращают внимание на то, что знания «размазаны» между людьми и другими носителями информации. Очень давно ни один человек не обладает всей полнотой информации, необходимой человечеству для поддержания существования. Речь идёт не о достижениях 20 века, а о последних тысячелетиях. Даже до нашей эры уже было сложно найти человека, который бы одновременно умел профессионально ковать, добывать руду, приручать животных и заниматься сельским хозяйством.

Многие решения мы принимаем «коллегиально», даже не подозревая об этом, поскольку знания других людей (а также знания в книгах и прочих источниках) воспринимаем как собственные. Мы склонны доверять таким знаниям, даже не понимая логики, которая стоит за ними.

То есть, бОльшую часть рассуждений человек делегирует внешним сущностям.

Соответственно, в трактовке Сломана и Фернбаха, разум является не свойством отдельного человека, а эмерджентным эффектом существования человечества. Что и делает его, по сути, расширенным фенотипическим признаком.

Иллюзия понимания

Размазанность знаний между людьми приводит к возникновению иллюзии понимания. Мы думаем, что знаем информацию, к которой можем получить доступ: написанную в книгах (которые мы читали), снятую в фильмах (которые смотрели) и сохранённую в головах людей (с которыми общались).

Каждый сталкивался с ситуацией (на экзаменах в университете, например), когда он помнит на какой странице в учебнике находится ответ на вопрос, помнит с чем тот связан, но сам ответ вспомнить не может. Это следствие как раз иллюзии понимания, которая сложилась у нас в процессе чтения учебника. Мы считали информацию со страницы, осознали её, но вместо того, чтобы запомнить непосредственно эту информацию, мы запомнили где она хранится — это проще.

Подобные ошибки подстерегают нас постоянно. Мы склонны расширять оценку своей компетенции за счёт знаний родных, коллег, друзей. И, конечно, за счёт своей библиотеки, если она у вас есть.

Распространяется иллюзия не только на самих носителей знаний, но и на сущности, с которыми мы имеем богатый опыт взаимодействия.

Для примера. Мало кто может подробно описать устройство унитаза (как и почему вода спускается, из какого материала и почему он сделан), но все уверены, что могут починить сломавшийся слив :-) Те, кто реально пытался это сделать, знают, что всё не так просто, как кажется :-D

Иными словами: знать как получить информацию не то же самое, что обладать ей. Об этом надо помнить и в процессе обучения чётко понимать какую информацию необходимо поместить в свой мозг, а какую можно оставить на внешнем носителе.

Сообщество носителей знаний

Вследствие своих рассуждений авторы начинают рассматривать человечество как сообщество носителей знаний. Сообщество состоит из сущностей, каждая из которых не может вместить в себя все знания, но может обмениваться информацией с другими, тем самым за счёт специализации повышая эффективность себя и сообщества.

Такое сообщество обладает рядом особенностей.

К преимуществам, пожалуй, следует отнести «фактическую эффективность» функционирования человечества по сей день. Хотя бы вследствие того, что это единственная стратегия организации людей, которая осталась. Обход физических ограничений мозга за счёт специализации и совершенствования коммуникации зарекомендовал себя хорошим решением.

Но любое хорошее решение обратной стороной имеет ряд «нюансов».

Инертность и конформизм

Чтобы новое знание заработало «в масштабе», его необходимо распространить между большим количеством членов сообщества. Про проблемы передачи информации в сетевых структурах хорошо написано в статье на хабре: Сложные системы. Выход на критический уровень.

С другой стороны, членам сообщества свойственен конформизм — если со всех сторон вас окружает ложная информация, вам будет сложно принять иное мнение, даже если оно будет верно. Этим активно пользуются маркетологи и пропагандисты всех мастей.

Вследствие инертности и конформизма, культурные традиции становятся сильнее знания, поскольку базируются на более крепких установках. Вытравить суеверия из общества становится очень сложно.

Положительная обратная связь при распространении мемов

Другое следствие тех же инертности и конформизма весьма интересно. Ранее я не задумывался о нём, но определённо его стоит учитывать при любых обсуждениях.

Если сходно мыслящие люди обсуждают проблему совместно, их общее мнение становится более поляризованным. На мой взгляд, даже обсуждать нет необходимости, достаточно существовать в замкнутой группе, чтобы наиболее общие признаки стали сильнее.

Механизм тут примерно следующий: распространённые убеждения (мемы) распространяются за счёт своего давления, в то время как редкие убеждения ими вытесняются. Поэтому, если собрать в тесную группу людей по нужному признаку, этот признак распространится и укрепится, вытеснив всё остальное.

Жизненные примеры: радикальные верующие становятся радикальнее, загнанные в «резервации» оппозиционеры — оппозиционнее, а зеки после отсидки ещё больше склонны к воровской культуре.

И вот поэтому у вас в конторах неимоверно нарастает бардак, когда руководство начинает бесконтрольно нанимать людей.

Это же свойство говорит, что общие истории (легенды, байки, рассказы о подвигах) могут формировать коллективную идентичность, но для этого члены сообщества должны быть в состоянии воспринять их. Поэтому истории, которые нас объединяют, постепенно упрощаются и выхолащиваются. Эти процессы не обязательно организуются некими внешними силами, просто среди множество вариантов изложениях запоминаются и передаются наиболее простые.

Коммуникация становится важнее эрудированности

В сообществе носителей знаний возможность доступа к знаниям становится важнее обладания знанием. Сеть правильно организованных, удобных источников информации работает эффективнее энциклопедической памяти и заучивания. Разрыв в эффективности растёт по мере совершенствования коммуникаций.

Членство в сообществе делает сложным отделение знания в голове одного человека от знаний в головах других людей. Это ставит барьеры в коммуникации и разделяет сообщество на группы по признаку владения информацией. Например, эксперты начинают писать тексты для экспертов, непонятные людям не из их круга, появляются субкультуры и так далее.

Можно сформулировать мысль и по-другому: меняется суть эрудированности. Ранее эрудированным считался человек, который знает много фактов, а сейчас — который имеет много источников фактов.

Борьба с иллюзией понимания

Полностью избавиться от иллюзии понимания видимо нельзя, поскольку она обусловлена природой и структурой нашего общества. Но можно уменьшить её влияние на нашу жизнь.

Для этого есть разные способы.

Мыслить в категориях причин и следствий

Авторы обнаружены, что даже при размышлении о своих долгосрочных стратегиях, люди не склонны углубляться в их анализ. Вместо этого используются более простые аргументы: мнения других людей, личное представление о прекрасном и так далее.

Если же человека попросить подумать о причинно-следственных связях стратегии (как она будет действовать, что непосредственно необходимо для её реализации, какие изменения она принесёт и так далее), то оценка человеком стратегии заметно меняется в сторону большей объективности.

Это же правило касается оценки знаний человека о каком-либо предмете. Мы склонны завышать свои знания, но если попробовать детально описать предмет нашего интереса, то большинство (кроме экспертов в этой области) снизит оценку своей компетенции и более трезво взглянет на мир.

Тут также следует заметить, что этот способ работает только если рассуждения основаны на объективных фактах. Если логические построения строятся на глубоких человеческих убеждениях (что хорошо, что плохо), то иллюзия останется.

Поэтому попытки массового просвещения людей часто терпят фиаско: не работает ни логика (поскольку люди всё равно опираются на свои эмоциональные установки), ни пропаганда (потому что в базовых установках людей прописались уж очень сильные мемы).

Хитро организовывать свою жизнь

Владея информацией о человеческом поведении можно так организовывать свою жизнь (и чужую), чтобы максимизировать вероятность автоматического принятия «правильных» решений.

Наиболее ярким примером тут может стать ситуация с разрешением на донорство органов умерших людей.

В классическом варианте, человек должен дать явное разрешение на использование своих органов. Многие об этом не знают, забывают дать разрешение, считают не важным, вредным или вообще болт клали на то, что будет после их смерти.

Как следствие, медицина получает меньше органов чем могла бы и спасает меньше жизней.

Поэтому в некоторых странах (и в Беларуси, что круто) решили изменить правила игры и разрешили использовать органы по-умолчанию. Если человек не хочет, чтобы его использовали после смерти, он должен явно заявить об этом.

Называется такая философия либертарианским патернализмом.

Либертарианским потому, что такие правила не ущемляют право человека на выбор.

Патернализмом — потому что государство диктует гражданам предпочитаемую модель поведения.

Более того, вместо попыток обучать людей, в некоторых случаях можно попытаться ввести систему простых правил, следование которым заменит долгое обучение. Например, вместо изучения электротехники можно запомнить что не надо совать пальцы в розетку.

Не спорить с людьми

Этот пунктик лично от меня :-)

По моему опыту (как и из прочитанного) следует, что заставить человека передумать (или усомниться) по важному для него вопросу в большинстве случаев очень сложно. Это возможно, когда вопрос не затрагивает глубинные установки человека, его опыт и взгляды сообщества людей, в котором он живёт, что очень сужает пространство «перспективных» споров.

Поэтому лично я стараюсь с людьми не спорить. За исключением пары человек, с которыми сложилось нечто вроде «соглашения о ведении спора».

И о косяках

Их почти нет но всё же.

Когда авторы берутся рассуждать про технику, ИТ и, тем более, роботов с ИИ, становится видно их слабое владение темой.

Не обошла книгу некоторая политота. На мой взгляд, авторы местами попадают в ловушки, о которых сами предупреждают в книге (например, строят рассуждение на собственных ценностях, а не логике и историческом контексте).