Ошибки мышления секреты пропаганды

Что происходит

Два главных тренда будущего — усложнение и ускорение изменений. Мировые экономики достигли уровня, при котором невозможно развиваться без внедрения новых технологий. Согласно опросу Tech Pro Research, 70% крупных компаний разрабатывают или уже имеют стратегию цифровизации.

Исследователи Оксфордского университета считают, что половину рутинных задач автоматизируют через 15–20 лет. Результаты глобального исследования технологий, рабочих мест и навыков, проведенного PwC, подтверждают этот прогноз. Более 53% специалистов уверены, что их работа устареет или сильно поменяется за следующие десять лет, 77% работников придется переучиваться или менять профессию. Если людей выгоднее заменить искусственным интеллектом, это обязательно сделают.

Согласно отчету Fujitsu от 2018 года, 68% предпринимателей по всему миру видят будущее бизнеса как совместную работу людей и роботов. В этой работе человеку останутся интеллектуальные задачи — работа разума, рассуждение и аналитика. Справиться с такой работой и адаптироваться к неопределенному будущему помогает критическое мышление.

Что такое критическое мышление

Критическое мышление — способность сомневаться во входящей информации и своих убеждениях, мыслить ясно и рационально, искать логическую связь между фактами и формулировать сильные аргументы. Основа критического мышления — умение рассуждать. Люди, мыслящие критически, задают вопросы, ставят под сомнение идеи и высказывания, а не принимают их за истину.

Современный информационный поток — бесконечная лента сообщений, в которой смешаны новости, реклама, полезный контент, пропаганда. Если верить всему, что пишут и говорят, вас могут обмануть. Например, в новостях пишут, что, по данным анонимного источника, акции такой-то компании скоро упадут в цене. Если новость окажется недостоверной, а вы продадите акции, — потеряете деньги. Вся информация не может быть правдивой. Критическое мышление помогает распознавать ложь, разделять факты и мнения.

Технологии усложняют ситуацию. Алгоритмы и персонализация контента помещают нас в информационные пузыри. Это состояние, в котором пользователь видит только тот контент, который ему нравится.

Алгоритмы соцсетей, поисковых систем и приложений анализируют предпочтения, историю запросов, местоположение и другие данные пользователей. Вокруг нас появляется пузырь контента, который не противоречит нашей точке зрения. Так мы попадаем в интеллектуальную изоляцию.

Так, журналисты канадской газеты Toronto Star летом 2018 года проверили 1,3 млн слов, публично сказанных и написанных Дональдом Трампом за первые полтора года его президентства. Сотрудники газеты обнаружили 1972 ложных утверждения и 68 928 неправдивых слов. В 2017 году Дональд Трамп выдавал в среднем по три ложных утверждения в день. Такие утверждения помогают политикам получить голоса избирателей, но выбор народа будет неосознанным и необоснованным. Если избирателей что-то не устроит, с последствиями выбора придется разбираться им самим.

Как развить критическое мышление

Научиться критическому мышлению сразу не получится. Это как изучение иностранного языка — сначала все кажется сложным и непонятным, но, когда понимаешь логику, становится проще.

Чтобы развить критическое мышление, отрабатывайте навык на конкретных кейсах. Поставьте под сомнения тезисы и аргументы этой статьи, проверьте ссылки на исследования или компетентность экспертов. Затем научитесь работать с инструментами критического мышления:

• пользоваться методиками проверки информации;
• учитывать когнитивные искажения;
• не попадаться на ошибки аргументации;
• выходить из информационных пузырей.

Когнитивные искажения

Когнитивные искажения — это подсознательные шаблоны мышления, в основе которых лежат ошибочные рассуждения. Такие рассуждения мешают нам принимать взвешенные рациональные решения. Например, под влиянием когнитивного искажения мы можем выбрать новый смартфон, опираясь на свои воспоминания о презентации и рекламном ролике, а не объективные технические характеристики. Когнитивные искажения — это аргументативные ошибки нашей «внутренней речи».

• Систематическая ошибка внимания — зависимость нашего восприятия от повторяющихся мыслей. Мы чаще замечаем то, что встречали или запоминали раньше, игнорируя другие варианты.

Пример. Если вы давно думаете сменить работу, то охотнее будете обращать внимание на некомпетентность коллег и недостатки компании. Хотя в действительности показатели эффективности могут быть выше, а клиенты — довольнее.

• Соответствие эмоциям — способность вспоминать факты и события, испытывая определенные эмоции. Эмоциональные паттерны вызывают разные значимые ассоциации, связанные с нашим предыдущим опытом.

Пример. Вечером с горячей чашкой чая вы чувствуете себя спокойно, уютно и тепло. Такое настроение само по себе может вызвать воспоминания о семейных праздниках и вечерах с лучшими друзьями.

• Недооценка бездействия — склонность недооценивать последствия бездействия, сравнивая его с результатом действия. Выбирая между действием и бездействием с аналогичными последствиями, люди чаще выбирают бездействие.

Пример. Некоторые родители запрещают делать прививки своим детям. Они предпочитают риск осложнения в случае болезни (бездействие — не делать прививку) риску осложнения прививки (действие — привить ребенка). При этом риск заболеть намного выше риска получить осложнения от прививки.

• Иллюзия частотности, или феномен Баадера-Майнхоф — иллюзия, при которой недавно изученная информация кажется слишком часто повторяющейся, если появляется снова в течение короткого периода времени.

Пример. Иллюзию частотности используют маркетологи, чтобы привлечь внимание покупателей к продуктам компании. Логотипы бренда, видеоролики, реклама в соцсетях, коллаборации с популярными блогерами заставляют нас подсознательно думать о торговом предложении, чтобы в конечном итоге на него согласиться.

• Эффект иллюзии правды — склонность доверять сообщению после его многократного повторения. Людям проще воспринимать знакомую информацию, чем анализировать новую.

Пример. Плутарх писал, что древнеримский политик Катон Старший заканчивал каждую свою публичную речь словами «Карфаген должен быть разрушен», даже если дебаты касались совершенно другого вопроса. Его настойчивость помогла убедить остальных сенаторов начать войну при первой возможности — и Карфаген был разрушен. Это когнитивное искажение часто используют и сегодня — в пропаганде и СМИ.

Ошибки аргументации

Ошибки аргументации — это ошибки в логических рассуждениях. Аргументы с ошибками кажутся убедительными, но их нельзя считать верными. Если доверять оппоненту, который использует уловки аргументации, вам могут навязать чужое мнение, обмануть или манипулировать вами. Например, в обсуждении собеседник может привести метафору, чтобы объяснить свою позицию, но применить сделанные в контексте метафоры выводы к первоначальной проблеме.

С другой стороны, уловки аргументации по отношению к другим людям существенным образом основаны на когнитивных искажениях этих людей.

Модель вероятности сознательной обработки информации (elaboration likelihood model) описывает два пути обработки сообщения. Первый, центральный, путь — сознательный анализ информации, который требует значительных когнитивных усилий. Второй путь — обработка информации с помощью периферийных подсказок, например некритическое восприятие экспертного мнения, или следование эффекту массовости. Это очень похоже на «две системы» Канемана, только не для внутреннего пользования, а для внешнего — при общении с другими людьми.

Для противостояния уловкам можно использовать три вопроса Блэра и Джонсона о соответствии критериям хорошего аргумента (RAS: Relevant+Acceptable+Sufficient):

• Релевантность: относится ли этот аргумент к сути дела?
• Приемлемость: готовы ли мы принять его посылки за истинные?
• Достаточность: содержат ли посылки достаточное основание для утверждения тезиса»?

Почему важно проверять информацию

По прогнозу Всемирного экономического форума, критическое мышление входит в десятку самых важных и востребованных навыков к 2025 году. Чтобы решать сложные этические, экономические и экологические проблемы в будущем, нужно учиться работать с информацией и собственным мышлением уже сейчас.

При этом критическое мышление не панацея. Не универсальное средство борьбы против фейковых новостей, дезинформации и ошибок аргументации. Критическое мышление создает основу для рефлексии, которая поможет справиться с неопределенностью в будущем.

Правильный ответ на задачку: в тексте нет информации об эффективности бельгийского подхода, поэтому мы не можем сказать наверняка. Нам нужно больше информации, чтобы сделать вывод.

Пошёл тренд на «борьбу с фейками, уж как можем», ко мне стали регулярно обращаться с разговорами на темы критического мышления, когнитивных искажений (cognitive biases, я их предпочитаю переводить как «предвзятости» — и даже «когнитивные» тут не нужно, «предвзятости» только и бывают «когнитивные»), пропаганды и прочего арсенала «как защитить себя от гадости, которая безудержно льётся по социальным сетям». Не читают, гады, гадость, которая льётся по официальным каналам, пользуются той жижей, которая льётся по социальным сетям!

Вот несколько моих тезисов на эту тему:

1. Большинство всех этих плохих предвзятостей относится к попыткам долгой работы на быстром интуитивном мышлении S1 (по Канеману), в которое некоторой deliberated practice не вставлены ещё автоматизмы схематизации, а затем использования онтологики (включая логику, научное мышление и т.д.). Онтологика тренируется обычно в медленном трудном рассудочном мышлении S2. А чтобы овладеть этим мышлением и пройти deliberated practice (гуглите, чёрт возьми!), требуется некоторый тренинг осознанности (присмотр за вниманием) на разных шкалах времени, и упорство/упёртость. Ошибки в нетренированном S1 не детектируются, ибо нетренированное в логике это мышление эти ошибки в упор не замечает, чем и плохо. А тренированное из медленного S2 быстрое S1 имеет уже свои воспитанные тяжёлым умственным трудом предвзятости, и поэтому автоматически будет реагировать на отсылку к авторитетам как «писатели-фантасты утверждают», равно как похожим образом и на все остальные заморочки для нетренированного S1.

Сам по себе поиск когнитивных искажений в разговоре крайне непродуктивен. Человеческая речь на естественном языке неточна по определению, и тот, кто когнитивные искажения ищет специально — найдёт их всегда. Фишка в том, чтобы не терять суть высказывания и суть аргументации, а уж поиск отдельных типов когнитивных искажений — это бесконечное занятие, и обычно крайне непродуктивное отвлечение от разговора по существу. Вот я писал в «Об когнитивные искажения» (https://ailev.livejournal.com/1395836.html):

Вы тратите 15 часов на разговоры с любителями выискивать когнитивные искажения про ваши ошибки, их классы, недостатки мышления обезьяны по сравнению с чётким логическим мышлением, важности совпадения описания карты с территорией и т.д.. Через пятнадцать часов вы выясняете, что ошибок тьма, жизнь нелепа, в любом высказывании ошибок можно найти не менее пяти или шести, карта плохо соответствует территории, а быстрое мышление дурит — и вы не продвинулись ни на шаг, analysis paralysis, ибо в каждой попытке продвинуться вам укажут на очередные когнитивные искажения. Если вы их хотите найти, то всегда найдёте. Если очень хотите, то будете видеть только эти искажения, а продвижения вперёд и интересные идеи будут полностью незаметны и будут ускользать от внимания.

Во фразе «пайди вазьми 150 рублей прямо сейчас вон в том акошке», вы будете обсуждать только ашипки и почему нельзя так ниграматно писать, а до пойти и взять 150 рублей дело не дойдёт!

Беда с этими когнитивными искажениями, даваемыми длинными списками как раз в этом: лекарство незаметно и как-то печально неизбежно становится болезнью.

2. Критическое мышление — педагогическая традиция 20-го века для «мягкого» (исподволь, через много примеров) обучения адекватности и рациональности в мышлении через выискивание «фактических ошибок». Изучение «критического мышления» обычно не приводит к усилению интеллекта, а само критическое мышление неприменимо в сложных проектах (например, в крупных инженерных проектах), поэтому осталось на уровне учительских обсуждений в старшей школе и в гуманитарных вузах на младших курсах (в силу исторических традиций). При внимательном рассмотрении сводится к использованию в жизни попсовых (на уровне «здравого смысла») знаний по логике и научному мышлению, если вообще речь там идёт хоть о каких-то знаниях, а не просто призывам «думать больше! думать точнее! проверять факты! сомневаться!» разными способами, придумываемыми «на коленке» тем или иным преподом этого критического мышления. Вот мои тексты, раскрывающие бессмысленность критического мышления более подробно: «об вырождение критического мышления» (https://ailev.livejournal.com/1337214.html), «об вопросы критического мышления» (https://ailev.livejournal.com/1364101.html). Перед тем, как говорить, что я ничего не знаю про критическое мышление, не знаком с дельфийским консенсусом и т.д. — сходите, почитайте тексты по ссылкам. Критическое мышление — это «онтологика бедного человека», но только у лучших преподов.

3. Но поскольку люди не гении, а мутный поток мутен, то они будут пользоваться подсказчиками в спорах — персональными AI помощниками, которые сейчас полным ходом тренируются обнаруживать пропаганду, задействующую те самые предвзятости: https://medium.com/@jihwangk/fine-grained-propaganda-detection-and-classification-with-bert-dfad4acaa321. В тексте по ссылке описывается соревнование в алгоритмах AI, обнаруживающих пропаганду в новостных статьях по ряду чаще всего используемых предвзятостей. Дальше такой алгоритм вставляется в браузер примерно как AdBlock — и тормозит все пропагандистские статьи примерно так, как тормозится спам и реклама. Сначала это будет так же неуклюже, как со спамом и рекламой, потом быстро всё наладится. У меня стоял раньше AdBlock, сейчас uBlock Origin, а дальше будет плагин уже к этим программам — и нельзя сказать, что жизнь наладится, но станет полегче.

Или потруднее. Ибо если кто-то в Твиттере или Фейсбуке решил, что вы пишете не правду, а фейк — то фильтровать будут уже вас. А чей-то заведомый фейк — пропускать, как ни в чём ни бывало.

Конечно, писать тексты с фейками будут после этого не люди, а специально обученные машины — лучше людей. Впрочем, машины уже пишут, и только чуть-чуть хуже людей. Прошлая ссылка была на соревнование по обнаружению пропаганды, а вот соревнование по писательскому боту (написать полную историю по её аутлайну): https://venturebeat.com/2020/05/04/plotmachines-ai-long-form-stories/

Борьба пойдёт в нападении и защите комплекса мозг+экзокортекс, меча и щита. Через пару тактов люди с их слабыми мозгами будут с интересом наблюдать за ситуацией борьбы за «правильный фейк» между мозгами кремниевыми.

Автоматизация, кстати, уже нацеливается и на проверку фактов и в научной литературе: https://venturebeat.com/2020/05/04/allen-institutes-verisci-uses-ai-to-fact-check-scientific-claims/

Тут всё будет быстро и очень быстро. Человеческий мозг слаб, и поэтому его нужно усиливать:
— давать тренинг в трансдисциплинах (онтологика с научным мышлением и коммуникацией, системное мышление, вычислительное мышление для работы с моделями, и т.д.)
— переносить рутинную работу по факт-чеку и отслеживанию грубых логических ошибок на экзокортекс. Тупо фильтровать входящий информационный поток, как спам в почте и рекламные баннеры на страницах вебсайтов.

4. Коммуникация людей идёт со сдвигом в левую часть спектра формальности мышления (посредине между S1 и S2), ибо без этого а) не сможешь управлять вниманием в коммуникации, б) не сможешь добиться объединения онтик — формальные же онтики не совместимы по определению! Вот тут часть вопросов, которые нужно обсуждать, если речь идёт об убеждающей коммуникации (а другой, «неубеждающей» так и не бывает — мы ж всегда общаемся для чего-то!), вопрос в том, какие предвзятости при этом вносятся при деформализации/рендеринге, и какие предвзятости вносятся при формализации/схематизации. Вот набор ссылок, позволяющих хоть как-то непопсово это обсудить: https://ailev.livejournal.com/1494762.html (а результат обсуждения этих пунктов привёл к появлению курса «Онтологика и коммуникация», очередной поток начнётся 15 мая 2020 — https://system-school.ru/united).

5. Фейк (вместе с достоверностью, свидетельствами, дезинформацией, манипуляцией) тоже спорное понятие. Фейком называют художественное произведение (авторский вымысел), выдаваемый за достоверное описание мира. Одна и та же информация может быть признана фейком (актёр или компьютерный алгоритм сыграл политического деятеля в порнофильме — и автор уверяет, что это был сам политический деятель) или художественным произведением (то же самое, если статус вымысла предъявлен с самого начала). Есть пограничные случаи: во время трансляции радиопостановки «Войны миров» Герберта Уэллса многие люди подумали, что и впрямь идёт вторжение марсиан.

Но с фейком ситуация более тонкая: чтобы показать предмет какого-то интереса, вы должны договориться о способе описания. Если мой интерес к чайникам — их тепло, а интерес художника — их цвет, то мы должны договориться о способе описания. Иначе вся информация о чайниках от художника будет только про цвет, а горячий чайник или холодный — вы не узнаете. Если вам рассказывают о разведчиках, а не шпионах — сами понимаете, какой метод описания был выбран. Сепаратисты и боевики отличаются от борцов за независимость и ополчения только тем, какими словами вы их будете описывать и какие их «подвиги» будете показывать. Каждая деятельностная роль имеет свои методы описания, по ним мы эту роль и узнаём. А потом делаем вывод, что «описания этой проектной роли — фейк», если форма описания художественная, даже если там говорится о фактах в рамках выбранного метода описания.

Бороться с фейками нужно, поднимая осознанность и тренируясь в трансдисциплинах. Тебе в ходе коммуникации всех со всеми предъявляют какие-то модели мира:
— они могут быть сделаны с непривычным для тебя методом описания (viewpoint) из непривычной тебе ролевой позиции с её ролевыми предпочтениями, переданы непривычной (или даже неприятной тебе) терминологией. Это нужно отследить и реагировать рационально, а не эмоционально.
— у них может быть низкая правдоподобность, так что научное мышление нужно не выключать, оно всегда должно присутствовать.
— эти модели могут быть редукционистскими, поэтому не нужно выключать системное мышление
— эти модели могут быть логически кривыми, поэтому не нужно выключать логику

6. Все эти «добавления предвзятостей» появляются на разных шагах коммуникации — и если речь идёт о СМИ, то в этой коммуникации кучи ролей, и добавление предвзятостей к не-фейку или даже изготовление фейка делается профессионально. И каждая роль может добавить свои предвзятости, тщательно спроектированные, свои придуманные «правдоподобные детали» (в кавычках!) к тщательно отобранным реальным и общеизвестным фактам. В информационной кампании как практике массовой коммуникации есть множество деятельностных ролей: автор (схемы) сообщения, автор рендеринга (помним, что рендеринг из одной схемы может сделать множество самых разных сообщений), редактор/editor (вытаскивает из авторов рендеринга их рендеринги и проверяет на неискажение исходной схемы), контент-менеджер (размещает рендеринги в разных каналах — социальные сети, реклама, форумы и т.д.), аналитик (изучает эффект воздействия и даёт рекомендации авторам рендеринга и контент-менеджерам). И это ещё не полный набор ролей! Если вы заняты обработкой мозгов большого количества народа, то хорошо работает принцип разделения труда. Как на английской мануфактуре: производство булавки было разбито на от 17 до 20 операций, и вместо одного мастера, умевшего делать все стадии, стали работать «просто рабочие» на каждой из этих операций — и производительность труда выросла в сотни раз. Информационное производство тут не сильно отличается.

7. Я сам профессионально занимался пиар-компаниями (не одной, и не маленькими), и поэтому знаю ситуацию ещё и изнутри. Вот я писал в 2005 году алгоритм работы пиар-службы для ведения успешной кампании, «влияние на общественное мнение»: https://ailev.livejournal.com/325303.html. Вот фрагмент текста по этой ссылке:

Как говаривает Валера Бардин, у нас в стране есть 40000 датчиков, которые равномерно распределены среди населения и выражают его чаяния и общее миропонимание — это 40000 журналистов, которые пишут, пишут пишут. Что понимают эти журналисты, то и понимает общество. Если очень хочется знать, что понимает какая-то определенная часть общества, то читайте ту прессу, которую читает эта часть общества (скажем, читайте Коммерсант и Ведомости — и вы узнаете, что на уме у общества, которое читает Коммерсант и Ведомости).

Более того, эти 40000 журналистов являются не только датчиками, но и эффекторами. И еще одно: они выстроены в некоторую иерархию, так что переписывают идеи друг у друга (достаточно заглянуть в news.yandex.ru, чтобы оценить масштаб этого переписывания). Поэтому журналистов нужно рассматривать и в качестве датчиков состояния общества, и в качестве эффекторов, которые меняют состояние общества.

Конечно, высказывание о том, что журналисты и их читатели разделяют (share) один и тот же набор мемов (мем — это элементарная единица информации, которая передается от человека человеку, в частности передается от журналиста читателю) само по себе весьма спорно в теории. Но в области не столько общественных наук, сколько практик это вполне рабочее упрощение.

Рассматриваемый цикл изменения общественного мнения включает тем самым три субъекта: ньюсмейкера (Организацию, а не человека), журналистов и общества. Если мнение журналистов изменилось, то мы считаем, что через некоторое время изменяется и мнение общества. Ежели мнение общества изменилось, то через некоторое время изменяется мнение журналистов. Тем самым взаимодействие с обществом сводится ко взаимодействию с журналистами: если хотите узнать общественное мнение, слушайте журналистов, а если хотите изменить общественное мнение, говорите журналистам.

Ибо говорить нужно только на те темы, которые они считают важными. Неумение слушать журналистов перед разговором с ними ведет к проигрышу пиар-кампании.

8. Сегодня уже не 2005 год, по факту уже нет независимой прессы, поэтому журналистам можно давать команду — какие темы считать важными. Журналистов перед этим уже не нужно предварительно слушать.

СМИ — это экзокортекс (память и средства управления вниманием), который для вас готовят журналисты. То, что современного журналиста называют «блогер», а СМИ — «блог» или даже «канал», ничего не меняет. Все эти «блоги», «журналы», «газеты», «каналы» — чужие блокноты для заметок, в которых много людей могут почитать, что пишут журналисты.

Если вы хотите, чтобы эти публичные блокноты показывали не настоящее общественное мнение, а вымышленное — вам нужно купить перья всего 40тыс. человек. Это недорого. 40млн. долларов в месяц, полмиллиарда долларов в год — и каждый журналист получит месячную прибавку к зарплате в 75тыс. рублей, и вы после этого никогда не узнаете, что думают сами журналисты (и тем самым все остальные люди — общественное мнение будет спрятано за вброшенной помехой).

В видео https://www.youtube.com/watch?v=LxHdzGDazXg приведён абсолютно актуальный (даже в части разговора о медицине) на сегодня совет, который применим ныне и к самиздату (то есть социальным сетям и тамошним «блоггерам»):
— Преображенский: А если вы заботитесь о своём пищеварении, мой добрый совет: не говорите за обедом о большевизме и медицине. И — боже вас сохрани — не читайте до обеда советских газет.
— Борменталь: Гм… Да ведь других нет!
— Преображенский: Вот никаких и не читайте.

А в освободившееся от этого тупления в интернеты время займитесь изучением трансдисциплин. Сходите, например, на ту же онтологику. Там подзаголовок курса — «мыслительный минимум образованного человека».

UPDATE: обсуждение в фейсбуке — https://www.facebook.com/ailevenchuk/posts/10218344738023866

Когнитивные искажения мешают нам объективно оценивать ситуацию и самих себя. Именно из-за них собственные иррациональные поступки часто кажутся нам в момент совершения логичными и осмысленными. Мы продолжаем серию статей, посвященных самым распространенным ошибкам мышления и тому, как их избежать. В первом выпуске — почему мы считаем себя экспертами во всем, во втором — почему боимся летать на самолетах, но не гнать по встречной полосе. В третьем — как превращаем пустяк в катастрофу. 

💬

Как сделать идею убедительной? Подкрепить ее фактами. А если их нет? Тогда достаточно просто иметь два миллиона подписчиков в инстаграме, готовых повторить ваши слова. Свежий пример — прискорбная история с актером Вуди Харрельсоном, который перепостил фейковую статью о связи между распространением коронавируса и «радиацией 5G». Никаких доказательств того, что сверхскоростной мобильный интернет распространяет вирус, конечно, не было. А вот посты Харрельсона и других знаменитостей оказались очень даже вирусными, судя по видеозаписям уничтожения вандалами вышек мобильной связи. Почему? Потому что доказательства не нужны, когда в силу вступает каскад доступной информации. 

Что такое каскад доступной информации? 

Описать каскад доступной информации можно одним предложением: если много людей часто повторяют какое-то мнение, оно начинает казаться нам правдой. Впервые этот феномен был изучен в 1999 году экономистом Тимуром Кураном и правоведом Кассом Санстейном. Они сравнили его с нарастающей цепной реакцией, в результате которой информация по мере распространения превращается в коллективную веру. Понятно, как работает механизм повторения, когда речь идет о простом запоминании и узнавании. Хрестоматийный пример: если постоянно показывать по телевизору какого-то человека, он станет известным вне зависимости от своих способностей и талантов. Но каким образом воспроизведение информации может превратить любую выдумку в правду? Почему мы принимаем слова за факт, а их повторение — за доказательство? Главных причин две. И обе связаны с нашей социальностью. 

Социальная алхимия

Объясняя, почему мы так легко становимся жертвами каскада доступной информации, Куран и Санстейн выделяют два типа мотивов. 

1. Информационные мотивы. Когда у нас недостаточно данных или знаний, мы по унаследованной от предков привычке опираемся на мнение других людей, потому что община традиционно служила для человека главным источником базовой информации. 
2. Репутационные мотивы. Если большинство считает информацию достойной доверия, мы часто склонны ее транслировать вне зависимости от того, как сами к ней относимся. При повторении популярного мнения человек либо ведет себя так, как будто его разделяет, либо воздерживается от критики, чтобы остаться «своим» в коллективе. Так мнение с каждым витком распространения приобретает все больший вес и постепенно становится превалирующим. В ходе одного эксперимента исследователи провели анализ групповых обсуждений и выяснили, что люди начинают считать превалирующей ту позицию, которая знакома им лучше других. А чтобы мнение стало «знакомым», достаточно всего одного человека, который будет твердить его как мантру. 

Три ошибки в одной 

Каскад доступной информации — еще и пример того, как количество переходит в качество. Потому что это когнитивное искажение возникает за счет совмещения трех ошибок мышления. Первая из них

— эвристика доступности: склонность судить о вероятности того или иного события по тому, насколько легко всплывают в памяти похожие примеры. Второй

— эффект знакомства с объектом, то есть склонность отдавать предпочтение тому, что уже известно. Именно из-за этого хорошо известные идеи кажутся нам более правильными, чем неизвестные. Есть научные данные, что даже не понравившиеся с первого раза песни начинают нравиться нам больше, когда становятся популярными, а значит, чаще звучат в эфире. Третий

— эффект подражания большинству: чем больше людей придерживается одной точки зрения, тем более обоснованной она кажется.

В случае с конспирологической теорией о связи между мобильным интернетом и распространением COVID-19 конструктор сложился идеально: тут и популярные распространители, и доступная большинству идея, которая перекликается со знакомой информацией о вреде «излучения» мобильных телефонов, и ощущение принадлежности к группе, объединенной общим секретом. Плюс экономия умственных сил. Мы часто предпочитаем то, что проще усвоить. А благодаря каскаду доступной информации нам даются простые ответы на сложные вопросы. Этот процесс может быть стихийным, как в истории с распространением слухов о вреде 5G. Или управляемым, как в случае рекламы или политической пропаганды. 

Как не попасть под каскад 

Каскад доступной информации — мощный механизм, но каждый из нас может распознать такие сведения и ослабить их эффект благодаря критическому мышлению. Для этого автор блогов Effectiviology и Solving Procrastination Итамар Шатц советует обращать внимание на характерные признаки каскада: 

• тема вдруг стала горячей, ее обсуждают даже те, кто обычно не интересуется такими вопросами;

• в дискуссии больше эмоций, чем фактов; 

• альтернативные мнения воспринимаются однозначно негативно; 

• есть призыв к немедленным действиям без уточнения возможных последствий. 

Еще один полезный навык — умение отличать достоверную информацию от дезинформации. В этом поможет памятка для определения фейковых новостей, составленная журналисткой The Verge Ади Робертсон. Полный текст можно найти тут, а вот главные рекомендации. 

• Проверяйте источники и даты. Даже если новость повторили все, постарайтесь найти оригинал; признак надежной публикации — ссылка на источник информации. Это поможет отделить первоначальные факты от домыслов и слухов, возникших впоследствии; если за новость выдается событие, которое произошло давно, это уже повод насторожиться. 

• Уточняйте общую информацию: если вас убеждают, что электромагнитное излучение ослабляет иммунитет, а радиоволны переносят вирусные частицы, загляните хотя бы в Википедию. 

• Не считайте любое мнение эксперта истиной в последней инстанции. Он на то и специалист, чтобы специализироваться на своей теме. Если историк рассуждает о медицине, а врач рассказывает о глобальном потеплении, это не экспертное мнение. 

• Учитывайте весь спектр мнений и аргументов, чтобы не поддаваться соблазну знакомых идей. 

Фото на обложке: Selin Öz / Unsplash

Мы не задумываясь заказываем в ресторане проверенное блюдо вместо того, чтобы попробовать что-то новое. Автоматически считаем фанатов любимой группы хорошими людьми. Не уходим с надоевшей работы, потому что боимся изменений. Всё это примеры когнитивных искажений. Разбираемся, какие они бывают и как от них избавиться (и нужно ли).

Какие когнитивные искажения бывают

Когнитивные искажения, или ментальные ловушки, — это ошибки мышления, которые так или иначе совершаем мы все. Сложно сказать точно, сколько когнитивных искажений существует. Статья в «Википедии» содержит порядка двухсот наименований. И этот список продолжает расти. Автор книги «А кричать-то зачем?» Бастер Бэнсон проанализировал все искажения и объединил их в 20 уникальных групп. Их можно увидеть на схеме Джона Мануджяна.

Писатель и популяризатор критического мышления Никита Непряхин также проанализировал этот список и выделил 30 искажений, которые, на его взгляд, сильнее всего влияют на критическое мышление. Мы выделили семь любопытных. 

Эффект присоединения к большинству

Человек считает правильным то мнение, которое разделяет большинство. Из-за этого некоторые поступки он совершает не потому, что хочет, а потому, что так делают все вокруг.

Один из вариантов присоединения к большинству — искажение в пользу своей группы. Есть «мы» — граждане страны, выпускники определённого вуза, фанаты музыкальной группы. Мы думаем одинаково, доверяем друг другу. Нас объединяют общие ценности. И мнение «своих» мы считаем важнее и правильнее мнения «чужих». 

Ошибка выжившего

«Мы в детстве играли на заброшенных стройках — и ничего!» — классический пример ошибки выжившего. Ведь те, кто упал и разбился, уже не могут об этом рассказать.

Ешё один пример — сосредоточенность на чужих успехах и игнорирование неудач. Состоявшиеся бизнесмены пишут книги и дают интервью. Их пример на виду. Кажется, что построить эффективный бизнес не так уж сложно — многим же это удалось! Но проблема в том, что истории неудач доходят до публики реже. И создаётся ложная и однобокая картина мира.

Ловушка утопленных затрат

Это когнитивное искажение заставляет вкладывать время, деньги и усилия в убыточное дело. Бизнес прогорел и не приносит дохода. Но предприниматель уже потратил на него столько ресурсов, что жалко останавливаться. Другой пример — семейная жизнь не складывается. Отношения не приносят радости. Но партнёры столько лет провели вместе, что расставаться страшно. И они продолжают жить дальше и страдать вместо того, чтобы начать всё сначала.

Эффект третьего лица

Каждый считает, что реклама, пропаганда и любые другие способы манипуляции действуют на большинство людей вокруг, но только не на него. Сам он достаточно мудр, чтобы принимать решения самостоятельно. Например, выбирать кефир в самой яркой коробочке или голосовать за того кандидата, которого поддержали друзья.

Стереотипизация

Стереотипы делят мир вокруг на понятные категории и помогают экономить умственные усилия. Они могут быть как положительные, так и отрицательные. Интересно, что люди обычно не распространяют стереотипы на себя лично. Мы-то знаем, что русские не пьют на завтрак водку и не носят в рюкзаке балалайку. Но можем верить, что все француженки — стильные и изысканные, а немцы — педантичные и пунктуальные.

Эффект иллюзии правды

Люди считают правдой ту информацию, которую слышали много раз. На этом основан эффект навязчивой рекламы и пропаганды. Многократные повторения могут переубедить человека, даже если изначально он был уверен в обратном. В исследовании 2015 года американские учёные предлагали испытуемым абсурдные факты: «Сари — клетчатая юбка, которую носят в Шотландии» и «Атлантический океан — самый большой на планете». Вначале участники эксперимента  были уверены, что это неправда. Но после многократных повторений начали сомневаться в этом.

Отклонение в сторону статус-кво

Человек предпочитает стабильность, даже если перемены потенциально выгоднее. Лучше бездействовать и сохранить имеющееся, чем рисковать. Поэтому мы выбираем проверенное блюдо в ресторане, лечимся привычными лекарствами, даже если новые более эффективны, и не любим, когда приложения на телефоне обновляют интерфейс.

Зачем нам когнитивные искажения

Писатель Бастер Бэнсон считает, что когнитивные искажения по-своему полезны для человека.

Помощь мозгу в обработке информации

Мозг не может переварить всё, с чем сталкивается. Чтобы сэкономить усилия, он выбирает, на что обратить внимание. И когнитивные искажения помогают отсеять ненужное. Мы замечаем яркое, понятное, давно знакомое или, наоборот, резко изменившееся. Нам нравится то, что подтверждает наши мнения и убеждения. 

Познание мира

Окружающий мир устроен сложно. Человек видит только его маленький кусочек. Когнитивные искажения помогают дорисовать общую картину мира. С их помощью мы находим закономерности. Заполняем пробелы в знаниях на основе прошлого опыта или собственных фантазий. Упрощаем устройство мира вокруг, делаем его понятным.

Мотивация действовать

Человек постоянно должен реагировать на изменения вокруг и принимать решения, от которых может зависеть его жизнь. Когнитивные искажения мотивируют действовать. Например, мы уверены, что от наших поступков что-то зависит. Фокусируемся на быстрых результатах и с трудом строим долгосрочные планы. Любим заканчивать то, во что уже вложили время и усилия. Предпочитаем быстрые и простые действия сложным и запутанным.

Запоминание важного

Человеческая память не может хранить всё. Но нам важно запоминать опыт, чтобы на его основе корректировать решения в будущем. Когнитивные искажения помогают разобрать информацию, которую мы получаем, на важную и неважную. Мы редактируем воспоминания, отбрасываем частности и запоминаем ситуацию в целом. Упрощаем произошедшее до отдельных ключевых моментов.

Почему на когнитивные искажения не стоит полагаться

Когнитивные искажения формируют неполную картину мира

Раз за разом отсеивая якобы ненужную информацию, человек создаёт картину мира, далёкую от реальности. В лучшем случае она будет неполной, а в худшем — ошибочной. Мы видим только те факты, которые подтверждают наши суждения. И игнорируем всё, что может пошатнуть уже сформировавшиеся убеждения. Обесцениваем информацию, которая кажется «неправильной».

Когнитивные искажения приводят к возникновению иллюзий

Мы ищем и успешно находим причинно-следственные связи даже там, где их нет. На этой особенности основано, например, магическое мышление. Вера в приметы, предсказания гадалок и астрологические прогнозы. Такие иллюзии мешают действовать рационально.

Когнитивные искажения заставляют принимать неверные решения

Ментальные ошибки часто мешают воспринимать ситуацию адекватно и делать верные выводы. Часть решений мы принимаем на основе собственной картины мира, которая может быть далека от реальности.

Избирательная память закрепляет ошибки

Мы запоминаем то, что подтверждает нашу правоту. Переоцениваем свой вклад в успех. Некоторые принципиально важные моменты прошлого забываем, потому что не придаём им должного значения. Это мешает анализировать ошибки и избегать их в будущем.

Как не поддаваться когнитивным искажениям

Помните, что когнитивным искажениям подвержены все

Никита Непряхин советует критически смотреть на собственное мнение и проверять, не повлияли ли на него ментальные ловушки. Сделать это непросто, потому что большинство решений мозг принимает легко, быстро и без усилий. Поэтому перед принятием важных решений нужно остановиться, сосредоточиться и постараться проанализировать ситуацию.

Узнавайте о когнитивных искажениях больше

Предупреждён — вооружён. Читайте о ментальных ловушках и ищите их в собственном поведении. Например, можно взять список искажений и выбрать те, которым вы подвержены сильнее всего. Проанализировать ситуации, в которых они мешают. И в будущем постараться контролировать эти моменты. Так вы сможете корректировать своё поведение.

Постарайтесь не принимать поспешных решений

Попробуйте изучить ошибки, которые совершили в прошлом. Подумайте, из-за чего так получилось. И в будущем избегайте быстрых решений. Берите тайм-аут на раздумье. Никита Непряхин рекомендует задавать себе следующие вопросы:

• Почему необходимо поступить именно так?

• Есть ли альтернативные решения и чем они обоснованы?

• Есть ли кто-то, кто влияет на наши убеждения?

• Что вы можете потерять, если примете такое решение? А что приобрести?

Если данных для принятия решения не хватает, постарайтесь найти недостающую информацию.

Не игнорируйте иные точки зрения

Приятно окружить себя единомышленниками, с которыми не о чём спорить. Но это создаёт однобокую картину мира. Чтобы посмотреть на ситуацию с нескольких сторон, общайтесь с разными людьми и изучайте разные источники. Будьте гибкими и не бойтесь корректировать собственные убеждения. 

Обложка: Софья Игинова / Горящая Изба