01.11.2024

Ты не поверишь этому: исследователи пытаются "привить" людей от дезинформации, давая им небольшие дозы заранее

Будучи маленьким мальчиком, выросшим в Нидерландах в 1990-х годах, Сандер ван дер Линден узнал, что большинство родственников его матери, которые были евреями, были убиты нацистами, находящимися под влиянием расистской идеологии. В школе он столкнулся с антисемитскими теориями заговора, которые все еще циркулировали в Европе. Все это заставило его задуматься о силе пропаганды и о том, как люди убеждаются в лжи.

В конце концов, он сделает изучение этих вопросов своей карьерой. Будучи главой Лаборатории принятия социальных решений в Кембриджском университете, Ван дер Линден изучает силу лжи и то, как заставить людей не верить ей. Он стал самым большим сторонником в академических кругах стратегии, впервые разработанной после Корейской войны, чтобы «привить» людей от убеждения, так же, как их прививают от опасных инфекций.

Рецепт состоит всего из двух шагов: во-первых, предупредить людей, что ими могут манипулировать. Во-вторых, предоставить им ослабленную форму дезинформации, достаточной, чтобы заинтриговать, но не убедить кого-либо. «Цель — поднять брови (антитела), не убеждая (заражая)», — недавно написали Ван дер Линден и его коллега Джон Рузенбек в JAMA .

Прививка, также называемая «предварительной рассылкой», — это всего лишь один из нескольких методов, которые исследователи тестируют, чтобы помешать людям поддаваться дезинформации и распространять ее дальше. Другие сосредоточились на проверке фактов и разоблачении лжи, обучении людей надежности источников новостей или периодическом напоминании людям о том, что то, что они читают, может быть ложным. Но Ван дер Линден захватил общественное воображение так, как мало кто другой, возможно, потому, что концепция настолько соблазнительно проста. «Это определенно тот, который привлек наибольшее внимание», — говорит Лиза Фацио, психолог из Университета Вандербильта.

Книга Ван дер Линдена 2023 года « Защита от дурака: почему дезинформация заражает наши умы и как выстроить иммунитет» завоевала множество наград, а исследовательское подразделение Google Jigsaw представило этот подход десяткам миллионов людей с помощью рекламы на YouTube. «Изучив литературу, я пришел к выводу, что это, вероятно, самая эффективная стратегия», — говорит Джей ван Бавел, психолог из Нью-Йоркского университета.

Но другие говорят, что прививка — это ошибочная аналогия, которая ошибочно фокусируется на получателях дезинформации, а не на ее источниках и компаниях социальных сетей, таких как X (ранее Twitter), Facebook и TikTok, которые способствуют ее распространению и извлекают из этого выгоду. «Я думаю, что эта метафора очень ограничивает наше понимание того, в чем на самом деле заключается проблема», — говорит Сандра Гонсалес-Байлон, социолог из Пенсильванского университета. «Это проще сделать, чем иметь дело с системными проблемами, но это возлагает все давление на отдельного человека».

Идея вакцинации восходит к эпохе холодной войны. В 1954 году, когда закончилась Корейская война, 21 американский военнопленный решил переехать в коммунистический Китай вместо того, чтобы вернуться домой, — выбор, который потряс страну. Многие предполагали, что солдаты стали жертвами «промывания мозгов», термина, изобретенного несколькими годами ранее. Чтобы противостоять такого рода манипуляциям, эксперты заявили, что молодым людям в Соединенных Штатах нужно больше рассказывать об «американских» идеалах дома, в школе и в армии.

Но психолог Уильям МакГвайр, который провел большую часть своей карьеры в Йельском университете, имел другую идею. Он утверждал, что солдаты были уязвимы для бесконечной пропаганды, с которой они сталкивались, потому что это было их первое знакомство с этими идеями. Такие заключенные, утверждал МакГвайр , были похожи на человека, воспитанного в «асептической» среде, который, «хотя и выглядит очень здоровым, оказывается довольно уязвимым, когда внезапно подвергается воздействию огромной дозы инфекционного вируса». Средство казалось очевидным: заранее подвергать людей «ослабленным, стимулирующим защиту формам контраргументов».

МакГвайр проверил гипотезу, посмотрев, может ли прививка сохранить веру студентов в четыре культурных трюизма, включая то, что они должны чистить зубы после каждого приема пищи и что антибиотики принесли огромную пользу человечеству. МакГвайр обнаружил, что предъявление студентам контраргументов — например, что антибиотики привели к появлению смертельных резистентных штаммов — может резко снизить их веру в эти трюизмы. Но если студенты сначала читали эссе, в котором излагались контраргументы и опровергались они, их вера не подтачивалась так сильно.

Эта идея увлекла Ван дер Линдена, который впервые прочитал статьи МакГвайра, будучи студентом Йельского университета и работая над общественным восприятием изменения климата. Но МакГвайр считал, что прививка работает только в том случае, если убеждения людей никогда ранее не подвергались сомнению. Ван дер Линден считал, что это предположение ошибочно. «В реальном мире мы имеем дело с людьми на разных стадиях инфекции, и прививка может работать как профилактическое и терапевтическое средство», — написал он в своей книге. «Если у меня когда-либо и был момент «озарения», то это был он».

Ван дер Линден проверил теорию в онлайн-исследовании более 2000 участников, которые проверили их взгляды на изменение климата и попытались их изменить. В среднем респонденты подсчитали, что 70% ученых согласны с тем, что глобальное изменение климата, вызванное деятельностью человека, реально. Когда испытуемым сказали, что фактическое число составляет 97%, их оценки соответственно выросли. Но предъявление участникам дезинформационного тропа о том, что «более 31 000 американских ученых подписали петицию», противоречащую консенсусу, полностью стерло этот рост.

Однако если участников предупреждали именно об этом виде лжи до того, как они подвергались как консенсусному сообщению, так и дезинформации, чистый эффект увеличивался примерно до 84%. Упреждающее предупреждение о политически мотивированных попытках распространения дезинформации сработало, заключил Ван дер Линден. Эффект был заметен даже у тех, кто изначально был более скептически настроен по отношению к изменению климата.

Исследование, опубликованное в журнале Global Challenges в январе 2017 года — сразу после того, как Дональд Трамп был приведен к присяге в качестве президента США — привлекло к себе огромное внимание СМИ. «Мой телефон начал звонить без остановки», — пишет Ван дер Линден в Foolproof . «Новостные СМИ, правительственные чиновники, корпорации — все хотели, чтобы я объяснил основную идею психологической прививки».

С тех пор Ван дер Линден продолжил изучать и продвигать эту идею, с одной особенностью: вместо того, чтобы нацеливаться на одну конкретную ложь, он пытается заранее распространять дезинформацию в более общем плане. Например, вместе с Рузенбеком, бывшим членом его группы, который сейчас учится в Королевском колледже Лондона, он создал онлайн-игры, в которых игроки становятся пропагандистами и изучают методы, используемые для распространения лжи.

Первая игра, Bad News , которая вышла в 2018 году, показывает пользователям, как поддельный профиль, который выглядит официальным, может сделать дезинформацию более убедительной. («Я издал указ о переименовании Canada North в North Dakota», — пишет в игре некто Джо Биден.) В исследовании 2020 года, опубликованном в Journal of Cognition , Ван дер Линден и его коллеги показали, что игра в Bad News в течение 15 минут повышает способность людей замечать приемы дезинформации в 18 вымышленных сообщениях в Twitter. (Вместо этого контрольная группа играла в Tetris.) В игре под названием Harmony Square, разработанной совместно с Министерством внутренней безопасности США, игроки намеревались разрушить идиллическую гармонию в городе, используя пропаганду, чтобы натравить его жителей друг на друга из-за статуи ананаса.

Игры достигли миллионов людей и использовались в школах. Другие исследователи разработали похожие игры, такие как Cranky Uncle , разработанная психологом Мельбурнского университета и по совместительству карикатуристом Джоном Куком. Теперь «это может быть реализовано в общенациональном масштабе как часть учебной программы по медиаграмотности», — говорит Ван дер Линден. Но он готов двигаться дальше сам. «Мы чувствуем, что все измотаны», — говорит он. «Кроме того, не все хотят играть в игру, так что пришло время подумать о следующей виртуальной игле!»

По словам Ван дер Линдена, в 2021 году Jigsaw связался с ним с идеей создания еще одного вида инструмента для вакцинации: видеороликов. Результатом проекта стали пять коротких мультипликационных видеороликов , отсылающих к популярным фильмам, таким как «Звездные войны» и «Телеведущий» , которые объясняют некоторые приемы, используемые при дезинформации, такие как представление ложных дилемм или вызывание эмоций, таких как страх, гнев и презрение. Исследователи протестировали видеоролики в лабораторных исследованиях, а также в рекламной кампании на YouTube, которая охватила около 1 миллиона человек.

В статье 2022 года Ван дер Линдена и исследователей Jigsaw in Science Advances сообщается, что эти видеоролики помогли людям обнаружить методы дезинформации и лучше различать заслуживающий доверия и ненадежный контент. Совсем недавно Google создал набор из трех видеороликов на немецком языке о тактиках дезинформации и показал их пользователям YouTube, Facebook и Instagram в Германии. По словам Ван дер Линдена, видеоролики посмотрело более половины населения страны.

Однако психолог Корнеллского университета Гордон Пенникук считает, что этот тип общей вакцинации может принести больше вреда, чем пользы. Проблема, по его словам, в том, что не существует простого и легкого способа обнаружить дезинформацию, а такие методы, как эмоциональный язык, используются и в надежной информации. Поскольку большинство людей по-прежнему сталкиваются с гораздо большим количеством реальной информации в Интернете, чем с дезинформацией, даже небольшое увеличение их недоверия к правдивому контенту может перевесить положительные эффекты вакцинации.

"Это что-то вроде пластыря."

Гордон Пенникук, Корнелльский университет

Пенникук привел пример во время дебатов с Ван дер Линденом в Гарвардской школе имени Кеннеди в декабре 2023 года: первая страница The New York Times от 24 мая 2020 года . Она была полностью заполнена именами людей, умерших от COVID-19, под заголовком «Число смертей в США около 100 000, неисчислимая потеря». «Я думаю, некоторые люди, вероятно, плакали, увидев заголовок, и это правда», — сказал он аудитории. «Теперь, считаете ли вы это техникой манипуляции, действительно зависит от вашей точки зрения, верно? Если вы скептически относитесь к COVID, вы можете рассматривать это как манипуляцию».

Это обоснованное беспокойство, говорит Ван дер Линден, но он указывает, что по мере того, как люди узнают о нескольких различных маркерах дезинформации, точность их суждений повышается. Более того, если авторитетная газета публикует тревожный, эмоционально заряженный заголовок, люди будут правы, если посчитают его немного менее достоверным, говорит он.

Были и другие критические замечания по поводу идеи прививки. Сама метафора делает проблему медицинской, что не помогает при попытках поговорить с соседями, друзьями или семьей, говорит Даниэль Ли Томсон из Вашингтонского университета: «Я не могу смотреть на них как на переносчиков болезней, потому что тогда я не смогу с ними разговаривать».

Вместо этого Пенникук сосредоточился на другом типе вмешательства: так называемых подталкиваниях к точности, коротких сообщениях, которые заставляют людей задуматься об информации, которую они видят, например: «Точны ли новости, которыми вы делитесь?» Они основаны на предположении, что большинство людей хорошо понимают, что может быть недостоверным, но редко задумываются, прежде чем поделиться. «Если люди больше думают о точности, они более консервативны в распространении вещей, которые кажутся сомнительными», — говорит Пенникук.

У других исследователей есть свои альтернативы. Некоторые добавляют комментарии о достоверности источников к сообщениям в социальных сетях, как это делал Twitter некоторое время во время пандемии COVID-19. Другие дают советы по медиаграмотности общественности, чтобы помочь им определить достоверные источники. «У каждого есть своя любимая теория, и структура вознаграждения за публикацию статей основана на поиске доказательств вашей теории», — говорит Ван Бейвел. Это отражает «нашу незрелость как области», — говорит Томас Вуд, политолог, изучающий дезинформацию в Университете штата Огайо.

В 2023 году исследователи провели прямое сравнение. «У нас были разные лагеря, которые спорили о том, что, по их мнению, было лучшим и что было бы наиболее подходящим», — говорит Фацио, который руководил исследованием вместе с Дэвидом Рэндом из Массачусетского технологического института и Стефаном Левандовски из Бристольского университета. «Я думаю, это был своего рода необходимый следующий шаг… чтобы начать достигать некоторого консенсуса». Мегаисследование, как его называли внутри компании, в конечном итоге рандомизировало более 33 000 онлайн-участников для одного из девяти различных вмешательств или отсутствия вмешательства, а затем представило им ряд правдивых, ложных и вводящих в заблуждение заголовков. Участники должны были оценить точность заголовков и вероятность того, что они поделятся ими. (Исследование было частью более крупного проекта по дезинформации о здоровье, финансируемого Советом по исследованиям социальных наук, некоммерческой организацией США.)

Результаты, опубликованные пока только в виде препринта , показывают, что серебряной пули не существует. «Все они немного работают, но ни один из них не работает так хорошо», — резюмирует Вуд. «Я думал, что это на самом деле смешно», — говорит Пенникук. «У нас есть все эти дебаты о различных вмешательствах, а потом мы говорим: ну, ладно, они все одинаковые».

Что касается прививки, то «она лучше, чем примерно половина этой штуки» в плане предотвращения распространения дезинформации среди людей, говорит Фацио. Но когда дело доходит до помощи людям в различении правдивых и ложных заголовков, «она довольно похожа на другие вещи». Пенникук говорит, что она сработала лучше, чем он ожидал, но он по-прежнему скептически относится к тому, что вмешательство сработает так же хорошо в реальном мире.

Ван Бавел тоже не был особенно впечатлен ни одним из вмешательств по отдельности: «Но если вы сможете найти четыре или пять лучших и выяснить, как наложить их друг на друга каким-то реальным образом», — говорит он, «тогда вы, вероятно, сможете пробить брешь». Фактически, недавний препринт группы Пенникука показал, что видео-прививка, призванная помочь людям распознать эмоциональную манипуляцию, действительно помогла им обнаружить технику, но не сделала их лучше в различении настоящих новостей от фейковых. Однако сочетание таких видео с подсказкой точности улучшило способность людей отличать настоящие заголовки от фейковых.

Почти все подходы перекладывают бремя борьбы с дезинформацией с платформ социальных сетей, которые часто получают прибыль от ее распространения, на отдельного пользователя. Это проблема, которую исследователи остро осознают сейчас, когда владелец X Илон Маск рассылает постоянный поток протрамповской дезинформации в преддверии президентских выборов в США. «Вы не можете использовать психологические вмешательства для решения этой проблемы. Существуют структурные, систематические, глубинные проблемы, которые необходимо решать», — говорит Пенникук. «Это своего рода пластырь».

Ван дер Линден соглашается, и его сотрудничество с компаниями социальных сетей является актом баланса, признает он. «Когда вы работаете с такими компаниями, как Meta, часто спрашивают: «Можете ли вы решить эту проблему, не навредив вовлеченности на платформе?» — говорит он. «Вы работаете с ними в рамках их бизнес-модели, а их бизнес-модель отстой».

Тем не менее, утверждает он, исследователи могут нацеливаться как на распространителей, так и на получателей дезинформации. «Я психолог, я предвзят в отношении индивидуальных решений», — говорит Ван дер Линден. «Но я не питаю никаких иллюзий. Нам также понадобятся, знаете ли, жесткие, структурные решения».

Кай Купфершмидт.