Часть 1. Смертельный фейк.
Авторы: к.э.н. Мун Д.В., к.т.н. Попета В.В.
Полицией небольшого мексиканского городка Акатлан, с населением чуть больше шестнадцати тысяч человек, 29 августа 2018 года были задержаны два «чужих и очень подозрительных» человека. Согласно показаниям участвовавших в задержании полицейских, мужчины не совершали никакого преступления. Просто в один момент в участок посыпались звонки от разъяренных граждан, утверждавших, что они видели на улицах города членов гастролирующей по стране банды «похитителей детей».
Стражи порядка по требованию общественности доставили «гостей города» для дознания в полицейский участок. Однако жителям Акатлана этого оказалось недостаточно: стремительно собравшаяся толпа разъяренных «единомышленников» штурмом взяла охраняемое помещение, выволокла «похитителей» на улицу, избила и затем сожгла заживо их тела. Почти все участники «линчевания» снимала происходящее на мобильники, многие вели онлайн трансляцию в WhatsApp и Facebook. Мать Рикардо Флореса Мария, находясь на севере страны, получила от знакомых ссылку на в Фейсбуке, кликнув на которую, смогла наблюдать за публичной расправой над её сыном и братом в режиме реального времени.
Как впоследствии оказалось, казненными без суда и следствия «чужаками» оказались коренные мексиканцы, 21-летний Рикардо Флорес и его 43-летний дядя Альберто, приехавшие из соседней деревни навестить свою бабушку, всю жизнь прожившую в этом городе, и помочь ей по хозяйству. Погибшие мужчины ранее никогда не имели проблем с законом. Похороны Рикардо и Альберто Флоресов состоялись в городе на следующий день. На службу и отпевание собралась толпа тех же вчерашних зевак, цинично снимавших и транслировавших в том же режиме онлайн слезы и страдания безутешной Марии Флорес.
По данным властей штата, причиной трагедии в Акатлане стали передававшиеся пользователями мессенждера WhatsApp фейковые новости о якобы приехавшей в Мексику банде преступников, которые похищают детей на улицах городов и затем умерщвляют их для торговли внутренними органами. Был выявлен зачинщик беспорядков и четыре его основных пособника – подстрекателя – все местные жители — которые при помощи все тех же Вотсапа и Фейсбук смогли путем массированной рассылки фейка в кратчайшие сроки собрать, распалить и направить толпу. Им были предъявлены обвинения в подстрекательстве и убийстве.
Эпидемия фейка как социокультурный феномен
Недостоверные, или «фейковые» новости – это информация, которую её авторы и распространители используют с целью извлечения политической и финансовой выгоды, а также для увеличения читательской аудитории и цитируемости. Данный прием начал активно использоваться в политической борьбе ещё с конца XIX века, в эру становления старых медиа (старые медиа представляют собой централизованный и односторонний канал коммуникации. Информация в традиционной медийной среде поступает от создателя контента, зачастую остающегося анонимным, напрямую к потребителю. Роли в традиционной медийной среде как правило фиксированы, существует четкая вертикальная иерархия. Пользователи не имеют возможности напрямую влиять на создание контента. Источник: Barbara Becker, Josef Wehner. Electronic Networks and Civil Society. p. 81 — SUNY Press, 2001. — ISBN 978-0-79145-016-1.) – печатных, радио, и телевизионных СМИ, и имел название «газетная утка». Еще ранее, с незапамятных времен, вброс недостоверных сведений носил название «ложь» или дезинформация. Однако настоящее воздействие на мировые события фейк-ньюс стали производить только с восходом эпохи новых, «горизонтальных медиа», под которыми в первую очередь подразумеваются мессенджеры и социальные сети: средства коммуникаций, которые в состоянии не только моментально и адресно распространять контент, но и оперативно получать обратную связь.
Ведущие эксперты относят сегодня фейк-ньюс к числу основных угроз мирового развития. Правительства всех без исключения стран мира в спешном порядке ищут пути и способы законодательной борьбы с данным явлением. Об угрозе фейковых новостей сделал свое особое заявление даже Папа Римский Франциск, сравнивая их со змеем-искусителем из Библии, «змеиные тактики которого нам необходимо разоблачать».
В ряде стран, например в Малайзии, Испании, Китае, распространителям фейков грозят серьезные тюремные сроки. Жесткие законы собираются принимать в США, Индии и Евросоюзе. В России правительство и законодатели, особенно после «вброшенных» информационных провокаций об «истинных масштабах трагедии в «Зимней вишне» («400 фейков кемеровского пожара: Почему люди так легко поверили в большую ложь после трагедии в ТРЦ «Зимняя вишня» статья Ульяны Скойбеда в «Комсомольской правде» от 02.04.18 г.), также отреагировали на данный социокультурный феномен, оперативно приняв дополнения к законодательству, которые налагают штрафы за изготовление и распространение общественно опасных фейков. Цитируем: «Распространение в СМИ, а также в информационно-телекоммуникационных сетях заведомо недостоверной общественно значимой информации под видом достоверных сообщений, которая создает угрозу жизни и (или) здоровью граждан, массового нарушения общественного порядка и (или) общественной безопасности, прекращения функционирования объектов жизнеобеспечения, транспортной или социальной инфраструктуры, наступления иных тяжких последствий» нарушителям грозит административная ответственность в виде штрафов от 30 тысяч до полутора миллионов рублей. В свою очередь, интернет-ресурсы, уличенные в распространении фейков и не принявшие срочных мер по удалению недостоверной общественно-опасной информации, подлежат блокировке по запросу Роскомнадзора.
Однако на сегодняшний день, с учетом специфики функционирования данного социально-технологического явления, реально остановить или хотя бы сдержать общественную фейк-угрозу не представляется возможным.
Истоки и причины всемирного фейк-успеха.
Почему в настоящее время невозможно остановить производство и распространение фейк-новостей? На это существует как минимум три причины.
Первая причина – глобальное и неконтролируемое распространение информационных технологий среди населения планеты. По состоянию на 2019 год аудитория интернета насчитывает 4,39 миллиарда человек, что на 366 миллионов (9%) больше, чем в январе 2018 года. В социальных сетях зарегистрировано 3,48 миллиарда пользователей. По сравнению с данными на начало прошлого года этот показатель вырос на 288 миллионов (9%). Фактически, весь прошлый год аудитория «всемирной сети» росла со скоростью один миллион новых пользователей в день.
На нынешнем этапе технологического развития цивилизации, создание, владение, контроль и распространение информации перестали быть прерогативой социально-правительственных элит и подконтрольных им централизованных/вертикальных СМИ. Информационные технологии подарили человеку никогда прежде не имевшуюся возможность не только «читать, видеть и слышать», но и быть «прочитанным, увиденным и услышанным». Практически каждый человек, имеющий смартфон, интернет, и аккаунт с соцсетях, и знающий, как ими пользоваться, стал способен не только потреблять, но также генерировать, изменять, создавать, и распространять информацию в неограниченном объеме. И рядовые пользователи сети не замедлили воспользоваться предоставленной им возможностью. Информационно-цифровую вселенную захлестнул неудержимый вал видео, фото, селфи, постов, блогов, репостов и других проявлений информационной деятельности от индивидуальных пользователей сети.
Cisco отметило 26-кратный рост мобильного трафика только за период 2010-2015 года. Уже сегодня в Интернете хранится 81 триллион изображений и 7 триллионов видеоклипов; в добавок к ним ежедневно в интернет загружается 28 изображений и 2,5 клипа на каждого жителя Земли. Согласно прогнозам, к 2020 году мобильное видео как самый простейший индивидуальный способ создания и потребления информации выйдет на первое место среди всех других ресурсов всемирной сети.
Компания DELL EMC в своих исследованиях прогнозирует, что в 2020 году «цифровая вселенная» вырастет до 40 зеттабайт (10*21), то есть в 50 раз с уровня того же 2010 года. Если представить, что на всех пляжах планеты около 700 500 000 000 000 000 000 песчинок, то объем информации в 40 зеттабайт в 57 раз больше всего песка мира. А уже к 2025 году объем информации, создаваемой в интернете составит 175 зеттабайт.
На фоне данных прогнозов и статистики роста информационно-цифровой вселенной попытки, инвестиции и усилия многих стран мира взять под контроль, а ещё лучше управлять данным процессом, вкладывая значительные средства в формирование программ и технологий «реальной защиты» от фейков, кажутся наивными.
Например, агентство Bloomberg недавно сообщило, что Министерство обороны США заказало программное обеспечение, которое должно выявлять фейковые новости в сообщениях сетевых изданиях, социальных сетях, аудио- и видеороликах, размещаемых в Интернете. Согласно заявленной стратегии,при помощи нового софта специалисты Пентагона будут отслеживать пропагандистские сообщения в новостях и социальных сетях: специальная программа сможет просматривать до полумиллиона новостных сообщений и постов в социальных сетях на предмет возможного манипулирования общественным мнением и пропаганды, а операторы смогут оперативно реагировать на фейковые вбросы. Предполагается, что программа должна заработать уже в текущем году и предотвратить возможное вмешательство извне в президентские выборы в США, которые должны пройти в 2020 году. Однако мониторинг Пентагоном даже полмиллиона ключевых блогов в целом не позволяет влиять на глобальное информационное пространство.
В силу масштабности проблемы, любые попытки государственных и международных структур взять под мониторинг и контроль распространение информационных потоков пока обречены на неудачу.
Вторая причина — сложность установления первичного информационного вброса деструктивного «фейка» в случае использования для передачи информации зашифрованных «мессенджеров». Если вбросы и распространение опасных фейков еще можно пытаться худо-бедно отследить через социальные сети (хотя Фейсбук попытался бороться собственными силами с распространением фейк-ньюс и потерпел сокрушительное поражение, о чем будет подробно указано далее), то в случае с чатами типа WhatsApp, где используются алгоритмы двойного шифрования и у операторов системы нет доступа к переписке пользователей, у властей также отсутствует техническая возможность мониторить все сообщения.
Возьмем в качестве примера Индию, больше других стран пострадавшую от фейков про банды пресловутых похитителей детей. В основе информационного вброса, который стремительно передавали друг другу в естественном желании поделиться важной новостью пользователи WhatsApp, лежит «вирусный» ролик, на котором двое мотоциклистов с лицами, закрытыми шлемами, похищают на улице оставленного без присмотра взрослых ребенка. Данное видео, несмотря на низкое качество изображения, стремительно распространилось среди пользователей сразу нескольких индийских штатов и стало основанием для преследования местными жителями любых приезжих, ставших заведомо подозрительными, людей.
Первые инциденты с уличными расправами над незнакомцами начались в 2017 году. Когда же количество жертв стихийных расправ превысило тридцать человек, 4 июля 2018 года правительство Индии обратилось к владеющей WhatsApp компании Facebook, требуя выдать ключи шифрования для выявления зачинщиков и предпринять «немедленные меры» против злоупотреблений платформой. Ведь, несмотря на многочисленные разъяснения местного министерства коммуникаций и информационных технологий о «фейковых вбросах», транслировавшихся ежедневно через официальные СМИ, пользователи продолжали пересылать друг другу «секретную, скрываемую властями» информацию о наводнивших страну и орудующих в разных штатах бандах педофилов-расчленителей-похитителей детей.
WhatsApp отказался представлять «ключи» шифрования индийским властям, но все же, разделяя озабоченность тем, как чудовищно бесплатное приложение используется для манипуляции массами, предпринял ряд действий, направленных в первую очередь на ограничение возможностей рассылки сообщений: не более пяти адресатов в Индии и максимум двадцать адресатов по всему миру. Кроме того, в алгоритм была добавлена метка «Переадресовано» (Forwarded) для тех случаев, если сообщение было просто скопировано и переправлено далее.
Пандемия смертельного фейка: исходный код.
Гибель Рикардо и Альберто Флоресов в мексиканском городке – далеко не единичный случай. Слухи, сплетни и фейки про гастролирующие банды «похитителей детей», передаваемые посредством мессенджеров и соцсетей, мгновенно распространились в разных странах, на разных континентах и стали причиной смертельных расправ в Индии, Мьянме, Шри-Ланке, Эквадоре, Мексике, Колумбии. И это перечислены только широко известные случаи, ставшие достоянием СМИ. Реальное количество погибших и пострадавших от «смертельного фейка» неизвестно.
Объединившись, правоохранительные органы нескольких государств все же смогли «найти иголку в стоге сена»: первоисточник видеоролика о двух мотоциклистах, похищающих оставленного без присмотра ребенка (Маркос Мартинес BBC Monitoring 18 ноября 2018).
Действительно, просмотр данного короткого видео никого не может оставить равнодушным. Особенно если этой новостью делится хорошо знакомый вам лично человек, да ещё снабжает «от себя» каким-нибудь совсем уж сенсационным комментарием. И здесь находится поле для широких личных вариаций: от «просто похитителей» детей для продажи в рабство до банд убийц-педофилов, расчленяющих малышей ради торговли их органами… Также, нагнетая истерию вокруг «смертельного фейка», люди добавляли в комментариях как вымышленные «особые приметы», так и количество преступников.
По сути, WhatsApp стал для людей вместо средства оперативного и конфиденциального общения, каким он изначально задумывался, адской смесью из «испорченного телефона» и «сарафанного радио», с соответствующими тяжёлыми последствиями. Где и как могли многочисленные преследователи и линчеватели под черными шлемами водителя и пассажира мотоцикла с пресловутого ролика разглядеть конкретные приметы похитителей — совершенно непонятно. У страха, как говорится, глаза велики. Поэтому не стоит удивляться тому, что любые незнакомые люди, появлявшиеся в населенных пунктах и городах, становились объектами пристального и отнюдь недружелюбного внимания со стороны местных.
Однако реальная правда как об истинном первичном назначении, так и об источнике происхождения смертельного-фейк-видео, поразила всех. Оказывается, данное видео было снято с благой целью — в качестве социальной рекламы общественной волонтерской организации из Пакистана, борющейся против киднеппинга. Исходная цель ролика — напомнить нерадивым родителям, что за детьми в больших городах нужен постоянный присмотр.
И концовка клипа выглядела следующим образом: те же двое похитителей, что ранее «украли» ребенка, буквально через несколько секунд возвращаются назад, ставят малыша на исходное место, и один из «похитителей» разворачивает специально под камеру плакат с надписью «нужно всего лишь мгновение, чтобы похитить ребенка с улиц Карачи (англ. Karachi — крупный портовый город на юге Пакистана)».
И здесь возникают главные вопросы: кому и зачем было нужно укоротить данный ролик до такой степени, чтобы подтолкнуть людей к насилию? Кто и зачем распространял этот ролик среди своих друзей, родных и знакомых? Почему реальных зачинщиков, осуществивших искажение информационно-новостного пространства, пока невозможно призвать к ответу?
Самоактуализация через фейк – или истинная правда о том, кому на самом деле нужны фейк-ньюс.
Третья, и пожалуй, самая главная причина, по которой нельзя остановить производство и распространение фейк-новостей – это их социальная значимость для производителей, потребителей и распространителей. Истинная правда о том, кому на самом деле нужны псевдо-сенсационные новости, очевидна. Фейк-ньюс нужны практически всем нам. И поэтому ничто — ни штрафы, ни преследования — не в состоянии остановить человека, который решил самоактуализироваться, поднять свою значимость в глазах общественности, продемонстрировать собственную элитарность, выражающуюся в доступе с секретному, сокровенному, скрываемому, и естественно, претендующему на альтернативную истинность знанию.
Любознательность – генетически заложенный во всех нас механизм выживания как вида. Новое знание – в его нормальном проявлении – вещь чрезвычайно полезная, по сути, двигающая вперед прогресс. Неслучайно во главу угла всех диссертаций ставится в первую очередь научная новизна. Поделиться с собеседником информацией, претендующий в данный момент на сенсацию – не важно, что потом оба будет опровергнута и предана забвению – это значит преподнести партнеру по коммуникации свою важность, и соответственно, поднять свой социальный статус. И неважно, что он сиюминутный и виртуальный – для большинства представителей поколения, родившегося со смартфоном и планшетом в руках – разница между миром реальным и виртуальным напрочь отсутствует. Напротив, для «digital natives» виртуальный мир более понятен, они в нем лучше ориентируются, легче преуспевают, следовательно, мир лайков, хайпа и фрагов для них более важен, чем та среда, в которой и по законам которой существует их «физическая оболочка».
Вот пример классического фейка: сопроводить вирусное видео про двух похитителей на мотоцикле сенсационным комментарием: «В страну приехали двести похитителей детей, они уже рыщут в поисках жертв в окрестностях Бангалора», что означает: собратья – будьте предельно внимательны и осторожны – вот в чем суть призыва. Это как эволюционное предупреждение – не ходите охотиться за эту скалу – там орудует стая голодных волков и т.д.
И даже если последовало официальное опровержение, авторитет распространителя не сильно упадёт: ведь если ничего плохого не случилось, это хорошо. А если, не дай бог, все же случилось где-то что-то подобное – авторитет распространителя резко возрастает: к любому его следующему вбросу начинают относиться как к вещанию пророка. Его могут привлечь в качестве эксперта вертикальные СМИ, он может заработать денег и обрасти известность, выступив на ток-шоу и т.д. Таким образом, распространитель заведомых фейков практически ничего не проигрывает, но может и сорвать солидный «куш». Каждый пользователь, вставший на этот путь, понимает, что с фейк-ньюс, как в рулетке, чтобы повезло, нужно чаще ставить на кон. То есть искать, создавать, распространять как можно больше псевдосенсаций.
Как пишет в своей книге «Максимальный репост» Бронислав Козловский (Борислав Козловский. «Максимальный репост: как соцсети заставляют нас верить фейковым новостям», М, Альпина Паблишер, 2018), «чтение, а главное – репосты новостей — это не столько способ добыть информацию, сколько возможность показать себя другим людям. То есть социальный ритуал, который можно сравнить с посещением воскресной службы в церкви. Или с покупками в дорогом магазине. Нажимая на кнопку «поделиться», вы сообщаете, что такое-то событие важно для вашей картины мира… А если вам важен отклик, то ценность фальшивых и настоящих новостей неодинаковая — и ложные выгоднее истинных…неправдоподобные новости обещают больше нового знания — то есть являются «новостью» в превосходной степени. И привлекают к себе больше внимания».
Согласно исследованиям специалистов Массачусетского технологического института, изучившим более 126 000 фейковых новостей, которые были опубликованы в Twitter за все время его существования с 2006 по 2017 год, (опубликовано в журнале Science в 2018 году (The spread of true and false news online «Soroush Vosoughi1, Deb Roy1, Sinan Aral2,*Science 09 Mar 2018)), заведомо очевидные фейк-новости распространяются в среднем в шесть раз быстрее «реальной» информации из достоверных источников, кроме того, для фейковой новости вероятность перепоста на 70% выше. При этом максимальной скоростью распространения обладают фейки на темы, связанные с политическими деятелями, «медийными» персонами, катастрофами и стихийными бедствиями.
Глубина каскадов – важнейший параметр, непосредственно характеризующий, как далеко может распространиться новость по цепочкам репостов. И здесь «правда» также оказалась в проигрыше: «фейки» в десять раз быстрее достигали показателя в 19 перепостов, в то время как «правда» ни разу не смогла преодолеть рубеж в 10 переадресаций.
Как утверждают американские когнитивные психологи Крис Белл, Чип Хит и Эмили Стенберг, гипотезу которых поддерживают российские социальные антропологи Александра Архипова и Анна Кирзюк, слухи и фейковые новости (мемы) распространяются в информационной среде намного успешнее объективной правды именно за счет того, что люди попросту «хотят делиться друг с другом отвратительными эмоциями, которые вызывают городские легенды и слухи», и это желание также является следствием эволюционных механизмов, запрограммировавших нас предупреждать соплеменников об опасности.
Также исследователи определили, что именно люди, а не роботы (боты), определяют скорость и направления распространение фейковых новостей в информационной среде. При этом следует особо отметить, что активнее всего «ретвитят» фейки не «авторитетные» блогеры и «звёзды инстаграма», имеющие миллионы подписчиков, а непопулярные пользователи мессенджеров и соцсетей, испытывающие острую потребность в повышении своего социально-виртуального статуса.
Следовательно, если вернуться к истории с видеомемом про похитителей детей, в исходном действии есть один (или их несколько) безусловный провокатор и виновник пандемии уличных расправ: тот пользователь всемирной сети, который произвел намеренное искажение первичного пропагандистского ролика борющейся против киднеппинга пакистанской общественной организации, обрезав концовку «хеппи-энда» с возвращением ребенка и демонстрацией плаката; человек, превративший исходное благое дело в пандемию насилия с многочисленными жертвами и пострадавшими по всей планете. Человек, в силу сложности современной организации информационной среды, пока еще не найденный. Все остальное сделали не усилия отдельных злоумышленников, а армия виртуальных аутсайдеров — рядовых пользователей сети, желающих «приподнять» свой авторитет на распространении «смертельных фейков».
«Онлайн-платформы как средства мгновенной передачи информации дают канал для выплеска лучшего и худшего, что есть в нас, включая наших страхи и предрассудки…это становится все более очевидным, когда нет эффективной власти, которая может обеспечить нашу безопасность», — утверждает директор Школы коммуникации Ибероамериканского университета (исп. Universidad Iberoamericana Ciudad de México) Мануэль Гуэрреро, комментируя инциденты с расправами над незнакомцами, прокатившиеся по странам Латинской Америки.
Если сравнивать между «лучшим» и «худшим», что есть в нас, по статистике Facebook, худшее пока с большим отрывом побеждает. И подтверждает этот печальный факт неудавшаяся попытка бороться с распространением фейк-ньюс в крупнейшей в мире социальной сети её отца-основателя Марка Цукерберга. Долгое время администрация Facebook пыталась уйти от ответственности за контент, утверждая, что является «всего лишь технологической компанией», однако, после ряда официальных обвинений со стороны правоохранительных органов США во вмешательстве в президентские выборы, Цукерберг и его команда вытащили наконец «голову из песка» и публично пообещали с 2017 года проверять подлинность выкладываемых на страницах пользователей новостей и пресекать её стихийное распространение.
При этом разработчики Facebook решили не заниматься наймом платных экспертов, а опираться на ресурсы добровольцев-волонтеров, найденных в этой же сети, которые были готовы на безвозмездной основе определять фактическую достоверность новостей и сообщать админам, что те или иные посты содержат недостоверную информацию. Такие посты не удалялись, а помечались специальной отметкой «спорные» (англ.disputed). Как было написано на двери клуба «четырёх коней» из бессмертного произведения И.Ильфа и Е.Петрова, «спасение утопающих – дело в первую очередь рук самих утопающих».
И вот чем это «благое начинание» закончилось. В марте 2017 года соцсеть начала помечать отдельные новостные истории на английском, квалифицированные волонтёрами как «фейк», специальной предупреждающей плашкой — красный восклицательный знак в треугольнике и рядом метка disputed. И с момента, как только сообщение помечалось как disputed, количество его просмотров и репостов мгновенно и многократно возрастало. Любые другие попытки на административном уровне бороться с фейками в сети порождали обратный эффект у её пользователей. Спустя девять месяцев с начала всемирно объявленного «крестового похода» против «фейк-ньюс», Цукерберг и Ко махнули на все это рукой, и расписавшись в собственном бессилии, прекратили эту неравную борьбу.