Читать онлайн Это не пропаганда. Хроники мировой войны с реальностью бесплатно

Это не пропаганда. Хроники мировой войны с реальностью

Предисловие к русскому изданию:

Россия не одинока

Первые десять лет XXI века я провел в России, где стал свидетелем беспрецедентного, как казалось, развития культуры пропаганды: ностальгия вытесняла любую мысль о будущем; четкие представления о «правых» и «левых» уступили место бесконечным попыткам имитировать мнение «большинства»; вместо того чтобы убеждать, власти решили сбивать с толку; политики наслаждались своими абсурдными речами; идеологию заменила конспирология. В названии своей первой книги я попытался передать это ощущение, проведя параллель с цитатой из «Истоков тоталитаризма» Ханны Арендт: «Правды нет, возможно все».

В этой книге я путешествую по «пропагандиям»: от Латинской Америки до так называемого Запада, от Азии до Ближнего Востока, возвращаясь домой в Англию, переживающую собственный кризис самоопределения. И тем не менее я будто не покидаю Россию. В трущобах Манилы, гетто Мехико и руинах Алеппо – везде происходит одно и то же. Именно это я хотел отразить в названии книги, отсылая читателя к картине Рене Магритта, где под изображением трубки написано «это не трубка», – диагноз времени, в котором связь между словами и смыслами оборвалась. Вот и сейчас такие важные слова, как «демократия», «Европа» и «свобода», лишились своей сути.

Эта книга – попытка понять причины и найти решение этой проблемы.

Когда все коллективные представления о прогрессе исказились и сломались, я отправился в кругосветное путешествие, чтобы затем сложить кусочки пазла из разных стран и понять, как они связаны между собой. Когда-то, еще в России, я учился в киношколе, и меня всегда занимала входившая в наш курс теория монтажа: что за новый мир мы сможем создать из неожиданного сочетания кадров? Поэтому в этой книге вы увидите Мексику рядом с Сербией, Россию бок о бок с Филиппинами, Рим и Сирию, Китай и Черновцы. Это попытка уловить образ нового интернационализма на обломках старого.

Но, помотавшись по миру, я выяснил: чтобы понять текущее положение дел, необходимо вернуться в прошлое. Несмотря на отравляющую все ностальгию, с которой мне довелось столкнуться, я понял, что именно утрата связи с историей привела к потере смыслов. Вот почему эта книга предлагает еще и путешествие во времени: я обращаюсь к истории моей семьи не из сентиментальных побуждений, но потому что она показывает, где пролегает разлом между нами и прошлым, и пытается найти способ извлечь из него урок.

Вместе с тем эта книга пытается найти общий язык с читателем. Больше всего меня беспокоит вопрос: как писать нон-фикшн в эпоху, когда у каждого могут быть свои «альтернативные факты», когда философы на пару с пропагандистами утверждают, что «объективность» – лишь навязанный нам миф, когда ничему нельзя доверять, и тем более – себе. Как можно писать о реальности, если реальности и след простыл? Я подумал, может ли реальность проявить себя на стыке жанров социологии и поэзии, репортажа и литературной критики? Получится ли у меня вместо претензии на всезнание и объективность вскрыть свои предубеждения, объяснить свои взгляды и то, как писалась эта книга, не потому что я отказываюсь от поисков реальности, но ради диалога с вами?

Лондон, 12 февраля

Вступление:

«Телеграмма!»

Не успел он выйти из моря, как его тут же арестовали: два человека в костюмах стояли над его одеждой и ждали. Они приказали ему быстро одеться, натянуть брюки прямо поверх мокрых плавок. По дороге в плавках стало тесно и холодно, влажное пятно расползалось по брюкам и сиденью автомобиля. Ему пришлось сидеть в них и во время допроса. Он пытался держаться с достоинством, но из-за мокрых плавок постоянно ерзал. Вдруг он понял, что это было сделано намеренно. Кагэбэшники среднего звена хорошо владели подобными методами. Они были настоящими мастерами мелких унижений и манипуляций.

Сначала он удивился, почему его арестовали здесь, в Одессе, а не по месту жительства – в Киеве? Но затем до него дошло: стоял август, и службисты просто хотели провести несколько дней на море. В перерыве между допросами они вели его на пляж, где сами купались по очереди: один сидел с ним, другой шел в воду. Во время одной такой вылазки какой-то местный художник достал мольберт и начал их рисовать. Полковник и майор занервничали – сотрудников КГБ нельзя было фиксировать при исполнении. «Иди посмотри, что он там малюет», – приказали они своему пленнику. Он пошел. Настал его черед немного поиздеваться: «Я получился не очень, зато вы – прямо как в жизни».

Его задержали за «распространение вредной литературы среди друзей и знакомых», а именно книг, запрещенных за раскрытие правды о советском ГУЛАГе (Солженицын), или тех, чьи авторы жили в эмиграции (Набоков). Его история попала в «Хронику текущих событий». «Хроника» представляла собой подпольное издание, в котором советские диссиденты собирали факты об арестах по политическим причинам, допросах, обысках, судах, избиениях и унижениях в тюрьмах. Информация передавалась из уст в уста или поступала из лагерей на листочках с текстом, помещенных в крошечные самодельные полиэтиленовые капсулы, которые проглатывались людьми, а затем выходили наружу естественным путем. Тексты перепечатывали на пишущих машинках, листы фотографировали, и они начинали свой путь от человека к человеку. Их прятали между страницами книг и в дипломатической почте, а попав на Запад, они передавались в Amnesty International или зачитывались по радио – в передачах Всемирной службы BBC, «Голоса Америки» или «Радио Свободная Европа». Эти сообщения отличал характерный краткий стиль:

«Его допрашивали полковник КГБ В. П. МЕНЬШИКОВ и майор КГБ В. Н. МЕЛЬГУНОВ… Он отверг все обвинения как необоснованные и недоказанные. О знакомых и друзьях он говорить отказался. В течение шести дней он со своими „собеседниками“ ночевал в гостинице „Новая Московская“».

Когда один из следователей уходил, второй доставал книгу с шахматными этюдами и принимался их решать, грызя кончик карандаша. Поначалу пленник думал, что это некий хитроумный прием, а затем понял, что следователь просто ленится и убивает время на работе.

Через шесть дней ему разрешили вернуться в Киев, однако следствие продолжалось. Время от времени, когда он шел домой с работы, из библиотеки, рядом с ним тормозила черная машина, и его снова везли на допрос.

Тем не менее жизнь продолжалась. Его невеста забеременела, и они поженились. В глубине зала, где проходила брачная церемония, дежурил фотограф из КГБ.

Он переехал к жене, ее семья жила в квартире напротив Голосеевского парка, в которой его тесть выстроил целую стену из клеток с канарейками, вольер постоянно мельтешащих на фоне парка пернатых. Всякий раз, когда в дверь звонили, он подскакивал, думая, что это из КГБ, и принимался сжигать все, что могло его скомпрометировать: письма, самиздат, списки арестованных. Канарейки бешено били крыльями в панике. Каждое утро он вставал с рассветом, тихонько включал радиоприемник «Спидола», переключался на короткие волны и начинал размахивать антенной, чтобы прорваться сквозь глушилки. Он залезал на столы и стулья в поисках сигнала, выкручивая звуковой слалом между гэдээровской поп-музыкой и концертами советских военных оркестров. Прижав ухо к динамику, он слышал сквозь шипение и треск волшебные слова: «Говорит Лондон», «Говорит Вашингтон»… И ждал новостей об арестах. В эссе «Радио будущего», написанном поэтом-футуристом Велимиром Хлебниковым в 1921 году, он прочел:

Радио скует непрерывные звенья мировой души и сольет человечество.

Круг его друзей оказался в ловушке. Он писал об этом так: «Гришу вывезли в лес под Киевом и избили. А Ольгу исключительно блядью называли, и чтоб удостоверилась, в вендиспансер к проституткам запихнули. Вот только с Гелием осечка вышла. В изоляторе не лечили, не лечили, не лечили, не лечили, пока не умер».

Все готовились к худшему. Теща научила его тайному «сосисочному коду»: «Если я принесу тебе сосиски, порезанные справа налево, это значит, что нам удалось передать новость о твоем аресте на Запад и об этом сказали по радио. Если я порежу их слева направо, значит, у нас ничего не вышло».

Позже он писал, что это было похоже на бородатый анекдот или сцену из плохого кино, – но тем не менее именно так все и происходило.

Они позвонили в шесть утра.

– Телеграмма!

В полусне,

чтобы после вернуться в сон,

ты бормочешь: «Минуточку»,

натягиваешь, что попадет под руку,

нашариваешь в кармане мелочь

и отворяешь дверь.

Они вваливаются.

Самое обидное, что ты им поверил («Телеграмма!»)

и все еще сжимаешь в горячей ладони

враз вспотевшую мелочь

и от обиды чуть не плачешь.

В 8 часов утра 30 сентября 1977 года, аккурат между вызовами на допросы, у них родился ребенок.

Бабушка хотела, чтобы меня назвали Пинхас, в честь ее деда. Родители хотели, чтобы меня звали Федор. В конце концов меня назвали Петром, это было первым именем из всех обсуждавшихся вариантов.

Прошло 40 лет c тех пор, как КГБ преследовал моих родителей всего лишь за желание воспользоваться элементарным правом читать, писать, слушать и говорить то, что они хотят. Сегодня мир, в котором, как они надеялись, цензура падет, словно Берлинская стена, кажется намного ближе: мы живем во времена, которые ученые называют эпохой «информационного изобилия». Но предпосылки, лежавшие в основе борьбы за права и свободы в XX веке – борьбы между гражданами, вооруженными правдой и информацией, и режимами с их цензурой и тайной полицией, – оказались перевернутыми с ног на голову. Сейчас в нашем распоряжении больше информации, чем когда-либо, но она принесла обществу не только ожидаемое благо.

Предполагалось, что чем больше будет информации, тем легче станет противостоять власть имущим – но и они получили новые способы борьбы с инакомыслием. Предполагалось, что чем больше будет информации, тем осмысленнее станут споры – но сейчас похоже, что мы меньше чем когда-либо способны к дискуссии. Предполагалось, что обилие информации будет способствовать взаимопониманию между народами, – но благодаря ей возникли новые и более изощренные формы конфликтов и диверсий. Мы живем в мире взбесившихся систем массового убеждения, в котором плодятся и множатся средства манипуляции, в мире скрытой рекламы, психологических операций, хакеров, ботов, субъективных фактов, дипфейков [1], фейковых новостей, ИГИЛ [2], Путина, троллей, Трампа…

Через 40 лет после задержания и допросов моего отца я замечаю, что в каком-то смысле следую по пути своих родителей, хотя, конечно, я далеко не так смел, уверен в собственной правоте, да и рискую куда меньшим. На момент написания этих строк – а учитывая нестабильность экономической ситуации, все может быть иначе, когда вы будете их читать, – я работаю в одном из подразделений Лондонского университета, где руковожу программой по исследованию новейших технологий влияния. В просторечии их часто называют «пропагандой», но это понятие настолько избито и исковеркано множеством интерпретаций (кто-то считает ее обычным обманом, а кто-то – просто деятельностью по распространению определенных взглядов), что я стараюсь его избегать.

Должен добавить, что я – не ученый, и это – не научная работа. Я – бывший телепродюсер. Я продолжаю писать статьи и иногда веду радиопередачи, но часто ловлю себя на том, что с подозрением смотрю на некогда родной медийный мир, периодически ужасаясь тому, что мы натворили. В ходе своего исследования я встречаюсь с твиттер-революционерами и pop-up популистами [3], троллями и эльфами, провидцами «поведенческих изменений» и шарлатанами информационных войн, поклонниками джихада, идентитаристами [4], мета-политиками, блюстителями истины и хозяевами бот-ферм. Затем я несу свои находки в шестиугольную бетонную башню, где обрел временное пристанище мой офис. Там они облекаются в форму рассудительных Заключений и Рекомендаций для аккуратных отчетов и презентаций, которые диагностируют и предлагают лекарства от потока дезинформации, «фейковых новостей», «информационных войн» и «войн с информацией».

Но что именно лечить? Аккуратные пункты моих отчетов намекают, что в мире существует некая система, которую можно улучшить, что несколько технических рекомендаций в отношении новых информационных технологий смогут решить все вопросы. Однако корни проблемы лежат намного глубже. Когда в ходе повседневной работы я знакомлю со своими выводами представителей слабеющего либерально-демократического порядка (во многом сформировавшегося в результате конфликтов холодной войны), меня поражает, насколько потерянными они выглядят. Политики больше не понимают, что именно представляют их партии; бюрократы больше на знают, где сосредоточена власть; финансируемые миллиардерами фонды выступают за «открытое общество», но не могут дать ему точное определение. Громкие слова, которые когда-то казались наполненными смыслом, слова, ради которых предыдущие поколения были готовы жертвовать собой, – «демократия» и «свобода», «Европа» и «Запад» – оказались отброшены современной реальностью как шелуха, тепло и свет покинули их, словно компьютерные файлы, к которым мы забыли пароль и чье содержимое больше нам не доступно.

Даже язык, которым мы описываем самих себя, – «левые» и «правые», «либералы» и «консерваторы» – практически лишился смысла. Это влияет не только на исход конфликтов или результаты выборов. Люди, которых я знал всю жизнь, отдаляются от меня в социальных сетях, когда репостят конспирологические истории из неизвестных мне источников. Подводные течения интернета разрушают целые семьи, как будто мы никогда не знали друг друга по-настоящему, как будто алгоритмы знают о нас больше нас самих. Кажется, будто мы становимся какими-то подмножествами собственных данных и эти данные перестраивают наши отношения и личности, руководствуясь собственной логикой – или даже в интересах других людей, которых мы не знаем и не видим.

Величественные носители старых медиа – лампы радиол и телевизоров, корешки бумажных книг и прессы печатных станков, из-под которых выходили газеты, содержавшие и контролировавшие определения и смыслы, то, кто мы есть и как мы общаемся друг с другом, как объясняем мир своим детям, как воспринимаем прошлое, как отличаем новости от мнений, сатиру от серьезности, верное от ложного, истину от фальши, реальность от вымысла, – все они пошли трещинами и развалились. А с ними – и прежние порядки: как соотносятся вещи между собой, как общаются между собой люди. Пропорции нашего мира расширились, вытянулись, исказились – мы оказались внутри головокружительной спирали, в которой слова теряют единый смысл. В Одессе, Маниле, Мехико, Нью-Джерси я слышу одно и то же: «Вокруг меня так много информации, дезинформации, всего на свете, что я уже не знаю, где правда». Часто звучат фразы вроде: «Я чувствую, будто мир плывет у меня под ногами». Порой я и сам ловлю себя на мысли, что всё, что казалось мне незыблемым, вдруг стало нестабильным, текучим.

Эта книга посвящена исследованию места крушения и поиску искр смысла, которые еще могут там теплиться. Мы поговорим и о мрачных уголках интернета, где тролли пытают своих жертв, станем свидетелями битв за истории, формирующие наше общество, и в конце концов попытаемся понять, как же мы определяем самих себя.

В первой части мы переместимся на Филиппины и берег Финского залива, где узнаем, как ломают людей с помощью новых информационных инструментов – куда изощреннее, чем это делалось КГБ в прежние времена.

Во второй части мы посетим Западные Балканы, Латинскую Америку и страны Европейского союза и узнаем, как можно ломать целые движения сопротивления и их мифологию.

В третьей части мы узнаем, как одна страна может уничтожить другую, практически не вступая с ней в контакт, размывая границы между войной и миром, «внутренним» и «международным» – и где самым опасным элементом может оказаться сама идея «информационной войны».

Четвертая часть посвящена изучению того, как спрос на политику, основанную на фактах, связан с определенной идеей прогресса и будущего и как ее коллапс открыл дорогу насилию и массовым убийствам.

В пятой части я буду доказывать, что политика сегодня превращается в борьбу за контроль над созданием идентичности. Все, от религиозных экстремистов до pop-up популистов, хотят создать новые версии «народа» – даже в Британии, стране, где самоопределение людей всегда казалось незыблемым.

В шестой части мы отправимся на поиски будущего – в Китай и Черновцы.

По ходу этой книги я путешествую – и не только в пространстве. Физические и политические карты, обозначающие континенты, страны и океаны, карты, с которыми я вырос, возможно, уступают в значении новым картам информационных потоков. Эти «сетевые карты» создаются учеными – исследователями больших данных. Процесс их создания называется «surfacing». Берется какое-то ключевое слово, сообщение или история и запускается в постоянно расширяющийся всемирный массив информации. После этого ученый начинает отслеживать, как пользователи, медийные источники, аккаунты в социальных сетях, боты, тролли и киборги [5] продвигают эти ключевые слова, истории и сообщения или взаимодействуют с ними.

Эти сетевые карты, напоминающие колонии плесени или фотографии далеких галактик, показывают, насколько устарели наши прежние географические представления. В них открываются неожиданные связи, посредствам которых любой человек из любой точки мира может повлиять на всех остальных. Российские хакеры выпускают в сеть рекламу проституток в Дубае вперемешку с анимешными мемами в поддержку ультраправых партий в Германии. «Укоренившийся космополит», сидя у себя дома в Шотландии, уводит активистов от полиции во время беспорядков в Стамбуле. За ссылками на айфоны скрывается пиар ИГИЛ…

Россия с ее эскадронами работников соцсетей то и дело встречается на этих картах. Не потому, что она все еще сильна и способна сворачивать горы, как это было во времена холодной войны, а потому, что кремлевские правители особенно преуспели в этом игровом аспекте новой эпохи или как минимум умеют убеждать в своем мастерстве остальных (что может быть еще важнее). Ниже я объясню, что это не случайно: именно вследствие поражения в холодной войне российские политтехнологи и медиаманипуляторы смогли адаптироваться к новому миру быстрее, чем кто-либо на так называемом Западе. В период с 2001 по 2010 год я жил в Москве и своими глазами видел тактики контроля общественного мнения (и его патологии), которые с тех пор распространились повсеместно.

Путешествуя по информационным потокам, сетям и странам, эта книга оглядывается в прошлое – на историю моих родителей и эпоху холодной войны. Но это не семейные мемуары; скорее, мне интересно увидеть, где именно история моей семьи пересекается с объектом моих исследований. Отчасти я делаю это, чтобы понять, как сегодня обесценились прежние идеалы и есть ли еще возможность извлечь из них хоть какую-то пользу. Во времена всеобщей неразберихи я инстинктивно обращаюсь к прошлому, чтобы найти способ размышлять о будущем.

Но пока я собирал материалы и писал главы о семейной истории, я вдруг осознал одну вещь: до какой степени наши собственные мысли, творческие импульсы и самоощущения сформированы не нами, а куда более мощными информационными силами. Если что и поразило меня в процессе изучения книжных полок университетской библиотеки, так это то, что для понимания механизма «формирования позиций людей» (по выражению французского философа Жака Эллюля) нельзя ограничиваться только лишь областью «новостей» и «политики», следует учитывать и поэзию, и школу, и язык бюрократии, и досуг.

Этот процесс отчасти более очевиден в моей семье, поскольку драмы и травмы в нашей жизни помогают увидеть, где начинается и заканчивается действие этих информационных сил, подобных природным стихиям.

Часть 1. Города троллей

Одним из самых очевидных противостояний в XX веке была борьба свободы слова и цензуры. После холодной войны свобода слова, казалось, одержала повсеместную победу. Но что если власть имущие сумеют использовать «информационное изобилие», чтобы найти новые способы заткнуть вам рот, уничтожить инакомыслие, вывернув наизнанку идеалы свободы слова, и при этом сохранить достаточную анонимность, оставаясь ни при чем?

Архитектура дезинформации

Посмотрим на Филиппины. В 1977 году, в то самое время, когда мои родители испытывали сомнительное удовольствие от общения с КГБ, Филиппинами управлял полковник Фердинанд Маркос, военный диктатор, поддерживаемый США. В годы его правления, как показывает быстрый поиск по сайту Amnesty International, было убито 3257 политзаключенных, 35 000 подверглись пыткам, а 70 000 – тюремному заключению. Маркос открыто демонстрировал свое видение того, какую роль могут играть пытки в усмирении общества. 77 % убитых не просто «исчезли» – их трупы можно было увидеть на обочинах дорог, где они лежали в назидание остальным. Иногда у жертв вытаскивали мозги и заполняли место в пустых черепах их же нижним бельем. Некоторые тела разрубали на части и разбрасывали по улицам на всеобщее обозрение [6].

Режим Маркоса пал в 1986 году на фоне массовых протестов, отказа США от его поддержки и дезертирства нескольких армейских подразделений. На улицы вышли миллионы людей. Казалось, пришло новое время – свободное от коррупции и нарушений прав человека. Маркос бежал из страны и провел остаток жизни на Гавайях.

Сегодня Манила встречает гостей убийственным запахом тухлой рыбы и попкорна, сточных вод и горелого масла, от всего этого так и тянет блевануть на тротуар. Впрочем, «тротуар» – не вполне подходящее слово. В привычном смысле широких тротуаров, по которым можно гулять, в городе немного. Вместо них по краям торговых центров и небоскребов расположены узкие уступы, по которым ты еле-еле пробираешься вплотную к безумному потоку машин. Торговые центры сменяются трущобами, где в переулках между барами по ночам спят бездомные, завернувшись в фольгу и высунув ноги наружу. В самих барах можно поглазеть на боксерские поединки карликов или попеть в караоке корейскую попсу, пригласив для компании девушек в таких узких платьях, что ткань словно впивается им в бедра.

Днем ты плетешься между торговыми центрами, трущобами и небоскребами по узеньким многолюдным тротуарам, приподнятым над землей, петляющим между многоуровневыми шоссе. Пригибаешься, чтобы не стукнуться об опоры эстакад, вздрагиваешь от постоянных гудков и сирен, доносящихся снизу. Внезапно прямо перед тобой проносится поезд, или ты оказываешься лицом к лицу с женщиной, поедающей консервированную ветчину SPAM [7] на одном из колоссальных рекламных билбордов. Билборды, отгораживающие небоскребы от трущоб, здесь повсюду. В период с 1898 по 1946 год Филиппины находились под контролем американской администрации (не считая периода оккупации Японией с 1942 по 1945 год). С тех пор в стране стоят американские военные базы, а рацион американских солдат считается деликатесом. На другом плакате счастливая домохозяйка кормит своего красавца-мужа кусочками тунца из консервной банки. Прямо под рекламой скворчащей ветчины уличные дети плещутся в реке, над которой поднимается пар; позади мерцает неоновая вывеска «Иисус спасет тебя!». Это – католическая страна: пятидесяти годам правления США предшествовали 300 лет испанской колонизации (у филиппинцев есть шутка «Мы прожили триста лет с церковью и пятьдесят – с Голливудом»). В торговых центрах есть часовни, где можно помолиться, и охранники, которые не пускают внутрь нищих. В этом городе с 22-миллионным населением практически отсутствует понятие общественного пространства. Внутри торговых центров повсеместно используются сильнейшие освежители воздуха – лавандовые в дешевых заведениях с километрами прилавков фастфуда, лимонные, чуть послабее, – в более изысканных. Так пахнет в уборных – и запах туалета не покидает тебя ни у сточных канав на улицах, ни в помещении.

Вскоре замечаешь, что все делают селфи: и парень в шлепанцах, обливающийся потом в железной коробке рейсового автобуса; и молодые китаянки, ожидающие свои коктейли в торговом центре. На Филиппинах делают больше всего селфи в мире, здесь самые высокие показатели использования социальных сетей и больше всего текстовых сообщений на душу населения. Некоторые полагают, что причиной всему – возросшая важность семейных и личных связей для жизни в стране в условиях неэффективного государственного управления. И селфи – вовсе не проявление нарциссизма: просто человек доверяет тому, кого знает в лицо.

С подъемом социальных сетей Филиппины превратились в столицу нового поколения манипуляторов цифровой эпохи.

Я встретился с Пи в одном из торговых оазисов в районе небоскребов с небесно-голубыми окнами. Он настаивает, чтобы я не использовал в книге его настоящее имя, но сразу видно, как отчаянно он жаждет признания за рекламные кампании, которые не может поставить себе в заслугу. Ему чуть за двадцать, он одет как парень из корейского бойз-бенда. Пи находится в вечно возбужденном состоянии, говорит ли о выборах президента или о своем инстаграм-аккаунте, украшенном синим значком верификации – подтверждением статуса.

«Я просто счастлив, когда управляю людьми. Наверное, это плохо. Так я удовлетворяю свое эго, что-то, сидящее глубоко внутри… Я словно чувствую себя богом цифрового мира!» – восклицает он. Но звучит это совсем не страшно – скорее, он напоминает опереточного злодея.

Он начал свою карьеру в Сети в возрасте 15 лет с создания анонимной страницы, где посетителям предлагалось поделиться своими романтическими историями. «Расскажи о своем самом болезненном разрыве!» – призывал он или: «Расскажи о своем самом горячем свидании!» Он показывает мне одну из своих групп в фейсбуке: в ней больше трех миллионов участников.

Еще в школе он создавал группы, у каждой из которых был собственный тематический профиль: к примеру, одна была посвящена радости, а другая – силе духа. Когда Пи исполнилось всего шестнадцать, к нему начали обращаться разные компании с просьбой упомянуть их продукцию в публикациях. Он довел эту технику до совершенства. К примеру, в течение недели он предлагал участникам высказываться на тему любви и заботы. Затем переводил разговор к теме потери любимого человека. А после этого подсовывал определенный товар: «Купите это лекарство, и оно поможет продлить жизнь ваших любимых».

Если верить Пи, к двадцати годам у него уже было 15 миллионов фолловеров по всем платформам. Скромный провинциальный парень из среднего класса вдруг смог позволить себе квартиру в одном из манильских небоскребов.

Освоив рекламу, он переключился на политику. В то время политический PR просто убеждал журналистов писать то, что надо заказчику, и этим ограничивался. Но Пи подумал: что если с помощью социальных сетей формировать общественное мнение?

Он предложил свой подход нескольким партиям, однако единственным, кто воспринял идеи Пи всерьез, был Родриго Дутерте, аутсайдер, увидевший в социальных сетях новый путь к победе. Одним из основных кандидатских тезисов Дутерте была борьба с наркопреступностью. Дутерте хвастался, что в годы своей работы мэром города Давао, расположенного далеко на юге страны, он разъезжал по округе на мотоцикле и расстреливал наркодилеров. В то время Пи уже учился в колледже и посетил лекцию, на которой рассказывалось об эксперименте с «Маленьким Альбертом», проведенном в 1920-е годы. Каждый раз, когда малышу показывали белую крысу, экспериментаторы включали запись с пугающими звуками. В конце концов он начал бояться всех пушистых зверей [8]. По словам Пи, это вдохновило его сделать нечто подобное для Дутерте.

Прежде всего, он создал несколько групп в фейсбуке для разных городов – довольно безобидных форумов, где обсуждались актуальные городские новости. Была только одна тонкость: в каждой из групп нужно было использовать местный диалект, а их на Филиппинах сотни. Через полгода в каждой группе было уже около 100 000 участников. Затем работавшие на Пи администраторы начали публиковать новости о местных преступлениях – ежедневно в часы наибольшей посещаемости. Преступления были самыми заурядными, но люди Пи в своих комментариях выстраивали прямую связь между преступлениями и наркотиками: «Говорят, что убийца был наркодилером» или «Убитый приторговывал наркотой». Через месяц они вбрасывали по две подобные истории в день, через два месяца – по три.

Преступность, связанная с наркотиками, стала популярной темой, и Дутерте возглавил все предвыборные рейтинги. По словам Пи, именно тогда он вышел из его PR-команды и решил поддержать другого кандидата, ставившего во главу угла не страх, а вопросы экономического развития. Пи утверждает, что ему удалось повысить рейтинг нового кандидата более чем на 5 %, но было уже поздно – Дутерте избрали президентом. Теперь Пи жутко раздражают все эти толпы пиарщиков, которые приписывают победу Дутерте себе.

Когда берешь интервью у людей, работающих в этой области, не стоит забывать, что они всегда склонны преувеличивать степень своего влияния. Это неотъемлемый атрибут профессии. Можно ли сказать, что Пи «создал» Дутерте? Разумеется, нет. Разговор о преступности, связанной с наркотиками, развивался по многим причинам – не в последнюю очередь благодаря заявлениям самого Дутерте. Кроме того, Дутерте завоевал симпатии не только заявлениями о борьбе с наркопреступностью. Я разговаривал с его соратниками, которых привлек образ провинциала, борющегося против элиты «Имперской Манилы» и чопорного истеблишмента католической церкви. Однако рассказ Пи о цифровом влиянии подтверждается результатами некоторых научных исследований.

Для своей книги «Архитекторы сетевой дезинформации» доктор Джонатан Корпус Онг из Уиверситета Массачусетса и доктор Джейсон Кабаньес из Университета Лидса в течение года интервьюировали главных героев манильской «архитектуры дезинформации», как ее назвал Онг, которую использовали практически все политические партии страны [9]. На верхушке были «главные архитекторы» системы. Они работали в компаниях, занимавшихся рекламой и PR, жили в шикарных квартирах в небоскребах, а свою работу чуть ли не мифологизировали, сравнивая себя с персонажами «Игры престолов» или видеоигр. «Игра заканчивается, когда вас вычисляют», – говорили они Онгу. Они гордились тем, что смогли стать лучшими в своей профессии, поднявшись с самых низов. «Архитектор дезинформации, – заключает Онг, – отвергает ответственность или обязательства перед широкой публикой, говоря вместо этого о своих личных достижениях».

Ниже архитекторов находятся «инфлюенсеры» [10] – онлайн-комики, перемежающие посты со свежими шутками проплаченными насмешками над представителями оппозиции.

Еще ниже, в трущобах архитектуры дезинформации, обитают те, кого Онг назвал «операторами фальшивых аккаунтов в сообществах». Это масса людей, работающих в колл-центрах сутками с почасовой оплатой, каждый из них управляет десятками профилей в соцсетях. Такой работой занимаются либо те, кому нужен дополнительный заработок (к примеру, студенты или медсестры), либо волонтеры политических кампаний. Онг поговорил с одной из девушек-операторов, Риной, которую посадили в такой колл-центр, когда она присоединилась к кампании по выборам мэра. Она была одной из лучших студенток в университете и согласилась из идеалистических соображений. Ей поручили создать несколько профилей в соцсетях (явный успех имели аватарки девушек в бикини), набрать подписчиков, пропагандировать идеи кандидата и поносить оппозицию. Рине было стыдно. Она чувствовала, что никак не помогает общему делу – ей удалось привлечь лишь 20 фолловеров в фейсбуке, в то время как ее коллеги привлекали сотни читателей.

Онг отметил, что никто, ни на каком уровне этого бизнеса, никогда не описывал свою деятельность как «троллинг» или производство фейк-ньюс. У каждого была своя «стратегия отрицания»: архитекторы подчеркивали, что это – лишь побочное занятие, не связанное с их обычной PR-деятельностью, и, следовательно, оно никак их не характеризует, тем более что они не отвечают за всю кампанию. Операторы аккаунтов утверждали, что самые неприятные и злобные комментарии пишут не они, а кто-то другой. В любом случае, эта архитектура онлайн-влияния приняла более агрессивную форму после прихода Дутерте к власти.

Дутерте поклялся убить столько наркодилеров, что рыба в Манильском заливе разжиреет, и пошутил, что после этого сам себя амнистирует. Он хвастался, что убивал людей за один «косой взгляд» и что жизни наркодилеров не значат для него ровным счетом ничего. Банды его активистов и полицейские принялись расстреливать всех, кого подозревали в связях с торговцами наркотиками. Никто доподлинно не знает, сколько человек было убито в ходе этой кампании. Правозащитные организации насчитывают 12 000 жертв, оппозиционные политики – 20 000, правительство – 4200. Было время, когда ежедневно погибало 33 человека. Никто и не думал проверять, действительно ли жертвы были виновны, и поговаривали, что наркоту подбрасывали уже трупам. В ходе этих расправ было убито 54 ребенка. Переулки в трущобах Манилы были завалены телами. Люди на мотоциклах просто подъезжали к жертвам и стреляли им в головы. Тюрьмы переполнились, как клетки на птицефермах. Сенатор Лейла де Лима, выступавшая против расправ, внезапно оказалась под следствием: заключенные наркобароны дали показания о ее причастности к их бизнесу. В интернете начали активно требовать ареста. Ее посадили в тюрьму в ожидании суда, но он так и не начался: Amnesty International признала ее узником совести [11]. Когда архиепископ страны осудил убийства, банды обратились против него. Затем наступил черед СМИ: журналистов, осмелившихся обвинить президента в убийствах, начали обзывать «пресститутками».

Главной «пресституткой», на которую нацелился режим, оказалась Мария Ресса, руководитель новостного сайта Rappler. В этом была своя странная ирония, поскольку именно Мария и Rappler, сами того не желая, помогли привести Дутерте к власти.

#ArrestMariaRessa!

Еще в самом начале разговора с Марией я заметил, насколько ей было неловко чувствовать себя «героиней истории». Из вежливости она не сказала об этом прямо, но я заметил, что Мария постоянно переводит разговор на работу своих коллег-журналистов или события из жизней других людей. На протяжении всей своей карьеры она занималась новостями: сначала как глава бюро CNN в Юго-Восточной Азии, затем как директор отдела новостей крупнейшей филиппинской телесети и, наконец, как создатель и руководитель Rappler. Пока мы разговаривали с Марией в ее офисе, она пыталась быстро перекусить сэндвичами с арахисовым маслом и с консервированными сардинами (одно из любимых блюд филиппинцев), с нами в комнате находилась группа документалистов из английской редакции катарского телеканала «Аль-Джазира», снимавшая фильм о борьбе Марии с Дутерте и дезинформацией.

Люди из «Аль-Джазиры» спросили, могут ли они снять мое интервью с Марией. Я смотрел, как они кучкуются в углу со своими огромными камерами, и мне становилось не по себе. Я слишком привык быть по ту сторону камеры, наблюдать и редактировать. Каждый раз, когда мне доводилось быть объектом чужого материала, я не мог отделаться от мыслей о том, на какие чудеса способен монтаж. В свое время, продюсируя документальные фильмы, я научился заставлять своих героев чувствовать себя важными, значительными, даже чуточку бессмертными – но лишь в момент съемки. Я всегда знал, что потом, на монтаже, смогу сделать с материалом что захочу. История в итоге всегда оставалась верна, но как же часто возникал этот болезненный разрыв между самовосприятием человека и тем, как он выглядит на видео, между реальностью, выстроенной в процессе монтажа, и тем, как ее воспринимает сам герой. В тот день в Маниле я утешался мыслью, что смогу вернуть себе контроль над повествованием, написав о журналистах «Аль-Джазиры» в книге, которую вы сейчас читаете.

Итак, в комнате была группа журналистов, снимавших сюжет о том, как еще один журналист интервьюирует другого. Работа журналистов – доносить информацию о том, что и где происходит. Но, как показала история Марии, сейчас нечто происходит с самой информацией.

Мария родилась в Маниле, а когда ей было 10 лет, мать перевезла семью в США, где Мария оказалась самой маленькой и самой темнокожей девочкой в городе Элизабет штата Нью-Джерси. И, надо сказать, весьма одаренной, так как первая в семье поступила в университет (Принстон). Она вернулась на Филиппины стипендиатом программы Фулбрайта в 1986 году, чтобы изучать политическую арену страны, где в то время разразилась революция против Маркоса и на улицах разворачивалась масштабная политическая драма. Мария пришла на CNN, когда это был еще крошечный кабельный канал с грандиозными планами стать первым глобальным поставщиком новостей. Именно репортер на экране был самым важным, он решал, какие сюжеты заслуживают внимания, когда и как их подавать. Мария хотела иметь такие полномочия, но ей не нравилось говорить на камеру – во многом из-за экземы, от которой она страдала всю жизнь. Болезнь вынуждала ее постоянно пользоваться гримом и прибегать к различным ухищрениям во время съемок. Но камера любила Марию: ее естественность, почти щенячий энтузиазм и большие глаза, светящиеся любопытством.

Мария стала лицом CNN в регионе, она рассказывала о «демократизации» Юго-Восточной Азии в 1990-е годы, когда после падения Маркоса авторитарные режимы начали рушиться один за другим. Глядя сквозь призму холодной войны, многие хотели бы видеть в этом бесконечное расширение пространства свободы, и каждый новый поворот в политике, казалось, это подтверждал. Теракты 11 сентября 2001 года разрушили эту чрезмерно упрощенную картину.

Но Марию это не удивляло. Она свободно говорила на нескольких диалектах и знала, как мало «демократия» делает для неизменно бедных деревень и трущоб. Когда она брала интервью у новобранцев «Аль-Каиды»[12] и членов их семей, ее поразило, насколько обыкновенной была до этого жизнь большинства из них, насколько далеки они были от фундаментализма и вопросов чистоты веры. Трюк Усамы бен Ладена состоял в том, что он напоминал самым разным группам людей о нанесенных им обидах и давал им иллюзию, что, объединившись, они смогут добиться лучшего мира, если только им удастся избавиться от неверных. В 2005 году Мария покинула CNN. Сейчас она понимает, что сделала это в самый подходящий момент. Канал менялся, идея заработать как можно больше превратилась в навязчивую мотивацию, от репортеров требовали выражать чувства, а не просто излагать факты. Мария хотела заниматься расследованием деятельности террористов, а не быть звездой выпусков новостей, напоминающих реалити-шоу.

В 2008 году Мария начала руководить новостным отделом крупнейшей филиппинской телекомпании. Рано утром 9 июня ее разбудил звонок от лучшего репортера канала, Сесилии Дрилон. Та успела сказать в трубку лишь несколько слов: «Мария, это все моя вина… нас похитили. И они хотят денег» [13]. Несмотря на запрет Марии, Дрилон решила взять интервью у исламистских повстанцев, и ее вместе с двумя операторами похитили члены организации «Абу-Сайяф», связанной с «Аль-Каидой».

В течение следующих десяти дней Мария работала днем и ночью, помогая координировать действия по спасению коллег. Все закончилось, когда семье Дрилон удалось собрать достаточную сумму, чтобы удовлетворить требования похитителей.

После освобождения заложников Мария занялась установлением личностей похитителей. Она обнаружила, что они были связаны с бин Ладеном тремя промежуточными звеньями. Это укладывалось в схему, которую она выявила, изучая распространение влияния «Аль-Каиды» из Афганистана по Юго-Восточной Азии. Идеологии распространяются по сетям, и ваша приверженность им зависит от того, в какой точке паутины вы находитесь. Помимо изучения идей и социально-экономических факторов, теперь приходится разбираться во взаимосвязях между людьми, чтобы понять, почему и как распространяется идеология «Аль-Каиды». Один и тот же клубок личных и социальных факторов может по-разному среагировать при контакте с той или иной сетью. Мария поняла, что эти физические сети быстро заменялись социальными сетями онлайн.

В 2012 году Мария создала Rappler, первый филиппинский новостной сайт, работавший исключительно в интернете. Она хотела максимально эффективно использовать свой опыт изучения сетей. Rappler не просто рассказывал об актуальных событиях, но и привлекал широкое онлайн-сообщество, проводившее краудфандинговые кампании для важных проектов. Сайт собирал жизненно важную информацию, помогавшую жертвам наводнений и бурь найти пристанище и содействие. Вместо специалистов старой школы Мария наняла на работу 20-летнюю молодежь, знавшую о социальных сетях намного больше нее. Заходя в офис Rappler с открытой планировкой и оранжевыми стенами, сразу можно заметить, насколько молоды сотрудники (в основном это девушки), за которыми присматривает небольшая группа степенных журналистов и журналисток постарше. В Маниле сотрудники компании получили прозвище «рэпплеры».

Когда Дутерте начал свою вдохновленную социальными сетями президентскую кампанию, казалось, что они с Rappler идеально подходят друг другу. Телеканалы не принимали его всерьез. Когда Rappler организовал первые в стране президентские дебаты при поддержке Facebook, из всех кандидатов только Дутерте удосужился на них прийти. И это принесло ему огромный успех: опросы среди участников онлайн-сообщества Rappler показали, что Дутерте опережает всех остальных. Его главная идея – победа над наркопреступностью – завоевывала все бóльшую популярность. Репортеры Rappler ловили себя на том, что постоянно цитируют его высказывания о «войне с наркотиками». Позже, когда Дутерте занялся массовыми убийствами, они пожалели, что использовали слово «война», ведь это помогло ему оправдать свои действия – раз идет «война», то и жертвы оправданны.

Проблемы начались со свиста. На одной из пресс-конференций Дутерте присвистнул, глядя на проходившую мимо тележурналистку. Присутствовавшая в комнате корреспондентка Rappler попросила его извиниться. И тут же интернет-сообщество Rappler наполнилось комментариями, мол, она должна относиться к президенту более уважительно. «Твоя мать – шлюха», – писали ей. Рэпплеры были застигнуты врасплох. Таким языком их сообщество обычно не пользовалось. Они объясняли случившееся пережитками сексизма: женщина подвергалась нападкам всякий раз, когда призывала мужчину к ответу.

Но этим Дутерте не ограничился [14]. Он называл папу римского и президентов США сыновьями шлюх; поинтересовался у одного неприятного ему журналиста, задает ли тот едкие вопросы только потому, что влагалище его жены слишком сильно пахнет; хвастался тем, что у него две любовницы; шутил, что в его бытность мэром не террористы, а он сам изнасиловал бы симпатичную заложницу. Выступая по телевизору, Дутерте сказал, что съел бы печенки террористов с солью. А в другом выступлении заявил, что, если каждый его солдат изнасилует по три женщины, он с радостью отсидит за них срок в тюрьме.

Я кое-что понял про лингвистический контекст подобных заявлений, когда пару раз сходил в камеди-клубы Кесон-Сити, района Манилы рядом с телевышками национальных каналов, где по вечерам собираются юные проститутки и ледибои. Комики выбирают себе жертв из аудитории и начинают над ними издеваться, насмехаясь над размером их пенисов или лишним весом, – и все это на глазах у целых семей, смеющихся над тем, как унижают их родственников.

Таким языком часто пользуется Дутерте, изливая свой неиссякающий поток грязных шуток. Но подобный юмор присущ целой когорте мировых лидеров-мужчин, не только Дутерте. Такую же риторику использовал президент России Владимир Путин, пообещав «замочить террористов в сортире»; президент США Дональд Трамп говорил, что женщин можно хватать «за киску»; президент Бразилии Жаир Болсонару сказал одной женщине-политику, что она «слишком уродлива», чтобы ее изнасиловали, и что черные активисты должны отправиться «обратно в зоопарк» [15]. Британский политик и противник иммиграции Найджел Фарадж публично выкрикивал грубые шутки про «китаёз», вливая пинту за пинтой в свой огромный хохочущий рот.

Подобный туалетный юмор используется политиками, чтобы показать, насколько они якобы далеки от истеблишмента, и продемонстрировать их «антиэлитаризм» отказом от принятых моральных и лингвистических норм.

Когда непристойные шутки используют слабые, чтобы посмеяться над сильными мира сего, это словно спускает последних с небес на землю, напоминая, что их власть не безгранична [16]. Вот почему за такие шутки, как правило, преследуют. Приведу пример: в 1938 году мой прадед по отцовской линии Иван Андреевич Погорелов, придя в столовую при огромной харьковской фабрике, где работал бухгалтером, выпил лишнего и рассказал анекдот про яйца председателя Президиума Верховного Совета. Разумеется, на него тут же донесли, прадеда арестовали, и он сгинул в трудовом лагере на Волге.

Но когда такой язык постоянно используется власть имущими, чтобы унизить тех, кто слабее, юмор становится опасным: он прокладывает лингвистический путь для новых способов издевательств над жертвами и ведет нас туда, где исчезают вообще любые нормы.

После того как Rappler начал публиковать материалы о внесудебных расправах Дутерте, поток угроз в Сети стал постоянным. В какой-то момент количество сообщений достигало 90 в час. Писали, что Rappler фальсифицирует данные о количестве погибших, что ресурсу платят враги Дутерте, а все, что публикуют рэпплеры, – фейк-ньюс. Сообщения, как саранча, пролезали в ящики электронной почты и тучами опускались на страницы сообщества в Сети – те самые страницы, которые Rappler бережно развивал в надежде, что они соберут «мудрость толпы» интернета. Порой сотрудники Rappler даже не понимали, кто стоит за угрозами, они думали, что это какие-то автоматизированные аккаунты, но, к их разочарованию, это почти всегда оказывались реальные люди, которые явно получали от этого удовольствие. На журналистов Rappler набрасывались покупатели в магазинах с криками: «Вы пишете грязную ложь! Как вам не стыдно?» Свою долю критики вносили и их родственники.

Мария приняла на себя главный удар. Некоторые комментарии были слишком тупыми, чтобы ее задеть, – например, мемы, где она была изображена в нацистской униформе, или письма с оскорблениями типа: «Мария, ты – напрасная трата спермы. Твоей матери надо было сделать аборт!» Другие же действительно задевали. Ее слабым местом всегда была экзема, и, когда нападавшие принялись писать о состоянии ее кожи, Мария не успела поставить психологический барьер и болезнь разразилась с новой силой.

Сначала Мария инстинктивно решила, что, наверное, сама вовсем виновата. Неужели она сделала что-то неправильно, исказила факты? Она несколько раз проверила все материалы Rappler, но не нашла ничего сомнительного. Хештеги #ArrestMariaRessa («Арестовать Марию Ресса») и #UnfollowRappler («Отпишись от Rappler») начали набирать популярность. Правительство инициировало судебное разбирательство против нее. Одним из инвесторов Rappler был американский фонд, поэтому правительство обвинило канал в том, что он выполняет приказы из-за границы. Несколько членов правления Rappler подали в отставку; упали доходы от рекламы. Мария взяла за привычку всегда иметь при себе сумму, достаточную для выхода под залог в случае ареста. Первое судебное разбирательство против Rappler было урегулировано в апелляционном суде. А затем, когда казалось, что худшее уже позади, Мария узнала, что против нее готовится еще одно дело [17]

1 Deep fake (англ.) – цифровая фальсификация изображений и видео, сделанная с использованием искусственного интеллекта. – Здесь и далее примечания редактора.
2 «Исламское государство» (ИГ), ранее «Исламское государство Ирака и Леванта» (ИГИЛ) – международная экстремистская террористическая организация, запрещена в России.
3 Pop-up populism (англ.) – современная форма популизма, сочетающая традиционные популистские приемы с точечным воздействием на нишевые группы электората в соцсетях.
4 Identitarianism (англ.) – новое европейское правое течение, выступающее за возврат к традициям и возрождению европейской идентичности.
5 Подробнее о киборгах см. с. 87.
6 McCoy, Alfred. Dark Legacy: Human Rights under the Marcos Regime, World History archives, 20 сентября 1999 года, доступно на http://www.hartford-hwp.com/archives/54a/062.html.
7 SPAM – марка американских мясных консервов, известная своей назойливой рекламой после Второй мировой. Считается, что именно она дала название надоедливым рекламным рассылкам на заре интернета – спаму.
8 Beck, H. P., S. Levinson and G. Irons. Finding Little Albert: A Journey to John B. Watson’s Infant Laboratory, American Psychologist, 2009, № 64 (7), с. 605–614, доступно на http://dx.doi.org/10.1037/a0017234.
9 Ong, Jonathan Corpus and Jason Vincent A. Cabañes. Architects of Networked Disinformation, University of Leeds (2018), доступно на https://newtontechfordev.com/wp-content/uploads/2018/02/ARCHITECTSOF-NETWORKED-DISINFORMATION-FULL-REPORT.pdf.
10 Инфлюенсеры (от англ. influence – «влиять») – люди в соцсетях, чье мнение важно для определенной аудитории.
11 Amnesty International. Detained Duterte Critic Must Be Freed Immediately (23 февраля 2018 года), доступно на https://www.amnesty.org/en/latest/news/2018/02/philippines-detained-duterte-critic-must-be-freedimmediately/.
12 «Аль-Каида» – одна из крупнейших международных террористических организаций. Запрещена в России.
13 Ressa, Maria A. From Bin Laden to Facebook: 10 Days of Abduction, 10 Years of Terrorism (London: Imperial College Press, 2013).
14 BBC News. Philippine President Duterte Calls God «Stupid», 26 июня 2018 года, доступно на https://www.bbc.com/news/world-asia-44610872.
15 Forrest, Adam. Jair Bolsonaro: The Worst Quotes from Brazil’s Far-Right Presidential Frontrunner, Independent, 8 октября 2018 года, доступно на https://www.independent.co.uk/news/world/americas/jair-bolsonaro-who-is-quotesbrazil-president-election-run-off-latest-a8573901.html.
16 Бахтин М. М. Творчество Франсуа Рабле и народная культура Средневековья и Ренессанса – М.: Эксмо, 2015. Серия «Библиотека всемирной литературы».
17 Ressa, Maria A. Propaganda War: Weaponizing the Internet, Rappler, 3 октября 2016 года, обновлено 7 февраля 2019 года, доступно на https://www.rappler.com/nation/148007-propaganda-war-weaponizing-internet. Hofileña, Chay F. Fake Accounts, Manufactured Reality on Social Media, Rappler, 9 октября 2016 года, обновлено 6 февраля 2019 года, доступно на https://www.rappler.com/newsbreak/investigative/148347-fake-accountsmanufactured-reality-social-media. Ressa, Maria A. How Facebook Algorithms Impact Democracy, Rappler, 8 октября 2016 года, обновлено 6 февраля 2019 года, доступно на https://www.rappler.com/newsbreak/148536-facebook-algorithms-impact-democracy.
Teleserial Book