Как нами манипулируют в Сети

Ранжируя ленты новостей, соцсети и новостные агрегаторы, по сути, решают, что нам читать и какой будет наша картина мира.


© СС0 Public Domain

Какие угрозы скрывает такой подход, как с его помощью можно манипулировать общественным мнением, и как пользуются Интернетом люди, которые сами отчасти это мнение и формируют, «Росбалт» спросил у экспертов.

Консультант ПИР-Центра,  IT-эксперт Олег Демидов:

Фото из личного архива

«Возможности для мунипуляций на онлайн-площадках всегда есть. Мы видим на примере последних двух-трех лет, как набирает масштаб индустрия фейк-ньюс — грубо говоря, информационных вбросов, которые распространяются быстрее, чем можно дать их аргументированное опровержение. И даже если ты опровергаешь какую-то фейковую новость, то у большинства читателей отпечатывается именно новость, а не ее опровержение. Сама механика распространения информации в социальных сетях, особенно в глобальных, создает довольно широкое окно для манипуляций. Другое дело, что создатели платформ не умышленно дают возможности для индустрии фейк-ньюс (пропагандистских, контр-пропагандистских сюжетов).

Речь идет о настройке выдачи контента под индивидуализированные предпочтения пользователей. Поисковые движки (и в еще большей степени соцсети) все активнее внедряют алгоритмы, которые формируют выдачу контента, его приоретизацию с учетом каких-то индивидуальных характеристик и запросов каждого пользователя. Чем это опасно? Есть неизбежный риск фрагментации и поляризации онлайн-сообществ. Усеченная картина мира. Формируются сообщества с похожим набором шаблонов, с похожей выборкой тем и источников информации. Эти сообщества могут быть друг от друга изолированы. Допустим, мне не нравятся взгляды и источники информации, которые мой френд у себя в ленте распространяет. Я просто от него отписываюсь или вообще убираю из друзей. В итоге круг коммуникаций на платформе социальной сети выхолащивается, и остаются люди, у которых картина потребления информации, предпочтения по источникам, по подаче, по темам примерно совпадают с моими. То есть —  вместо платформы обмена мнениями сецсети превращаются в площадки для существования множества полузакрытых сообществ, каждое из которых „закуклено“ на какой-то своей картине мира, на своих взглядах. Такой риск существует. Тонкий момент в том алгоритме, который внедряют разработчики и владельцы социальных платформ и разработчики поисковых движков. Эти алгоритмы способствуют этой тенденции или предотвращают ее. Здесь много споров. Есть мнение, что политика Facebook в последнее время способствует такой вот фрагментации. Наверное, в этом больше плохого, чем хорошего. Поляризация ни к чему конструктивному обычно не приводит. Не думаю, что это самоцель создателей платформ. Задумка у них другая: индивидуализированная выдача информации с учетом паттернов и характеристик пользователя позволяет, прежде всего, лучше нацелевать, ориентровать на него рекламу. То есть, это история про коммерциализацию. Но ее вот такое побочное влияние — фрагментация онлайн-сообществ.

То же самое происходит и в новостных агрегаторах вроде Яндекса и Google. Они никогда не анонсировали, что планируют вообще отсекать доступ к каким-то новостям. Они просто меняют ранжирование, и определенные новости дают в приоритете. В результате, у человека сужается круг восприятия. Повышается цепочка подкрепления его картины мира. То есть, на базе каких-то предпочтений когда-то сформирован алгоритм выдачи новостей. Он выдает примерно то же самое, и я каждый раз убеждаюсь, что происходящее укладывается в мою картину восприятия. В этом ничего хорошего нет. Но, наверное, это тоже история про то, что Яндекс и Google ищут подход к каждому клиенту. Я не думаю, что здесь сам новостной агрегатор — самоцель. С точки зрения самой компании индивидуализация истории, запись паттернов нужна, чтобы лучше нацеливать на пользователя другие сервисы, в том числе, коммерческие. Но побочный эффект всей этой истории может сказаться на качестве и полноте получаемой информации. Как это может сказаться на обществе в долгосрочной перспективе — это вопрос, на который нужно отвечать серьезным социологическим исследованием.

По европейским меркам, у нас довольно сильный уровень именно ценностной поляризации, низкий уровень терпимости к альтернативным идеям и мнениям. Я бы считал правильным эту тенденцию не подкреплять. Поляризация порождает социальное напряжение. Не думаю, что социальные сети и новостные агрегаторы могли спровоцировать поляризацию. Их подход лишь развивает то, что есть в обществе.

Сам я обычно четко представляю, какую информацию мне нужно найти, и просто ищу ее, пока не найду. Ситуации, когда я просто сижу и листаю ленту новостей, бывает довольно редко».

Журналист, экономический обозреватель Forbes и «Ведомости», креативный директор Фонда Егора Гайдара Борис Грозовский:

Facebook Б. Грозовского

«Манипуляции с воздействием на общественное мнение через соцсети не только возможны, но и уже активно производятся. Видны и линии противодействия этому на уровне стран. Это показывает скандал с Facebook и компанией Cambridge Analytica (CA), занимающейся анализом данных. В этом скандале поучаствовала и Россия. Через CA были проанализированы профили американских пользователей Facebook, что позволило таргетировать получаемый ими контент таким образом, что это добавило Трампу на выборах дополнительных голосов.

Facebook поняла, как ее использовали в этой истории, и, хочется надеяться, сделала надлежащие выводы. Сделали их и демократические государства. Гораздо больше поле для манипулирования общественным мнением в авторитарных режимах. Там государство вместо того, чтобы бороться с подобным манипулированием, само выступает крупнейшей заинтересованной в манипулировании стороной. И нет третьей силы, которая могла бы его проконтролировать. Примеры таких действий мы видим и в работе „фабрики троллей“, и китайских соцсетях. Медленнее разворачивается в сторону борьбы с фейками WhatsApp, ставший невольной причиной  гибели людей в Индии.

Что касается лично моего управления лентами новостей в соцсетях, то здесь все достаточно просто. Подавляющее большинство моих друзей — журналисты, экономисты, политологи, социологи и культурологи, поэтому в первую очередь я вижу информацию, опубликованную ими. Это очень хороший фильтр. Кроме того, в основном я читаю ленту новостей через систему оповещений. Facebook позволяет выбрать 30-40 персон и страниц, информацию от которых вы хотите получать в первую очередь, видя буквально все ими опубликованное. Если потратить некоторое время на то, чтобы выбрать этих людей и страницы, то вы будете получать уведомления о том, что на выбранных вами страницах появились новые публикации, и сможете именно их читать в первую очередь. Это хороший способ снизить свою зависимость от алгоритмов, настраиваемых не вами. Тот же эффект можно получить при помощи подписок (через e-mail или RSS)».

Политолог, обозреватель ИА «Росбалт», эксперт по Центральной и Восточной Европе Иван Преображенский:

Фото ИА «Росбалт»

«В целом надо понимать, что социальные сети изначально ориентированы на искажение информационной картины. Формируя свой список друзей, формируешь и новости, которые тебе через них становятся доступны, и темы для обсуждения. Это ловушка комфортности, за пределы этого круга все труднее выходить. Зона комфорта современного человека защищена трехметровым забором, ему даже нельзя позвонить неожиданно, эпоха мобильного телефона отменила анонимные звонки. Соцсети и алгоритмы фильтрации новостей только дополняют эту в целом эгоистическую картину. Соответственно, формируется потребитель, которому доступна любая информация, но который получает ее меньше, и более однообразную, чем даже человек середины прошлого века. И все современные технологии только способствуют этому процессу.

В перспективе это приведет к тому, что умение читать не будет означать доступ к информации, как это было последние сто лет. Просто возникнет новая сегрегация общества по уровню доступа к информации и по способности ее критически воспринимать. Скажем так — новая безграмотность, при почти 100% умеющих читать и писать.

В целом, новая ситуация создает новые возможности для управления обществом. Проще, как сейчас поступает в большинстве случаев российский правящий класс, укреплять свою власть за счет искусственного сталкивания лбами разных общественных групп, живущих в своих информационных нишах и не пересекающихся в нормальной ситуации между собой. Разумная же власть, которая мыслит стратегически, должна способствовать тому, чтобы формировалось новое экспертное сообщество, имеющее доступ ко всем видам медиа и способное снимать напряжение между различными общественными группами, решая конфликты на уровне, скажем так, экспертного арбитража. Если это не случится, то сам правящий класс постепенно настолько оторвется информационно от общества и уйдет в зону комфорта, что их конфликт станет неизбежен, а защитных механизмов, которые могли бы его сгладить, просто не останется.

Единственной защитой от этого может быть возвращение к авторитетам и экспертности. Эти понятия были разрушены в эпоху соцсетей — за счет того, что прав стал тот, кто лучше троллит или собирает больше лайков. Но в условиях постинформационного общества, когда человек не может сам обработать всю доступную ему информацию, а фильтры и социальные медиа создают для него ложную зону информационного комфорта, только мнения экспертов по узким темам могут помочь отследить, что реально происходит. Важную, равно как и фейковую информацию по своей теме эксперты отсортируют сами. По сути дела, в области информации это значит возвращение в XIX век. Скорость получения информации теряет значение. На первое место выходит анализ, который пока не может адекватно произвести никакой искусственный интеллект.

Я не настраиваю фильтров, информацию ищу по ключевым словам всегда сам. В социальных сетях составляю ленту из людей с разными предпочтениями, позициями, из разных социальных групп, что позволяет не только следить за событиями, но и получать срез общественного мнения, фиксировать реакцию».

Член ученого совета НИУ ВШЭ, глава Школы востоковедения Алексей Маслов:

amaslov.me

«Манипуляция в любом случае происходит. Не потому, что кто-то ее планирует, а потому что информацией сейчас становится только событие, а не явление. Проще говоря, что-то взорвалось, кто-то погиб, повысили налоги. Получается, что и поисковые службы, и интернет-сайты являются поставщиками сиюминутной информации, не обучая людей думать, осмыслять, приводить в систему.

Хорошим примером может быть „Википедия“, которая содержит колоссальное количество сведений — правильных и неправильных. Казалось бы, с ее появлением можно было отменить целые курсы в университетах, особенно исторические, гуманитарные. Но при чтении „Википедии“ у человека почему-то не вырабатывается навык осмысления и ранжирования информации. Система знаний не складывается сама собой на основе одних лишь фактов.

Посмотрите, что обсуждают сейчас молодые люди — лет до 40. Они обсуждают события, а не явления. Это как раз отражение матричного сознания. Эрих Фромм, известный психолог, называл это явление автоматическим конформизмом, говоря, что человек, вместо того, чтобы посмотреть, какая на улице погода, смотрит на термометр. У нас сегодня происходит примерно то же самое. У каждого есть пять-шесть сайтов, которые он регулярно читает. Может, меньше. То есть, он является потребителем только этих каналов информации — не более того. В конечном счете, реальность для него такая, какой она описана в Интернете, на тех сайтах, которые он читает.

И вот тут возникает соблазн манипулировать информацией уже по-настоящему, давать фейковые новости или нелепые трактовки. А может быть одно давать, а другое — не давать.

Я тоже читаю новостные сайты. Но вместе с тем я обязательно читаю как минимум три источника информации. Во-первых, поскольку моя работа связана с Китаем, с Востоком, для меня важнейшим источником информации являются беседы с носителями культуры, в которых я узнаю их личное неписанное мнение: от простых деревенских жителей и монахов до сотрудников государственных китайских или японских ведомств. Я, безусловно, понимаю, что это субъективная информация. Но я понимаю, что под этим и скрывается реальное общественное мнение, то, которое соответствует их представлениям о реальности.

Во-вторых, я читаю много теории, которая дает представление о том, как развивался Китай, развивалась Азия.

В-третьих, для того, чтобы получить полную картину, я всегда читаю минимум 15 различных сайтов на китайском, японском, английском и французском языках. Это сайты разной направленности и разной достоверности. Если на разных сайтах появляется одна и та же новость или информация, то, скорее всего, кто-то хочет нами манипулировать. Так, буквально на днях прошла информация, что под лидером Китая Си Цзиньпином закачалось кресло, и партийные деятели сейчас соберутся для того, чтобы его снять. Эта, казалось бы, тонкая, закрытая информация появилась на сайтах от США до Японии со ссылкой на неназванный источник. Соответственно, мы понимаем, что идет какой-то вброс. Откуда он появился, почему именно сейчас?

Вообще в аналитике очень важно найти первоисточник. Иногда бывает довольно смешно. Например, Конфуцию во всем мире часто приписывается известное выражение о том, что не нужно искать черную кошку в темной комнате, особенно если ее там нет. Но Конфуций никогда ничего такого не говорил. Достаточно прочитать его труды. Это такое безобидное искажение реальности. Но встречаются и куда более серьезные вещи. Например, когда в июле начала обсуждаться пенсионная реформа в России, по всем каналам прошла информация, что в Китае нет пенсий. Это очень активно тиражировалось. „Вот, смотрите, есть страны, где вообще пенсий нет. И ничего — живут“. Но потом специалисты, естественно, сказали: „Как это — нет пенсий? Конечно, есть. И даже больше, чем в России“. И это разрушило целый ряд тезисов сторонников реформы.

На этом фоне возрастает роль профессии, которой раньше просто не было — профессии аналитика, который может привести всю эту информацию в систему, и через эту систему верифицировать. Роль аналитика, который дает достоверную информацию. Таких, к сожалению, не много. Вопрос часто заключается в том, что люди хотят верить в дезинформацию. И многие сайты и поисковики дают в приоритете именно то, что люди хотят видеть. С этим мы ничего не сделаем. Мир деградирует в плане осмысления информации. Он никогда не выправится.

Единственное, что мы можем сделать — научить людей критически осмысливать информацию. Потому что информационные потоки будут только возрастать. Вот на это и должно быть направлено современное образование. Если раньше оно было книжным — любой студент на любом курсе должен был прочесть определенное количество книг, потому что других источников информации не было, то сегодня главный вопрос — не что прочитать, а как это правильно и критически осмыслить. Хорошие вузы, хорошие школы учат разбираться в потоках информации. Ошибка может дорого стоить. Мы получим страшное общество. Частично мы его уже получили. С одной стороны, это общество, которое борется за открытость и доступность информации, против запрета Telegram и Facebook. Но, с другой стороны, за что люди на самом деле борются — за информацию ли? Нет, они борются за возможность продолжать потреблять какой-то привычный продукт.

Что будет, если тенденция продолжится? Сегодня у нас есть относительно единый интернет, все серверы расположены в США. Очевидно, что Китай, а может и Россия, в скором времени запустят свои серверы, и сделают свои внутренние интернеты. Соответственно, это будут разные подходы, разные массивы данных. И люди будут воспитываться в разных потоках информации, что будет еще больше разобщать. И, главное, это разделение может коснуться критически важных данных, например, о медицине, о клеточном строении человека, о новых открытиях в области нейробиологии.

Мы целиком будем жить в Сети. Не просто потреблять информацию, но и доверяться этой информации. Как мы обычно доверяемся будильнику, который утром разбудит в семь часов, как только мы нажмем кнопку в телефоне, точно также мы будем автоматически доверяться любой информации о том, как устроен мир, за кого голосовать, против кого выступать. У человека будет утрачиваться критическое мышление. И, как следствие, на этом будут блокироваться все фундаментальные науки.

Мы придем к пику манипулирования обществом. Парадокс заключается в том, что чем больше развита страна, тем больше у нее потоков информации. Как следствие, больше возможностей для манипуляции сознанием. Так строятся империи. Но новые империи будут цифровыми. Они будут контролировать все потоки информации — от телевидения до поисковиков. Будут решать, что выдавать в первой строке поиска, а что — загонять в самый низ. Большие страны будут производить цифровой абсолютизм — один лидер или группа, которая всем управляет, преклонение перед лидером. Конфликты переместятся в Сеть. Цифровые войны, о которых многие сейчас говорят, даже не начались. Это только репетиция.

Все это либо приведет к коллапсу системы знаний, открытий, либо внезапно страны, которые находились на вторых и третьих ролях, страны, где слабо развит контроль за информацией, начнут становиться центрами свободы мысли, свободы знаний. Возможно, через столетие будет новая — антицифровая — революция».

Анна Семенец


Ранее на тему Аккаунты российской компании удалили с Facebook по подозрению в сборе данных

Госдума усилила наказание за распространение ложной информации

Захарова позвала в Россию представителей соцсетей для беседы о фейках