Астротурфинг – подделка мнений (продолжение)

Начало: https://www.liveinternet.ru/users/u7i-ozyor/post429985999/

Люди, виртуалы, боты. Распространение, пропаганда, манипуляция
Реально ли встретить астротурфинг в своей группе и что с ним делать в стране
 

Люди, виртуалы, боты. Распространение, пропаганда, манипуляция

 

Робота-продавца уволили за тупость и неуместные шутки

В начале 2018 г. к теме формирования общественного мнения в очередной раз обратился известный публицист, блогер Александр Роджерс. Предлагая свои дефиниции и классификацию, он смешал программу с аккаунтом, а потенциальных собеседников на темы «войны идей» с операторами ботов. Понятие астротурфинга в материале не используется – только управление ботами. К сожалению, статья усугубляет ситуацию с пониманием явления. Называется «Тайная жизнь сетевых ботов».

Возможности инфобойцов  характеризуются в СМИ такими данными: «...существует довольно большое количестве аккаунтов в Twitter или Facebook – всеми ими управляют бойцы информационного фронта. Один такой боец способен управлять 50–100 аккаунтами, которые ведут себя совершенно по-разному. Это средство вбрасывания нужной информации в массы». А так же: «за 3–4 часа [в декабре 2012 г.] было создано больше 250 тысяч сообщений с тегом «#олимпиадынебудет» и с автоматически сгенерированным текстом (всего 100–200 вариаций: «Всё украли», «Как же стыдно перед иностранцами»). В этом участвовали, примерно, 20 тысяч аккаунтов». По более поздней информации количество учётных записей у одного бойца уточняется в сторону уменьшения.
Для постинга в формате Твиттера вполне реально. Но творчество в стиле «Крымчанка» при достигнутом на сегодня уровне искусственного интеллекта – прерогатива людей (и следствие человеческого фактора). Работа над искусственным интеллектом идёт, возможности программ-роботов повышаются, но диалог с ними пока не результативен для заказчика. Это аргументировал «один из любимцев украинского Фейсбука»: отвечая на вопрос «Что сейчас выгоднее – иметь ботоферму или же десяток лояльных ЛОМов?», он выбрал второе. Астротурфинг не входит в круг понятий и этого блогера.

Изображение: peoplesrepublicofcork.com

С помощью программного обеспечения операторы псевдопользователей (большинство источников называют их «тролли», фактически тролли-операторы) могут управлять действиями по разным сведениям: до 10 или от 5 до 17 персонажей одновременно, не допуская путаницы между ними. Из курса общей психологии («кошелёк Миллера», открытие 1956 г.) известно, что каждый здоровый взрослый человек способен контролировать одновременно от 5 до 9 объектов или процессов. В современных армиях у командира первичного подразделения до 9 подчинённых. Вполне обосновано, что веб-кукольник в одном обсуждении поддерживает содержательный диалог, задействуя от 5 до 9 из имеющихся в его распоряжении аккаунтов кукол. Заготовки «собственных мыслей» могут генерироваться для оператора программой с автоматически обновляемой тематикой. Пример такого софта для гражданских с не обновляемой базой 2011 г.: «Генератор комментариев для интеллигентного ЖЖиста».

Слово «пропаганда» нашими современниками воспринимается едва ли не как ругательное. Но если заглянуть в словари от Даля до Ефремовой издания 2012 г., то:
Пропаганда (от лат. propaganda – подлежащее распространению), распространение политических, философских, научных, художественных и других идей в обществе; в более узком смысле – политическая или идеологическая пропаганда с целью формирования у широких масс населения определенных взглядов. 
Кроме того, всеобуч – широкая пропаганда основ каких-либо знаний.

Изображение: proza.ru

В СССР с 1947 г. действовало Всесоюзное общество по распространению политических и научных знаний. Среди причин создания Общества – депрофессионализация населения, вызванная Великой Отечественной и холодная война, подстегнувшая развитие индустрии. Возникла необходимость в массовом образовании взрослых. Материальная база «знаниевцев» составляла тысячи объектов, включая Дома научно-технической пропаганды (такое название используется возрождённым в 2017 г. Обществом). Лекции читали множество известных ораторов, комментаторов, пропагандистов – специалистов всех отраслей науки, которых последнее название никак не смущало. В 1963 году Общество переименовано во Всесоюзное общество «Знание». К этому времени взрослый советский человек прослушивал ежегодно в среднем от 4 до 5 лекций. Быть инженером и заниматься исследовательской работой было престижно, конкурсы в технические вузы высоки.
Но со временем ситуация изменилась, приблизившись к западной. В 2003 г., академик В.И. Арнольд описал её так:
«Американские коллеги объяснили мне, что низкий уровень общей культуры и школьного образования в их стране – сознательное достижение ради экономических целей. Дело в том, что, начитавшись книг, образованный человек становится худшим покупателем: он меньше покупает и стиральных машин, и автомобилей, начинает предпочитать им Моцарта или Ван Гога, Шекспира или теоремы. От этого страдает экономика общества потребления и, прежде всего, доходы хозяев жизни – вот они и стремятся не допустить культурности и образованности (которые, вдобавок, мешают им манипулировать населением, как лишённым интеллекта стадом)».

Предпосылка появилась ещё 1930-е с созданием имперского министерства народного просвещения и пропаганды в Германии. Постепенно по всему миру пропаганда воспринимается как обработка психики, скрытое управление сознанием. В то время как это по определению открытое распространение идей. 

Усилиями пиарщиков сформирован подход, в соответствии с которым пропаганда, особенно государственная, особенно в Китае, в СССР, в России, когда это имеет место – зло. Она приравнена к манипуляции. А пиар представляется  нейтральным, современным, востребованным бизнесом и политиками.  

Многие источники выделяют 9 основных методов манипуляции массами. Фактически, эти пункты – творческий микроконспект 800-страничной книги С.Г.Кара-Мурзы «Манипуляция сознанием». Набор приёмов, используемых в СМИ и публичных выступлениях отличается от такового при общении. Это обусловлено неинтерактивностью традиционных массмедиа. Приведём их по категориям не в общепринятой последовательности.

 

Методы манипуляции общественным мнением

Изображение: mosheniki.ru

А. Искажение информационного потока. Производится в целях перегрузки сознания
- Искусственное рейтингование. Замалчивание одних фактов и выпячивание других.
- Фрагментация. Дробление информации о событии на множество сообщений, в результате которого невозможно уловить его суть.
- Ложные обобщения. Перенос частного факта в сферу общего.
- Использование слухов, домыслов, толкований. Здесь ложь, но не прямая.
- Создание лжесобытий. Прямая ложь, как правило, «невероятная и чудовищная».
- Многократные повторы или «метод Геббельса».
Б.  Нарушение нормальной работы психики эмоциями
- Эмоциональное воздействие на аудиторию. Название «нужны трупы».
- Постановка перед псевдовыбором между плохим и очень плохим. Называется методом «страшилок».
В. Отдельным пунктом указывается снижение критичности восприятия у аудитории. Фактически это принцип манипуляции, реализуемый как перегрузкой сознания слушателя, зрителя, читателя, так и нарушением эмоционального равновесия. Принятое название «использование внушения».

Несколько слов о пиаре: «...совокупность приемов общения политических деятелей с общественностью; черный пиар – пиар, который включает в свой состав обращение к низменным инстинктам толпы, а также распространение недобросовестной и просто ложной информации (Большой иллюстрированный словарь иностранных слов АСТ, Астрель, Русские словари 2002, с. 594). «Мощная пропагандистская кампания, практика создания и внедрения в сознание людей привлекательного образа кого-либо или чего-либо...» (Популярный толково-энциклопедический словарь русского языка, 2012 онлайн-версия). Как соотносятся астротурфинг с пиаром и манипуляцией? Обычные пользователи, студенты и пенсионеры, отвечая для себя на этот вопрос, пользуются перечнем методов скрытого управления людьми с дописанным в качестве 10-го пункта астротурфингом.

Научную базу формирования искусственных мнений иллюстрирует работа Соломона Аша 1951 г. «Воздействие группового давления на изменения и искажения суждений», более известная как Эксперимент конформизма Аша. Результаты экспериментов Аша: 75% испытуемых согласились с мнением большинства, по крайней мере, единожды. В дальнейшем подобные эксперименты повторялись неоднократно, несколько вариантов представлено в фильме «Я и другие» (2010 г., Россия, ремейк одноимённого советского фильма).

Эмуляция общественного мнения с помощью софта и мультиплицирования источника сообщений – подход эпохи интернета. Дополняет, развивает, заменяет и просто использует в сети традиционные методы манипуляции, разработанные ещё Бернейсом и  Геббельсом.
«В конечном счете, самых существенных результатов во влиянии на общественное мнение достигнет только тот, кто способен свести проблемы к простейшим выражениям и у кого хватит смелости постоянно повторять их в этой упрощенной форме, несмотря на возражения интеллектуалов» (Йозеф Геббельс, цитата по Э.Аронсону).
Относимое к разработкам Геббельса правило 1000 простых повторений, сегодня реализуемо несколькими кликами мыши.

Изображение: a4y.biz

Провоцирование бывает как на действие, так и на бездействие. Существуют варианты вытеснения мнений из интернет-сообщества (или ленты комментариев медийного материала) через устранение от участия в обсуждении носителей этих мнений. Они работоспособны как в исполнении реальных пользователей и отдельных виртуалов, так и через легионы веб-кукол и ботов, но с различными эффективностью и затратами времени.

 

Способы вытеснения мнений через их носителей

1. Изгнание – подталкивание носителей взглядов к уходу из сообщества потоком сообщений (флудом) и «толстым» троллингом.
2. Забитие ника помехами – создание обстановки для отказа от написания сообщений теми же средствами (его аргументированные сообщения некомфортно читать другим, они тонут во флуде).
3. Вывод на бан – подстрекательство носителей на оскорбление ими троллей, влекущее блокировку администрацией. Астротурферы нарушений ведущих к бану, как правило, не допускают. Возможны нарушения с жертвой одной из кукол подходящего характера для придания естественности спору, в котором 9 «участников» управляются одним кукольником.
4. Маргинализация тех, кого не удаётся выдавить или «забить». При успехе веб-кукольника (боту такое не по силам) их начинают сторониться реальные пользователи. В предельном случае в группе полностью побеждает новое мнение, и все участники иронизируют над названием, которое только и напоминает о первоначальной теме. Примеры – в архивах форумов, связанных с украинскими событиями.
5. Зафлуживание сообщений, немаргинализированных участников, не соответствующих продвигаемому мнению.

Открытия для общества, показывающие вытеснение мнения реальных людей из интернета, закончились к 2014 г., описание технологии сложилось в рунете. Например, в подборке «Массовая система интернет-троллинга» было обобщено основное о ней известное. Но основательно описанный на примере западных военных, профессиональный астротурфинг не заинтересовал интернет-аудиторию. Так же, как и вставленный в подборку 10-минутный ролик 2010 г. Анатолия Вассермана, за год до «Гардиан» пытавшегося объяснить как всё работает. Для профессионалов с 2015 г. имеется отечественный учебник с главой о рассмотренной технологии. Хорошо бы тема была общеизвестна и поэтому скучна. Но по реакции в интернете на продвижение искусственных мнений массовостью ников их носителей, видно, что понимания проблемы нет.

Сложно найти другую настолько не интересующую людей тему, как технология выдумывания за них их отношения к информации. Такая ситуация до сих пор: «он троллит» – максимум, что скажет типичный участник сетевого общения – человек, чувствуя, что в обсуждении что-то не так.

 

 

Реально ли встретить астротурфинг в своей группе и что с ним делать в стране

 

Из политики технология пришла в бизнес, где её раскрывают, чтобы зарабатывать. «Почему корпоративный тролль – эффективное решение для бизнеса?» пишет SMM-менеджер, статья, заканчивается предложением услуг (выделение жирным сделано при цитировании):
«Хороший специалист в этом деле «троллит» культурным языком, не агрессивен и просто уводит разговоры в такую сторону, которую надо, преследуя свои цели. Именно он формирует и ведёт диалоги, вмешивается в дискуссии и правильными и продуманными фразами направляет их в нужную ему тему».
«Важно понимать, что троллинг – это не бессмысленные комментарии, нужно обладать экспертизой в той сфере, где Вы «работаете»…».
Деятельность компании назвать астротурфингом в полном объёме нельзя. Она имеет представительство в США, где отзывы о товарах законодательно запрещено оставлять от псевдопользователей, поэтому петрушки и боты под вопросом. Но провоцирование потенциальных потребителей и формирование взглядов компанией предлагаются.

Изображение: marc-aureli

Короткая новость 2016 г.: «Вооруженные силы США запланировали создание дополнительных кибер-подразделений. В этих частях не будут служить действующие военнослужащие (…) формированию «кибер-ополчения» планируется посвятить ближайшие три года. На данный момент в ВС США создано 133 кибер-отряда, в которых служат около 9 тысяч человек».  Всё буднично: 133 отряда, 9 тысяч персонала, 41 отряд в резерве.

Насколько реально в жизни обычных форума,  группы, чата проявление того, что пишут о возможностях западных армейских структур искусственного формирования общественного мнения?
Система вбросов многослойна, на «форуме города N-ск» вряд ли размещаются сообщения под никами петрушек, водимых кем-то из 9 000 кибербойцов ВС США. На крупных ресурсах, в комментариях к рейтинговым материалам их обнаруживают достаточно, есть подборка (видео, лексика оригиналов 18+). Научно техника раскрыта в статье эксперта,  более популярно – в связанном с ней видеоролике.
Наглядно и кратко, с расценками и сроками выполнения для любого, кто заплатит, подделка мнений описана в источнике Артур Сорокин для «ОРД». Можно над ним смеяться и утверждать: «читателя троллят», но технология и возможности полностью совпадают с тем, что приводится на сегодня в других материалах открытой печати. Из художественных произведений процесс показан в фильме «Спящие» (Россия, 2017 г.), в комплексе – в серии 5.

 

Фрагмент из сериала «Спящие»

6 минут с 42:15, источник: онлайн-кинотеатр «Первого канала»

Участники городского интернет-форума столкнутся скорее с ретрансляторами политического астротурфинга, с работающими за идею, а не за оклад и уверенными в том, что к этой идее каждый пришёл сам. Вероятность попасть в крепкие объятия астротурфера в потребительских интернет-сообществах рунета выше. Читая комментарии, полезно помнить, что формирование искусственных мнений предполагает множество псевдопользователей и ботов, а его основной приём – провоцирование.

На ежегодном Всероссийском молодёжном образовательном форуме «Территория смыслов на Клязьме» читается лекция по тематике информационного (цифрового) суверенитета. В ней перечень современных инструментов информационных войн, другие названия – инфраструктура вбросов или зомбирования.

 

Инфраструктура для антироссийских информационных вбросов

- ложная и навязанная идеология: структура права, система понятий о хорошем и правильном (концепция «свободы слова» в том числе);
- системы управления виртуалами: один инфобоец управляет 30–50 аккаунтами разных жанров;
- автоматы: боты, спам;
- многослойные человеческие структуры в соцсетях («Стадо Навального» на 40–50 тысяч пользователей);
- ангажированные деятели культуры, ангажированные чиновники, журналисты;
- ангажированные массовые сервисы (Твиттер, Youtube, поисковики, агрегаторы новостей);
- система «отмывки» вбросов (цикл: соцсети – СМИ – снова соцсети – снова СМИ).
(Приводится по лекции, состоявшейся 15.07.2015).

Не сложно заметить, что при таком расположении пунктов, первые 4 из них соответствуют четырём пунктам и подпунктам составляющих астротурфинга. Подделка мнений является частью этой инфраструктуры. Важно что деятели культуры, СМИ и интернет-сервисы формируют содержание информационного пространства, а астротурфинг – искусственное отношение к этому содержимому, каким бы оно ни было. 

Инфраструктура зомбирования в рунете была сформирована к 2013 г. По данным открытых источников ничего подобного у России ни в чьём информационном пространстве нет. В пользу такого утверждения веский аргумент – Статья 13 Конституции РФ, часть 2: «Никакая идеология не может устанавливаться в качестве государственной или обязательной».

А что есть? Какой «травой» покрывать (и нужно ли это делать) чужие «корни» или синтетику, распространяемые на весь мир?
Из беседы журналистов «Российской Газеты» со специалистом в области искусственного интеллекта Игорем Ашмановым:
«РГ: Есть ли оружие против информационных атак?
Ашманов: В декабре [2011 г.], когда в Москве бушевали митинги, на Чистых прудах митингующие пытались прорвать оцепление. У них был канал в Твиттере (тэг), который они через телефоны использовали для координации усилий. И когда они уже собрались прорываться, этот канал связи был зашумлен. Туда хлынули тысячи цитат русской классики. Митингующие не смогли координировать усилия. Потом, правда, перешли на другой канал, но с большими потерями аудитории.
РГ: Кто такое устроил?
Ашманов: Работа людей одного из интернет-ресурсов...».

 

Изображение: playground.ru

Подход стороны, когда-то победившей в холодной войне к применению оружия информационных атак (на основе пародии Д. Рисмена 1951 г. «Нейлоновая война»):
«Бомбардировщики сбросили на Ростов и Владивосток 200 тысяч пар нейлоновых чулок, 4 миллиона пачек сигарет, 10 тысяч часов и прочих товаров широкого потребления. Результаты ударов превзошли все ожидания, ибо жители городов ринулись делить, говоря современным языком, «гуманитарную помощь». Не помогли даже заградотряды.
И тогда Сталин (ох, этот коварный Сталин!) принимает решение на симметричный ответ (…) Только на Сиэтл 100 бомбардировщиков сбросили 500 меховых шуб, 15 тысяч банок икры и 80 000 брошюр с речью Сталина по проблемам национальных меньшинств. Но контрнаступление не произвело должного впечатления, так как норковые шубы оказались якобы плохо сшитыми, икры у самих американцев очень много, а речь Сталина вообще не была понята». 

 

Выход, который приемлем, в представлениях российского эксперта по информационным технологиям:
«Симметричный ответ здесь неправилен, невозможен и был бы катастрофой. Почему? Ну потому, что первое, что приходит в голову – а давай тоже создадим такие войска, они тоже будут постить, бегать везде и т.д. (…) если мы начнём копировать и делать симметричные ответы, у нас ничего не выйдет, мы-то по-другому устроены. (…)
…Произошли асимметричные ответы совершенно другого порядка – такие тектонические: был присоединён Крым, была проведена блестяще выигранная Олимпиада, возникло движение «Бессмертный полк» … ведь его придумали либералы, они пытались перепрограммировать».
Впереди этого перечня есть место для первого спутника, атомного ледокола и полёта Гагарина – событий, вызывавших интерес людей всего мира без обмана и без специального распространения.

Использованные выше аргументы выводят преимущественно на информацию от И.С. Ашманова – ИТ-разработчика и предпринимателя, пришедшего в политику. Но её распространение не было бы возможным без деятельности множества людей, как зарабатывающих в медиасфере, так и добровольцев. Они снимают, монтируют, публикуют, рутинно вытаскивают текст из видеозаписи, когда другого источника необходимых знаний нет. Подчас пост, который, по мнению автора «носит чисто информационный характер», эффективно работает уже своим названием, например: «Астротурфинг, или чьё у вас мнение».

Изображение: rossija.info
 

Подведём итог. Возвращаясь к вопросу, заданному в начале публикации, следует признать, что не все источники сообщений в интернете, называемые троллями, заслуживают такой оценки своих возможностей. И что действительно, не каждый, что-либо запостивший – человек. Астротурфинг – технология имитации мнений по пожеланиям заказчика. Способна влиять на поведение людей – от предпочтений в покупках до реакции на действия властей. Находится за гранью этики, как и вооружённое нападение.
Метод – троллинг, многообразие которого позволяет скрывать его провокационную сущность. Средства – прежде всего, интернет и информационные технологии, развитие которых повышает разрушительную силу искусственных взглядов.
Противодействие: для начала выявить для себя существование технологии, в помощь чему составлен данный материал. Дальше – не только не кормить троллей, что известно, но и не пытаться дать симметричные ответы вообще. Реакция допустима только правдой. Для этого необходимо ответить и на вопросы: какое общественное мнение естественное, какая цивилизационная идея исконно наша? 

Материалы

1. Аронсон Э., Пратканис Э. Р. Эпоха пропаганды: Механизмы убеждения, повседневное использование и злоупотребление. СПб.: Прайм-ЕВРОЗНАК, 2003. 384 с.
2. С.А. Зелинский. Психотехнологии гипнотического манипулирования сознанием. 2009. [Электронный ресурс]. Психологические приемы манипулирования психическим сознанием человека и масс: http://psyfactor.org/lib/zelinski2-11.htm.
3. С.Г. Кара-Мурза. Манипуляция сознанием [Электронный ресурс]. Сергей Георгиевич Кара-Мурза о культуре, истории, экономике и политике России: http://www.kara-murza.ru/books/manipul/mani.
4. Понятие sock puppet revolution. Третья мировая сетевая война. Коровин Валерий Михайлович (2014). ВикиЧтение https://public.wikireading.ru/32630.
5. Форумные тролли: основы противодействия. E-mirror http://emirr.ru/emirr_articles/279-forumnye-trolli.html.
6. Энциклопедия методов пропаганды (Как нас обрабатывают СМИ, политики и реклама). Виктор Сороченко. 2002 http://warrax.net/82/propaganda.html.