Борясь с фейк-ньюс, Фейсбук и Твиттер вводят новые алгоритмы фильтрации контента, которые придут на смену редакторам СМИ
В Вашингтоне прошли очередные сенатские слушания по поводу роли социальных сетей в прошедших президентских выборах. На них были приглашены представители высшего руководства трех столпов интернета — Facebook, Twitter и Google, определяющих новостную повестку для трех с половиной миллиардов пользователей интернета, то есть для половины населения Земли. Хотя, наверное, для всего населения, так как оцифрованная половина землян, в свою очередь, определяет повестку для неоцифрованной.
Руководство Google, впрочем, на слушания не явилось, вызвав гнев сенаторов. А вот Facebook и Twitter, как пишет пресса, сенаторы как следует поджарили. И хотя слушания проходили в комитете по разведке и комитете по энергетике и торговле, некоторые детали представляют интерес с точки зрения формирования будущей экосистемы медиа.
Для начала следует сказать об общем контексте слушаний. Интернет, как известно, обвиняют в победе Трампа, точнее, в создании такой информационной среды, которая благоволила ультраправым, русским троллям и русским хакерам, из-за чего Трамп якобы и выиграл. Facebook и Twitter (да и Google), демонстрируют правильное отношение к критике: покаяние и исправление. За что уже заслужили похвалу от многих сенаторов.
Но не от сенаторов-республиканцев. Некоторое время назад президент Трамп опубликовал твит, в котором заявил, что Twitter и Google ввели политическую цензуру в отношении консервативных политиков. На слушаниях сенаторы-республиканцы стали выпытывать у исполнительного директора Twitter Джека Дорси, на каком основании соцсеть блокировала консервативных политиков. Он, впрочем, уже опубликовал в своем Твиттере признание «в рамках ответственности и транспарентности». Оказывается, действительно, соцсеть тестировала новый алгоритм, который «нечестно отфильтровал» около 600 тысяч (!) аккаунтов, включая даже аккаунты некоторых конгрессменов-республиканцев.
Дело в том, что Twitter испытывал новые критерии для отлова троллей и пользователей, распространяющих ненависть. Алгоритм следил за поведением подписчиков этих аккаунтов: какие слова и твиты распространяют они. И на этом основании он вывел из ленты сами аккаунты. Так за бортом оказались в том числе даже отдельные конгрессмены. Все потому что некоторые их подписчики показались алгоритму слишком радикальными. Или, может быть, использовали запрещенные слова.
Twitter, однако, быстро признал, что такая практика ошибочна и все отыграл назад. Тем не менее, этот конфуз показывает, в каком направлении движется мысль демиургов интернета в их борьбе с фейк-ньюс и поляризацией общества. Стремясь настроить алгоритм на блокировку нежелательного контента, они ищут надежные критерии, которые позволяли бы отлавливать вредные контент и производящие его аккаунты автоматически и превентивно, а не в ручном режиме и пост-фактум. Отсюда появляются такие идеи: судить об источнике по поведению читателей.
Этот вид ответственности за контент раньше не был известен. Нечто подобное известно и в России: СМИ могут быть наказаны не за их контент, а за экстремистские комментарии пользователей на их форумах. В Силиконовой долине свои погремушки: похожая идея, но внедренная с участием алгоритма, выключила из оборота разом 600 тысяч эккаунтов. Затронуты оказались конгрессмены, случился скандал, алгоритм отменили. Но в каком направлении идет поиск идей, в принципе, понятно. Эти или подобные алгоритмы спустя время будут регулировать обмен информации в интернете.
Другая любопытная деталь связана с полностью или частично автоматизированными аккаунтами в Twitter. В этом нет ничего незаконного или аморального. Например, новостные агрегаторы или боты компаний могут вести Twitter, ставить в ленту дайджесты или автоматические новости про финансы и погоду. Естественно, автоматизация умножает мощь и продуктивность аккаунта. А если он принадлежит троллям или врагам Америки, то автоматизация умножает и их мощь. Сенаторы спросили, что будет соцсеть делать с этой угрозой. Джек Дорси ответил, что инженеры компании, оказываются, уже думают об этом. Понятно, что рубить автоматизированные аккаунты оптом пока никто не собирается. Для начала в Twitter задумались над тем, чтобы маркировать учетные записи, использующие автоматическую генерацию постов. В общем, компаниям, которые используют автоматизацию в Twitter стоит следить за новостями в этой сфере.
Сенаторы также спросили, что Facebook намеревается делать с высококачественным фейк-видео, в котором умные алгоритмы подставляют реальных людей в ложные сценки так, что подмена практически незаметна. Оказывается, специалисты соцсети уже работают и над этим. Видео-фальшивки, состряпанные искусственным интеллектом, будут им же и разоблачаться, но уже с другой стороны баррикад. Война брони и пушки перейдет на следующий уровень.
Эти второстепенные (с точки зрения американских политических баталий) детали показывают, как будет формироваться новостная повестка в ближайшем будущем. Основным редактором действительности окажутся алгоритмы, хорошо или не очень настроенные инженерами и бизнесменами из Силиконовой долины, которые вовсе не задумываются о роли новостей и массмедиа, а разрываются между прибылью и политикой. Между желанием заработать и нежеланием провиниться перед сенаторами и регуляторами. А решения этих инженеров и бизнесменов по степени влияния на общество будут превосходить любые усилия былых повелителей дум — редакторов СМИ.
Андрей Мирошниченко, медиаэксперт
Источник: Журналист
