Почему соцсети продвигают токсичный контент вопреки правилам

Информаторы и бывшие сотрудники ИТ-гигантов сообщили BBC о том, что компании Meta и TikTok сознательно жертвовали безопасностью пользователей ради удержания аудитории и конкуренции. Согласно результатам расследования, алгоритмы социальных сетей настроены на продвижение токсичного и вызывающего возмущение контента, поскольку это приносит максимальную прибыль, сообщает BBC.

Внутренние исследования компаний подтверждают, что контент, вызывающий гнев и поляризацию общества, пользуется аномально высокой популярностью. По данным инсайдеров, руководство Meta давало указания ослабить фильтры для материалов, «граничащих с вредоносными», включая теории заговора и женоненавистничество, чтобы остановить падение акций и догнать TikTok. Бывший исследователь Meta Мэтт Мотил предоставил документы, согласно которым в разделе Instagram Reels уровень травли, разжигания ненависти и призывов к насилию значительно выше, чем в других частях платформы.

Информаторы из TikTok, в свою очередь, раскрыли детали приоритизации контента. По словам сотрудника службы безопасности, компания отдавала предпочтение жалобам от политиков, чтобы избежать регуляторных рисков, в то время как сообщения о сексуальном шантаже и кибербуллинге несовершеннолетних обрабатывались во вторую очередь. Инженер Руофан Дин, работавший над системой рекомендаций TikTok, сравнил алгоритмы с «черным ящиком», отметив, что разработчики фокусируются на росте показателей, ожидая, что за безопасность будут отвечать другие отделы.

Жертвами гонки алгоритмов становятся подростки. 19-летний Калум рассказал в интервью BBC, что с 14 лет подвергался радикализации из-за рекомендаций, которые подпитывали его внутреннюю агрессию и привели к принятию расистских взглядов. Полиция Великобритании также фиксирует «нормализацию» экстремистских высказываний в социальных сетях, отмечая, что пользователи перестают воспринимать реальное насилие как нечто недопустимое.

«Удалите приложение и держите детей подальше от него как можно дольше», — посоветовал родителям один из действующих сотрудников службы безопасности TikTok.

Обе компании официально отвергают обвинения информаторов. В Meta заявили, что предположения о намеренном распространении вреда ради выгоды неверны, а в TikTok назвали утверждения сфабрикованными, подчеркнув наличие множества встроенных функций защиты молодежи. Тем не менее эксперты указывают на фундаментальный конфликт между финансовыми стимулами алгоритмов и безопасностью общества.

Источник: BBC

#TikTok #Meta #соцсети #алгоритмы #безопасность