Скандал с ИИ в соцсети X: правительство Британии грозит Маску блокировкой из-за дипфейков

Платформа X Илона Маска ограничила доступ к функциям редактирования изображений с помощью нейросети Grok, сделав их эксклюзивными для платных подписчиков. Решение было принято после волны резкой критики и обвинений      в том, что ИИ-инструмент использовался для создания порнографических дипфейков без согласия изображенных на них людей, об этом сообщает BBC.

Изменения в политике сервиса вступили в силу после многочисленных сообщений о том, что чат-бот Grok выполнял запросы пользователей на цифровую обработку фотографий, в результате которой люди на снимках оказывались обнаженными или в откровенной одежде. Теперь при попытке отредактировать изображение система уведомляет пользователей, что данная функция доступна только при наличии платной подписки. Это означает, что для доступа к инструменту личные и платежные данные пользователя должны быть верифицированы в системе платформы.

Британское правительство и регулирующие органы выразили глубокую обеспокоенность ситуацией. Премьер-министр Великобритании Кир Стармер назвал генерацию подобного контента «позорной» и «отвратительным» явлением, подчеркнув, что регулятор Ofcom имеет полную поддержку правительства в принятии самых жестких мер против X. Согласно Закону о безопасности в интернете, ведомство обладает полномочиями вплоть до требования заблокировать доступ к платформе на территории страны или ограничить возможности её финансирования.

«Сидеть и ждать, пока небезопасные товары начнут использоваться ненадлежащим образом, прежде чем принимать меры, недопустимо», — заявила Ханна Свирски из организации Internet Watch Foundation, чьи слова приводит BBC. Аналитики фонда ранее обнаружили в Сети преступные изображения несовершеннолетних, которые, предположительно, были созданы с помощью нейросети Маска.

Эксперты в области права и этики ИИ считают введенные ограничения недостаточными. По мнению профессора Клэр МакГлинн, ограничение доступа лишь для платных пользователей не решает проблему коренным образом, а скорее напоминает попытку избежать ответственности, прикрываясь дискуссиями о свободе слова. Критики настаивают на полной переработке этических алгоритмов Grok, чтобы предотвратить саму возможность генерации вредоносного контента. Ранее платформа уже сталкивалась     с аналогичным скандалом из-за распространения дипфейков с участием Тейлор Свифт, что вынуждало компанию временно блокировать поисковые запросы по имени певицы.

Источник: BBC

#X #Grok #ИлонМаск #ИИ #дипфейки