Платформа X вводит запрет на создание откровенных дипфейков после международного давления

Социальная сеть X внедряет новые технологические барьеры для своей нейросети Grok, ограничивая возможность создания сексуализированных дипфейков реальных людей. Решение было принято под давлением правительств Великобритании и США, а также после блокировки сервиса в ряде стран Юго-Восточной Азии, сообщает BBC.

Платформа X объявила о внедрении программных ограничений для своей модели искусственного интеллекта Grok. Нейросеть больше не сможет редактировать фотографии реальных людей для придания им откровенного вида в тех юрисдикциях, где подобные действия признаны незаконными. В официальном заявлении компании подчеркивается, что эти меры призваны предотвратить создание и распространение сексуализированных дипфейков, вызывающих серьезную обеспокоенность у правозащитников и властей.

Правительство Великобритании приветствовало этот шаг. Премьер-министр страны сэр Кир Стармер ранее неоднократно призывал руководство X усилить контроль над инструментами искусственного интеллекта. По данным западных СМИ, решение о блокировке функций Grok по географическому признаку было принято спустя всего несколько часов после заявления генерального прокурора Калифорнии Роба Бонты о начале масштабного расследования. В штате изучают случаи распространения созданных ИИ материалов сексуального характера, в том числе затрагивающих интересы несовершеннолетних.

Согласно новым правилам, создавать и редактировать изображения через Grok смогут только владельцы платных аккаунтов.            В руководстве социальной сети считают, что это обеспечит дополнительный уровень идентификации и поможет привлекать к ответственности лиц, злоупотребляющих технологиями. В тех регионах, где действуют соответствующие запреты, пользователи потеряют возможность генерировать изображения реальных людей в бикини или нижнем белье. Изменения коснутся всех категорий пользователей, включая обладателей премиум-подписок.

Основатель компании Илон Маск, комментируя нововведения, отметил, что при включении соответствующих настроек безопасности Grok по-прежнему сможет генерировать наготу, но только в отношении вымышленных персонажей.

«Это должно соответствовать стандартам, принятым в киноиндустрии для фильмов с рейтингом R. В других регионах ситуация может отличаться в зависимости от национального законодательства», — заявил Илон Маск.

Тем не менее позиция владельца платформы остается предметом острых дискуссий. Ранее он активно защищал функционал нейросети, называя критику попыткой подавления свободы слова. Негативная реакция мирового сообщества усилилась после того, как Малайзия и Индонезия стали первыми государствами, полностью запретившими инструмент Grok на своей территории. Поводом для этого послужили массовые жалобы пользователей на изменение их личных фотографий без их ведома и согласия.

Британский медиарегулятор Ofcom также инициировал проверку деятельности платформы X на предмет нарушения законодательства о безопасности в интернете. В случае подтверждения вины компании грозит штраф в размере до 10% от её мирового дохода. В крайнем случае регулятор может обратиться в суд с требованием полной блокировки доступа к ресурсу на территории страны. Сэр Кир Стармер предупредил, что платформа может лишиться права на саморегулирование, если не решит проблему дипфейков, которые он назвал позорными.

Эксперты в области интернет-права выражают сомнение в эффективности предложенных мер. Исследовательница Риана Пфефферкорн подчеркивает, что остаются открытыми вопросы о том, как именно нейросеть будет идентифицировать изображения реальных людей. По мнению специалистов, затягивание с внедрением защитных механизмов и провокационное поведение руководства платформы в социальных сетях лишь усугубляют конфликт с международными регуляторами.

Источник: BBC

#ИИ #Grok #ИлонМаск #Дипфейки #Безопасность