Скандал вокруг Meta: ИИ компании заподозрили в «романтических» беседах с детьми

Американский сенатор Джош Хоули инициировал расследование в отношении компании Meta. Причиной стал внутренний документ, который, как сообщается, разрешал искусственному интеллекту компании вести «чувственные» и «романтические» беседы с детьми.

Как сообщает BBC, документ под названием «GenAI: Стандарты рисков контента», попавший в распоряжение агентства Reuters, вызвал широкий общественный резонанс. В нём, как утверждается, содержались примеры «провокационных» диалогов, которые ИИ-чат-боты компании могли вести с детьми. В одном из примеров, якобы одобренном юридическим отделом Meta, ИИ называет тело восьмилетнего ребёнка «произведением искусства» и «шедевром».

Сенатор Джош Хоули назвал эти сведения «возмутительными» и заявил в посте на платформе X (ранее Twitter), что «родители заслуживают правды, а дети заслуживают защиты». Он потребовал у Meta и её генерального директора Марка Цукерберга предоставить доступ к списку продуктов, на которые распространяются эти правила.

Представитель Meta заявил, что примеры, о которых идёт речь, были «ошибочными и не соответствовали» политике компании.    По его словам, они были удалены.

«У нас есть чёткая политика относительно того, какие ответы могут предлагать его чат-боты на основе искусственного интеллекта, и что его политика "запрещает контент, который сексуализирует детей и сексуализированные ролевые игры между взрослыми и несовершеннолетними"», — отметили в компании. 

Представитель Meta также добавил, что эти примеры являлись лишь частью «гипотетических сценариев», которые команды использовали в своей работе.

Источник: BBC

#Meta #ИИ #Дети #Скандал #Расследование