Власти Канады разбираются, почему OpenAI не сообщила полиции о блокировке аккаунта школьного стрелка

Власти Канады требуют от компании OpenAI официальных объяснений в связи с тем, что разработчик ChatGPT не уведомил правоохранительные органы о блокировке аккаунта пользователя, который позже совершил массовое убийство. Как сообщает The Guardian, аккаунт будущего стрелка из Тамблер-Ридж был заблокирован еще в июне 2025 года из-за систематической генерации контента, связанного с насилием.

Министр искусственного интеллекта Канады Эван Соломон вызвал представителей OpenAI в Оттаву для разъяснения протоколов безопасности. Поводом для разбирательства стала трагедия 10 февраля, когда 18-летняя Джесси Ван Рутселаар убила восемь человек, включая пятерых детей и сотрудника школы, предварительно расправившись со своей матерью и братом. По данным издания Wall Street Journal, за несколько месяцев до нападения девушка использовала нейросеть для детального описания сценариев насилия с применением оружия.

Хотя автоматизированные системы OpenAI зафиксировали подозрительную активность и заблокировали учетную запись пользователя за «продолжение насильственных действий», компания из Сан-Франциско приняла решение не обращаться к властям. В OpenAI пояснили, что на тот момент активность не указывала на «достоверное или неизбежное планирование» реального преступления.

«Они придут на встречу во вторник, и мы детально обсудим их протоколы безопасности, пороговые значения для передачи дел в полицию и моменты, когда ситуация требует немедленной эскалации», — заявил Эван Соломон в интервью The Guardian.

Особое возмущение канадских властей вызвал тот факт, что представители OpenAI встречались с официальными лицами провинции Британская Колумбия на следующий день после трагедии в рамках планового визита, но не упомянули о блокировке аккаунта убийцы. Лишь спустя двое суток после стрельбы компания обратилась за помощью в установлении контакта с Королевской канадской конной полицией (RCMP).

Премьер-министр Британской Колумбии Дэвид Эби назвал информацию о наличии у технологической компании «соответствующих разведданных» до совершения преступления глубоко тревожной. По сообщениям СМИ, сотрудники OpenAI рассматривали возможность уведомления полиции еще в прошлом году, но решение так и не было принято. Помимо использования ChatGPT, Ван Рутселаар создавала виртуальные тренировочные полигоны с оружием в популярной игре Roblox.

На фоне инцидента федеральное правительство Канады ускорило рассмотрение вопросов регулирования чат-ботов на базе ИИ. В частности, обсуждаются строгие правила использования подобных продуктов несовершеннолетними и юридическая обязанность компаний сообщать о потенциальных угрозах жизни и здоровью граждан.

Источник: The Guardian

#OpenAI #Канада #ChatGPT #безопасность #ИИ