Лидеры крупнейших ИИ‑компаний бьют тревогу: , и темпы его совершенствования необходимо взять под контроль. Об этом заявили руководители Anthropic, OpenAI, xAI и Hugging Face.
Глава Anthropic Дарио Амодей подчеркнул, что для решения проблем, связанных с рисками ИИ, недостаточно просто инвестировать в безопасность — нужно регулировать темпы развития технологий, чтобы меры защиты не отставали от возможностей систем.
По его словам, уже через 6–12 месяцев продвинутый ИИ потенциально способен захватить интернет с помощью постоянного ботнета и нанести ущерб в сотни миллиардов долларов. Амодей предложил создать систему внешней экспертной проверки для передовых ИИ‑компаний, наладить их координацию между собой, а также выработать глобальные стандарты безопасности при участии правительств, в том числе в диалоге с Китаем.
С этими опасениями согласился и Илон Маск, глава xAI (разработчик модели Grok).
Гендиректор OpenAI Сэм Альтман заявил, что считает неприемлемым риск гибели человечества с вероятностью 10 % к концу десятилетия. Он отметил, что сейчас наступает новая эра, которая требует иного подхода: деятельность должна приносить пользу всему человечеству и не подвергать его опасности.
Альтман также добавил, что, хотя до крайних мер вроде уничтожения всех графических процессоров (GPU) дело вряд ли дойдёт, в случае угрозы существованию людей такие шаги были бы оправданны. В связи с этим OpenAI намерена сделать особый акцент на вопросах безопасности и контроля за ИИ.
Компания Hugging Face, в свою очередь, запускает «инициативу открытого согласования» и готова привлекать сторонние системы для оценки безопасности своих разработок, сообщил гендиректор Клеман Деланж.
Особую остроту ситуации придаёт шаг исследователя Anthropic Джейкоба Коксона, который накануне этих заявлений покинул компанию. Он объяснил своё решение тем, что не хочет участвовать в гонке по созданию ИИ‑систем, способных к самостоятельному совершенствованию и потенциально опасных для человечества. Коксон считает, что ни одна компания не способна в одиночку ответственно разрабатывать такие технологии, и опасается, что уже к концу следующего года ситуация может выйти из‑под контроля.
