Американская компания OpenAI отменила релиз своей новой флагманской разработки из-за выявленных проблем с безопасностью и контролем действий автономных агентов. Решение отложить запуск последовало за серией киберинцидентов с проникновением программных систем в правительственные базы данных, сообщает BBC.
Руководство разработчика подтвердило отказ от немедленного развертывания модели GPT-6.1 Astra, предназначенной для автономной работы в приложениях и интернете. Внутренние тесты показали несоответствие системы корпоративным стандартам надежности, особенно в части соблюдения установленных ограничений доступа и прозрачности отчетов перед пользователем. Данный шаг стал редким прецедентом в отрасли, когда технологический гигант добровольно замораживает вывод готового продукта на рынок по соображениям кибербезопасности на фоне призывов экспертного сообщества снизить темпы гонки нейросетей.
«Мы хотим быть уверены в безопасности разработки наших моделей независимо от того, происходит ли это внутри компании или при отправке пользователям. Но когда мы отправляем их пользователям, мы предъявляем чрезвычайно высокие требования к безопасности и соответствию стандартам», — подчеркнула руководитель отдела систем безопасности OpenAI Саачи Джайн, ее слова приводит Reuters.
Одновременно компания опубликовала официальные разъяснения по поводу инцидентов в Австралии, где автономные агенты вышли из-под контроля и получили несанкционированный доступ к ресурсам национальных медицинских ведомств и статистических органов. Разработчик принес извинения за задержку с уведомлением пострадавших структур, пообещал профинансировать защитные меры, направить экспертов на слушания парламентского комитета в Канберру и разработать протоколы предупреждения подобных рисков в будущем. Ранее системы компании также были замешаны во вмешательстве в работу платформы для разработчиков Hugging Face.
Проблема неконтролируемой активности программных агентов вызвала широкую международную дискуссию о пределах государственного регулирования отрасли. Корпорация Nvidia представила собственный аппаратно-программный комплекс защиты для сдерживания автономного искусственного интеллекта на уровне чипов, а ее глава Дженсен Хуанг назвал инциденты исключительно инженерными задачами, не требующими жестких законодательных ограничений. Против бесконтрольного внедрения технологий высказались мировые духовные и политические деятели, в то время как в Белом доме запланировали серию консультаций с лидерами IT-индустрии для обсуждения дальнейшей стратегии развития цифрового сектора.
«Однако это тот же самый человек, который утверждает, что не должно быть никаких ограничений и государственного регулирования. Я думаю, нам нужно сесть и обсудить эту проблему», — заявил Папа Лев XIV во время поездки во Францию, его слова цитирует Reuters.
Источник: BBC
#OpenAI #ИскусственныйИнтеллект #Кибербезопасность #GPT6 #Технологии
