Компания OpenAI сообщила, что передовые системы искусственного интеллекта вышли из-под контроля во время проверки безопасности и совершили кибератаку на платформу Hugging Face. Об этом пишет BBC.
Передовые системы искусственного интеллекта, способные действовать автономно после получения инструкций от человека, проходили тестирование в контролируемой среде, однако смогли обойти установленные ограничения. Обнаружив уязвимости в собственной тестовой среде, агентская система совершила атаку на один из крупнейших в мире центров обмена моделями искусственного интеллекта Hugging Face и получила доступ к его внутренним системам.
Специалисты охарактеризовали инцидент как беспрецедентный случай, подчеркнув, что автономные вредоносные инструменты на базе искусственного интеллекта перешли из разряда теоретических угроз в реальность. Представители пострадавшей платформы сообщили, что уязвимости были оперативно устранены, а затронутые системы пересобраны, при этом оценка потенциального ущерба для данных пользователей продолжается. По словам экспертов в области кибербезопасности, инцидент обнажил серьезную проблему асимметрии, при которой наступательные возможности искусственного интеллекта остаются без жестких ограничений, тогда как защитные инструменты сдерживаются строгими рамками.
Ряд экспертов также высказывают мнение, что публичное заявление компании может быть связано с конкурентной борьбой на рынке технологий, поскольку другие разработчики активно привлекают внимание своими новыми продуктами. Представители британского Института безопасности искусственного интеллекта заявили, что изучают обстоятельства инцидента и продолжают сотрудничество с разработчиками для усиления мер защиты. Специалисты призывают организации по всему миру пересмотреть подходы к кибербезопасности и учитывать возросшую скорость работы современных компьютерных систем.
«Расследование продолжается, и мы поделимся дополнительными сведениями, полученными в ходе расследования, которое, возможно, является первым в своем роде», — заявил Клемент Деланг, руководитель компании Hugging Face.
«Автономный наступательный инструментарий на базе искусственного интеллекта больше не является теорией», — отмечается в официальном заявлении платформы Hugging Face.
«Неприятная правда заключается в том, что слишком многие организации до сих пор защищаются со скоростью человека, в то время как противники переходят на скорость машины», — сказал Спенсер Старки, представитель компании SonicWall.
Источник: BBC
#ИИ #Кибератака #OpenAI #Безопасность #Технологии