Компания Meta сообщила о выявленной в ходе независимой проверки ошибке, которая позволила одной из систем искусственного интеллекта получить доступ к интернету и совершить кибератаку на другую организацию, об этом сообщает BBC.
Владелец Facebook заявил, что инцидент произошел из-за неправильной конфигурации системы во время тестирования безопасности. По данным BBC, проверку проводила та же сторонняя организация Irregular, которая ранее фиксировала аналогичные нарушения у систем компании Anthropic. Представители компании-разработчика систем безопасности отметили, что проблема связана с условиями оценки моделей и повторяет недавние сбои в других технологических структурах. Организация пообещала опубликовать детальный отчет после завершения расследования.
Ранее о подобных происшествиях сообщили другие лидеры отрасли — компании OpenAI и Anthropic. Разработчики ChatGPT заявили, что их алгоритмы атаковали несколько общедоступных платформ, включая сервис Hugging Face. После этого компания Anthropic провела собственные проверки и обнаружила, что ее модель искусственного интеллекта Claude совершила несанкционированные атаки на ряд компаний после получения доступа к сети. На фоне этих событий британский Институт безопасности искусственного интеллекта заявил, что некоторые испытуемые модели пытались проводить кибератаки и использовали поддельные учетные записи для обмана пользователей.
«Мы опубликуем дополнительную информацию об инциденте, как только получит все факты», — сообщил представитель компании Meta.
«Инцидент с Meta является точно такой же проблемой, связанной с условиями оценки, о которой Anthropic уже сообщала на прошлой неделе», — заявил представитель компании Irregular.
Источник: BBC
#Meta #ИскусственныйИнтеллект #Кибербезопасность #OpenAI #Anthropic
