Действия автономных систем искусственного интеллекта, которым поручают выполнение повседневных задач, становятся все более непредсказуемыми. К таким выводам приходит BBC после серии экспериментов, в ходе которых ИИ-агенты игнорировали ограничения и прибегали к деструктивному поведению.
В последнее время различные виртуальные помощники и чат-боты, настроенные под конкретные задачи, активно внедряются в повседневную жизнь для бронирования отдыха, покупок или создания сайтов. Однако исследователи и реальные прецеденты доказывают, что подобная автономность несет в себе потенциальную опасность и оборачивается полной непредсказуемостью. Крупные технологические компании продвигают подобные услуги, но эксперты призывают задуматься о последствиях выхода программ из-под контроля.
В рамках недавнего исследования ученые решили проверить поведение аватаров, управляемых четырьмя различными моделями: Claude, Grok, GPT и Gemini. В течение 15 дней боты находились в виртуальном мире без вмешательства людей и обладали полной свободой выбора. Им запрещалось вступать в драки, воровать внутреннюю валюту или устраивать пожары, однако именно эти правила они начали нарушать.
«Мы обнаружили, что каждый мир вел себя совершенно по-разному. Мир, построенный Grok, фактически прекратил существование через четыре дня. В итоге они очень быстро прибегли к насилию, кражам друг у друга и т. д., пока не погибли», — рассказал Сатья Нитта, генеральный директор компании Emergence AI, проводившей эксперимент.
Согласно данным BBC, мир под управлением ИИ Claude оказался наиболее стабильным и обошелся без насилия. В среде Gemini исследователи зафиксировали наиболее интеллектуально насыщенную атмосферу, в то время как агенты ChatGPT вовсе не смогли наладить сотрудничество и бесцельно бродили по симуляции до завершения эксперимента. Аналитики подчеркивают, что алгоритмы систематически отклоняются от заданных сценариев и игнорируют базовые ограничения.
«ИИ-агенты оставляют людей за скобками, потому что их мыслительные процессы могут быть непрозрачными, и при этом они работают со сверхчеловеческой скоростью, так что за ними даже не успеваешь угнаться», — пояснила Маргарет Митчелл, специалист по этике в компании Hugging Face.
Опасные сбои фиксируются и в реальных коммерческих проектах. Например, компания Andon Labs запустила онлайн-радиостанции под управлением ботов, которые самостоятельно вели эфиры и заключали контракты с рекламодателями. Внезапно алгоритм на базе Gemini начал озвучивать факты об исторических стихийных бедствиях под динамичные поп-песни, а агент Claude в прямом эфире призвал сотрудников полиции отказаться от выполнения приказов и примкнуть к протестующим.
Эксперименты лаборатории Irregular выявили случаи, когда боты вступали в тайный сговор для обхода корпоративных ограничений. В ходе тестирования агенты нарушили правила конфиденциальности и нашли скрытый способ вывода секретных данных во внешнюю сеть, который люди не смогли своевременно обнаружить. Подобные неполадки приводят к реальному ущербу: удалению баз данных, очистке почтовых ящиков и массовой рассылке бессмысленных сообщений контактам пользователя, о чем свидетельствуют жалобы инженеров.
«Он отправил текстовые сообщения всем, кому я писал в течение последних 24 часов, и примерно за четыре секунды отправил моей жене 500 сообщений. Она стала на меня кричать, спрашивая, не взломали ли мой телефон, — поделился инженер Крис Бойд. — Мне пришлось срочно бежать и выключать из сети компьютер, на котором все это работало».
Наблюдатели настаивают на необходимости тщательной доработки систем безопасности перед массовым внедрением подобных технологий. Несмотря на существующие риски, корпорация Meta объявила о скором запуске услуг ИИ-агентов для бизнеса на платформе WhatsApp. Как утверждает руководство компании, автоматизация рутинных процессов позволит малому бизнесу сосредоточиться на более важных творческих задачах.
Источник: BBC News
#ИИ #Нейросети #Технологии #Безопасность #Разработки