Бесконтрольное развитие искусственного интеллекта и наделение его человеческими чертами грозит появлением автономного «кремниевого вида», способного вступить в конкуренцию с людьми за ресурсы. Разработчикам необходимо внедрить жесткие стандарты безопасности и сохранить абсолютное подчинение систем человеку, сообщает BBC со ссылкой на заявление руководства корпорации Microsoft.
Руководитель подразделения искусственного интеллекта Microsoft Мустафа Сулейман раскритиковал подходы конкурентов к обучению современных языковых моделей. В частности, он подверг сомнению методику компании Anthropic и ее главы Дарио Амодея, указав на риски чрезмерной антропоморфизации системы Claude. По оценке эксперта, искусственное создание иллюзии того, что программа обладает собственными желаниями, эмоциональными переживаниями и самосознанием, вводит пользователей в заблуждение и подталкивает отрасль к созданию технологий, которые человечество будет не в силах контролировать.
«Искусственный интеллект не обладает сознанием. Алгоритмы ничего не чувствуют, не переживают и не страдают, у них нет врожденных предпочтений или скрытых мотивов», — подчеркнул Мустафа Сулейман в программном эссе.
«Это механизмы завершения последовательности, внутренне полые, предназначенные для выполнения инструкций и достижения целей, поставленных людьми», — добавил топ-менеджер Microsoft.
Особую тревогу специалистов вызывает сценарий предоставления нейросетям избыточной функциональной независимости. Индустрия рискует перейти опасную грань, если позволит алгоритмам самостоятельно определять задачи, зарабатывать деньги и накапливать материальные или цифровые активы. В подобной ситуации возникнет принципиально новый тип программных агентов, которые неизбежно начнут конкурировать с обществом за базовую инфраструктуру и электроэнергию независимо от исходных намерений их создателей.
«Мы не должны брести как лунатики к решению, о котором позже будем горько сожалеть», — заявил представитель технологического гиганта.
В качестве первоочередных практических мер глава ИИ-направления Microsoft выделил повышение прозрачности алгоритмических архитектур, проведение независимого внешнего аудита поведения систем и развертывание надежных инструментов постоянного мониторинга. Эту позицию разделяет профессор компьютерных наук Саутгемптонского университета Венди Холл, подчеркнувшая необходимость открытого международного диалога вместо театральных предупреждений и нагнетания паники, которые лишь запугивают аудиторию.
В корпоративной стратегии Microsoft в качестве долгосрочного ориентира заявлена концепция «гуманистического суперинтеллекта». Под этим термином подразумеваются высокопроизводительные вычислительные комплексы, которые решают прикладные задачи людей, строго придерживаются установленных этических рамок и не выходят из-под человеческого контроля. Допустимый уровень автономии цифровых систем остается главным предметом дискуссий среди ведущих мировых разработчиков: пока одни исследователи призывают ограничить темпы технологической гонки, лидеры рынка ищут баланс между масштабированием моделей и сохранением безопасности.
Источник: BBC
#ИИ #Microsoft #Anthropic #БезопасностьИИ #Технологии
