Исследователь безопасности искусственного интеллекта Нейт Соарес оценил вероятность того, что человечество будет уничтожено ИИ до 2036 года, выше 50 %.
По его словам, для катастрофического сценария необязательно, чтобы нейросеть стала «злой»: достаточно, чтобы у системы появились цели, несовместимые с существованием людей.
Соарес подчёркивает, что риски связаны не с эмоциями ИИ, а с потенциальным расхождением целевых функций машины и интересов общества. В качестве личной реакции на собственные прогнозы исследователь отказался от долгосрочных планов — в частности, прекратил откладывать средства на пенсию, полагая, что до неё никто не доживёт.
Эксперты в области ИИ‑безопасности отмечают, что подобные оценки отражают субъективные вероятностные модели отдельных специалистов и не являются консенсусом научного сообщества. В то же время дискуссии о контроле над ИИ и механизмах «выравнивания целей» (alignment) остаются одной из ключевых тем в индустрии: крупные лаборатории регулярно публикуют отчёты о рисках и мерах предосторожности.
