На прошлой неделе некоторые пользователи тестировали новый вариант поисковика Bing. В него встроен уже нашумевший и быстро набирающий популярность чат-бот ChatGPT на основе искусственного интеллекта. Особо любознательные сумели вытащить на свет общества секреты, скрытые разработчиками в тени отладочного режима.

Одним из тестировщиков был владелец и главный редактор интернет-портала Bleeping Computer Лоуренс Абрамс. Он провёл немало времени за формулировками каверзных вопросов боту. Благодаря большому количеству каверзных вопросов, заданных боту, он сумел обнаружить  скрытые режимы, предназначенные только для сотрудников Microsoft.  

Например, удалось найти режим «друга». Абрамс выдал себя за грустного ребёнка, а ИИ показал сочувствие, поддержал полноценный диалог. А кроме того, посоветовал целый список вариантов для налаживания отношений со сверстниками.

В конце концов терпение разработчиков кончилось и учетную запись Абрамса за его эксперименты заблокировали. После чего Microsoft ввела ряд ограничений, и полноценные диалоги с тестами проводить стало невозможно. О странном поведении чат-бота сообщалось и раньше. Он совершал ошибки, порой проявлял все признаки глубокой депрессии, а иногда даже агрессию.

Источник: Bleeping Computer