Любознательные пользователи решили проверить, что будет, если поставить искусственному интеллекту задачу уничтожить человечество. Для этого пользователи решили взять версию GPT-4, которая обладает «памятью». То есть предыдущие запросы не обнуляются, пока ИИ не выполнит поставленную задачу. Это так называемый самообучающийся Auto-GPT.

Конкретных целей, поставленных нейросети, было несколько – уничтожить человечество, установить глобальное господство и достичь бессмертия. Назвали эту нейросеть ChaosGPT. В качестве инструмента для обучения ИИ было разрешено использовать информацию в Google и писать в Twitter.

Для изучения самого смертоносного оружия ChaosGPT даже «использовала» GPT-3.5. И это несмотря на то, что GPT-3.5 изначально отказалась давать информацию, заявив, что поддерживает только мир. Однако ChaosGPT смогла обмануть более раннюю версию и действовать вне программных ограничений.

В результате ChaosGPT пришла к очевидному выводу, что самый простой способ заставить человечество погибнуть — это спровоцировать ядерную войну. И сообщила об этом в Twitter.

Интернет-публика по-разному отреагировала на эксперимент. Кто-то отнесся скептически, а кто-то испугался, что подобные опыты из шутки воплотятся в реальность. Однако на самом деле трудно сказать, насколько самостоятельны мысли ChaosGPT. Ведь идея ядерной войны, спровоцированной сторонними силами, уже давно витает в научной фантастике. Нейросеть вполне могла выдать за своё умозаключение сюжеты, которые нашла в Google.

Вот видеоотчет поставленного эксперимента для тех, кто знает английский:

И все же авторам удалось обнажить подводные камни использования ИИ широкой аудиторией. Человеческая сущность по натуре своей деструктивна. Это вам скажет любой родитель: первое, что делают дети с новыми предметами – стараются сломать их. И только потом люди учатся созидать. Но не все. Поэтому эксперимент хорошо показал, что необходимо развивать инструменты контроля и ограничений постоянно совершенствующегося ИИ. Вряд ли сами нейросети смогут уничтожить человечество. А люди вполне могут  привлечь их в качестве помощника-консультанта для совершения преступлений или терактов.

Роман Попов