Өртеу, төбелес және ұрлық
Соңғы уақытта AI агенттері сатып алудан бастап демалысты брондауға және веб-сайттар құруға дейінгі ең қиын тапсырмаларды орындау үшін көбірек қолданылуда.
Шын мәнінде, AI агенттері-бұл нақты тапсырмалар үшін жеке конфигурацияланған және оларды өз бетінше орындауға қабілетті чатботтар. Осылайша, технологияны жақсы білетін пайдаланушылар басқа нәрселерге уақыт бөле алады.
Алайда, өсіп келе жатқан зерттеулер, сондай — ақ өмірден алынған нақты мысалдар мұндай автономия болжау мүмкін истігін және ықтимал қауіпті тудыратынын көрсетеді.
Ірі технологиялық компаниялар жасанды интеллектке ақша салып жатқанда және жасанды интеллект негізіндегі қызметтерді белсенді түрде насихаттап жатқанда, сарапшылар: біз мұндай агенттердің бақылаудан шығып кетуінің салдарын жеткілікті түрде ойластырдық па?
"Зорлық-зомбылыққа өте тез жүгінді"
Соңғы эксперименттердің бірінде зерттеушілер агенттерді виртуалды әлемге шығару арқылы нақты әлемде не істей алатынын түсінуге тырысты.
Бұл осы түрдегі алғашқы ұзақ мерзімді зерттеу әртүрлі аватарлардың-төрт модель басқаратын боттардың — Claude, Grok, GPT және Gemini — 15 күн бойы адамның араласуынсыз қалай әрекет ететінін білуге арналған.
Оларға іс-әрекеттің толық еркіндігі және пікірталасты бастау, істер тізімін құру немесе блог жазу сияқты мүмкін болатын 140 нұсқа берілді.
Дерек көзі: https://www.bbc.com