"Менмендік тағдыр ойыны". Бұрынғы Anthropic зерттеушісі жасанды интеллект адамзатты өлтіруі мүмкін деп ескертеді
Джейкоб Коксонның айтуынша, бұл саладағы көптеген адамдар апаттан қорқады, бірақ әлі де бір-бірімен жарысып, жасанды интеллектті жетілдіреді. Мысалы, OpenAI басшысы Сэм Альтман "суперинтеллек" 30-шы жылдардың басында пайда болады деп санайды.
Әлемдегі ең қуатты AI модельдерінің негізінде үш жыл бойы жүйелер құрған зерттеуші барған сайын жетілдірілген AI-ны дамытуда бәсекелес компаниялар "біздің өмірімізде ойнайды"деп бұл саладан мүлдем бас тартты.
27 жастағы Джейкоб Коксон 8 қыркүйекте Антропиктен зейнетке шықты. Бұған дейін ол OpenAI-де жұмыс істеген. Ол өзінің шешімінің себептерін x-тегі ұзақ хабарламада айтты.
"Бұл компаниялардың ешқайсысы жауапкершілікпен әрекет етпейді", - деп жазды ол. "Олар өзін-өзі жетілдіретін суперинтеллектке қарай жүгіреді".
Өз сөзінде Коксон AI жүйелері "кез-келген нәрсені бұзып, бір түнде кез-келген саланы айналдырып, нақты күш пен ресурстарға ие бола алатын" сәтке жақындады деп мәлімдеді және осы салалардың әрқайсысындағы прогресс қарқыны "төмендемейді"деп қосты.
Ол бұл технологияны жасайтындардың көпшілігі бұл адамзат үшін өлімге әкелуі мүмкін деп жеке қорқатынын айтты, бірақ олар оны көпшілік алдында мойындамайды.
"Жасанды интеллект жасайтын адамдар онжылдықтың аяғында ол бәрімізді өлтіруі мүмкін деп санайды", - деп жазды ол және басшылар жеке әңгімелерде бірдей қорқыныштарды мойындағанымен, ақылға қонымды болу үшін баспасөздегі сөздерді таңдайтынын айтты.
Барлық қатысушылар мойындаған жарыс енді тоқтатылмайды
Кокс кететін жалғыз сигнал емес.
Anthropic-тің негізін қалаушы Дарио Амодей жылдың көп бөлігінде өзінің компаниясы жасайтын технологияның қауіптілігі туралы ескертеді: қаңтар айындағы эссесінде ол қуатты AI авторитарлық режимдерге жалпы бақылаудың "тоталитарлық қорқынышына" арналған құралдарды бере алады деп жазды, ал кейінгі хабарламада суперинтеллектуал "адамзат үшін түр ретінде сынақ болады"деп ескертті.
OpenAI басшысы Сэм Альтман көпшілік алдында ұстамды сөйлейді, бірақ сонымен бірге суперинтеллектке сенеді, ол AGI (artificial general intelligence, "жасанды жалпы интеллект") аббревиатурасынан артық көреді, "бірнеше мың күн" ішінде пайда болады, яғни шамамен 2032 жылға қарай.
Сонымен қатар, Амодей Ақ үйге 2025 жылдың наурызында жіберілген құжатта 2026 жылдың аяғында "қуатты AI" деп атайтын нәрсенің пайда болуына дайындалуға шақырды.
Коксонның айтуынша, Anthropic қызметкерлері тәуекелдерді жақсы түсінеді, бірақ жарыстың КЕПІЛІ сияқты сезінеді: егер олар баяуласа, олардың орнын аз сақтықпен жасаушылар алады деп санайды.
Ол бұл динамиканы "менмендік тағдыр ойыны"деп атады.
Дерек көзі: https://ru.euronews.com
