Америкалық кәсіпкер Илон Маск жасанды интеллектінің қуаттырақ модельдерін әзірлеуді баяулату туралы ұсынысты қолдап, осыдан 12 жыл бұрын жасаған ескертуін еске салды. Бұл туралы ол өзінің Х-тегі парақшасында жазды.
Anthropic компаниясының басшысы Дарио Амодеи бұған дейін қауіпсіздікке төнетін ықтимал қатерлерге байланысты жасанды интеллектті дамытуды уақытша баяулатуға шақырған еді, деп жазды ҚазАқпарат. Маск бұл ұсынысты қолдады.
Фото: Анадолы
Кәсіпкер 2014 жылғы өз жазбасына жауап ретінде «Он екі жыл бұрын» деп жазды. Ол сол кезде жасанды интеллектінің әлеуетті қаупі ядролық қарудан да жоғары болуы мүмкін екенін ескерткен.
ЖИ-дің қарқынды дамуына қатысты алаңдаушылықты басқа мамандар да білдіріп отыр. Anthropic зерттеушісі Джейкоб Коксон технологиялық жарыс әлемді «қайтарымсыз нүктеге» жақындатып, 2027 жылдың соңына қарай аса қауіпті салдарға әкелуі мүмкін екенін айтып, осы саладан кететінін мәлімдеді.
Anthropic компаниясының зерттеушісі Джейкоб Коксон жасанды интеллектіні дамыту жарысы жауапсыз сипат алып бара жатқанын айтып, бұл технология болашақта адамзаттың жойылуына әкелуі мүмкін екенін ескертті. Бұл туралы Anadolu жазды.
Фото: Canva / Kazinform
Коксон бұған дейін OpenAI компаниясында да жұмыс істеген. Ол 8 қыркүйекте Anthropic-тен кетіп, жасанды интеллект индустриясындағы жұмысын тоқтатқанын жариялады.
Зерттеуші OpenAI мен Anthropic компаниялары өзін-өзі жетілдіретін суперинтеллект жасауға асығып, қауіпсіздік мәселесін тиісті деңгейде ескермей отырғанын айтты. Оның пікірінше, мұндай жарыс адамзат үшін елеулі қауіп төндіруі мүмкін.
– Олар біздің өмірімізбен ойнап жатыр, – деп жазды Коксон әлеуметтік желідегі жазбасында.
Оның айтуынша, жасанды интеллект саласында жұмыс істейтін адамдардың өздері бұл технология адамзатқа жойқын қауіп төндіруі мүмкін деп алаңдайды. Коксонның пікірінше, бұл мәселе маркетингтік тәсіл емес, компаниялардың ішінде де жоғары лауазымды басшылар мен тәжірибелі зерттеушілер арасында шынайы алаңдаушылық бар.
Джейкоб Коксонның сөзін Anthropic компаниясының қазіргі қызметкері, Alignment бөлімінің жетекшісі Эван Хубингер де қолдады. Ол жасанды интеллект алдағы он жыл ішінде бүкіл адамзатты жойып жіберуі мүмкін деген ықтималдықты 10%-дан жоғары деп бағалайтынын айтты.
Материал ҚазАқпарат агенттігінен алынды.
