Перед тем как генерального директора OpenAI Сэма Альтмана выгнали из компании, несколько ее исследователей направили письмо в Совет директоров, в котором предупредили о создании мощного искусственного интеллекта, который, по их мнению, «может угрожать человечеству». Об этом пишет Reuters, ссылаясь на свои источники.

Это письмо стало одной из причин в длинном списке недовольств Совета директоров, приведших к увольнению Альтмана. Reuters не смог связаться с авторами письма или получить комментарии от OpenAI. Однако после обращения Reuters компания сообщила своим сотрудникам о существовании некого проекта под названием Q* (читается как Q-Star).

Некоторые сотрудники OpenAI полагают, что Q* может стать прорывом в области так называемого общего искусственного интеллекта (AGI). OpenAI определяет его как самостоятельную систему, которая превосходит людей в большинстве экономически ценных задач.

По словам одного из источников, пока Q* решает математические задачи только на уровне младших школьников, но успешное прохождение таких тестов внушает исследователям большую уверенность в возможностях его развития.

Основное отличие такого ИИ в том, что он умеет ставить цели, разбивать сложные процессы на простые, работать в широком спектре задач и находить решения с учетом контекста из разных областей. Проще говоря, такой интеллект в теории может заменить высококвалифицированного специалиста, обладающего знаниями, навыками и опытом.

Исследователи считают, что математика — это передовая область развития генеративного ИИ. Сейчас он хорошо справляется с письмом и переводом, статистически предугадывая следующее слово, и ответы на один и тот же вопрос могут сильно отличаться. Но освоение математики (где есть только один правильный ответ) подразумевает, что у ИИ будут более широкие способности к рассуждению, похожие на человеческий интеллект. Это можно использовать, например, для новых научных исследований, считают эксперты.

В своем письме Совету директоров исследователи выразили свою озабоченность силой ИИ и потенциальной опасностью. Они также упомянули работу специальной группы «ученых по искусственному интеллекту», существование которой подтвердили и другие многочисленные источники. По словам одного из них, эта команда изучает, как оптимизировать существующие модели ИИ, чтобы улучшить их рассуждения и, в конечном счете, выполнять с их помощью научную работу.

Альтман возглавлял усилия по превращению ChatGPT в одно из самых быстрорастущих программных приложений в истории и привлек инвестиции и вычислительные ресурсы от Microsoft, необходимые для приближения такого AGI. А накануне своего увольнения на саммите мировых лидеров в Сан-Франциско он объявил о неких «серьезных достижениях, которые уже близки».

На следующий день правление уволило Альтмана.

Источник: Reuters