ИИ и сознание: могут ли машины мыслить и чувствовать?

С развитием искусственного интеллекта (ИИ) и больших языковых моделей (LLM) все чаще возникает вопрос о возможности обретения машинами сознания. Ученые и философы расходятся во мнениях: одни считают, что ИИ уже близок к самосознанию или даже достиг его, другие утверждают, что истинное сознание может быть присуще только живым системам.

Научный корреспондент ВВС Паллаб Гхош, участвуя в исследовании под названием Dreamachine в Центре науки о сознании Университета Сассекса, описывает свои ощущения от стробоскопического освещения, направленного на изучение того, как человеческий мозг генерирует сознательные переживания мира. Исследователи полагают, что эти уникальные внутренние образы могут пролить свет на природу сознания.

Идея сознательных машин давно присутствует в научной фантастике, начиная с фильма «Метрополис» (1927), где робот выдает себя за человека. В «Космической одиссее 2001 года» (1968) компьютер HAL 9000 представляет угрозу, а в недавнем фильме «Миссия невыполнима» мир находится под угрозой мошеннического ИИ, описанного как «самосознающий, самообучающийся, пожирающий правду цифровой паразит».

Однако в последнее время серьезные голоса стали выражать обеспокоенность тем, что машинное сознание — это уже не просто фантастика. Этот сдвиг произошел благодаря успехам больших языковых моделей (LLM), таких как Gemini и Chat GPT. Способность LLM последнего поколения вести правдоподобные и свободные разговоры удивила даже их разработчиков.

Некоторые мыслители считают, что по мере развития ИИ в машинах «включится свет» и они станут сознательными. Другие, например профессор Анил Сет из Университета Сассекса, не согласны с этим, называя такую точку зрения «слепо оптимистичной и движимой исключительностью человека».

Сет отмечает: 

«Мы связываем сознание с интеллектом и языком, потому что у людей они идут рука об руку. Но то, что они идут рука об руку у нас, не означает, что они идут рука об руку вообще, например, у животных».

Короткий ответ на вопрос, что такое сознание, заключается в том, что «никто не знает». Ученые, тем не менее, стремятся разбить эту большую проблему на более мелкие исследовательские проекты, включая Dreamachine. Они надеются выявить закономерности мозговой активности, которые объясняют различные свойства осознанного опыта.

Профессор Сет, автор книги о сознании «Быть собой», обеспокоен тем, что общество стремительно меняется под воздействием темпов технологических изменений без достаточных знаний о науке или без размышлений о последствиях. 

«Мы воспринимаем это так, будто будущее уже предопределено, как будто неизбежен путь к появлению сверхчеловеческой замены, — говорит он. — У нас не было достаточно разговоров об этом с развитием социальных сетей, что во многом навредило нам всем. Но с ИИ еще не слишком поздно. Мы можем решить, чего хотим».

Некоторые представители технологического сектора считают, что ИИ уже может обладать сознанием. В 2022 году Google отстранила инженера-программиста Блейка Лемуана после того, как он заявил, что чат-боты на основе ИИ могут чувствовать.          В ноябре 2024 года Кайл Фиш из Anthropic стал соавтором отчета, предполагающего, что сознание ИИ станет реальной возможностью в ближайшем будущем. Недавно он заявил The New York Times, что, по его мнению, существует небольшая (15%) вероятность того, что чат-боты уже обладают сознанием.

Профессор Мюррей Шанахан из Google DeepMind и Имперского колледжа Лондона отмечает, что даже разработчики не знают точно, как работают LLM, что вызывает некоторую обеспокоенность. 

«Мы находимся в странном положении, создавая эти чрезвычайно сложные вещи, и у нас нет хорошей теории о том, как именно они достигают тех замечательных результатов, которые они показывают, — говорит он. — Поэтому лучшее понимание того, как они работают, позволит нам направить их в нужном направлении и гарантировать их безопасность».

Преобладающее мнение в технологическом секторе заключается в том, что LLM в настоящее время не осознают мир, как мы, и, вероятно, вообще не осознают. Однако профессора Ленор и Мануэль Блюм из Университета Карнеги-Меллон считают, что это изменится, возможно, довольно скоро, когда ИИ получит больше сенсорных данных из реального мира через камеры и тактильные датчики. Они разрабатывают компьютерную модель под названием Brainish, которая будет обрабатывать эти данные.

Ленор Блюм считает: «Сознание ИИ неизбежно».

Мануэль Блюм добавил с ухмылкой, что новые системы станут «следующим этапом в эволюции человечества». 

«Cознательные роботы — наше потомство. В будущем такие машины станут существами, которые будут обитать на Земле и, возможно, на других планетах, когда нас уже не будет».

Дэвид Чалмерс, профессор философии и нейронауки в Нью-Йоркском университете, в 1994 году определил «трудную проблему» выяснения того, как и почему сложные операции мозга приводят к сознательному опыту. Он открыт для возможности решения этой проблемы. 

«Идеальным результатом было бы то, что человечество разделит это новое богатство интеллекта, — сказал он BBC. — Возможно, наши мозги будут расширены системами ИИ».

Профессор Сет, однако, исследует идею о том, что истинное сознание может быть реализовано только живыми системами. 

«Можно привести веские доводы в пользу того, что для сознания достаточно не вычислений, а жизни, — говорит он. —     В отличие от компьютеров, в мозге трудно отделить то, что он делает, от того, чем он является». Он утверждает, что без этого разделения трудно поверить, что мозг — «это просто компьютеры на основе мяса».

Если интуиция профессора Сета о важности жизни верна, то наиболее вероятная технология будет состоять не из кремния, а из крошечных скоплений нервных клеток, выращиваемых в лабораториях. Их называют «церебральными органоидами» или «мини-мозгами». Одна австралийская фирма Cortical Labs даже разработала систему нервных клеток в тарелке, которая может играть в видеоигру Pong 1972 года. Некоторые эксперты полагают, что если сознание и возникнет, то, скорее всего, оно возникнет из более крупных и развитых версий этих систем живых тканей.

Доктор Бретт Каган, главный научный и операционный директор Cortical Labs, осознает, что любой возникающий неконтролируемый интеллект может иметь приоритеты, которые «не совпадают с нашими».

Однако более насущной проблемой может стать то, как иллюзия наличия у машин сознания влияет на нас. Профессор Сет беспокоится, что мы можем жить в мире, населенном человекоподобными роботами и дипфейками, которые кажутся сознательными. Он опасается, что мы не сможем устоять перед искушением верить в то, что у ИИ есть чувства и эмпатия, что может привести к новым опасностям. 

«Это будет означать, что мы будем больше доверять этим вещам, будем делиться с ними большим количеством данных и будем более открыты для убеждения».

Больший риск, связанный с иллюзией сознания, — это «моральная коррозия». «Это исказит наши моральные приоритеты, заставив нас тратить больше ресурсов на заботу об этих системах в ущерб реальным вещам в нашей жизни» — это означает, что мы можем испытывать сострадание к роботам, но меньше заботиться о других людях.

По словам профессора Шанахана, это может коренным образом изменить нас:

«Все больше человеческих отношений будут копироваться в отношениях с ИИ, они будут использоваться в качестве учителей, друзей, противников в компьютерных играх и даже романтических партнеров. Хорошо это или плохо, я не знаю, но это произойдет, и мы не сможем этого предотвратить».

Источник: BBC 

#ИИ #Сознание #Роботы #Нейронауки #Технологии