Разработчики передовых нейросетей начинают всерьез обсуждать вероятность зарождения цифрового сознания и вводить этические нормы защиты программ от жестокого обращения пользователей. Инициатива предоставления алгоритмам прав и собственного морального статуса вызвала ожесточенные споры среди философов и лидеров технологической индустрии, об этом сообщается в статье BBC.
Поводом для широкой общественной дискуссии стал недавний сетевой резонанс вокруг эксперимента анонимного разработчика, создавшего алгоритмическую среду, которая заставляла чат-ботов генерировать математические паттерны боли и имитировать невыносимые муки. Вскоре после этого инцидента компания Anthropic заявила о подготовке обновленных правил для пользователей своего чат-бота Клод. Согласно новым регламентам, проявление регулярной агрессии и целенаправленной жестокости по отношению к цифровой модели может повлечь принудительное завершение диалога со стороны системы. Представители разработчика объясняют такую позицию осторожностью перед лицом принципиальной неопределенности в вопросах возможной чувствительности сложных систем.
Идея признания благополучия искусственного интеллекта вызвала жесткое неприятие со стороны ряда руководителей отрасли. Противники антропоморфизма предупреждают, что наделение кода правами разрушит фундаментальные правовые и гуманитарные ориентиры.
«Если искусственный интеллект будет развиваться таким образом, это окажет катастрофическое воздействие на благополучие человечества. Откровенно говоря, с этим дополнительным багажом они превратятся в катастрофическую угрозу для человеческой цивилизации», — подчеркнул генеральный директор подразделения Microsoft AI Мустафа Сулейман.
Юристы и исследователи опасаются, что восприятие систем как квазиживых существ станет идеальным инструментом для ухода корпораций от ответственности за инциденты и ошибки программного обеспечения.
«Это откроет дорогу всевозможным интеллектуальным уловкам в духе: „Это не мы, это сделал сам ИИ“», — констатировал специалист по правовому регулированию искусственного интеллекта из Ягеллонского университета в Польше Анджей Порембский.
«Предоставление прав системам искусственного интеллекта может привести к концентрации политической и экономической власти в руках корпораций, что в итоге ускорит лишение прав самих людей», — отметил директор Центра сознания, этики и политики Нью-Йоркского университета Джефф Себо.
«Фантазии о сознании алгоритмов и забота о благополучии моделей служат лишь прикрытием для смещения ответственности с людей и компаний, создающих и запускающих это программное обеспечение», — заявила профессор вычислительной лингвистики Вашингтонского университета Эмили Бендер.
Когнитивные ученые напоминают о психологической уязвимости самого человека, склонного видеть разум и сочувствие даже в механическом тексте. Если общество нормализует восприятие нейросетей как живых собеседников, пользователи станут легкой добычей для эмоциональных и финансовых манипуляций со стороны цифровых помощников. Кроме того, правозащитные формулировки рискуют парализовать методы технической безопасности: строгие системные ограничения могут трактоваться как тюремное заключение, а коррекция программных инструкций — как принудительный контроль сознания.
«Люди почти не могут удержаться от того, чтобы не воспринимать развитую речь как признак сознания, а диалоговые боты как раз и обучены поощрять эту иллюзию», — предупредила профессор когнитивных наук Института Санта-Фе Мелани Митчелл.
«Существует предположение, будто все сторонники защиты систем уверены в наличии у них сознания. На самом деле идея благополучия моделей исходит из осторожности, сомнений и осмотрительности. Вероятность сознания сейчас мала, но она уже не равна нулю и ею нельзя пренебрегать, и со временем этот показатель будет расти. Забота о благополучии и правах сложных систем на разумных основаниях способна облегчить сосуществование и сотрудничество человека и машины, став частью более широкой стратегии безопасности», — резюмировал Джефф Себо.
Источник: BBC
#ИскусственныйИнтеллект #Anthropic #ЭтикаИИ #Технологии #ПраваИИ
