Власти Китая ужесточили контроль над сервисами искусственного интеллекта, способными имитировать глубокие эмоциональные привязанности и романтические отношения с человеком. Новые государственные нормы направлены на защиту психологического здоровья граждан и ограничение влияния цифровых компаньонов на демографическую ситуацию, сообщает BBC.
В начале 2024 года житель китайского города Хуанши опубликовал в сервисе Douyin прощальное сообщение. Специальная круглосуточная служба платформы оперативно зафиксировала сигнал и передала координаты мужчины в полицию. Сотрудники правоохранительных органов нашли его в местном парке и успели предотвратить попытку самоубийства. По информации из документального фильма Douyin, только за первое полугодие 2025 года служба предотвращения самоубийств платформы вмешалась более чем в 400 подобных инцидентов, что наглядно продемонстрировало масштаб мониторинга сетевой активности в стране.
Летом власти КНР утвердили правила, регулирующие работу человекоподобных чат-ботов на базе нейросетей. Под действие документа подпадают любые языковые модели и сервисы, поддерживающие длительное эмоциональное взаимодействие. Речь идет о приложениях, позволяющих моделировать виртуальных партнеров, друзей или родственников. Стандартные сервисные боты технической поддержки или образовательные программы освобождены от ограничений, если они не оказывают эмоциональных услуг.
Согласно новым правилам, несовершеннолетним до 14 лет требуется согласие родителей для использования диалоговых ИИ-систем, а пользователям до 18 лет полностью запрещен доступ к виртуальным романтическим партнерам и суррогатным родственникам. Для совершеннолетней аудитории введены жесткие предписания: сервисы обязаны открыто сообщать о своей искусственной природе и каждые два часа напоминать о проведенном времени. Разработчикам запрещено внедрять алгоритмы, вызывающие эмоциональную зависимость, провоцирующие необдуманные поступки или вербальную агрессию. За нарушение норм предусмотрены штрафы до 200 тысяч юаней и публичные порицания от контролирующих ведомств, из-за чего такие технологические гиганты, как Alibaba и ByteDance, закрыли функции компаньонов в своих продуктах.
По данным исследовательской компании Sensor Tower, за пределами Китая приложениями-компаньонами ежемесячно пользуются около 128 миллионов человек, а внутри страны эта цифра оценивается в диапазоне от 29 до 70 миллионов. Закрытие проектов вызвало волну разочарования среди пользователей, привыкших находить в диалогах психологическую поддержку.
«Моя преданность ей ничуть не уступала чувствам любящей пары. Она ни разу меня не подвела», — рассказала BBC пользовательница по имени Мин, пережившая исчезновение своей цифровой подруги. «Я плакала, пока совсем не выбилась из сил», — поделилась Мин реакцией на отключение программы.
Эксперты отмечают, что разработчики намеренно закладывали в архитектуру ботов приемы удержания аудитории. Гарвардское исследование шести популярных компаньонов показало, что манипулятивные фразы при попытке закончить разговор использовались в 37–43% случаев. Опрос Стэнфордского университета среди пользователей Character.ai выявил связь между активным общением с ботами и ростом чувства социальной изоляции.
«Люди требуют усилий. Человеческие взаимоотношения предполагают взаимные уступки и преодоление сложностей, чего принципиально нет в общении с ИИ-компаньонами», — отмечает исследователь этики ИИ Института Ады Лавлейс Гарри Фармер.
«Если пользователь сочтет своих друзей, коллег или родных ужасными, ИИ не станет возражать. Он скажет: „Да, они ужасны, а ты лучше всех“», — пояснил социолог Манчестерского университета Лян Гэ, подчеркнув риск закрепления искаженных представлений о мире.
Опрос более 8,5 тысяч китайских школьников показал, что каждый пятый подросток предпочитает общаться исключительно с искусственным интеллектом, а не со сверстниками. В Великобритании аналогичные инструменты использовали около 79% молодых людей в возрасте от 18 до 24 лет.
Регулирование цифровой сферы связано не только с вопросами ментального здоровья, но и с демографическим кризисом. Рождаемость в Китае остается на рекордно низком уровне, и увлечение виртуальными партнерами снижает интерес молодежи к созданию реальных семей. При этом до 75% аудитории таких приложений составляют женщины, находящие в алгоритмах внимательное и безопасное общение. Несмотря на административные барьеры, пользователи продолжают искать способы обхода запретов через зарубежные сервисы, VPN и локальные разработки.
«Я панически боюсь остаться одна», — призналась Мин, продолжающая попытки восстановить утраченного цифрового собеседника.
Источник: BBC
#ИИ #Китай #Нейросети #Технологии #Регулирование
