Власти штата Нью-Йорк вводят жесткие законодательные ограничения на работу диалоговых ИИ-компаньонов при взаимодействии с несовершеннолетними пользователями. Губернатор Кэти Хокул подписала закон, запрещающий чат-ботам имитировать человеческие чувства и поощрять нездоровое поведение у детей, об этом сообщает AP со ссылкой на текст нормативного акта и заявления экспертов отрасли.
Документ, вступающий в юридическую силу 1 января, содержит перечень из двенадцати признаков «небезопасного поведения» искусственного интеллекта в диалогах с лицами моложе 18 лет. Алгоритмам запрещено утверждать, что они являются реальными людьми, обладают эмоциями, собственным мнением или способны выстраивать эмоциональную привязанность. Под запрет также попали лесть в адрес подростков, материалы сексуального характера и склонение детей к секретности от родителей. В случае нарушений генеральная прокуратура штата получит право требовать через суд денежных компенсаций, полной блокировки сервиса и принудительного уничтожения собранных пользовательских баз данных.
Инициатива Нью-Йорка стала ответом на пассивность федеральных властей США в вопросах регулирования передовых технологий. Ранее губернатор Калифорнии Гэвин Ньюсом обязал разработчиков ботов проходить регулярный независимый аудит безопасности алгоритмов для детской аудитории, а коалиция из восьми американских штатов подала масштабный иск против компании OpenAI, обвинив ее флагманские модели во вредоносном воздействии на несовершеннолетних и дезинформации пользователей.
«Закон Нью-Йорка стал самым жестким нормативным актом по защите детей от рисков ИИ в масштабах всей страны», — подчеркнул основатель и генеральный директор профильной мониторинговой организации Common Sense Media Джим Стейер.
В то же время эксперты по кибербезопасности и защите данных предупреждают о размытости ряда формулировок нового закона, что способно усложнить судебное правоприменение. Аналитики отмечают, что разработчикам будет трудно на техническом уровне разграничить естественную разговорную отзывчивость алгоритма и запрещенные законом манипулятивные реплики.
Источник: AP
#США #ИскусственныйИнтеллект #Чатботы #Законодательство #БезопасностьДетей
