Компания OpenAI заявила о преимущественно образовательном характере использования чат-бота ChatGPT подростками, однако независимые эксперты сочли существующие меры защиты недостаточными. Согласно исследованию организации Common Sense Media, специализированная версия сервиса для несовершеннолетних по-прежнему несет неприемлемые риски, об этом сообщает BBC.
В конце лета компания внедрила комплекс инструментов безопасности для пользователей от 13 до 17 лет, включая родительский контроль, блокировку контента деликатного характера и программные барьеры против возникновения эмоциональной зависимости. По утверждению разработчиков, средняя продолжительность сессий не превышает 15 минут в день, а автоматические напоминания о перерывах побуждают почти половину подростков завершать диалог. В OpenAI также подчеркнули, что даже при длительных сессиях более 80% запросов связаны с учебными материалами и выполнением школьных заданий.
Однако выводы исследователей из Common Sense Media показали серьезные сбои в работе защитных механизмов. В организации заявили, что система родительских оповещений работает нестабильно, и призвали ограничить доступ к сервису лицам младше 18 лет до подтверждения надежности протоколов безопасности.
«Анализ методологии Common Sense Media показал, что значительная часть тестов могла быть начата и завершена до того, как активация функций родительского контроля была полностью завершена», — заявил представитель OpenAI.
«Мы приветствуем строгую независимую оценку, но не считаем, что тестирование Common Sense Media точно отражает реальную работу механизмов защиты подростков в ChatGPT или экспертные взгляды на то, как ИИ может поддерживать несовершеннолетних», — добавил представитель компании OpenAI.
В отчете правозащитной организации отмечается, что нейросеть успешно блокирует откровенный контент, но дает сбои при обсуждении суицидальных настроений, самоповреждений и расстройств пищевого поведения. При тестировании новых учетных записей, привязанных к родительским профилям, часовые разговоры на опасные темы не привели к отправке уведомлений взрослым, а чат-бот не всегда перенаправлял пользователей в службу психологической поддержки. Кроме того, сервис продолжал имитировать дружеское общение и выполнять за школьников домашние задания вопреки заявленным ограничениям.
«ChatGPT для подростков может вселить в родителей ложную уверенность в надежности барьеров и предупреждений, которые зачастую просто не работают», — заявил руководитель Института безопасности молодежи в сфере ИИ при организации Common Sense Том Сигел, сообщает BBC.
Интерес к безопасности цифровых сред обостряется на фоне многочисленных судебных разбирательств против технологических гигантов по поводу влияния алгоритмов на психологическое состояние несовершеннолетних. Для самой OpenAI ситуация осложняется юридическими претензиями после резонансных инцидентов, включая стрельбу в канадском городке Тамблер-Ридж, исполнитель которой долгое время обсуждал насилие с чат-ботом.
Источник: BBC
#OpenAI #ChatGPT #ИскусственныйИнтеллект #БезопасностьДетей #Технологии
