ЮНЕСКО утвердила глобальные стандарты для защиты «нейронных данных»

Организация Объединенных Наций по вопросам образования, науки и культуры (ЮНЕСКО) приняла глобальные этические стандарты в области нейротехнологий — сферы, развитие которой часто сравнивают с «Диким Западом» из-за отсутствия регулирования. Эти рекомендации обусловлены достижениями искусственного интеллекта (ИИ) в расшифровке мозговых данных и распространением потребительских нейротехнологических устройств, таких как наушники, считывающие активность мозга, что, по мнению ЮНЕСКО, требует немедленного вмешательства для защиты неприкосновенности человеческого разума.

Это решение ЮНЕСКО стало кульминацией растущих международных усилий по установлению барьеров вокруг быстро развивающейся области технологий, которые используют данные мозга и нервной системы.

Руководитель отдела биоэтики ЮНЕСКО Дафна Файнхольц заявила, что в этой сфере «никакого контроля» нет. По её словам, необходимо информировать людей о рисках, потенциальных преимуществах и альтернативах, чтобы у них была возможность дать осознанное согласие или отказаться.

Новые стандарты, принятые организацией, определяют новую категорию данных – «нейронные данные» – и предлагают руководящие принципы по их защите. Список рекомендаций, насчитывающий более сотни пунктов, охватывает как вопросы, связанные с правами человека, так и сценарии, которые пока относятся к научной фантастике, например, использование нейротехнологий компаниями для подсознательного маркетинга во сне.

Генеральный директор ЮНЕСКО Одри Азуле отметила, что «нейротехнологии потенциально способны определить новый рубеж человеческого прогресса, но это не лишено рисков». По её словам, новые стандарты «утвердят неприкосновенность человеческого разума».

За последние несколько лет в нейротехнологические предприятия были вложены миллиарды долларов: от инвестиций Сэма Альтмана в компанию Merge Labs, конкурента Neuralink Илона Маска, до недавнего выпуска браслета компанией Meta, который позволяет пользователям управлять своим телефоном или очками Ray-Ban с искусственным интеллектом, считывая движения мышц запястья.

Волна инвестиций вызвала растущую потребность в регулировании. Так, в прошлом месяце Всемирный экономический форум опубликовал документ, призывающий к созданию системы, ориентированной на конфиденциальность. Сенатор США Чак Шумер в сентябре представил так называемый Закон о разуме, следуя примеру четырёх штатов, которые с 2024 года ввели законы о защите нейронных данных.

Сторонники регулирования нейротехнологий подчёркивают важность защиты персональных данных. Стандарты ЮНЕСКО выделяют необходимость обеспечения «психологической конфиденциальности» и «свободы мысли».

Однако скептики, утверждают, что законодательные инициативы часто продиктованы антиутопическими тревогами и могут затормозить жизненно важные достижения в области медицины.

«Все эти законы порождают страх. Люди боятся возможностей этой технологии. Мысль о том, что нейротехнологии смогут читать мысли людей, пугает», — заявила Кристен Мэтьюз, юрист, специализирующаяся на вопросах конфиденциальности в американской юридической фирме Cooley.

С технической точки зрения, нейротехнологии существуют уже более 100 лет — электроэнцефалограмма (ЭЭГ) была изобретена в 1924 году, а первые интерфейсы «мозг-компьютер» (ИМК) разработаны в 1970-х. Однако последняя волна инвестиций обусловлена именно достижениями в области искусственного интеллекта, которые позволяют декодировать большие объёмы данных, включая мозговые волны.

«Причиной возникновения у этой технологии очевидных проблем с конфиденциальностью стало внедрение искусственного интеллекта», — считает Мэтьюз.

Некоторые нейротехнологические достижения на основе ИИ могут иметь преобразующее значение для медицины, помогая лечить такие заболевания, как болезнь Паркинсона или боковой амиотрофический склероз (БАС). В статье, опубликованной этим летом в журнале Nature, описывается нейрокомпьютерный интерфейс на базе искусственного интеллекта, декодирующий речь пациента, страдающего параличом. Другие исследования предполагают, что однажды ИИ сможет «читать» мысли — или, по крайней мере, восстанавливать изображение, если человек на нём сильно сосредоточится.

Ажиотаж вокруг некоторых из этих достижений породил опасения, которые, по словам Мэтьюз, зачастую далеки от реальных опасностей. Например, в Законе о разуме говорится, что ИИ и «вертикальная корпоративная интеграция» нейротехнологий могут привести к «когнитивному манипулированию» и «размыванию личной автономии».

«Я не знаю ни одной компании, которая бы этим занималась. Этого не произойдёт. Может быть, через два десятилетия», — сказала она.

Современное направление нейротехнологий заключается в совершенствовании ИМК, которые, несмотря на недавние прорывы, находятся в зачаточном состоянии, а также в распространении потребительских устройств. Последнее, по словам Мэтьюз, может вызвать проблемы с конфиденциальностью, что и стало толчком для стандартов ЮНЕСКО. Однако она утверждает, что создание концепции «нейронных данных» — это слишком широкий подход к проблеме.

«Именно такими вопросами мы хотели бы заняться. Монетизацией, поведенческой рекламой, использованием нейронных данных. Но существующие законы не решают тех проблем, которые нас беспокоят. Они более аморфны», — заключила Мэтьюз.

Источник: The Guardian

#ЮНЕСКО #Нейротехнологии #ИскусственныйИнтеллект #Этика #Конфиденциальность