В ходе анализа кода, проведенного изданием WIRED, была обнаружена невыпущенная система распознавания лиц, встроенная в платформу умных очков Meta. Она предназначена для идентификации людей по биометрическим данным, хранящимся на телефонах пользователей.
Согласно анализу программного обеспечения компании, проведенному изданием WIRED, она внедрила технологию распознавания лиц в свои умные очки в приложение, загруженное на миллионы телефонов.
Код, незаметно добавленный в приложение Meta с искусственным интеллектом в ходе нескольких обновлений в этом году, показывает, что функция, внутренне называемая «NameTag», идентифицирует людей, попавших в объектив камеры очков , и при активации оповещает пользователя, когда распознает кого-либо.
Обнаружение NameTag в работающем приложении Meta AI показывает, что Meta начала рассылать код распознавания лиц на телефоны пользователей, публично заявляя, что компания все еще «обдумывает» этот вопрос. В апреле Meta заявила, что если и будет использовать распознавание лиц, то это не будет реализовано без предварительного «очень тщательного подхода». Однако WIRED обнаружил, что уже в январе основные компоненты системы были интегрированы в программное обеспечение, распространенное среди миллионов людей.
Хотя функция NameTag еще не активирована, она входит в состав сопутствующего приложения Meta AI, которое было загружено более 50 миллионов раз и необходимо для использования ключевых функций умных очков Meta, включая модели Ray-Ban и Oakley. В случае активации, приложение преобразует лица, запечатленные очками Meta, в уникальные биометрические сигнатуры, обычно называемые отпечатками лица, и будет проверять каждый из них по отпечаткам лица, хранящимся на телефоне пользователя — базе данных, которая в настоящее время настроена на получение обновлений от Meta. Распознанные лица будут вызывать уведомления, а остальные будут обрезаны, проиндексированы и сохранены в папку с пометкой «ожидание».
Технология NameTag возродила бы тип технологии, от которой компания Meta отказалась в 2021 году, когда объявила об удалении более миллиарда отпечатков лиц пользователей Facebook после многолетних споров вокруг своей системы маркировки фотографий. В конечном итоге Meta выплатила 650 миллионов долларов для урегулирования коллективного иска, поданного пользователями из Иллинойса, а в 2024 году согласилась на отдельное урегулирование в размере 1,4 миллиарда долларов с Техасом по обвинениям в незаконном сборе биометрических данных пользователей.
Возобновление этих усилий происходит на фоне растущего противодействия распознаванию лиц на потребительском уровне, которое, по мнению защитников конфиденциальности, предоставит любому — от преследователей до сотрудников иммиграционной службы — легкий доступ к опасной технологии. Внутренние документы Meta, опубликованные The New York Times в феврале, показали, что компания планировала внедрить эту функцию в «динамичной политической обстановке», когда, по мнению Meta, ее самые ярые критики будут заняты другими делами.
Согласно анализу WIRED, результаты которого были независимо воспроизведены сторонними экспертами, три модели искусственного интеллекта, лежащие в основе NameTag, уже развернуты на серверах Meta и теперь находятся на телефонах ее клиентов. Одна модель распознает лица, другая обрезает их, а третья кодирует их в биометрические данные.
В настоящее время сохранились лишь фрагменты пользовательского интерфейса, намекающие на то, как эта функция может работать в конечном итоге. В майской версии приложения эта функция переименована в «Связи», и пользователям предлагается «вспоминать людей, с которыми вы познакомились». Остается неясным, чьи лица будут включены в базу данных распознавания системы, как создаются эти профили и сколько людей в конечном итоге можно будет идентифицировать с её помощью.
Журнал WIRED поделился своими выводами с двумя независимыми исследователями в области безопасности, которые отдельно изучили приложение и воспроизвели ключевые аспекты анализа: Купером Квинтином, исследователем в области безопасности и старшим специалистом по технологиям, работающим в некоммерческой организации Electronic Frontier Foundation's Threat Lab, а также независимым исследователем в области безопасности и конфиденциальности, работающим под псевдонимом Буходи и более десяти лет занимающимся обратным проектированием потребительского программного обеспечения и технологий слежки.
«Эта функция пока недоступна для потребителей, но, похоже, почти готова к запуску», — говорит Квинтин. «Несмотря на миллиарды причин не делать этого, Meta, похоже, создала возможности для превращения своих клиентов в распределенную систему слежки».
Компания Buchodi провела дополнительные тесты системы распознавания. Чтобы проверить работоспособность системы сопоставления, Buchodi добавила в галерею приложения одно изображение лица покойного французского философа Мишеля Фуко. После активации NameTag с изображением Фуко приложение выдало уведомление: «Человек распознан».
«Основные компоненты функции распознавания лиц уже есть в сопутствующем приложении Meta, — говорит Буходи. — Практически нет препятствий для того, чтобы эта функция заработала».
В апреле более 70 правозащитных групп, включая Американский союз гражданских свобод, Центр информации о конфиденциальности в электронных коммуникациях и организацию «Борьба за будущее», потребовали от Meta отказаться от NameTag , предупредив, что это позволит преследователям и насильникам незаметно идентифицировать незнакомцев в общественных местах. «Наши конкуренты предлагают подобные продукты для распознавания лиц, мы — нет», — заявил тогда представитель Meta в заявлении для WIRED. «Если бы мы решили выпустить такую функцию, мы бы очень тщательно все обдумали, прежде чем что-либо внедрять».
Защитники конфиденциальности утверждают, что, внедрив распознавание лиц в массовую носимую платформу, Meta может нормализовать функцию, от которой ранее отказалась из-за опасений по поводу конфиденциальности.
«Вы устанавливаете нормы и стандарты, внедряя технологии в экосистему», — говорит Джозеф Джером, бывший сотрудник Meta Reality Labs, занимавшийся проверкой конфиденциальности продуктов компании в области дополненной и виртуальной реальности, комментируя роль Meta в индустрии носимых технологий. «Я не понимаю, как Meta может ответственно внедрять подобные технологии».
«Независимо от сенсационных сообщений, факты просты: мы уже говорили, что изучаем подобные функции, и то, что вы видите, — лишь подтверждение этих исследований», — говорит представитель Meta Райан Дэниелс. «Ничего еще не было выпущено для потребителей, и окончательное решение о том, что делать дальше, если вообще что-либо делать, еще не принято. Если мы решим что-то внедрить, мы подойдем к этому вопросу обдуманно и сделаем это с полной прозрачностью. Одно решение мы можем с уверенностью сказать — мы не создаем централизованную базу данных лиц».
Анализ кода, проведенный изданием WIRED, показывает, что система NameTag в настоящее время предназначена для получения отпечатков лиц с серверов Meta и их хранения на устройствах пользователей.
Более ранняя система Meta, анонсированная Facebook в 2010 году, анализировала фотографии и предлагала теги для людей, которые появлялись на изображениях пользователей. Она быстро набрала более миллиарда пользователей и стала одной из крупнейших потребительских систем распознавания лиц, когда-либо внедренных.
Технология практически сразу же привлекла к себе пристальное внимание. Европейские регулирующие органы и защитники конфиденциальности в США еще в 2011 году ставили под сомнение ее законность, и высказывались опасения по поводу того, дали ли пользователи осмысленное согласие на создание биометрических данных. В 2019 году компания Meta выплатила 5 миллиардов долларов Федеральной торговой комиссии и Министерству юстиции для урегулирования более широкого дела о нарушении конфиденциальности, которое включало в себя проблемы, связанные с распознаванием лиц.
В ноябре 2021 года компания Meta объявила о закрытии системы и удалении созданных ею шаблонов лиц, сославшись на растущую обеспокоенность по поводу роли распознавания лиц в обществе. Но это решение никогда не воспринималось внутри компании как окончательный отказ, говорит Джером, который присоединился к Reality Labs в середине 2021 года. «Всегда существовало напряжение по поводу того, когда же мы снова запустим распознавание лиц?»
Согласно внутренним документам, изученным The Times, в 2025 году компания Meta планировала представить технологию распознавания лиц на своих умных очках участникам конференции для слепых, прежде чем сделать ее доступной для широкой публики. Этого так и не произошло. Но технология отвечает реальному спросу: существующие вспомогательные устройства уже позволяют слепым пользователям идентифицировать лица, которые они лично зарегистрировали, а исследование 2018 года, проведенное исследователями из Cornell Tech и Facebook среди слепых пользователей, показало, что каждый участник назвал распознавание людей важной ежедневной задачей.
Компания Meta не ответила на вопросы о том, каких пользователей можно идентифицировать с помощью NameTag; планирует ли она когда-либо передавать фотографии, отпечатки лиц или другие данные, генерируемые системой, обратно на свои серверы; или планирует ли компания позволить пользователям добровольно соглашаться на использование системы, а не отказываться от нее. Компания EssilorLuxottica, которая производит умные очки Ray-Ban и Oakley совместно с Meta, не ответила на запрос о комментарии.
Вудроу Хартцог, профессор права в области защиты частной жизни в Бостонском университете, говорит, что даже защита на основе добровольного согласия — если Meta в конечном итоге ее предложит — будет недостаточной. Согласие, по его словам, часто может быть связано с работой, льготой или доступом к услуге. Представление конфиденциальности как вопроса личного выбора выгодно для бизнеса, поскольку не устанавливает существенных ограничений на сбор данных, позволяя при этом компаниям утверждать, что пользователи контролируют ситуацию.
«Мы знаем, что чем больше внедряются эти системы, тем больше людей начинают воспринимать их как нечто обыденное, — говорит Хартцог. — И чем больше мы начинаем воспринимать их как нечто обыденное и рутинное, тем больше люди начинают руководствоваться моральными принципами, определяющими желательность или целесообразность сканирования лица. Это просто человеческая психология».
источник: https://www.wired.com/story/meta-smart-glasses-face-recognition-nametag-connections/