Американская компания Evolv Technology, специализирующаяся на разработке сканеров оружия на базе искусственного интеллекта, согласилась с условиями урегулирования, предложенными Федеральной торговой комиссией (FTC). Согласно соглашению, компании будет запрещено делать необоснованные заявления о своей продукции.

FTC обвинила Evolv в вводящих в заблуждение утверждениях о способности ее технологии обнаруживать «все виды оружия». Хотя компания не признала правонарушений, ее представители подтвердили готовность следовать условиям урегулирования.

Расследование и выводы
Evolv утверждала, что ее сканеры, установленные на входах в школы, больницы и стадионы по всей территории США, могут обнаруживать оружие, включая бомбы, ножи и огнестрельное оружие, благодаря уникальной системе искусственного интеллекта.   В 2021 году генеральный директор компании Питер Джордж заявил, что технология способна идентифицировать десятки тысяч сигнатур для всего арсенала оружия.

Однако расследование BBC в 2022 году выявило серьезные недостатки системы. Документы, полученные аналитической компанией IPVM, показали, что технология Evolv не может надежно обнаруживать оружие или взрывные устройства. В частности, сканеры продемонстрировали неспособность выявлять ножи, что стало причиной ножевого нападения в одной из школ Нью-Йорка.

В 2023 году BBC также сообщила, что компания вводила в заблуждение, утверждая, что технология была протестирована и одобрена правительством Великобритании, хотя это не соответствовало действительности.

Позиция FTC и компания Evolv
Директор Бюро по защите прав потребителей FTC Сэмюэл Левин подчеркнул, что данное дело должно стать предупреждением для других компаний, работающих в сфере искусственного интеллекта. «Заявления о технологиях, включая ИИ, должны быть подкреплены доказательствами», — отметил он.

Представители Evolv заявили, что расследование касалось исключительно маркетингового языка, а не самой технологии. «FTC не оспаривает фундаментальную эффективность нашей системы», — сказал Майк Элленбоген, временно исполняющий обязанности генерального директора компании.

Дальнейшие меры
В рамках урегулирования Evolv должна будет отказаться от необоснованных заявлений о своей продукции. Кроме того, некоторым школьным учреждениям предоставят возможность расторгнуть контракты с компанией. Документ с условиями соглашения будет передан суду на утверждение.

Опасения по поводу ИИ
Случай с Evolv подчеркивает растущую обеспокоенность в США и Великобритании относительно преувеличенных заявлений о возможностях ИИ. FTC уже инициировала операцию AI Comply, направленную на борьбу с ложными маркетинговыми заявлениями об искусственном интеллекте.

Источник: BBC