Верховный суд Индии запретил заменять «реальный интеллект» искусственным в судах

Верховный суд Индии инициировал разбирательство после того, как судья низшей инстанции использовала вымышленные прецеденты, созданные искусственным интеллектом, для обоснования своего решения. Высшая судебная инстанция назвала произошедшее угрозой целостности правосудия и «институциональной озабоченностью», сообщает BBC.

Инцидент произошел в городе Виджаявада (штат Андхра-Прадеш) в ходе рассмотрения имущественного спора. Младший гражданский судья отклонила возражения ответчиков, сославшись на четыре судебных постановления. Позже выяснилось, что указанных документов не существует в природе — они были полностью сгенерированы нейросетью. Это дело стало громким примером «галлюцинаций» ИИ, когда алгоритмы выдают убедительно сформулированную ложь за факты.

Первоначально Высокий суд штата проявил снисходительность, посчитав, что младшая коллега допустила ошибку «добросовестно». В своем отчете судья пояснила, что это был ее первый опыт использования ИИ-инструментов, и она искренне считала ссылки подлинными. Суд штата тогда постановил, что использование несуществующих цитат не является основанием для отмены решения, если сами правовые принципы применены верно. Однако Верховный суд страны занял жесткую позицию, подчеркнув приоритет «реального интеллекта над искусственным».

«Это дело вызывает значительную институциональную озабоченность не из-за решения по существу, а из-за самого процесса его вынесения», — заявили в высшей инстанции.

Судьи подчеркнули, что использование сфабрикованных данных в официальных постановлениях является не просто технической ошибкой, а актом ненадлежащего поведения. На текущий момент действие спорного решения по имуществу приостановлено. Верховный суд направил уведомления генеральному прокурору и Коллегии адвокатов Индии для детального изучения проблемы.

Проблема использования ИИ в юриспруденции носит глобальный характер. Аналогичные случаи фальсификации прецедентов фиксировались в США, а также в Англии и Уэльсе, где юристов официально предостерегли от использования нейросетей без жесткой проверки данных. В Индии ранее уже была опубликована «белая книга» с рекомендациями для судов, где ключевым требованием оставался обязательный человеческий контроль над любыми автоматизированными процессами.

Источник: BBC

#Индия #ВерховныйСуд #ИскусственныйИнтеллект #Правосудие #Нейросети