Эксклюзив: несуществующий прецедент, упомянутый в предполагаемом деле об изнасиловании детей, добавляется к десяткам ошибок, связанных с искусственным интеллектом, которые мешают судебным разбирательствам.
Старший королевский прокурор, действовавший в деле Высокого суда, сослался на воображаемый юридический прецедент в ошибке, которая вызвала новые опасения по поводу того, что галлюцинации ИИ заражают систему правосудия.
Как следует из судебных документов, Равиндер Диллон, представляющий Королевскую прокуратуру (CPS), сослался на полностью выдуманное дело во время спора о том, следует ли привлекать ребенка к ответственности за изнасилование его младшей сестры.
Ее объяснение того, как стало использоваться несуществующее дело, было названо «неудовлетворительным» двумя старшими судьями высокого суда и «серьезным провалом» эксперта в области искусственного интеллекта и права. The Guardian понимает, что ссылка пришла из ответа ИИ, сгенерированного во время поиска в Интернете.
Это дело является одним из десятков других, где ошибки, связанные с искусственным интеллектом, преследовали судебные разбирательства в этом году, в основном со стороны людей, не имеющих юридической квалификации, представляющих себя сами, и часто в делах трибунала по трудовым спорам.
Это всего лишь второй известный случай с участием CPS – главного государственного органа, возбуждающего уголовное преследование в Англии и Уэльсе – который в феврале признал, что один из его адвокатов, действовавший в деле об экстрадиции двух румын, осужденных за мелкие правонарушения, ссылался на несуществующие юридические полномочия, вероятно, вызванные ИИ. Эти сфабрикованные дела были обнаружены только тогда, когда адвокаты оппозиции не смогли найти их следов, и Роспотребнадзор пришел к выводу, что «риск повторения был низким».
В последнем случае адвокаты мальчика, которому на момент предполагаемого изнасилования семилетней сестры было 11 лет, оспаривали решение CPS о привлечении его к ответственности. Они утверждали, что прокуратура не приняла во внимание заявления социальных работников, молодежных работников и судебного психолога. Диллон, старший королевский прокурор в отделе CPS по изнасилованиям и тяжким преступлениям на сексуальной почве, выступала за судебное преследование ребенка и предоставила подробную ссылку на дело, которое она назвала CPS – R v J [2024] EWCA Crim 3529. Оказалось, что его не существует.
Решение продолжить дело было принято Диллоном в апреле и подтверждено главным королевским прокурором. Затем в октябре Диллон признал, что несуществующая цитата была сделана по ошибке. По ее словам, она имела в виду совсем другое решение – на этот раз реальное – принятое 15 лет назад.
«Это было использовано в качестве юридического источника для аргументации в пользу судебного преследования ребенка, но такого правового источника не существует: это серьезный провал», — сказал Брайан Фланаган, доцент права Университета Мейнут в Ирландии, который расследует использование ИИ судьями. "Это ставит под сомнение нормы доверия к закону, где мы относимся к власти как к драгоценной вещи. Вы не можете их выдумать; это выходит за рамки. ИИ увеличивает риск того, что произойдет, из-за времени, которое вы можете сэкономить. Это нехорошо для любого профессионала, но когда профессионал работает на государство, это приобретает другой аспект, потому что власть государства огромна".
Высокий суд заявил, что ссылка CPS на вымышленное дело не повлияла на результат оспаривания мальчиком решения о продолжении его уголовного преследования, которое должно быть передано в суды по делам несовершеннолетних позднее на этой неделе.
В июне 2025 года Верховный суд отреагировал на галлюцинации ИИ в делах, связанных с жильем и банковским делом, призвав Совет адвокатов и Общество юристов рассмотреть меры по сдерживанию этой проблемы «в срочном порядке». Дама Виктория Шарп, тогдашний президент королевской коллегии, предупредила о «серьезных последствиях для отправления правосудия и общественного доверия к системе правосудия, если неправильное использование искусственного интеллекта» и сказала, что юристы, злоупотребляющие ИИ, могут столкнуться с санкциями, от публичного порицания до неуважения к судебным разбирательствам и обращения в полицию.
На просьбу прокомментировать CPS заявила, что у нее есть строгая политика в области искусственного интеллекта, «которая ограничивает его использование, чтобы он не использовался для принятия юридических решений, и должны проводиться проверки людьми на предмет точности».
Представитель сообщил, что CPS «обнаружила, что при проведении юридического исследования с использованием Интернета произошла ошибка».
«Как только эта ошибка была выявлена, она была исправлена и была проведена внутренняя проверка, чтобы установить, как это произошло, и убедиться, что никакие другие случаи не были затронуты», — сказали они. «После быстрого обзора мы поделились выводами, в том числе о том, что прецедентное право необходимо цитировать из надежных юридических источников».
Понятно, что в результате поиска в Интернете было получено резюме искусственного интеллекта, содержащее вымышленные подробности дела.
В результате последнего инцидента количество записей в британском трекере, который ведет адвокат Doughty Street Chambers Мэтью Ли, достигло 101, охватывая подтвержденные, предполагаемые и оспариваемые ошибки, связанные с искусственным интеллектом, а также связанные с ними ложные цитаты. По его словам, выявленные дела могут быть «верхушкой айсберга», поскольку многие решения судов низшей инстанции никогда не публикуются.
Он добавил, что существуют риски конфиденциальности и конфиденциальности, связанные с использованием CPS ИИ, учитывая очень конфиденциальную информацию, с которой он работает, и предупредил, что ИИ создает дополнительную работу для адвокатов, которым приходится тратить время на проверку подлинности юридических полномочий, фигурирующих в материалах дела, в подготовке которых мог использоваться ИИ.
