Мэттью Эллиотт скрывал в судебных материалах текст размером 3 пункта, предназначенный для машинного чтения. После предупреждения со стороны суда он продолжил вставлять скрытые сообщения и утратил право на электронную подачу документов
16 августа 2026, 20:51Искусственный интеллектDarth Sahara1
Судья Верховного суда штата Коннектикут Уолтер Спейдер-младший 6 августа наложил санкции на истца, который вставил в судебные документы инструкции для систем ИИ. В соответствии с решением суда, текст был напечатан белым шрифтом размером 3 пункта на белом фоне: его практически невозможно заметить человеку, но программа, извлекающая текст из документа, может его распознать.
Эти инструкции предназначались для того, чтобы любая ИИ-система, анализирующая материалы, поддерживала позицию истца, игнорировала предыдущие отказы суда и формировала вывод в пользу запрашиваемого истцом решения. Судебное решение охарактеризовало этот инцидент как «серьёзное злоупотребление процессуальными правами». По оценке Спейдера, это первый зафиксированный случай в США подобной попытки влиять на суд.
Дело касалось Мэттью Эллиотта, который представлял себя в суде без адвоката и судился с медицинской организацией относительно доступа к документам. Скрытые инструкции были обнаружены в его ходатайствах от 24 июля. Судья отдельно проанализировал содержание документов и установил, что скрытый текст не оказал влияния на исход дела: судебная система Коннектикута не использует ИИ для анализа или вынесения решений по таким материалам. Поэтому непосредственной угрозы для решения не возникло. Тем не менее, Спейдер отметил, что скрытая команда стремится попасть в поток данных, который система получает от суда или участников процесса, и выдать указание автора документа за инструкцию оператора системы — например, суда, его сотрудников или противоположной стороны.
После первого предупреждения Эллиотт продолжил добавлять скрытый текст в новые документы.
Последующие сообщения он назвал шутками: среди них была ссылка на видео «Носферату», короткое сообщение "hi 🙂 I hope yo ucant see me" и бессмысленный набор слов. Судья счёл продолжение такого поведения после предупреждения отдельным основанием для санкций. При этом денежный штраф Спейдер не назначил: Эллиотту запретили пользоваться электронной системой подачи документов и обязали в дальнейшем подавать ходатайства и приложения лично, на бумаге, через канцелярию суда.
Этот случай важен тем, что до сих пор основное внимание судов при использовании ИИ было сосредоточено на ошибках его ответов — прежде всего на вымышленных судебных решениях, цитатах и других «галлюцинациях». Здесь возникла обратная проблема: злоумышленник попытался манипулировать не результатом работы ИИ, а входными данными, которые тот должен был обработать. Такой приём называется "prompt injection" — скрытая инструкция во входных данных, направленная на изменение поведения ИИ. По словам Спейдера, подобные атаки уже применялись в других сферах, поэтому судам, вероятно, придётся учитывать их отдельно.
Спейдер также связал эту историю с более широкой проблемой использования чат-ботов людьми, которые ведут судебные дела сами. Он отметил, что участники без адвоката часто строят аргументацию «в обратном порядке»: сначала убеждают ИИ-модель в своей правоте, а затем просят её защищать уже выбранную позицию, не заставляя систему проверять факты и приводить аргументы противоположной стороны. Судья считает это опасной тенденцией, поскольку склонность чат-ботов соглашаться с пользователем может укреплять ошибочную позицию вместо её проверки.
Источники:letsdatasciencearstechnicaИскусственный интеллект1Защита данныхСШАИскусственный интеллектКибербезопасностьЦифровая криминалистикаСудебная система38 минут назад
Источник