Судья раскритиковал адвокатов за «поддельную научную работу, сгенерированную искусственным интеллектом»

Судья из Калифорнии наложил штраф на две юридические фирмы за скрытое использование искусственного интеллекта (ИИ) после получения дополнительного ходатайства, содержащего «многочисленные ложные, неточные и вводящие в заблуждение юридические ссылки и цитаты». В постановлении, представленном на прошлой неделе, судья Майкл Вильнер (Michael Wilner) наложил штраф в размере 31 000 долларов на задействованные юридические фирмы, заявив, что «ни один разумно компетентный адвокат не должен передавать на аутсорсинг исследования и написание текстов» ИИ, как отмечают профессора права Эрик Голдман (Eric Goldman) и Блейк Рейд (Blake Reid) в Bluesky. «Я прочитал их ходатайство, был убежден (или, по крайней мере, заинтригован) указанными ими авторитетами, и изучил решения, чтобы узнать о них больше – только чтобы обнаружить, что их не существует», – пишет судья Вильнер. «Это пугает. Это чуть не привело к более страшному исходу (с моей точки зрения) – включению этих фальшивых материалов в судебное постановление».

Как указано в документе, представитель истца в гражданском иске против State Farm использовал ИИ для создания структуры дополнительного ходатайства. Однако эта структура содержала «сфабрикованные исследования, сгенерированные ИИ», когда она была отправлена в другую юридическую фирму, K&L Gates, которая добавила эту информацию в ходатайство. «Ни один адвокат или сотрудник ни одной из фирм, по-видимому, не проверил ссылки и не проверил эти исследования перед подачей ходатайства», – пишет судья Вильнер. При проверке ходатайства судья Вильнер обнаружил, что «по крайней мере, два указанных авторитета вообще не существуют».

После запроса разъяснений от K&L Gates, фирма повторно представила ходатайство, которое, по словам судьи Вильнера, содержало «значительно больше сфабрикованных ссылок и цитат, помимо двух первоначальных ошибок». Затем он издал предписание о необходимости предоставить объяснения, в результате чего юристы дали показания под присягой, подтверждающие использование ИИ. Юрист, создавший структуру, признался в использовании Google Gemini, а также инструментов ИИ для юридических исследований в Westlaw Precision с CoCounsel.

Это не первый случай, когда юристов ловят на использовании ИИ в суде. Бывший адвокат Трампа Майкл Коэн (Michael Cohen) сослался на вымышленные судебные дела в юридическом документе после того, как принял Google Gemini, ранее известный как Bard, за «сверхмощную поисковую систему», а не за чат-бота с ИИ. Судья также обнаружил, что юристы, подавшие в суд на колумбийскую авиакомпанию, включили в свое ходатайство множество фальшивых дел, сгенерированных ChatGPT.

«Первоначальное, нераскрытое использование продуктов ИИ для создания первого черновика ходатайства было откровенно неправильным», – пишет судья Вильнер. «И отправка этого материала другим юристам без раскрытия его сомнительного происхождения в ИИ фактически поставила этих профессионалов в опасное положение».