Адвоката наказали за подачу ходатайства с фейками, сфабрикованными ChatGPT

Суд в США отстранил от практики местного адвоката, который использовал программу с искусственным интеллектом ChatGPT для составления письменного ходатайства. Накануне слушаний юрист выявил в документе сфабрикованные чат-ботом кейсы, но не стал предупреждать об этом суд.

29-летний адвокат из Колорадо Захария Крэбилл в 2021 году получил лицензию, проработал чуть более года в офисе прокурора, после чего устроился в местную юридическую фирму Baker Law Group. В апреле этого года начинающий сотрудник должен был подготовить ходатайство об отмене судебного решения по иску в интересах клиента фирмы. По признанию адвоката, он испытывал стресс от повышенной нагрузки и от отсутствия опыта в гражданских делах, поэтому решил прибегнуть к помощи ChatGPT. В частности, Крэбилл попросил чат-бот усилить аргументацию ходатайства ссылками на кейсы из судебной практики штата, сообщило подробности издание Law Week Colorado.

В начале мая Крэбилл подал ходатайство в окружной суд. А в день слушаний с ужасом обнаружил в документе информацию о трех вымышленных исках якобы из практики апелляционного суда Колорадо. Несмотря на это, он не стал отзывать ходатайство и, когда судья заподозрил фейки, свалил все ошибки на юриста-стажера, который якобы и готовил документ. Впрочем, через несколько дней адвокат подал в суд письменное признание в том, что использовал ChatGPT при составлении ходатайства. «Исходя из точности предыдущих подтвержденных ответов и точности цитирования судебной практики, мне никогда не приходило в голову, что эта технология может обманывать пользователя», — оправдывался Крэбилл. Он также сообщил, что растерялся и поэтому не стал отзывать ходатайство. Молодой юрист принес извинения председательствующему судье, который, в свою очередь, сообщил об инциденте в дисциплинарную комиссию штата.

Вскоре Крэбилла уволили с работы. В ноябре по итогам дисциплинарного разбирательства суд отстранил Крэбилла от практики на 1 год и 1 день за нарушение нескольких положений кодекса профессионального поведения, в том числе о запрете делать ложное заявление о существенном факте перед судом.

Это не первый случай, когда адвоката наказывают за ошибки ChatGPT. В июне два нью-йоркских адвоката, готовясь к иску, попросили чат-бот найти прецедентные дела. Как и в случае Крэбилла, нейросеть сфабриковала кейсы. Судья оштрафовал юристов на $5000 каждого, не отстраняя от практики. Сами судьи тоже периодически прибегают к использованию нейросети. В Бразилии судья использовал ChatGPT для написания приговора. В результате судебный акт пестрил юридическими ошибками, в частности, правовые позиции и детали прецедентов были искажены. Сейчас по этому поводу идет дисциплинарное расследование. Отметим, что в апреле этого года контент, созданный нейросетью GPT-4, успешно выдержал Единый экзамен на право в США с показателем, который существенно выше среднего проходного балла во всех штатах.