Юрист в США подал в суд жалобу с выдуманными ChatGPT свидетелями

Верховный суд штата Нью-Мексико оштрафовал адвоката Стивена Ааронса на пять тысяч долларов за использование в судебном документе выдуманных ChatGPT показаний полицейских и несуществующих свидетелей. О решении суда сообщает Reuters.

Что сделал юрист

Юрист использовал ChatGPT при подготовке апелляции своего клиента и признался, что не представлял, насколько далеко нейросеть может зайти в выдумывании фактов. В результате в документ попали показания людей, которых вообще не существовало, и детали преступления, отсутствовавшие в материалах процесса.

Решение суда

Суд признал адвоката виновным в неуважении к суду и направил материалы в дисциплинарную комиссию. Судьи отдельно раскритиковали его за отсутствие должной проверки и недостаточную обеспокоенность последствиями ошибки для собственного клиента.

Справка

Это не первый подобный случай в США: с 2023 года федеральные и региональные суды зафиксировали десятки эпизодов, когда юристы ссылались на несуществующие прецеденты, сфабрикованные чат-ботами. Суды в Техасе, Нью-Йорке и других штатах уже штрафовали адвокатов за такое, а некоторые были временно лишены права заниматься практикой. Причина в том, что языковые модели склонны «галлюцинировать» — уверенно генерировать правдоподобные, но ложные сведения, включая вымышленные цитаты и дела. Профессиональные правила требуют от юриста лично проверять любые факты и ссылки в документах, поэтому ответственность за ошибку ИИ лежит на самом адвокате, а не на нейросети.