Юрист. Профессия целиком построена на одном-единственном навыке — читать написанное и отвечать за каждое слово. Именно эта порода массово, с азартом обречённого, понесла свою лицензию на алтарь чат-бота.

Исследователь из HEC Paris по имени Дамьен Шарлотен ведёт открытую базу — судебных дел, где сторона притащила в процесс выдуманные нейросетью ссылки. На девятое июня две тысячи двадцать шестого в базе тысяча пятьсот девяносто восемь дел. Годом раньше было около двухсот. За восемнадцать дней перед этим замером прибавилось сто сорок штук — почти по восемь в день. И это только те, кого поймали. Фейковую ссылку, которую ленивый оппонент не удосужился проверить, в базу никто не занёс.

Начиналось всё чинно, в июне двадцать третьего. Двое нью-йоркских адвокатов в тяжбе против авиакомпании «Авианка» скормили суду шесть решений, которых не существовало в природе. ChatGPT их выдумал — с номерами, с цитатами, со всей положенной убедительностью. Судья влепил пять тысяч долларов на двоих, и все выдохнули: несчастный случай, бывает, один дурак на всю профессию. Как мы теперь знаем, это был не дурак. Это был нулевой пациент.

С каждым делом всё смешнее

Три адвоката из фирмы «Морган и Морган» подали иск к «Уолмарту» с девятью ссылками, из которых восемь оказались призраками. Соль в том, что цитаты выдал не бесплатный чат-бот из интернета, а собственная, фирменная ИИ-платформа конторы. Та самая, за которую платили, на которую молились, которую поставили именно потому, что она «юридическая, не то что ваш ChatGPT». Судья в Вайоминге отозвал у ведущего адвоката допуск к процессу и выписал штрафы.

Вывод, который эти люди оплатили деньгами и репутацией, я вам дам бесплатно: наклейка «профессиональный инструмент» не переносит на инструмент вашу обязанность думать. Она вообще ничего никуда не переносит. Это наклейка.

В Колорадо юристы небезызвестного производителя подушек напихали в один документ почти тридцать битых и выдуманных ссылок. По три тысячи каждому.

В Орегоне, в винодельческом споре, адвокаты через три документа протащили пятнадцать фейковых цитат и восемь сочинённых прямых цитат — и собрали рекорд: около ста десяти тысяч долларов совокупно. Судья назвал это дело «выдающимся вбросом».

В июне двадцать шестого в Миссисипи произошло то, ради чего я, собственно, и сел писать. По делу о судебных издержках выдуманные ссылки притащили обе стороны. И истец, и ответчик. Судья не стала выбирать, кто глупее. Она отменила назначенный суд, отстранила двух ведущих адвокатов от практики в округе на два года и разослала уведомления в адвокатские палаты штатов. Диагноз: две противоборствующие команды профессионалов, нанятые, чтобы сражаться друг с другом, независимо друг от друга доверились одной и той же машине — и одинаково обгадились. Это уже не ошибка. Это единый способ мышления, точнее, его отсутствие.

Почему они не останавливаются

Вот главный вопрос. Судьи предупреждали. Штрафы публичны. База открыта, бесплатна, гуглится за секунду. Так почему счётчик прибавляет по восемь дел в день и не думает тормозить?

Первая причина — арифметика, к которой эти гуманитарии органически неспособны. Стэнфордское рецензируемое исследование намеряло: даже специальные, платные юридические ИИ-инструменты сочиняют небылицы в тридцати процентах случаев. Не бесплатный чат — платный профессиональный продукт. Инструмент, который врёт вам в лучшем случае каждый шестой раз, а в худшем — каждый третий. Дайте такой штуке тысячи задёрганных, вечно спешащих юристов — и вы получите ровно ту базу, что растёт по расписанию. Тут не нужен злой умысел. Нужен только человек, который не умеет умножать процент на объём и искренне удивляется результату.

Вторая причина это лень, переодетая в экономию времени. Ровно тот же зверь, о котором я писал не раз: неспособность сесть и самому проделать нудную, честную работу — открыть первоисточник, дочитать до конца, убедиться, что дело реально. Всё это скучно. Всё это долго. А кнопка — вот она. И «Homo Promptans» радостно жмёт кнопку, гордо говорит «я подготовил документ», имея в виду «я нажал и не глядя подписал».

Суды, что характерно, эту подмену раскусили быстрее самих юристов. В Британии и Сингапуре дошли до простой мысли: обязанность проверить — непередаваема. Не машине, не стажёру, не вендору. В Сингапуре персональные издержки повесили не только на младшего, который нагенерил чушь, но и на партнёра, который подмахнул её не читая. Отговорку про загруженность отклонили. Подпись — это и есть та точка, в которой ты берёшь на себя ответственность за всё, что выше неё. Если ты подписываешь не читая, ты не юрист. Ты курьер между чат-ботом и судьёй.

Знаете, откуда я взял эту прекрасную цифру про тысячу пятьсот девяносто восемь дел? Со страницы, которую ведёт компания, продающая — та-дам — «правильный» юридический ИИ. Тот самый, который, в отличие от неправильного, конечно же, не врёт, потому что «привязывает каждый ответ к первоисточнику». Весь этот скрупулёзный отчёт о трупах, которые оставил после себя предыдущий чудо-инструмент, существует ради одной цели. Продать вам ровно такую же погремушку.

В этом вся эпоха, спрессованная в одну веб-страницу. Сначала тебе продают волшебную машину, которая избавит от нудной работы читать и проверять. Машина ожидаемо врёт, потому что она так устроена, а ты, потеряв навык, этого не замечаешь. Тебя штрафуют, отстраняют, полощут в прессе. А затем приходит следующий торговец — с новой волшебной машиной, которая исправит всё то, что натворила предыдущая. И показывает тебе, в качестве рекламы, кладбище тех, кто поверил ей же, только вчера.

Круг замкнулся. Конец тут невесёлый: профессия, чья единственная функция — отвечать за прочитанное, наняла себе на работу то, что вовсе не умеет читать.