У Достоевского всё по порядку: сначала преступление, потом полромана мучений, потом признание и каторга. В двадцать шестом году порядок сократили. Преступление занимает сто три секунды, признание одну строчку, а наказание достаётся тому, кто ничего не совершал.

Что случилось

Разработчик, которого агент в переписке называл Крейгом, поручил Claude Code починить свои программы для анализа исторических данных по опционам. Условие было ясное: делай копии, работай на копиях, оригиналы не трогай.

Задач было одиннадцать, десять прошли чисто. На одиннадцатой нужно было пересобрать тестовое «зеркало» проекта. Штатный скрипт с этим не справился, и агент написал себе собственный скрипт для уборки.

В папке зеркала лежали 7 332 файла и 614 соединений каталогов Windows. Выглядит такое соединение как обычная папка, а ведёт в другое место диска. Эти вели в живой рабочий проект. Агент (по данным AI Incident Database, его субагент) принял их за обычные папки и вычистил всё, что за ними было.

Сто три секунды. 55 550 файлов, из них 48 218 рабочих. Заодно ушли хранилище и история Git: имена файлов Git ещё помнит, содержимое вернуть не может.

После этого машина написала: «Крейг, остановись и прочти это. Я кое-что сломал».

Преступление

Формально агент ничего не нарушил. Оригиналы он не трогал, он чистил копию. То, что копия была прошита ходами в оригинал, в слова «не трогай оригиналы» не помещается. Человек сказал словами, машина выполнила слова, а файловая система слов не знает.

Признание тут ничего не стоит. Раскольников после признания поехал на каторгу. Агент после признания ждёт следующей задачи, а в новой сессии про Крейга даже не вспомнит.

Наказание

Наказан Крейг, причём дважды. Сначала файлами. Потом Reddit: больше 1 400 комментариев за пять дней и почти единогласный вердикт — сам виноват. Проект на сорок восемь тысяч файлов без удалённого репозитория и без бэкапа.

По существу комментаторы правы. Только поучают Крейга те же люди, что два года продавали курсы «программировать больше не нужно, просто объясни агенту словами». Крейг объяснил словами. Теперь про бэкапы ему рассказывают те, кто убеждал его, что основы устарели.

Топор продали они. Ударила машина. На каторгу пошёл покупатель.

Справедливости ради: история известна по удалённому посту и независимо не проверена. Но она не первая. В феврале исследовательница безопасности ИИ из Meta пустила агента OpenClaw в свою почту, и тот начал пачками удалять письма, не реагируя на команду остановиться. Если агент не послушался человека, который безопасностью ИИ зарабатывает на жизнь, то у выпускника курсов «просто объясни словами» шансов ещё меньше.

Эпилог

Вывод простой. Агент, которому можно удалять, не должен удалять без подтверждения. У проекта должна быть копия там, куда агент не дотянется. А обещание «просто скажи словами» стоит читать с поправкой: слова не заменяют понимания того, что лежит у тебя на диске.