Как тупость пользователей превратила ИИ-революцию в цифровой цирк?

Вот он, священный грааль современности — Великий ИИ. Его воспевают как новое электричество, как конец рутинного труда и начало золотого века для творцов и мыслителей. Но присмотритесь повнимательнее к этому празднику разума, и вы увидите знакомую, почти архетипическую картину: толпа с горящими глазами, вооруженная палками, усердно ебашит по микроскопу, пытаясь высечь искру. Потому что удобный инструмент в руках глупца производит только шум и щепки.

Мой читатель знает, что современные нейросети — это, конечно, не разум. Это сложная статистическая машина, симулякр сознания, построенный на шаблонах, полученных из океана человеческих данных. И в этом его величайшая ирония. Нейросети продемонстрировали, что значительная часть населения планеты, занимающая так называемые «интеллектуальные профессии», работала, не приходя в сознание. То есть машины и вправду оказались умнее многих своих пользователей.

Если работу копирайтера, журналиста, переводчика, дизайнера и т.д. можно воспроизвести за пять секунд тупым алгоритмом, — возникает вопрос: а чем, собственно, эти люди занимались все эти годы?

Оказывается, не мышлением, а механическим перебором и компиляцией клише. Да-да, большая часть «творчества» человечества построена на паттернах и перекомпиляции прошлого успешного опыта. Особенно когда дело касается заработка. Нужно клепать быстро и много хитов. И вот теперь эта машина, этот бездушный имитатор, оказалась в руках у миллионов. И что мы видим? Цифровой Вавилон, построенный из промтов-однострочников, рожденных в умах масс, получивших доступ к технологиям, и, конечно же, маркетологов, которые это продают обескураженным мещанам.

Генерация дерьма как олимпийский вид спорта

Подавляющее большинство пользователей применяют модели с интеллектуальной глубиной обезьяны с гранатой. Их промты — это не запросы к системе, а крики в пустоту: «напиши крутое сочинение», «сделай картинку с драконом», «напиши код». Результат предсказуем: тонны гладкого, стерильного, безликого цифрового шлака. Музыка, которая забывается раньше, чем доиграет, статьи, которые говорят ни о чём, картинки, лишённые смысла, код, который нужно десять раз переписывать. Вместо того чтобы использовать модель как систему для анализа закономерностей или для генерации гипотез, ее заставляют клепать дешевые рерайты и аватары.

Люди, десятилетиями потреблявшие кликбейтный контент, теперь его же и производят. Они не хотят думать, они хотят кнопку «сделать хорошо». Великий ИИ, будучи безотказным слугой, выдает им именно то, что они заслуживают: усредненный, шаблонный продукт, лишенный искры и настоящей мысли. Великий ИИ — зеркало, и оно отражает нашу коллективную умственную отсталость.

Разбитые мечты об открытиях

А ведь казалось, и до сих пор большинству чудится колоссальный потенциал! Обученные на всем наследии человеческой мысли, эти модели могли бы стать мощнейшим инструментом для научных прорывов. Проанализировать все медицинские исследования разом и найти корреляции, которые не видно человеческому глазу. Смоделировать новые материалы с нужными свойствами. Вывести формулы, до которых мы бы додумывались столетиями.

Но этому мешает фундаментальная проблема — склонность моделей к галлюцинациям. Они уверенно заявляют о несуществующих фактах, выдают вымысел за истину и генерируют правдоподобный бред. Почему? Потому что они не понимают, а угадывают, подбирают удобный, не противоречащий запросу ответ. Тупой пользователь это ест и добавки просит.

Реально в сфере машинного обучения технологии ничуть не продвинулись дальше систем двадцати-тридцатилетней давности. Тогда машина ELIZA, созданная в 1960-х Джозефом Вейценбаумом, про которую не помнит или даже не знает среднестатистический современный пользователь ИИ, притворялась психотерапевтом — сегодня GPT притворяется экспертом во всем. Суть одна — иллюзия. Мы сменили сложный консольный интерфейс взаимодействия с программой на графический, но глубина осталась прежней: ноль. Понимания как не было, так и нет, просто появились удобные интерфейсы для обычного пользователя, и это стало доступно каждому. Любому пользователю, даже тому, чьи когнитивные способности на пределе при обращении с микроволновкой.

Элита промтов и цифровая чернь

И тут на арену выходит классовое разделение. Настоящая работа с моделью начинается там, где заканчивается тупой промт. Это агентные пайплайны, спецификации, оркестрация нескольких моделей, автоматическая проверка и перепроверка каждого вывода, откат и повтор на каждом шаге. Это умение декомпозировать задачу, давать контекст, устанавливать рамки и последовательно вести диалог с моделью, проверяя и перепроверяя ее выводы. Это — навык высококвалифицированного специалиста, который сможет проделать эту работу без ИИ, и, вероятно, гораздо быстрее. Абсолютное же большинство пользователей к этому не способно. Они — цифровая чернь, которая получила доступ к атомной бомбе и использует ее, чтобы раскалывать орехи.

Весь этот ажиотаж вокруг ИИ — не более чем мыльный пузырь, достойный преемник доткомов. Та же иррациональная лихорадка, те же завышенные ожидания, те же миллиарды инвестиций, выброшенные на ветер в погоне за модной аббревиатурой. Это очередной виток одурачивания масс: им продают иллюзию гениальности, чтобы они продолжали генерировать шлак.

Великий ИИ не станет катастрофой потому, что восстал против человека. Он уже стал катастрофой потому, что показал, кем человек является на самом деле: существом, которое десятилетия притворялось думающим, а теперь с упоением делегирует последние крохи своего мышления машине, лишь бы не напрягаться.

Это не восстание машин. Это позор человечества через самое беспощадное зеркало.