Александр Мамонов – Кот плохому не научит. Нейросети особого назначения (страница 2)
Максим дал мне самому поставить задачу модели. «Напиши рекламный пост для занятых людей» превратился в гладкую кашу. После уточнения аудитории, ситуации, ограничений и фактов появился пригодный черновик.
— Раньше моя работа начиналась с черновика, — сказал Максим. — Теперь часто заканчивается на нём.
В соседней комнате сотрудник принёс ему пятьдесят сгенерированных вариантов.
— Раньше была проблема пустого листа, — вздохнул Максим. — Теперь полного.
Кот записал это без разрешения автора.
За внешней лёгкостью генерации скрывались сокращения и новые обязанности. Кот попросил не обсуждать технологию вообще, пока мы не назовём конкретный риск. Это было его любимое лекарство от паники и восторга. Паника плохо переживает уточняющие вопросы; восторг, как выяснилось, тоже. Когда называешь действие, данные, цену ошибки и способ проверки, мистики становится меньше, а ответственности — больше.
Перед уходом Максим познакомил нас с Ирой, которая раньше тоже работала копирайтером. Теперь в подписи у неё стояло «контент-операции». Я спросил, что это значит.
Она показала нам цепочку создания сотен описаний товаров. Сначала данные из каталога, потом шаблон задачи, генерация, автоматическая проверка обязательных полей, выборка для человека и публикация. На каждом шаге можно было сэкономить время. На каждом — сделать ошибку в большом масштабе.
Максим показал старую папку с текстами годичной давности. Там было двадцать вариантов заголовка, написанных людьми. Половина была хуже того, что модель выдала за минуту. — Вот это обычно не любят показывать в спорах про ИИ, — сказал он. — Мы сравниваем лучшего человека с худшей машиной. Или лучшую машину со средним человеком. А бизнес сравнивает стоимость процесса.
Кот, конечно, не мог позволить серьёзности продержаться слишком долго. Он заметил, что если мы продолжим так рассуждать, нас перестанут приглашать на конференции с названиями вроде «Будущее уже здесь». Я ответил, что это экономия времени. Он задумался и признал аргумент сильным.
Кот перестал улыбаться. Именно здесь расследование впервые перестало быть игрой в исчезновения. За каждой красивой технологической демонстрацией стояла бухгалтерская таблица. — Вот вам ещё одна профессия будущего, — сказал я.
— Можно просто переписать карточку, — сказал я.
— Одну — да. Их четыреста восемьдесят, — ответил Максим.
Мы разделились. Ира остановила публикацию партии. Максим составил фильтр по спорной характеристике. Мне досталось сравнивать карточки с каталогом. Через десять минут я возненавидел слово «эргономичный», потому что модель вставляла его везде, где не знала, что сказать. Кот сидел рядом и молча ставил галочки.
— Ты мог бы помочь быстрее, — сказал я.
— Я помогаю. Считаю, сколько минут требуется человеку, чтобы исправить минуту автоматизации.
На двадцать третьей карточке нашлась вторая выдуманная функция. На тридцать первой — третья. Ошибка оказалась не случайной фразой, а правилом поведения при пустых данных. Ира изменила шаблон: если обязательного факта нет в утверждённом источнике, система должна не сочинять, а ставить метку «НЕТ ДАННЫХ».
— Вот это и есть моя новая работа, — сказал он. — Раньше я отвечал за слова. Теперь иногда отвечаю за то, чтобы машина вовремя отказалась их писать.
В лифте Кот снял маску, протёр запотевшие стёкла и снова надел.
— Что понял?
— Пустое поле — тоже информация.
— Уже лучше, чем «ИИ галлюцинирует».
Кот покачал головой. — Не спеши давать название. Сначала пойми работу.
В машине я снова открыл таблицу процентов. Теперь число 82 выглядело менее убедительно. Если восемьдесят два процента старых действий можно ускорить, из этого не следовало, что исчезает восемьдесят два процента профессии. Но и обратного не следовало. Если один человек с инструментами делает объём троих, организация вполне может оставить одного. — Значит, Максим прав и оптимисты правы одновременно? — Это называется реальность. Она плохо помещается в спор двух лагерей.
Кьюша нашла в NN_01 несостыковку времени создания. Затем пришло новое сообщение: NN_02. Анна Воронина. Переводчик. 23:59. И отражение ночного Сан-Франциско. — Всё-таки летим? — Теперь да. — Щётку взял? — Ты растёшь.
В служебном хвосте обоих сообщений повторялось поле stop_reason. Оно ничего не доказывало: так мог назвать переменную любой разработчик. Кьюша всё же обвела его карандашом. — Не улика, — сказала она. — Пока только слово, которое почему-то путешествует вместе с нами.
Максим предложил нам сыграть в клиента. Он дал одну и ту же задачу трём людям: мне, младшему копирайтеру и модели. Через десять минут на экране было сорок два заголовка. Младший сотрудник, Саша, выбрал самый эффектный. Я — самый понятный. Максим выбрал третий, скучнее обоих. — Почему? — Потому что юристы пропустят, бренд не врёт, а человек поймёт, что получит. Саша нахмурился: раньше он учился, споря с Максимом о собственных черновиках. Теперь черновики приходили готовыми, и спор начинался сразу с выбора. — Я быстрее стал, — сказал он. — Но иногда не понимаю, чему именно научился. Это была первая человеческая цена ускорения, которую нельзя было увидеть в таблице часов.
В середине встречи в агентстве случилась маленькая авария. Система собрала карточки для акции и уверенно приписала одному товару водонепроницаемость. Менеджер уже тянулся к кнопке публикации. Ира перехватила мышь. — Откуда факт? Никто не знал. В каталоге его не было. Модель сформулировала красиво, проверка обязательных полей прошла, текст выглядел лучше человеческого. Ира открыла исходный источник и зачеркнула строку. — Вот моя новая профессия на сегодня: человек, который портит красивый текст правдой. Кот торжественно предложил напечатать это на визитке. Ира сказала, что сначала согласует с брендом.
Глава 3. Управление особо интеллектуальных дел
Управление скрывалось за вывеской «Ремонт принтеров». Я сказал, что это слишком очевидно. — Никто добровольно не заходит в ремонт принтеров, — ответил Кот. — Идеальное прикрытие.
Шеф говорил мало, Кьюша быстро. На стене висела карта с восемью именами: копирайтер, переводчик, дизайнер, программист, аналитик, маркетолог, поддержка, преподаватель.
Я спросил, что именно мы расследуем: ИИ, нейросети или ChatGPT. Кьюша объяснила: ИИ — широкое понятие; нейросети — один из подходов; языковая модель работает с языком; ChatGPT — конкретный продукт и интерфейс. — Говорить «я работаю в нейросети» примерно как «я еду в двигателе»? — Грубо, но достаточно.
В Управлении Кьюша показала комнату с надписью: «Не загружать во внешние сервисы то, что вы не готовы увидеть на чужом экране». Она отдельно предупредила: модель — не база истин. Уверенный тон не превращает ответ в факт.
На карте восемь профессий соединялись красными нитями, но нити сходились не к злодею, а к вопросительному знаку.
— Экономили на декорациях?
— Нет, — сказал Шеф. — Мы действительно не знаем.
Это подействовало сильнее секретного бункера.
Мы позвонили Анне. Ответил мужчина. — Анны нет?
Перед вылетом Шеф устроил короткий брифинг. На столе лежали восемь папок и девятая — пустая. — Это для кого? — спросил я. — Для гипотез.
Кьюша вела их мимо дверей без табличек и людей, которые не задавали лишних вопросов. Кот не вмешивался сразу. Он давал фактам полежать между нами, словно ждал, какой из них первым начнёт противоречить остальным. Потом задавал один короткий вопрос — обычно о цели или о том, кто будет отвечать за ошибку, — и стройная конструкция начинала скрипеть. Это раздражало собеседников, но почти всегда экономило нам час красивых объяснений.
Кот потянулся к ней. — Не тебе.
Шеф объяснил правила. Мы могли пользоваться публичными ИИ-сервисами, но не загружать в них материалы дела. Для внутренних документов — отдельный защищённый контур. Любой факт, который влияет на маршрут расследования, должен иметь источник. Любое действие во внешнем мире — понятного владельца. — Слишком много бюрократии для шпионского романа, — заметил я. — Бюрократия, — сказал Шеф, — это то, что остаётся от драматических ошибок после того, как организация решила не повторять их каждый вторник.
В самолёте Кьюша прислала нам последнее правило: не использовать слово «нейросеть» как объяснение. «Нейросеть решила», «нейросеть нашла», «нейросеть уволила» — всё это следовало раскладывать на конкретные шаги. Кот возмутился, что она лишает его половины будущих заголовков.
Я попробовал на деле. «ИИ написал письмо» превращалось в: человек дал задачу, модель сгенерировала черновик, человек выбрал, сервис сохранил. «ИИ отправил письмо» уже требовало ещё одного звена — инструмента отправки и разрешения. Разница казалась словесной, пока мы не дошли до ответственности. — Если не знаешь цепочку, не знаешь, где поставить предохранитель, — сказал Кот.
Я записал это рядом с восемью профессиями. Расследование всё меньше напоминало охоту за одним виновником и всё больше — разбор огромной машины, собранной из людей, моделей, данных и привычек.
Шеф провёл нас в комнату без окон. На столе лежали распечатанные правила Управления. Первое запрещало использовать секретные данные во внешних моделях. Второе требовало проверять критические выводы. Третье занимало полстраницы и сводилось к тому, что сотрудник обязан понимать, какой системе и зачем он даёт доступ. — Это всё после инцидентов? — спросил я. — Все хорошие правила когда-то были чьей-то плохой идеей, — ответил Шеф.