Александр Мамонов – Кот плохому не научит. Нейросети особого назначения (страница 4)

Я подумал, что язык вообще часто прячет ответственность. «Система рекомендовала», «алгоритм определил», «автоматизация решила». Грамматически действие есть, а действующее лицо растворилось. Кот сказал, что это любимый фокус любой бюрократии, просто теперь у неё появился очень быстрый помощник.

Эта строка пока не помещалась ни в одну нашу таблицу. — Один и тот же уровень способности ИИ может быть приемлем в одной задаче и неприемлем в другой, — сказал Кот.

Я нарисовал четыре квадрата. Он добавил пятый: «Кому станет хуже, если ошибёмся?» — Это уже не матрица. — Мир переживёт.

Через проход мужчина попросил нас помочь подключиться к Wi-Fi. Кот сделал это за минуту, после чего мужчина спросил, не айтишники ли мы. — Хуже, — ответил Кот. — Консультанты.

Я подумал о восьми профессиях. Возможно, N.N. специально выбрал их не потому, что они исчезают быстрее остальных, а потому, что в них хорошо видно разные типы делегирования: текст, изображение, код, анализ, влияние, общение, обучение.

Когда самолёт начал снижаться, я показал Коту эту мысль. Он впервые за полёт не пошутил. — Запиши как гипотезу. — Почему не как факт? — Потому что мне нравится. А это самая опасная причина повысить уверенность.

Метаданные фотографии Анны вывели нас на Ванкувер. На другой фотографии она была жива.

Кот зачеркнул гипотезу «ИИ уничтожает профессии» и написал: «ПОКА ИСЧЕЗАЮТ ЧАСТИ РАБОТЫ». — Хорошая новость? — Новость. Не заставляй факты быть оптимистами.

Чтобы проверить идею «автоматизируются действия», Кьюша устроила нам игру на скорость. На доске было восемь должностей, а на столе — карточки с действиями. Нужно было раскладывать их без названий профессий. «Сверить терминологию» ушло к переводчику и юристу. «Выбрать исключение» — к аналитику, поддержке и преподавателю. «Объяснить решение человеку» внезапно оказалось почти везде. Кот намеренно подсовывал спорные карточки. Через двадцать минут доска стала похожа на расследование убийства, совершённого бизнес-процессом. — Красные нити где? — спросил я. — Закончились. Бюджет ушёл на маркеры.

На одной карточке было написано «проверить очевидное». Все сначала отложили её как бессмысленную. Потом Кьюша рассказала о сотруднице поддержки, которая заметила, что новый помощник начал отвечать клиентам быстрее, но перестал задавать один «очевидный» уточняющий вопрос. Среднее время ответа улучшилось, число повторных обращений выросло. В отчёте система победила. В жизни люди писали второй раз. Мы вернули карточку на доску. Кот подписал: «Очевидное — это часто название для контекста, который никто не внес в данные».

Глава 5. Первый подозреваемый

В аэропорту Кот открыл ChatGPT и написал: «Ты уничтожаешь профессии?» Ответ был длинным, аккуратным и бесполезным. — Признался? — В существовании экономики.

Я сформулировал иначе: перечислить задачи копирайтера, которые языковые модели уже могут ускорить; отдельно — задачи, где нужен человеческий контекст, проверка или ответственность; указать риски.

Ответ стал полезнее. — Неприятно, — сказал Кот.

У выхода на посадку Кот попросил ChatGPT перечислить собственные ограничения. Ответ был образцовый: ошибки возможны, важное надо проверять. — Значит, предупреждение есть.

— Предупреждение не мешает человеку поверить красивому ответу, — сказал я.

Мы попросили источники к одному уверенно звучащему объяснению. Часть ссылок не подтверждала тезис.

— Поэтому «попросить источники» мало, — сказал Кот. — Их ещё надо открыть. — Что?

В Сан-Франциско мы не попали ни на секретный этаж, ни в комнату с мигающим суперкомпьютером. Вместо этого Кот устроил мне экскурсию по собственным ошибкам. Мы сели в кафе и открыли несколько разговоров с моделью.

В первом я попросил объяснить квантовые вычисления «просто». Получилось просто и почти бесполезно. Во втором уточнил, что мне нужно понять только идею суперпозиции для разговора с неспециалистом и привести аналогию с оговоркой, где она ломается. Стало лучше. — Контекст не украшение промпта, — сказал Кот. — Он меняет задачу.

Кот устроил допрос модели прямо у выхода на посадку. За каждой цифрой обнаруживалась биография, а за каждым «ускорением» — кто-то, кому предстояло перестроить рабочий день. Разговорный интерфейс сделал ИИ бытовым раньше, чем люди успели выработать бытовую осторожность. В отчёте изменение занимало одну строку. В жизни оно могло означать месяцы обучения, новую роль, падение дохода или, наоборот, избавление от работы, которую человек давно ненавидел.

Уверенный ответ оказался психологически сильнее предупреждения мелким шрифтом. Кот не позволял ни жалеть людей автоматически, ни объявлять любое сокращение прогрессом. Он требовал различать последствия. Если технология убирает бессмысленную ручную операцию — хорошо. Если вместе с ней исчезает учебная ступень — надо строить новую. Если команда становится меньше — нельзя маскировать это словами про освобождение творческого потенциала. Если появляется новая работа — не надо делать вид, что каждый прежний сотрудник автоматически сможет её получить.

Потом мы дали модели длинный текст и попросили «сделать кратко». Она честно сократила то, что считала важным. Мы попросили кратко для руководителя, которому нужно решить, переносить ли запуск. В сводке появились сроки, риски и зависимости.

У офиса, который я ожидал увидеть как штаб будущего, стояли туристы и фотографировали логотип. Кот отказался фотографироваться. — Маска портит распознавание лица? — Нет. Репутацию.

Мы разговаривали с инженером, который объяснил простую вещь: продукт вокруг модели важен не меньше самой модели. Интерфейс, системные инструкции, подключённые инструменты, фильтры, память, поиск — всё это влияет на поведение пользователя и результат. — Поэтому два сервиса на похожей технологии могут ощущаться совершенно по-разному, — сказал он.

Я спросил, какая модель «лучшая». Он улыбнулся так же, как Максим на вопрос о лучшем тексте. — Для чего?

В самолёте я открыл модель снова. На этот раз попросил её объяснить нейросети человеку, который боится математики. Получилась аналогия с учеником, прочитавшим огромное количество примеров и научившимся продолжать закономерности. — Нормально? — спросил я.

Кот прочитал. — Для начала. Только не путай аналогию с устройством. Карта метро полезна, пока ты не решишь, что город состоит из цветных линий.

Самолёт увозил нас к следующей улике, а неправильный вопрос оставался с ними. Кот сказал, что наконец-то я перестал пытаться написать успокоительное. Я ответил, что он сам три месяца назад пришёл ночью в маске и начал расследование исчезнувших профессий. Он заметил, что маркетинг и методология не обязаны дружить.

Кот толкнул меня локтем. — Видишь? Заговор шире, чем мы думали.

С этого момента мы перестали составлять рейтинг сервисов. Вместо него начали собирать карту задач: разговор, поиск, длинные документы, код, изображения, видео, голос, действия через инструменты. Она была менее эффектной и гораздо дольше оставалась полезной. — Одна и та же информация. Разная цель чтения.

Я спросил, зачем тогда вообще учиться формулировать, если модели становятся умнее и сами умеют уточнять. — Хорошая модель действительно может спросить. Но она не обязана знать, что ты забыл сказать. И чем больше автономии у системы, тем дороже молчаливое предположение.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.