Андрей Дмитриев – Исход (страница 6)

Юрдуп замолчал, сформулировав мысль до конца, и выглядел теперь несколько истощённым. Нечасто ему доводилось произносить столь длинные спичи.

Иван Иванович одобрительно покивал головой и задал следующий вопрос:

— Ну а что ты думаешь о поведении компаний, внедряющих ИИ-решения, в таких условиях?

— Это уже несколько выходит за сферу моих компетенций.

— Хотя бы обывательский взгляд.

— С дилетантской точки зрения происходящее должно повлечь усиление борьбы за доступ к органике. Операторы, владеющие доступом к программам, текстам, видео и переписке, созданной людьми, пытаются ограничить доступ к ней со стороны конкурентов, пытаясь, с другой стороны, скормить своим моделькам всю эту накопленную органику. К примеру, если бы я участвовал в принятии ключевых решений в компаниях, разрабатывающих социальные сети и мессенджеры, то пролоббировал бы блокировку доступа к продуктам для конкурентов. И тогда люди были бы вынуждены выкладывать свои видосики, мемчики и глубокомысленные посты на страницах принадлежащих тебе социальных сетей и в диалоговых формах твоих мессенджеров.

— Угу, — снова одобрительно покачал головой Иван Иванович. Только в этот раз он почему-то втянул в себя губы и немного отвернул взгляд. Трубка в его руке пришла в движение и стала описывать едва заметные узоры в пространстве.

— Да, так в общих чертах всё и происходит, Макс… Ой, извини, Юрдуп.

То, что руководитель, привыкший контролировать свои слова и движения, второй раз ошибся, назвав Юрдупа его прежним именем, говорило о волнении, которое он пытался скрыть. Иначе откуда опять всплыл этот Макс?

— На самом деле всё ещё интереснее, чем ты говоришь, — Иван Иванович распрямился и сделал несколько шагов в сторону озера. — Деградация моделей, которую ты уловил, носит искусственный характер и вызвана действиями регулирующего характера, — сказал он, не оборачиваясь. — Это не отменяет того факта, что ИИ оказался сильно зависим от органики, то есть от контента, созданного людьми. Другое дело, что потребление органики моделями начали ограничивать вполне себе намеренно.

После этих слов Иван Иванович повернул голову к сидевшему на бревне Юрдупу и улыбнулся, как показалось, несколько снисходительно. В его взгляде читался насмешливый вопрос: «Ну что, я тоже могу удивлять?»

По закону жанра Юрдупу тоже надлежало встать с поваленного дерева. Так что он подчинился этому негласному предписанию и поравнялся с шефом на берегу озера, однако ни одним мимическим жестом не выдал степень своего удивления.

— В этой связи один вопрос, Юрдуп… Эх, хочется тебя назвать Юрой, что ли, уж больно твоё новое имя непривычно для русского уха. — начальник рассмеялся, стремясь разрядить обстановку. — Скажи, как часто к тебе поступают запросы на проверку качества рассуждений, которые генерируют наши модели? Я, может, неправильно выразился, всё-таки у меня другой профиль. Но, думаю, ты меня понял.

— Я понял. Запросов на проверку качества работы наших агентов в последнее время стало, действительно, меньше. Команда, отвечающая за контроль качества, раньше ко мне обращалась 1-2 раза в неделю, сейчас — примерно 1-2 раза в месяц. Раньше я связывал это с тем, что наши агенты почти научились рассуждать «по-взрослому». Хотя у меня начали закрадываться подозрения, не связано ли это со сворачиванием нашего проекта по обучению рассуждениям.

— А ты уверен, что это команда тебе направляла запросы? В том смысле, что команда людей? — Иван Иванович повернул голову к Юрдупу и посмотрел с ухмылкой.

— В каком смысле?

— А ты подумай! Какие у нас ещё могут быть альтернативы? — спросил начальник и слегка рассмеялся с закрытым ртом.

— Не может быть! Я думал, что научился отличать речь людей от речи, сгенерированной нейросетью, — с искренним недоумением произнёс Юрдуп.

Да, большинство запросов формальные. Но бывали и комментарии, которые обычно дают люди. А случались и диалоги с командой проверки качества по нескольку фраз с каждой стороны. Юрдупа удивляло, правда, что эта команда никогда не просила созвонов. Сам он никогда звонки не инициировал, предпочитая лаконичную переписку, но, чтобы за два с лишним года работы коллеги из команды проверки качества ни разу не захотели что-то обсудить голосом — это действительно странно.

— Я же помню, как пару раз встречался вживую с коллегами этой команды, — возразил Юрдуп, подумав какое-то время.

— Они работали над твоим проектом?

— Вообще нет.

— Скажу тебе больше, они не работали ни над каким проектом. Они искренне думают, что тестируют модели, но на самом деле им платят зарплату за то, что они имитируют деятельность. Повторяю, сами они об имитации не догадываются.

Юрдуп посмотрел на шефа с недоумением. Иван Иванович ответил ему взглядом, в котором читалась даже некоторая доля разочарования. Он словно думал: «Ну вот, я не ожидал, что ты с твоей проницательностью не догадаешься об этом!»

Иван Иванович вернул взгляд к противоположному берегу озера, очертания которого начали проступать сквозь тающий туман, и продолжил срывать покровы с корпоративных тайн:

— Да, запросы на проверку качества рассуждений генерирует специальный агент. И это, пожалуй, единственный компонент в линейке наших продуктов, который не деградировал. Уж если он тебя смог ввести в заблуждение, это явно говорит о его первоклассной эффективности! Справедливости ради скажу, что он непрерывно обучается на запросах, которые отправляет реальная команда проверки качества.

— Хорошо, есть такой агент…

— Зигфрид, — вставил Иван Иванович.

— Что?

— Агента так зовут.

— Ну, окей, Зигфрид или как его там, — в голосе Юрдупа начали появляться нотки раздражения. — Пока не совсем понимаю, зачем он понадобился. Сейчас мне надо отойти, я подумаю.

Юрдуп отошёл на несколько метров в сторону и приблизился к кромке воды. Иван Иванович не мешал процессу размышления коллеги и, судя по звукам, отправился заваривать следующую порцию кофе.

Спустя пару минут Юрдуп вернулся с догадкой:

— На нас работает множество агентов со своей специализацией. Агент на сайте знакомств пылесосит цепляющие взгляд анкеты партнёров, чтобы научиться давать рекомендации. Агенты в мессенджерах самостоятельно разбирают диалоги пользователей, чтобы научиться генерировать ответы на вопросы. Агент анализа авиаперелётов собирает данные из открытых источников об авиакатастрофах, сопоставляет их с метеоусловиями, параметрами самолётов и иными данными, чтобы научиться прогнозировать вероятность катастроф. И так каждый из множества наших агентов. Периодически они сами тестируют свою эффективность, когда, к примеру, агент сайта знакомств рассылает анкету от лица виртуальной девушки и замеряет реакцию на неё со стороны настоящих людей. Или агент вступает в какой-нибудь холивар о причинах войны эльфов и гномов на какой-нибудь тематической ветке комментариев. И если его фразы воспринимаются как фразы живого собеседника хотя бы 70 процентами собеседников, то норм — можно работать дальше. Но время от времени их эффективность надо оценивать со стороны — без этого они деградируют. К примеру, отправить сгенерированную анкету девчонки фокус-группе реальных мужчин. При нашей проверке мы точно уверены, что это реальные мужики, ведь на анкету нашего бота могут отвечать такие боты. И сделать это нужно как можно раньше! По-хорошему, сотрудник из команды проверки качества смотрит, какие фразы генерирует наш агент в чате, и решает: «Нет, это уже что-то не то. Надо дополнительно протестировать этого болванчика на беседе с реальными людьми». И по результатам тестирования корректируют работу агента. При этом могут заставить его чаще сверяться с реальными источниками данных. Ведь если в комментариях к профилю люди часто жалуются, что «опять шлюхоботы достали», то это повод что-то изменить и в самой анкете, и в способе вести переписку.

Юрдуп на мгновение умолк, потёр переносицу и продолжил:

— До сих пор мы не могли полноценно автоматизировать этот процесс. Я, правда, читал когда-то статью профильного института Гуаньчжоу о том, что можно различные экземпляры одного и того же агента заставлять проверять друг друга. К примеру, агенты регистрируются на сайте знакомств, завязывают переписку, и в ходе общения один проверяет качество второго. По сути, технология доносительства и взаимной слежки нон-стоп. По утверждению авторов статьи, подход продемонстрировал неплохие результаты.

После этих слов Юрдуп окончательно выдохся и осел на упавшее дерево. Иван Иванович подсел рядом и снова одобрительно закивал:

— Именно. Я не знаю, как это устроено там под капотом. Но Зигфрида построили на основе разработок того самого института из Китая.

— Интересно в этой связи вот ещё что, — проговорил Юрдуп пересохшими губами. — Слышал, что технологии никогда не бывают полностью этически нейтральными и всегда несут на себе отпечаток времени и места, в которых были сотворены. А доносительство и взаимное недоверие — вполне знаковые черты нашего времени, как мне кажется.

Иван Иванович сделал вид, что не услышал это проявление вольнодумия на грани фола, и тихо сказал:

— Это ещё не всё, мой дорогой коллега.

Юрдуп с некоторым усилием обратил усталое лицо к шефу.

Оттягивая следующий интригующий момент, Иван Иванович привстал и разлил кофе по кружкам. Когда необходимая пауза в представлении была выдержана, он продолжил: