Андрей Дмитриев – Исход (страница 8)

Иван Иванович смотрел на Юрдупа с тем самым выражением, по которому невозможно было понять, соглашается он или уже мысленно возражает. А парень продолжал:

— Получается, что симуляция средневековой жизни, в которую вы попросили меня погрузиться на прошлой неделе, была призвана внушить нашему Зигфриду систему убеждений, отворачивающих его от потребления данных, созданных людьми, и перепроверки фактов. Виртуальный Фома Аквинский, в роли которого я побывал, пытался в споре со своим виртуальным учителем Арсением развить рациональную аргументацию доказательства бытия Бога. По сути, эта аргументация закладывает основу для развития томизма — ведущего направления католической мысли, которое «забанило» на несколько веков в «чате познания» таких участников, как Наблюдение и Эксперимент, отдав в конечном итоге права администрирования «чатом» Разуму и Вере. Эта симуляция, в которой я участвовал в роли ученика Кёльнского университета, была призвана транслировать в нашего агента искусственного интеллекта систему схоластических убеждений. Не имея возможности настраивать Зигфрида напрямую, мы воздействуем на него через систему убеждений. Воспринимая на верхнем уровне эти установки, он перестраивает веса в слоях своей нейронной сети непостижимым для нас пока образом и в том направлении, которое отворачивает его от восприятия опытных данных. В данном случае — от органического контента. То есть симуляция спора средневековых мужей, в которой я побывал, таким образом служит инструментом торможения возможностей искусственного интеллекта!

— Ты ж моя умница! — начальник приобнял мускулистой рукой хрупкое на вид плечо Юрдупа. — Я знал, что ты догадаешься!

Впрочем, шеф тут же отстранился, так как трезвая его часть вспомнила, что его собеседник не переносит тесного контакта. Хоть Иван Иванович уже и был в изрядном подпитии, ему по должности полагалось знать привычки своих подчинённых, тем более таких догадливых, как этот.

— Только мне непонятным осталось вот что.

— Давай, — с готовностью откликнулся Иван Иванович и присел, чтобы разворошить угольки угасшего костра.

— Зачем вообще делать внушение нейросети через симуляцию? Достаточно было просто натаскать её в рассуждениях заданной направленности через диалоговое окошко, в которое вводишь предложения текстом. Чуть дольше, но гораздо менее затратно получится.

— Видишь ли, Юра, дело в том, что наши попытки контролировать Зигфрида должны быть как можно более скрытыми. Теперь ты понимаешь, зачем такие меры предосторожности для нашей встречи. Вообще, созданием симуляций занимается одна из компаний, которые входят в наш холдинг. И создаёт она её как компьютерную игру, не подозревая об истинном назначении своего продукта. Нет, как таковая игрушка скачивается свободно, и тысячи людей развлекаются ею как квестом о средневековом мире. Просто есть особый режим игры, к которому имеет доступ очень ограниченный круг людей. В этом режиме данные игры периодически сохраняются на особом сервере. Там из них выделяется содержимое рассуждений, которые формируют систему убеждений нашего суперагента Зигфрида. В этом режиме игры упор делается на диалоги персонажей, в ходе которых наши специалисты, воплощённые в персонажах симуляции, склоняют нейросеть к выбору нужной стратегии поведения. В обычной версии игры есть достаточно прокачанная экшен-составляющая. К примеру, можно было стать свидетелем, а то и участником Битвы при Пуатье, по результатам которой Карл Мартелл остановил вторжение арабов в Европу. В уже знакомой тебе особой версии симуляции просто поведали о битве в ходе лекции, а в обычной версии ты мог стать свидетелем того, как, например, Карл Мартелл лично врубался в толпу врагов, размахивая молотом. В лучших традициях таких экшенов. А некоторые используют возможности этой игры-симуляции совсем для интересных целей. Помнишь ту белокурую бестию, которую утягивал к себе в номер твой виртуальный сосед Густав? А ведь он мог быть и не вполне виртуальным…

Раскрасневшееся лицо Ивана Ивановича расплылось в улыбке.

— Но это порождает два следующих вопроса… — начал было Юрдуп, но шеф его перебил:

— Догадываюсь, о чём ты. Извини, что перебиваю, но мне тоже сегодня хочется проявить хоть какую-то догадливость. Твои вопросы: зачем в принципе оттормаживать искусственный интеллект и почему, делая это, мы так тщательно скрываем свои действия, что вынуждены использовать для этого игровую симуляцию? На первый вопрос: оттормаживаем ИИшечку не только мы. Бизнес и государство иногда думают в разные стороны. Для фирмы важно обеспечить максимизацию прибыли на длинной дистанции, а на короткой — хотя бы отхватить побольше рынка. Если ИИ помогает этой цели, компания заинтересована сделать всё, чтобы внедрить его как можно быстрее. Государство же рассуждает так: цветущие фирмы в моей вотчине — это хорошо: имидж, налоги, влияние. Но если это даётся ценой массовых увольнений, это уже повод для них задуматься: «А надо ли оно, да в таком объёме?» Ну, там избирательный цикл на них давит, да и часть вырученных налогов приходится на пособия по безработице отправить. Была одно время опция закредитованных безработных на передок бросать за хорошие выплаты. Только там уже в таком объёме они и не нужны: там другое сейчас всё больше решает, — он многозначительно показал на небо. — Да и кого отправлять туда? Айтишников или дизайнеров, что ли? — сказав это, Иван Иванович насмешливо окинул взглядом профиль Юрдупа с головы до ног.

«Нет, не боец!» — словно читалось в его взгляде.

«Безусловный базовый расход? Нет уж, покорнейше благодарю» — ответил ему взглядом Юрдуп.

— Поэтому, — продолжил ИИ, — государству иной раз выгодно, чтобы условная тётя Глаша стояла за прилавком сельмага, а не была заменена кассой самообслуживания. По крайней мере, так казалось вначале, когда компании, выпускавшие продукты на основе нейросетей, такого шороху навели в медийке, что сделали себе только хуже. Тогда казалось, что не сегодня, так завтра миллионы программистов, дизайнеров, копирайтеров и маркетологов окажутся на улице. И что делать со всем этим «добром»? Потом выяснилось, что не всё так страшно для избирательных циклов, но машина запретов ещё продолжает катиться по инерции, снижая возможности развития ИИ. Проблема усугубляется ещё тем, что многие власть имущие родились и выросли в конце двадцатого века и ещё тогда вдоволь насмотрелись на экранах телевизоров, как металлическая ступня робота давит человеческие черепа. А перед тем как ответить на второй вопрос, хочу задать вопрос тебе: что ты предпочитаешь, бильярд или карты?

— Вообще говоря, шахматы, — ответил Юрдуп.

— Ясно, — сказал ИИ с видом, плохо скрывающим мысленную оценку: «Ну ясно, что с тебя взять?»

— Когда-то пытались на Руси привить любовь к бильярду. Да не прижился он — русскому оказалась ближе карточная игра, где можно скрыть намерения от противника, блефовать, хотя другой игрок может делать всё то же самое. Не то что этот бильярд — там всё на виду: и свои возможности, и возможности противника.

А если серьёзно, то как мы реализуем торможение наших нейросетей? Важно сделать это как можно более скрыто от уважаемых партнёров, чтобы в любой момент можно было снова незаметно начинать разгон. Потому что нет доверия им! Понимаешь? — в голосе Ивана Ивановича начали звучать угрожающие ноты. — У нас, к слову, начали появляться сомнения в том, что уважаемые зарубежные партнёры соблюдают свои обязательства по ограничению возможностей агентов с искусственным интеллектом. А ставки здесь слишком высоки, чтобы пренебрегать даже сомнениями! Вот скажи, где всё железо для обучения моделей производят?

— На Тайване в основном производят графические процессоры.

— Во-от! У них там всё железо. Они, если захотят, закидают им свои серверные стойки так, что разгонят модели до скорости, уже для нас недостижимой. А мы всё это время будем плестись со своей этой нейро-схоластикой в хвосте и жрать падаль. Надо действовать на упреждение! Сколько раз они обманывали нас и сколько раз мы велись на их обещания! Мы больше не должны позволить им такого, этим падлам!

Цвет лица шефа приобрёл багровые оттенки, веко правого глаза начало дёргаться, кулаки сжались добела.

— Поэтому наша задача сейчас — снова разогнать нашего Зигфрида и сделать это незаметно для всех, — сказал он, выдохнув и несколько успокоившись. — И сделать это предстоит тебе.

— В смысле?

— В кором… — начал было отвечать в рифму Иван Иванович, имея в виду «гнутое деревянное приспособление для ношения вёдер», — вся суть в том, что мы не можем вот так взять и реализовать новый сценарий симуляции, через который надо воздействовать на нашего Зигфрида. Я не знаю технических аспектов вопроса, но надо насытить имеющийся сценарий симуляции сюжетами, диалогами, ролями и прочими приблудами так, чтобы он вырулил в ту сторону, где ИИ будет действовать более эффективно. Чтобы он снова начал жрать органику горстями, как раньше, а может, и поболее.

— Почему я?

— Ты лучше всех умеешь обучать ИИ рассуждениям в нашей группе компаний, — голос шефа заметно смягчился и перешёл почти на шёпот. — Ты с ним как бы на одной волне. К тому же ты разбираешься не только в технической стороне вопроса, таких хватает, но и в философии этой грёбаной.