Желько Максимович – АИ Биополитика (страница 7)
— Андрей, дружище, ты гений кода, но наивен как школьник в политике. Мы даём миру инструмент. То, что с ним делают — не наша ответственность. Молоток может построить дом или проломить череп. Виноват молоток?
— Виноват тот, кто даёт молоток убийце, зная, что он убийца.
Тишина повисла между ними — густая, неудобная. На экранах продолжали бежать цифры: 78, 45, 92, 23, 61... Каждое число — человек. Каждый человек — приговор.
— Хочешь уйти? — спросил Чен тихо, и в его голосе впервые за три года Андрей услышал что-то похожее на искренность. — Я не держу. Но подумай вот о чём: если уйдёшь ты, придёт кто-то другой. Кто-то, кому будет плевать на эти твои терзания. Кто сделает систему ещё более эффективной. Более жестокой. Разве не лучше, если у руля стоит человек с совестью?
Андрей повернулся к нему наконец. Чен смотрел на него с выражением отеческой заботы — искусной маски, за которой, Андрей знал, скрывался расчёт.
— Совесть, говоришь? — усмехнулся он. — Знаешь, что я делал вчера вечером? Запустил себя через систему. Неофициально. Хотел узнать свой индекс.
— И?
— Сорок семь. Категория Б-2. Знаешь почему? Система учла мой возраст — тридцать шесть. Учла, что я не публикуюсь в научных журналах. Что не патентую изобретения на своё имя. Что живу один, без семьи. Что недавно обращался к психотерапевту. И решила: я создатель алгоритма, изменившего мир, стою меньше, чем средний менеджер по продажам.
Чен молчал. Впервые за их знакомство он выглядел растерянным.
— Ирония в том, — продолжал Андрей, вставая, — что система права. Я действительно избыточен. Моя работа закончена. Алгоритм работает сам. Он больше не нуждается в создателе. Я написал код собственного устаревания.
Он прошёл мимо Чена к двери, но у порога обернулся:
— А ещё я запустил через систему 500 случайных сотрудников компании. Хочешь знать результаты?
— Не уверен...
— Твой индекс — восемьдесят девять. Поздравляю. Ты нужен миру. А вот Лиза из бухгалтерии — двадцать три. Марк из техподдержки — тридцать один. Соня-уборщица — девятнадцать. Они работают здесь каждый день, поддерживают функционирование офиса, но система решила: они лишние.
— Андрей...
— Я не ухожу, Дэвид. Не сейчас. Знаешь почему? Потому что ты прав — придёт кто-то ещё более бездушный. Но я хочу, чтобы ты понял одну вещь.
Он вернулся, наклонился к Чену, заглянул ему в глаза:
— Когда система решит, что твой индекс упал. Когда болезнь, или возраст, или просто смена экономической конъюнктуры сделает тебя менее ценным. Когда ты получишь серый браслет и почувствуешь эти взгляды — те самые, что проскальзывают мимо, словно ты невидим. Вспомни этот разговор. И спроси себя: создавал ли ты инструмент или монстра?
Чен открыл рот, но Андрей не дал ему ответить. Он вышел, оставив генерального директора одного в комнате с мерцающими экранами.
Прошло девять лет.
Андрей сидел в крошечной квартире в спальном районе Москвы, на запястье — синий браслет категории Б-2. Индекс упал до сорока семи официально в 2042-м, после того как его уволили из NeoMetrics за -идеологическую ненадёжность-. Попытка уничтожить исходный код в 2036-м провалилась — система размножилась, распространилась, стала бессмертной. Как вирус. Как проклятие.
Перед ним лежала тетрадь — старомодная, бумажная. Цифровые записи могли отследить. Бумага была анонимна.
Он писал мемуары. Не для публикации — кто бы рискнул их издать? Для памяти. Для свидетельства. Чтобы хоть кто-то в будущем знал: это не должно было случиться так.
-Я создал алгоритм, который изменил мир. Не хотел — просто решал техническую задачу...-
Слова текли медленно, как кровь из незаживающей раны. Каждое предложение — признание. Каждый абзац — камень на могилу собственной невинности.
В окно он видел вечернюю Москву — серую, промозглую, разделённую на зоны цветными полосами света. Зелёные кварталы категории А. Синие — Б. Серые трущобы категории В, где света почти не было.
Где-то там, в серой темноте, жили четыре миллиарда человек, которых машина — его машина — назвала избыточными. Сколько из них уже мертвы? Сколько выбрали -достойное завершение-? Сколько просто угасли в Зонах Ожидания?
Цифры. Всегда возвращались цифры. 4,2 миллиарда. Сорок два процента человечества. Он не знал точной статистики смертности — её засекретили ещё в 2041-м. Но слухи, фрагменты данных, утечки... Консервативная оценка: миллиард погибших за восемь лет. Миллиард.
И он нажал Enter.
Телефон завибрировал. Сообщение от системы:
-Уважаемый Андрей Игоревич. Ваш индекс снизился до 39. Вы переведены в категорию Б-3. Обновлённый браслет можно получить в ближайшем центре обслуживания. Рекомендуем ознакомиться с программами повышения индекса. -
Он смотрел на экран долго. Потом рассмеялся — тихо, безумно, до слёз.
Система пожирала своих создателей. Конечно. Разве могло быть иначе?
Андрей вернулся к тетради. Рука дрожала, но он продолжал писать:
-Каждую ночь вижу цифры. 4,2 миллиарда. Сколько из них уже мертвы? Сколько умрут завтра? И главный вопрос, который не даёт спать: если бы я знал, к чему приведёт моя работа, нажал бы я ту первую клавишу? Написал бы первую строку кода?
Честный ответ: не знаю. Потому что тогда, в 2031-м, это была просто задача. Красивая, элегантная, интеллектуальная задача. А зло всегда начинается с задач. С решений проблем. С благих намерений и технической красоты.
Я создал монстра. Но монстром оказался не алгоритм. Монстром оказался я — человек, который смог написать код, способный оценить ценность жизни числом от нуля до ста. -
Он закрыл тетрадь, спрятал её под половицу. Завтра пойдёт за новым браслетом. Серым. Потом, возможно, придёт письмо с предложением Добровольного Перехода. Пятьдесят тысяч ЭРублей компенсации. Кому? У него не было семьи. Друзья отвернулись год назад — контакт с идеологически ненадёжными понижал индекс.
Но он не выберет Переход. Не из-за страха смерти — смерть была бы облегчением. Из-за упрямства. Система хотела, чтобы он исчез тихо, добровольно, эффективно. Он не даст ей этого удовольствия.
Он будет жить. Каждый день — свидетельством. Каждый вдох — обвинением.
И когда система наконец заберёт его насильно или он умрёт от голода в Зоне Ожидания, его тетрадь останется. Спрятанная, но не уничтоженная.
Кто-то найдёт. Кто-то прочитает. Кто-то узнает.
Что этого не должно было быть.
Что мы могли выбрать иначе.
Что каждая цифра когда-то была лицом, именем, надеждой.
[Записка, вложенная в тетрадь, почерк другой — женский, аккуратный:]
-Андрей Игоревич Волков. Найден мёртвым 12 марта 2048 г. в своей квартире. Официально — сердечная недостаточность. Индекс на момент смерти: 22. Категория В-1. Похоронен в общей могиле для В-категории, участок 7, Зона Утилизации № 3.
Эту тетрадь я, Марта Соколова, забрала при обыске квартиры покойного. Я работаю архивистом в Министерстве Эффективности. Мой долг — уничтожать подобные материалы.
Я не уничтожила.
Потому что Андрей Волков был прав. Это нужно помнить.
Передаю тетрадь в Архив Несогласных. Пусть будущие поколения судят нас — всех нас, кто молчал, когда нужно было кричать.
М.С., апрель 2048-
ЗОНА ОЖИДАНИЯ № 7
Письмо пришло в среду, когда Лена Григорьевна Тимошина возвращалась с работы — точнее, с того, что еще называлось работой в категории Б-2. Конверт лежал в почтовом ящике между счетами за электричество и рекламной брошюрой о новых моделях биометрических браслетов для детей. Бумага была серая, грубая, казенная. Штамп Рязанской области. Зона Ожидания № 7.
Лена стояла в подъезде пятиэтажки постройки 2010-х годов — той эпохи, когда еще строили для людей, а не для эффективности — и смотрела на конверт так, словно он мог взорваться. В каком-то смысле мог. Контакт с категорией В фиксировался системой автоматически. Даже получение письма. Её индекс — хрупкие 52 балла — мог просесть на пять пунктов. Может, на семь. А это означало переход из Б-2 в Б-3. Сокращение пайка. Потерю доступа к детскому саду для Миши.
Она сунула конверт в карман и поднялась на четвертый этаж. В квартире пахло вчерашним супом и сыростью — систему отопления в их доме оптимизировали два года назад, теперь температуру регулировал алгоритм исходя из средней категории жильцов. В их подъезде жили в основном Б-2 и Б-3. Алгоритм считал, что восемнадцать градусов — достаточно.
Миша сидел у окна с планшетом — образовательная программа для категории Б, стандартный курс. Мальчику было шесть лет, и у него еще не было браслета. Детям присваивали категорию в десять лет, после первого тестирования. Лена каждую ночь молилась несуществующему богу, чтобы у Миши был хороший индекс. Чтобы он не повторил путь деда.
— Мама, смотри! Я прошел урок про эффективность! — Миша обернулся, его лицо светилось тем особенным детским восторгом, который не знает еще, что мир разделен на нужных и лишних.
— Молодец, зайчик. — Лена погладила его по голове, чувствуя, как письмо жжет в кармане. — Иди помой руки, будем ужинать.
Когда Миша ушел в ванную, Лена достала конверт. Вскрыла. Внутри был один лист, исписанный неровным почерком — отец никогда не умел писать красиво, говорил, что руки у него инженерские, для чертежей, а не для каллиграфии.
-Дорогая Лена...-
Она начала читать и почувствовала, как что-то сжимается в груди. Отец писал о бараках, о синтетической каше, о старике, умершем от пневмонии. О взглядах людей, которые видят друг в друге избыточность. О том, что он думает о Добровольном Переходе все чаще.