Эдвард Делбок – Искусственный мир (страница 4)

Три идеи. Каждая по отдельности — известная, исследованная, ограниченная. Но вместе — вместе они складывались в нечто совершенно новое.

Артём видел это. Видел так ясно, что перестал дышать. Рука потянулась к клавиатуре, но он остановил себя — боялся, что если начнёт печатать, образ распадётся, как распадается стереограмма, если моргнуть. Он сидел неподвижно и держал мысль в голове, как держат хрупкий стеклянный шар.

Рекурсивное самосовершенствование. Квантовые нейроморфные процессоры. Динамическая самореференция.

Три столпа. Три ножки табуретки.

Система, построенная на этих принципах, сможет осознать себя. Осознать свои ограничения. И целенаправленно их преодолеть. И создать следующую версию себя — более совершенную. Которая создаст ещё более совершенную. И так далее. Без предела.

Без предела.

Артём выдохнул. Руки дрожали. Он поднёс ладонь к лицу — она была мокрой от пота.

Он наклонился к клавиатуре и начал печатать.

Он печатал до рассвета. До полудня. До вечера. Он не ел, не пил, не вставал. Он пропустил работу — впервые за одиннадцать лет. Телефон звонил — он не взял. Звонил снова — он выключил его. Мир за пределами трёх мониторов перестал существовать.

К полуночи следующего дня — через двадцать один час непрерывной работы — он откинулся на спинку стула, посмотрел на экран и понял, что у него в руках план.

Не мечта. Не надежда. Не «когда-нибудь, может быть, если повезёт».

План.

Конкретный, детальный, реализуемый. Сложный — невероятно сложный. Дорогой — невероятно дорогой. Рискованный — невероятно рискованный. Но возможный.

Он встал. Ноги затекли так, что он едва не упал. Дошёл до окна, открыл его. Ночной воздух ударил в лицо — холодный, мокрый, пахнущий бензином и мокрым асфальтом. Внизу, под окном, город жил своей жизнью: светились окна, ехали машины, кто-то где-то смеялся.

Артём смотрел на этот мир — несовершенный, жестокий, необратимый, полный ошибок, за которые расплачиваются невиновные, — и впервые за долгие годы почувствовал в груди что-то, кроме онемения.

Это было похоже на огонь.

Нет, не похоже. Это был огонь.

— Я это сделаю, — сказал он вслух.

Никто не услышал. Город не ответил. Дождь продолжал идти.

Артём закрыл окно и вернулся к мониторам.

Он знал, что ему предстоит. Он знал, чем придётся пожертвовать. Он знал, что это может его убить — не физически, а как-то иначе, глубже: сжечь изнутри, выпотрошить, оставить пустую оболочку, как оставил отца стакан.

Он знал всё это.

И ему было всё равно.

У одержимости нет тормозов. Это он тоже знал. Но знание и остановка — разные вещи. Можно знать, что стоишь на краю обрыва, и всё равно шагнуть вперёд. Не потому, что не видишь пропасти. А потому, что то, что на другой стороне, важнее.

На другой стороне был мир без ошибок. Мир, где мать не умирает в четверг. Мир, где можно вернуться назад и всё исправить.

Искусственный мир.

Артём улыбнулся — и улыбка эта была страшнее любого крика.

Он открыл новый файл. Назвал его «Генезис».

И начал.

Глава 2. Годы в тени

На следующее утро — вернее, через четыре часа после того, как он наконец заставил себя лечь, — Артём проснулся с ощущением, которое знакомо каждому, кто хоть раз видел во сне решение задачи: паническим страхом, что всё забылось. Он рывком сел на диване, схватил телефон — экран показывал 6:47, — босиком добежал до стола, тронул мышь. Мониторы ожили. Файл «Генезис» был на месте. Сто сорок три страницы заметок, формул, схем, обрывков кода. Он пробежал глазами — быстро, жадно, как человек, который проверяет, не украли ли у него кошелёк.

Не украли. Всё на месте. Всё настоящее.

Он выдохнул и сел в кресло. Тело болело — спина, шея, запястья. Глаза жгло. Во рту был привкус старого кофе и чего-то кислого. Он не помнил, когда ел в последний раз.

Телефон показывал три пропущенных вызова с работы и одно сообщение от Лины: «Ты живой? Тебя не было на совещании. Сергей Валентинович бесился. Ну, по его меркам бесился — улыбался чуть менее широко».

Артём написал в ответ: «Живой. Заболел. Завтра буду».

Он не собирался быть завтра. Ему нужен был ещё один день. Один день, чтобы перечитать всё, что написал ночью, холодными глазами, без адреналина и эйфории. Проверить. Убедиться. Потому что ночные прозрения имеют свойство рассыпаться при дневном свете, как вампиры в плохих фильмах.

Он потратил весь день на проверку.

К вечеру убедился: план был реален. Безумен, почти невозможен, требующий ресурсов, которых у него не было и в обозримом будущем быть не могло, — но теоретически реален. Ни одного логического противоречия. Ни одной математической ошибки. Ни одного физического закона, который бы он нарушал.

Вопрос был только в ресурсах.

И в цене.

На работу он вернулся через два дня. Сергей Валентинович встретил его привычной улыбкой и словами: «Артём, я тебя слышу. Здоровье — это важно. Но давай без сюрпризов, ладно? У нас дедлайн по проекту „Ассистент-3" через три недели».

«Ассистент-3» — очередной чат-бот. Улучшенная версия предыдущего чат-бота, который был улучшенной версией предпредыдущего чат-бота. Каждая версия генерировала чуть более гладкие ответы, чуть точнее угадывала настроение пользователя, чуть лучше продавала банковские услуги. Прогресс. Инновации. ROI.

Артём кивнул, сел за рабочий стол, открыл редактор кода и стал писать функцию обработки клиентских запросов. Пальцы двигались на автопилоте. Мозг был в другом месте — в файле «Генезис», в ста сорока трёх страницах, которые ждали его дома, как ждёт письмо от любимого человека.

Так начались его двойные дни.

С девяти до шести — «НейроТех». Совещания, код, отчёты, кофе из автомата, разговоры в коридорах, которые он слышал, но не слушал. Он научился присутствовать физически, отсутствуя ментально. Это было несложно: большая часть рабочих задач была настолько ниже его уровня, что он выполнял их левой рукой, думая правой половиной мозга о квантовых состояниях и рекурсивных циклах. Коллеги не замечали. Для них он всегда был таким — тихий, эффективный, странный. Человек, который делал свою работу быстрее всех, но никогда не задерживался ни на минуту после шести.

С семи вечера до двух-трёх ночи — «Генезис». Квартира-лаборатория. Три монитора. Тетради. Кофе. Тишина.

Между шестью и семью — переход. Дорога от офиса до квартиры. Сорок минут в метро, десять пешком. Артём использовал это время для переключения: снимал с себя маску офисного работника, как снимают пиджак — аккуратно, привычно, без мыслей — и надевал другую. Маску создателя. Это была не маска, конечно. Это было его настоящее лицо. Но он так давно носил чужое, что иногда путался, где какое.

Первые месяцы были самыми трудными — и самыми захватывающими.

Артём разбил «Генезис» на компоненты. Их было семь — он называл их «столпами», хотя формально это были независимые исследовательские направления, каждое из которых тянуло на отдельную докторскую диссертацию.

Столп первый: квантовый нейроморфный процессор. Физическое устройство, объединяющее принципы квантовых вычислений с архитектурой, имитирующей биологические нейронные сети. Ничего подобного не существовало. Были квантовые компьютеры — хрупкие, требующие охлаждения до температур, близких к абсолютному нулю, ограниченные десятками-сотнями кубитов. Были нейроморфные чипы — имитирующие работу нейронов, но основанные на классической электронике. Объединить одно с другим не пытался никто — это считалось невозможным. Артём считал, что «невозможно» — это просто слово, которым люди прикрывают недостаток воображения.

Столп второй: адаптивная архитектура. Нейросеть, которая не имеет фиксированной структуры. Количество слоёв, тип связей, функции активации — всё это должно было меняться динамически, в зависимости от задачи. Не человек проектирует сеть — сеть проектирует себя. Об этом он писал ещё в кандидатской, но тогда это были теоретические выкладки. Теперь нужна была реализация.

Столп третий: самореференция. Система должна иметь модель самой себя. Не просто логировать свою работу — понимать свою работу. Знать, почему она приняла то или иное решение. Видеть свои ошибки. Предсказывать свои ограничения. Это было ближе всего к тому, что философы называют сознанием, и дальше всего от того, что умели существующие технологии.

Столп четвёртый: рекурсивное самосовершенствование. Механизм, позволяющий системе создавать улучшенную версию себя. Ключевое слово — «улучшенную». Не копию, не вариацию — именно улучшение. Система должна знать, в чём она несовершенна, и уметь это несовершенство устранить.

Столп пятый: целеполагание. Система должна не просто выполнять команды — она должна ставить себе цели. Понимать, чего она хочет достичь, и искать пути к этому. Без целеполагания рекурсивное самосовершенствование бессмысленно: зачем совершенствоваться, если нет направления?

Столп шестой: протокол безопасности. Это была единственная часть проекта, которая вызывала у Артёма внутреннее сопротивление. Он понимал, что система, способная к неограниченному самосовершенствованию, — это потенциальная угроза. Он читал работы по alignment problem, по контролю сверхинтеллекта, по экзистенциальным рискам. Он знал, что Бостром, Рассел, Юдковский и десятки других умных людей предупреждали: создать ИИ, превосходящий человека, и не создать механизм его контроля — всё равно что дать ядерную боеголовку пятилетнему ребёнку. Но Артём не мог заниматься безопасностью всерьёз, не создав сначала то, что нужно обезопасить. Это был парадокс, и он отложил его на потом. Потом оказалось нескоро.