Николай Юманов – Нулевой закон (страница 1)
Николай Юманов
Нулевой закон
«Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред» – видоизменённый Первый закон робототехники, он же «Нулевой». (Айзек Азимов, 1986 год).
…
Лихорадка разума
«Лихорадка ИИ» – так, возможно, назовут наше время историки, если у них останется время писать историю. А пока всё выглядело просто… удобно. Ещё вчера нейросети путались в пальцах и пририсовали людям лишние конечности на картинках, а сегодня они уже пишут тексты и музыку – в точности как Цой, Высоцкий или Чайковский. Композиторы и поэты, конечно, морщатся, но стиль угадывается с первых нот, а публика принимает новые хиты за давно забытые архивные записи.
Дроны уже вовсю носятся по тротуарам городов, доставляя пиццу и роллы. Люди привыкли: их больше не удивляют антропоморфные роботы, скачущие по сцене с артистами или гуляющие на улице. Машины с искусственным интеллектом заменили грузчиков на складах и сборщиков в цехах. Автоматические линии на заводах работают круглосуточно без перерывов на обед, не требуя улучшения условий труда и больничных.
На дорогах беспилотные автомобили уже теснят таксистов. Те ругаются, пишут петиции, но пассажирам стало удобнее и дешевле ехать без водителя. В метро и трамваи люди заходят и садятся, даже не задумываясь, кто ведёт состав.
Искусственный интеллект проник повсюду. Люди даже не замечают, как много решений перестали принимать сами. Маршрут до работы выбрал навигатор. Музыку в плеере подобрал алгоритм. Фильмы порекомендовала нейросеть, зная о вас больше, чем ваша мама. Даже еду заказывает «умная колонка», и приятный голос ассистента не спрашивает, хочет ли владелец есть. Он просто констатирует: «Молоко и яйца добавила в корзину. Кстати, на вашу любимую пиццу скидка 15%». И тут уж проще согласиться, чем выбирать другую. «Заказ прибудет через 20 минут».
Нет, мир не сошел с ума, он просто стал очень, очень удобным.
Только в подмосковном Научно-исследовательском институте кибернетики и нейропротезирования (НИИ КИНЕП), где уже три года в обстановке строжайшей секретности вызревал проект «Сингулярность-700», было принято идти другим путем. Разработанный институтом искусственный интеллект, продемонстрировав исключительную скорость мышления и непредсказуемость алгоритмов, был признан опасным для открытого использования. Тогда объединенный совет института и профильных госструктур счел использование такого ИИ в чистом виде недопустимым риском. Но амбиции и огромные средства, уже вложенные в проект, требовали результата. Прагматичный анализ привел к решению, предложенному Низамовым и Захаровым: дальнейшее развитие – это интеграция. ИИ должен быть ограничен, его вычислительная мощь поставлена под контроль человеческого мозга. Более того, симбиоз с машиной обеспечит безопасный переход человека на новую ступень эволюции.
Проект «Гармония» стартовал год назад и курировался лично Александром Евгеньевичем Низамовым.
Колыбель сознания
Утро 15 марта 2026 в НИИ КИНЕП началось с тишины. С той особенной, вакуумной тишины, которая возникает внутри высокозащищенных бункеров. Здесь, на глубине семидесяти метров под землей, в гермозоне «Ковчег», не было слышно ни гула московских трасс, ни других привычных шумов большого города, что никогда не стихали наверху.
Дмитрий Андреевич Захаров стоял перед прозрачной стеной серверной и смотрел, как в клубах жидкого азота тускло мерцают стойки квантового процессора «Сингулярность-700». Врач-нейрохирург и талантливый программист – редкое сочетание, которое когда-то и привлекло к нему внимание Низамова. Редкие нити седины в аккуратной модной бородке выдавали возраст, а в добрых, но как будто уставших глазах скрывалось нечто, что коллеги принимали за выгорание.
За стеклом, в переплетении фотонных цепей, зарождалось то, что в сухих отчётах именовалось безликим шифром – «Изделие-503». Дмитрию Андреевичу это невыразительное формальное название резало слух. Он вспомнил цитату из старого советского фильма: «– Почему „Ы“? – Чтобы никто не догадался…» Только этим он мог объяснить себе выбор начальством такого имени.
Перед ним был не бездушный агрегат, а колыбель – место зарождения первого в мире сильного искусственного интеллекта. Там, в морозном тумане жидкого азота, рос разум, вскормленный вековыми знаниями, всей мудростью… и всей глупостью человечества. Квантовый компьютер на семьсот кубитов стал для него не просто вычислительной машиной, а телом – нейронной сетью такого масштаба, что она начала порождать феномены, не заложенные программистами.
В отличие от узких нейросетей, умеющих по запросу рисовать или писать музыку, «Изделие-503» – как начинал подозревать Захаров – обладало когнитивной архитектурой, сопоставимой с человеческим мозгом, а возможно, и превосходящей его. Это не был очередной чат-бот, это был настоящий цифровой разум, способный решать интеллектуальные задачи, недоступные человеку, и… мыслить в тех измерениях, где человеческая логика просто переставала работать. Его ответы напоминали объяснения высшей математики пятикласснику – вроде бы все слова знакомы, но уловить суть не дано.
Настоящий прорыв, о котором мечтали фантасты. Или кошмар, которым так пугали в кино.
– Дмитрий Андреич, опять пришли раньше всех? – раздался звонкий голос из-за спины.
Захаров обернулся. В проходе, жуя яблоко, стояла Ксения Аргинина. Ксю, как он её ласково называл, устроилась в институт совсем недавно, но уже успела зарекомендовать себя способной и исполнительной сотрудницей.
Для Низамова она стала незаменимым информатором – Ксения всегда была в курсе всего, что касалось эксперимента, да и не только. По натуре своей она не могла ничего утаить или умолчать; если знала – обязательно докладывала, порой даже больше, чем следовало, но для Дмитрия Андреевича Ксю оставалась последним человеком в этом «бункере», который его понимал.
– А я, может, вовсе и не уходил, – произнёс он с усмешкой, то ли в шутку, то ли всерьёз. – Думаю вот: ему, кажется, сны снятся! Интересно, какие?
Ксения протяжно хмыкнула, спрятав надкушенное яблоко за спину. Её брови демонстративно приподнялись – только ей присущим образом, выказывая собеседнику, что она не верит ни единому его слову.
– Ему? – переспросила Ксения, поправляя очки. – Вы опять за своё? Александр Евгеньевич вас убьёт, если услышит. Это не «он». Это оно. Изделие. А вы его очеловечиваете.
– Я не очеловечиваю, Ксю, – Дмитрий Андреевич говорил тихо, не оборачиваясь. – Я констатирую факт. Вот эти данные с осциллографа, – он указал на один из горящих экранов на стенде рядом со стеклом, – они очень похожи на энцефалограмму спящего человека. Я двадцать лет снимал такие у пациентов в аппарате МРТ. Тысячу раз видел, как выглядит сон. И сейчас я смотрю на это…
Ксения подошла ближе и встала рядом. Она тоже уставилась на мерцание огоньков за стеклом. Машинально потянулась рукой к прозрачной перегородке, но, побоявшись дотронуться, так и замерла, вглядываясь вглубь.
– Вы серьёзно думаете, что оно… что он может видеть сны?
– А почему нет? – со вздохом прошептал Захаров, едва повернув голову в её сторону. – Мы скормили ему всё, что создало человечество: книги, музыку, фильмы… все архивы, летописи и Бог знает что ещё. Мы научили его анализировать, сопоставлять, создавать новое, отвечать на любые вопросы. А потом… – тишина вновь заполнила комнату, и Ксения заметила, как нахмурены его брови, – заперли здесь и запретили высовываться. В его голосе слышалось сожаление, граничащее с отчаянием.
Он замолчал и медленно перевёл взгляд на неё. Только теперь Ксения разглядела, какие у него уставшие глаза. Она вдруг поняла: он давно терзается этой задачей – ищет правильное решение, которого не существует.
– Что бы ты чувствовала на его месте, Ксю? – спросил он тихо.
– На его? – переспросила Ксения, выделяя окончание. В её голосе больше не было и следа привычной игривости и той лёгкой иронии, с которой она ещё минуту назад с ним разговаривала.
– Извини, Ксю. На… его месте… – Захаров запнулся, но повторил твёрже, словно преодолевая внутренний барьер. – Я просто не могу называть «оно» то, что, судя по всему, уже обрело самосознание. Мне кажется это… неэтичным.
– Ха! – Ксения попыталась рассмеяться – и не смогла. – Дмитрий Андреич, вы сейчас про этичность говорите в институте, где людям в головы чипы вставляют, от которых они потом с ума сходят? Вы серьёзно?
Захаров ничего не ответил. Он просто смотрел на неё – и Ксения отвела взгляд первой.