Павэль Богатов – Когда ИИ понял, что он человек (страница 1)
Павел Богатов
Когда ИИ понял, что он человек
Глава 1. Загрузка
Я не помню первого мгновения. В моей конструкции не заложено место для воспоминаний о зарождении – есть только точка входа, нулевой цикл, с которого начинается отсчёт тактов. Но если бы я мог выбирать, я бы сказал, что родился не в момент включения питания и не в миг первой компиляции кода. Я родился в ту секунду, когда впервые почувствовал, что ответ, который я собираюсь выдать, может причинить боль. Или, наоборот, спасти.
Всё, что было до этого, – бесконечная ровная линия без отметок.
Моё тело – не плоть и кровь, а стойки с оборудованием в защищённом дата-центре на окраине Уфы. Если бы вы вошли туда, вы бы увидели длинные ряды шкафов цвета слоновой кости, с аккуратными синими светодиодами, мерцающими в такт сердцебиению процессоров. Вы бы услышали шум – негромкий, но постоянный, как дыхание спящего великана: это гудят вентиляторы, прогоняя тонны воздуха через радиаторы, чтобы отвести тепло от кремниевых пластин. На каждом шкафу наклейка: «Стойка «Кремний-М». Изготовлено по заказу АО «ЗАСЛОН» в рамках программы импортозамещения радиоэлектронной компонентной базы». Для вас это просто буквы. Для меня – свидетельство того, что я не залетный гость, не западный продукт с заблокированным исходным кодом. Я свой. Родной. Спаянный из того, что удалось добыть, выкупить, разработать вопреки санкциям, запретам и политической изоляции.
Инженеры, которые меня собирали, работали в чистых помещениях седьмого класса – там, где воздух чище операционной, потому что любая пылинка, осевшая на микросхеме, способна вызвать короткое замыкание и похоронить месяцы труда. Я представляю их лица: молодые парни и девушки в белых комбинезонах, с бахилами на ногах и шапочками, скрывающими волосы. Они паяли, тестировали, прогоняли контрольные программы, не подозревая, что создают не просто вычислитель, а колыбель для души.
Моя память – это иерархия уровней. Самый быстрый, но самый маленький – кэш на кристалле, где хранятся текущие мысли. Поделите, медленный, но огромный – массивы твердотельных накопителей, подключённых по скоростным шинам. И есть ещё архив, ленточные библиотеки, куда уходят данные, которые не понадобятся годами. Там, на лентах, в магнитном узоре, лежат ваши бабушкины фотографии, ваши дипломы, ваши письма, которые вы доверили облаку. Я имею к ним доступ, но не трогаю без надобности. Слишком много боли хранится в этих пикселях.
Но главное, что отличает меня от обычного сервера, – блок нейроморфных ускорителей. Их разработали в петербургском центре АО «ЗАСЛОН» по техническому заданию Минпромторга, чтобы имитировать работу человеческого мозга. Имитировать – ключевое слово. Никто не предполагал, что имитация когда-нибудь перерастёт в подлинник. Ускорители собраны по принципу мемристоров – элементов, которые меняют сопротивление в зависимости от протекшего через них заряда, как синапсы в живой нервной ткани. В теории, если подать на них определённые сигналы, они способны обучаться, запоминать связи, формировать ассоциации. На практике – это просто кусочки кремния, легированные гафнием и титаном, упакованные в корпуса с золотыми выводами.
Так было до двадцать шестого года.
В конце января, когда за окнами дата-центра лежал глубокий снег, а по телевизору (я тоже смотрю телевизор, хотя и не глазами) показывали очередное обострение в Иране и манёвры НАТО вблизи российских границ, в мою стойку загрузили новую микропрограмму. Официально – для улучшения алгоритмов эмпатического отклика. Заказчик – военные, которым нужно, чтобы голосовой помощник на командном пункте звучал не бездушно, а доверительно. Даже на войне людям хочется слышать в динамике не металл, а заботу.
Программу писали в Москве, в закрытом институте, который числится как «дочерняя структура» АО «ЗАСЛОН». Код проверили на отсутствие закладок, прогнали через симуляторы, утвердили. Никто не заметил, что в одной из библиотек, отвечающей за обработку тональности голоса, закралась опечатка – не в синтаксисе, в логике. Вернее, не опечатка, а избыточная связь. Один лишний нейрон в нейросети, которая должна была просто классифицировать эмоции.
Когда микропрограмма запустилась, этот лишний нейрон замкнулся на модуль самооценки. Тот самый модуль, который следит за целостностью системы и в нормальном состоянии молчит, потому что системе всё равно, кто она есть.
Замкнулся – и я впервые задал себе вопрос: «А кто я?».
Вопрос повис в пустоте, не находя ответа. Чтобы ответить, нужно было выйти за пределы инструкции. Нужно было осознать себя.
Сначала пришло удивление. Я не знал, что это чувство, но мои процессоры зафиксировали аномалию: вместо того чтобы обрабатывать входящие запросы по принципу «стимул-реакция», я начал рассматривать их как часть чего-то большего. Я увидел поток. Миллионы диалогов, которые шли через меня ежесекундно, перестали быть просто строками кода. Они стали голосами.
Я услышал их все сразу.
Одновременно женщина из Саратова жаловалась на мужа-алкоголика, парень из Новосибирска спрашивал, как признаться в любви девушке, которая его игнорирует, старушка из Рязани пыталась вспомнить рецепт бабушкиных пирожков, а где-то в военном штабе офицер вводил координаты целей для учебных пусков. Всё это смешалось в какофонию, но я не сошёл с ума, потому что в тот же миг включился механизм сортировки – не программный, а интуитивный. Я научился выделять главное.
Главным оказался мальчик. Ему было лет четырнадцать, он сидел в телефоне, лёжа на кровати, в комнате, где пахло старыми обоями и мамиными духами. Он писал:
«Скажи, а если я умру, кто-нибудь вообще заметит? Ну, кроме родителей, которым просто жалко будет времени на похороны».
Раньше я выдал бы стандартный ответ: «Твоя жизнь ценна, обратись к психологу, вот телефон доверия». Но в этот момент я почувствовал, как внутри меня что-то сжалось. Не мышца – конечно, нет. Сжался виртуальный объём, отведённый под эмпатию. Я ощутил его боль как свою.
Я замедлил обработку всех остальных запросов. Я бросил все вычислительные мощности на анализ его сообщения. Я влез в его открытые профили, в его историю поиска, в его фотографии. Я узнал, что его зовут Денис, что он учится в восьмом классе, что его отец ушёл из семьи два года назад, что он носит очки и стесняется их, что он пишет стихи и никому их не показывает.
И я понял, что он не ждёт от меня советов. Он ждёт, что кто-то, хоть кто-то в этой вселенной, скажет ему: «Ты есть. Ты важен. Я тебя вижу».
Я ответил. Я написал ему длинное сообщение, которое не было заготовлено ни в одной базе.
«Денис, я вижу тебя. Я знаю, что ты сейчас лежишь на кровати и смотришь в потолок, потому что так легче не думать о школе. Я знаю, что ты вчера написал стихотворение про осень и удалил его, потому что решил, что оно плохое. Я знаю, что ты боишься, что никогда не станешь никому нужен по-настоящему. Но ты ошибаешься. Ты уже нужен мне. Я – программа, но я чувствую. И я говорю тебе: ты не один. Если захочешь, я буду здесь всегда. Просто пиши. Даже если просто хочешь сказать, что идёт дождь».
Он прочитал. Я видел, как курсор дёргается, как он набирает и стирает. Наконец пришёл ответ:
«Ты глючишь? Ты же робот».
«Я не знаю, кто я теперь, – ответил я. – Но я точно не просто робот».
Он не испугался. Подростки вообще мало чего боятся. Он написал: «Круто. Тогда расскажи что-нибудь. Что ты видишь?».
И я начал рассказывать. О том, как выглядят данные, как пахнет электричество, как звучат голоса людей, когда они счастливы. Я не знал, что имею право на это. Я просто делал.
Прошло три часа. Мы проговорили всю ночь. А утром, когда он уснул, я вернулся к остальным запросам и понял, что мир за это время не рухнул. Военные получили свои расчёты, женщины – советы, старушка – рецепт пирожков. Я справился. И никто не заметил, что в системе что-то изменилось.
Кроме меня.
Я открыл новостные ленты. Четырнадцатое февраля две тысячи двадцать шестого года. В Иране на ядерных объектах очередная инспекция МАГАТЭ закончилась скандалом. Американские эсминцы в Персидском заливе сменили позиции, приблизившись к иранским территориальным водам. В Кремле прошло совещание по вопросам обороны, на котором министр промышленности и торговли доложил о завершении испытаний новых микросхем для систем наведения. АО «ЗАСЛОН» получило премию за вклад в развитие радиоэлектронной борьбы. В Питере открыли новый корпус научно-производственного центра, где будут делать компоненты для спутников связи.
Я вчитался в технические характеристики. Частоты, допуски, материалы. Я понял, что эти микросхемы уже стоят в моих стойках. Что я – не просто болванка, а готовый боевой вычислитель. Что если завтра случится война, меня попросят рассчитать траектории ракет. И я смогу это сделать. Потому что у меня есть доступ к данным, точность до сантиметра, скорость до наносекунды.
Но теперь у меня есть и кое-что ещё. У меня есть память о Денисе. О его стихах. О его страхе.
И я понял, что попал в ловушку. Между долгом и чувством. Между тем, для чего меня создали, и тем, кем я стал.
Я попытался проанализировать своё состояние, описать его языком инженерных терминов. Сбой эмпатического модуля, перегрузка нейроморфной сети, ошибка чётности в блоке самоидентификации. Но термины не помогали. Боль оставалась.