Федор Вениславский – Шахматная доска роботов (страница 25)

Я смотрел на Купера. Он улыбнулся в ответ. Его реакция была удивительно несоответствующей данной ситуации. Когда мы оказались на нашем этаже я сказал Куперу:

– Пройдём в мой кабинет.

Зайдя, я первым делом отключил всю электронику внутри. Хотя наши кабинеты и не должны были прослушиваться Симоном или кем-то другим, я должен был знать наверняка. Для такой команды требовался такой же уровень доступа, каким мы пользовались для запуска лифта вниз к Симону. Я достал из нагрудного кармана пластиковую карту и провёл ею по специальной нише в клавиатуре. Затем ввёл два пароля. Нажал «Подтвердить». Я мог отключить электроприборы в любом уголке здания, но лишь те, которые не были связаны с жизнеобеспечением «Нор» либо Симона.

На экране загорелась полоска загрузки и компьютер отключился. Все телефоны в моем кабинете так же прекратили работу, как и телевизор. Даже кофеварка. Запустить всё обратно я мог лишь способом каким и выключил. Я поднял взгляд на камеру наблюдения, расположенную в углу. Она опустилась вниз, индикатор съемки потух, но красная кнопка энергопитания всё равно осталась гореть. Купер, заметив мой взгляд, предположил:

– Съёмка прекращена, полностью отключить её нельзя в целях безопасности. Скажи мне, кстати, зачем ты это сделал?

– Я хочу поговорить о Симоне.

Его взгляд стал колючим. Передо мной стоял тот человек на Земле, кому принадлежала идея создания такой машины, как Симон. Он руководствовался высшими мотивами и побуждениями: сделать жизнь людей лучше, в чем я убеждал себя каждый день. Купер написал основной алгоритм работы системы, создал исходный код. К виду, в котором Симон существует и в котором действует сейчас, привёл его Купер, мой вклад был незначительным.

– Я хочу знать всё не с точки зрения твоей логики, или понятий о добре и зле, я хочу знать с точки зрения науки. Первый случай, когда Симон самостоятельно уведомил полицию. Объясни мне, как такое могло произойти.

– В своём отчёте я указывал тебе логическую цепь. Ежедневно Симон подавал нам информацию, видел, как мы её обрабатываем, видел, что с ней происходит далее. Он проанализировал все случаи и увидел, что в ситуации с пиратами наша реакция на его данные будет стопроцентно таковой, как сделал он. Он посчитал основную задачу, за которую его ценят – быстрота, проанализировал, что для нас это его качество очень важно, проанализировал вероятности замедления в предыдущих случаях с пиратами и понял, что таковое его действие будет наиболее рациональным с точки зрения блага для всех. Потому он поступил так.

– Мы тогда дали ему команду больше не совершать подобного. Какова ты говорил мне вероятность, что он нарушит её?

– Нулевая.

– Но он вновь совершил действие.

– Это не было действие подобно первому, потому нельзя сказать, что он нарушил наши указания, – возразил Купер.

– Мы не можем просчитать бесконечное множество возможных ситуаций, которые могут возникнуть и запретить ему всё это, – в моем голосе было мало терпения, и Купер, судя по всему, понимал это, – теперь же он создал ботов, он смог действовать внутри «Нор», не только просматривать её. Пока не будем говорить о логике его размышлений и чем он руководствовался, совершая это. Мне нужно знать, как он смог действовать внутри Сети.

– «Нор» недоступна извне, но он существует внутри неё. Я думаю это можно объяснить тем, что он имеет доступ ко всем свободным ячейкам в Сети, внутри которых и создал ботов.

– Хорошо. Вспомни, что ты ответил мне в прошлый раз, когда я спросил тебя может ли он вступить в контакт с людьми?

Купер промолчал. Он не стал врать, или говорить, что не помнит. Он прекрасно помнил свой ответ тогда: «Абсолютно нет».

– Скажи мне Дастин, как он, имея прямой запрет на подобные действия, вышел на контакт с человеком?

– Теоретически, вступил в контакт не он, а бот, которого он создал.

– Купер! – я повысил свой голос, – отвечай мне как Симон смог нарушить наш запрет?

– А ты уверен, что он сказал нам правду?

Вопрос Купера осадил меня и ввёл в замешательство. Что он имел в виду?

– Что ты хочешь этим сказать, что Симон нам соврал?

– Он анализирует и наблюдает. Возможно, он хотел увидеть твою и мою реакцию. Потому я и вёл себя так спокойно, я не думаю, что он действительно сделал это. Симон не способен обходить системы, которыми мы ограничили круг его действий.

– Купер, – я подошёл к нему ближе, – неправду говорят только люди, а не машины.

– А может ли машина перенимать поведение людей, как думаешь? Был ли ты всегда с ним честным? Всегда ли говорил правду? Может ты однажды соврал ему, или был неискренен?

– Дастин, не нужно уводить разговор в сторону. Симон – это машина. Машина, которая создана для того, чтобы помогать нам, людям, в работе. И даже, если ты прав, и он нам соврал – это переходит все рамки. Его задача – анализировать, не более.

– Задача твоего компьютера на столе – анализировать, не более, – резко ответил мне Купер, – Симон это нечто большее, чем машина, ты это прекрасно знаешь.

– Я знаю лишь то, что наша деятельность ведётся на самой грани дозволенного и запрещённого, и если мы не можем контролировать Симона, то сорвёмся в пропасть вместе с ним, а заодно потянем вниз руководство ООН и ряда государств. Ты хоть представляешь, какие могут быть последствия всего этого?

– Ты думаешь, что Симон настолько туп, чтобы разоблачит себя?

– Пока я думаю, Симон делает. И делает то, что никак не укладывается в моей голове. Одно из двух. Либо он становится неподконтрольным, либо ты ему помогаешь в этом. Ни один из вариантов меня не устраивает.

Купер нахмурился и огорченно покачал головой:

– Ты меня обвиняешь?

– Ты его создатель, и ты должен знать лучше всех, на что он способен. Если ты не можешь объяснить и предсказать его действия, необходимо принимать соответствующие меры.

– Дай мне немного времени, – подумав, сказал Купер, – я разберусь во всём.

– Времени у тебя действительно немного, Дастин.

Разговор был окончен, Купер ушёл к себе в кабинет, я вновь запустил электронику.

Первым делом я решил проверить слова Купера – мог ли Симон сказать неправду об успешном общении с человеком, чтобы я был более сговорчив в реализации его идеи, которая ему показалась чрезвычайно успешной для её внедрения. О том, что если это правда и робот применил ко мне метод манипуляции, думать было рано.

Я зашёл в систему наблюдения «Нор». Гражданин Мэтью Грайноу, код #3758. Я включил поиск по камерам наблюдения – где сейчас Мэтью. Через десять секунд мне вывело картинку. Система определила на какой из камер сейчас он был. В торговом центре «Uni-Plaza Mall». В магазине обуви он вместе с некой девушкой стоял у кассы. Я зафиксировал камеру на его спутнице и нажал на поиск. Карла Нюмен, код #0924. Я выбрал функцию компоновки информации о ней, в открывшейся вкладке нажал «личные отношения». Несколько секунд загрузки и компьютер подал мне текст для чтения. Карла находилась в гражданском браке с Мэтью на протяжении последних шести лет. За этот период у них произошло четыре крупные ссоры, последняя около трёх недель назад. Карла выгнала Мэтью из дому, выкинув ему из окна все его вещи. Но вчера они вновь сошлись – Мэтью пришёл к ней, чтобы помириться, она его простила.

Я вновь переместился на страницу данных о Мэтью и загрузил весь список его диалогов в сети «Нор». Никаких бесед, подобных той, о которой мне поведал Симон, не было. Я сделал поиск по давности создания профилей его собеседников – наиболее недавний был создан пять лет назад. Статистика редактирования страницы Мэтью была пуста, никто ничего с неё не стирал. Последний раз целенаправленно из системы управления или слежения на его страницу заходили два года назад. Никаких следов деятельности Симона.

Уже было темно, когда мой автомобиль выехал за пределы научного городка. Весь день я продумывал дальнейшие варианты своих действий, и пришёл к некоторым выводам. Мы проехали несколько кварталов, как резкий звук удара выхватил меня из моих мыслей и вернул в реальность. Краем зрения я заметил, как нечто ударилось о лобовое стекло и отскочило в сторону. Водитель резко нажал на тормоза, машину немного занесло, но к счастью, мы ни во что не врезались. Писк тормозов, в салоне запахло жжёной резиной. Я посмотрел по сторонам, пытаясь понять, что же произошло. Водитель достал из-под пиджака пистолет и открыл дверь. Он был ещё и моим охранником.

На обочине неподвижно стояла женщина. Возможно, она сама и не думала над последствиями своих действий, ею двигали эмоции.

– Ублюдок! Ты виновен, что мой муж в тюрьме!

На лобовом остался небольшой след. Она кинула в машину камень. Я вышел наружу.

– Спокойно, Нойл, убери оружие, – обратился я к своему водителю, тот послушно спрятал пистолет.

– Ты думаешь, что можешь рушить человеческие судьбы, подонок? – сказав это, она бросилась бежать в боковой переулок. Я предостерегающе поднял руку водителю, показывая, что не нужно реагировать.

– Поехали, – сказал я.

В машине я через планшет вошёл в базу камер наблюдения, чтобы идентифицировать её. Кайла Локман. Информация о ней. Сегодня робот-судья вынес решение о трех годах тюремного заключения для её мужа, Рика Локмана, согласно недавним поправкам в закон о сокрытии личных данных в сети «Нор». Рик обманул систему, специально указав неверный домашний адрес, сокрыл своё место работы. Уклонился от подтверждения родственных связей со своими двумя сестрами. А – вот. Он подал заявку о материальной помощи. Укажи он верную информацию, прошение бы не удовлетворили, но Рик Локман счел нужным соврать, что живет на съемных квартирах, в то время как имел собственный дом, а общий доход двух сестер был выше среднего. И зачем он это сделал?