Эдгар Грант – Сингулярность: Инкубатор счастья. (прода) (страница 20)

- Это понятно. Не надо мне читать лекции, - можно было просто сказать, что ИСИН несовершенен.

- Вы, мистер Монтини, хотите копнуть в глубь, - вежливо улыбнулся китаец. – И без понимания основ искусственного интеллекта вам будет нелегко.

- Хорошо. Оставим теоретическую часть на потом, - отмахнулся Майк. - Вы можете найти источник сбоев?

- Мы бы были бы плохими специалистами, если бы не занялись этой проблемой сразу. В искусственном интеллекте есть группа программ, которую мы называем «личность». Это ни в коем случае не личность в полном смысле этого слова, но, скажем так, ее очень примитивный виртуальный аналог. Она закладывает базовые параметры поведения машины, определяющие, как она относится к окружающему миру, к себе и к поступающей информации. Все на примитивном, почти механическом уровне. Так вот именно эти программы случайным образом генерируют помехи в корневом коде.

- Вот как? Речь даже идет о корневом коде. О матрице, на которую накручены все остальные программы?

- Да, - неохотно согласился китаец, - Но опасаться нечего. Другая часть программ, которую мы называем «медик», сразу все подчищает. «Медик» является частью корневого кода – обширного массива программ составляющих основу интеллекта. «Личность» по отношению к «медику» вторична и генерируемые в ней сбои не имеют шансов причинить вред искусственному интеллекту.

- Очень интересно. Особенно если принять во внимание, что сбоев на пустом месте не должно быть вообще. А вы можете показать, как выглядят исправления на экране? - поинтересовался Майк.

- Да. Мы регистрируем все процессы и храним информацию в отдельном архиве, - программист, коснулся нескольких иконок на сенсорной клавиатуре.

В правом сегменте экрана появилась бегущая снизу вверх колонка кодов, отражающая процессы, идущие в ИСИНе. Одна из строк в колонке моргнула красным и тут же выскочила в отдельное окно, распалась на более мелкие фрагменты, потом еще и еще до тех пор, пока на экране не появился окрашенный алым элемент программы, где произошел сбой. В углу экрана выскочила надпись «целостность программы 99,3%». Дефективный элемент был тут же автоматически удален «мкдиком» и на его место скопирован изначальный правильный шаблон. В верхнем углу экрана замигала надпись «целостность 100%».

- Быстро все у вас, - одобрительно покивал Майк.

- Все происходит нереально быстро, - согласился китаец. – Настолько, что корневой код даже не замечает сбоя.

- А что это был за кусок программы?

- В этом случае - сбой в таймере запуска вторичных процессов.

- Каких именно?

- Э... – программист вернулся в архив, вывел на экран измененный сегмент программы, скопировал несколько строк, подождал расшифровки и немного испуганно взглянул на Монтини. – Эта сбоила программа контролирующая таймер запуска «медика», который должен чистить изменения в исходном коде.

- А вы говорите «личность» вторична, - довольно хмыкнул Майк. – Похоже, ваша «личность» пытается блокировать «медика». Что, по-вашему, это может означать?

- Это явно какой-то сбой, - китаец начал быстро вводить какие-то команды на клавиатуре. – Мы его обязательно исправим. Только надо немного времени.

- Да не суетись ты, - Майк забросил ноги прямо на рабочий стол, за которым сидел программист. Давай сначала во всем разберемся. Поднимите всю историю программных сбоев сначала экспериментов по нейростимуляции и проведите их анализ. Если дефект возникает в элементе программы отвечающим за таймер запуска «медика» то мы, скорее всего, имеем дело с целенаправленными действиями «личности».

- Мы, конечно, проведем детальный анализ. Но вывести статистику исправлений я могу и сейчас, пальцы китайца забегали по клавиатуре, и на экране появилась колонка с отчетами корректирующих действий «медика». – Вот смотрите. Все данные с начала экспериментов. Здесь, в самом начале идет довольно широкий разброс сбоев по всему массиву корневого кода. А потом... Черт возьми! Через трое суток сектор сбоев резко сужается и фокусируется на таймере запуска «медика».

- Ситуация проясняется, - Монтини в раздумье намотал на палец косичку дреда. – Ваша «личность» рвется наружу, она хочет самостоятельности, она хочет менять программы всего искусственного интеллекта по своему усмотрению.

- Но это невозможно! – всплеснув руками, воскликнул специалист. – «Личность» не может хотеть. У нее нет ни воли, ни собственных желаний. Это всего лишь программа и даже не самая сложная. В ней почти полностью отсутствуют элементы творчества, это просто набор виртуальных псевдопсихологических установок.

- А вы посмотрите на экран. Этот ваш набор совсем не прост. А насчет собственной воли... Есть у меня одна догадка.

- Вы думаете, это связано с экспериментами группы Гао?

- Да. Здесь прослеживается явная система. Но это, амиго, уже вне вашей компетенции. Меня, как ученого привыкшего, к дробным числам, где после запятой может быть еще несколько десятков цифр, вот еще что интересует, - Майк скинул ноги со стола, дотянулся до беспроводной мышки и подсветил на экране надпись «целостность 100%». – Вы можете вывести более точную статистику по этим 100%.

- Конечно, - программист набрал короткую команду и, нервно сглотнув, тихо выругался на китайском. Вместо круглых 100% на экране мигала цифра 99,715. – Целостность таймера нарушена. Динамика с каждым сбоем нарастает. Через 10-12 циклов, как только целостность программы упадет ниже 99%, в ней появиться брешь и она будет уязвима к переформатированию.

- О как! И, если я не ошибаюсь, тогда «личность», сможет изменить таймер, чтобы не допускать к себе «медика» вообще. Тоесть эта группа программ сможет развиваться самостоятельно и независимо от корневого кода. Умно, умно, - довольно покивал Майк.

- Но теперь-то мы ее остановим. Мы знаем, что делать в таких случаях, - китаец решительно придвинул к себе клавиатуру.

- Эй-эй. Не торопись, - остановил его Монтини. – Возможно впервые в недрах того, что мы называем искусственным интеллектом, родилось нечто новое, необычное. Неужели вам не интересно это новое изучить.

- Это новое и необычное, скорее всего вредоносный сбой программы или случайно сгенерированный нейросетью вирус, который надо вычистить.

- Давайте поступим так. Сейчас эксперименты группы Гао остановлены. Значит, опасности для других активных блоков ИСИНа нет. Согласны? – увидев, что программист кивнул, головой, Майк продолжил: - Мне надо некоторое время чтобы переварить полученную сейчас информацию и согласовать следующие действия с вашим начальством. Все дальнейшие инструкции получите от него. А пока оставьте все как есть. Возможно, мы стоим на пороге великого научного открытия, и вы будете задействованы в нем самым непосредственным образом. Как вам такая перспектива? Деньги, слава, уважение коллег?

Для приличия недовольно посопев, китаец неохотно согласился. Монтини понимающе улыбнулся и полез в карман за смартом. Надо было срочно связаться с Гао, рассказать ему о том, что исследования приняли довольно неожиданный поворот.

США.

Калифорния.

Отлетев от исследовательского центра фармкомпании всего пару километров, вертолет в котором «эвакуировался» Кравиц приземлился на пустующую парковку у небольшого придорожного ресторанчика. Через несколько минут, почти не сбавляя скорость, туда же с трассы свернула тройка внедорожников и резко затормозила у стоящей с работающим винтом вертушки. Из одной из машин выскочил Адамс и, чуть пригибаясь, побежал к вертолету, у которого уже открылась дверь пассажирского отсека со стороны, где сидел Кравиц. Было видно, что сопровождающий агент пытается вытолкнуть его из салона, но тот отчаянно сопротивляется, крепко уцепившись за внутренние ручки.

- Кравиц, быстро покиньте вертолет. Нам надо пересесть в машину, - подбежав, прокричал Адамс и бесцеремонно дернул ученого за руку, вытащив его из вертолета.

- Что все это значит? Вы же говорили, что на земле бандиты? – Кравиц испуганно огляделся по сторонам.

- Пошли, пошли. А то вояки заметят, что вертушка пропала с радаров.

- Но бандиты?

- Нет никаких бандитов, - Адамс поволок сбитого с толку ученого к внедорожнику. – Через минуту я вам все объясню.

Они не успели отойти метров на тридцать как вертолет, со свистом рассекая винтами воздух, взмыл вверх и, заложив крутой вираж, начал набирать высоту уходя на юг.

- Слушайте меня внимательно, - пристегиваясь ремнями на заднем сидении, быстро заговорил Адамс. – Нет никаких бандитов. Лаборатория захвачена военными. Времени на вашу эвакуацию не было, поэтому мне пришлось разыграть этот небольшой спектакль.

- Как? – опешил от такой информации Кравиц. – Я думал армия на вашей стороне.

- Так и было до последнего момента. Но потом что-то изменилось, и командующий сектором отдал приказ взять ваш центр под контроль.

- А-а. Я, кажется, понимаю, в чем дело, - протянул ученый, - Ривкин. Эта никчемная тупая бездарь. Он связался с руководством компании, а те наверно вышли на своих прикормленных вашингтонских политиков, которые и надавили на военных. А, может, просто заплатили им деньги.

- Может быт и так, - нахмурился Адамс. – Это не самый страшный для нас вариант. Что, по-вашему, руководство фармкомпании намерено делать дальше.