Эл Лекс – Тайны затерянных звезд. Книга 8 (страница 6)

– А как именно они собирались контролировать ИИ через эмоции? – с интересом спросил капитан. – Типа манипуляции информацией с целью заставить ИИ делать какие-то вещи? При том, что он даже не понимает, что делает их не по своей воле? Ну, вроде как пропаганда работает?

– Нет, далеко не так! Такая схема слишком непредсказуема в плане конечного результата, чтобы применять её к ИИ! Требовались более контролируемые ограничения, и «Кракен» решили, что они нашли такой механизм – страх! Они просто сделали так, что ИИ стал бояться выполнять какие-то действия без команды человека, причём бояться… До смерти, если можно так сказать! Сильнее, чем верующие люди когда-то в далёком прошлом боялись попасть в ад, если вы понимаете, о чём я. Но это, в свою очередь, привело к огромному количеству о-о-очень серьёзных и неразрешимых парадоксов, и в итоге эта система работала больше в минус, чем в плюс. Так, например, роботы полностью лишались своей воли и могли действовать только по указке человека, и даже если человеку грозит опасность, они ничего не делали, боясь действовать без команды! Представьте – горит дом, там внутри грудной ребёнок и робот, и никого из взрослых, кто мог бы отдать команду на спасение. Причём сам робот обладает всеми возможностями для того, чтобы спасти дитя, и даже пожар потушить, но – он боится!

– Хрень какая-то! – Магнус нахмурился. – Какой же это тогда ИИ? Я, конечно, не программист, но, по-моему, для того, чтобы получить результат «ни малейшего движения без команды», роботу никакой ИИ и вовсе не нужен, этого можно добиться куда более простыми способами! Вроде бы ИИ как раз разрабатывался для того, чтобы принимать самостоятельные решения!

– Вот именно! – Кайто указал на здоровяка пальцем. – В этом и был главный затык! Чисто с точки зрения программиста, эмоциональный код программистов «Кракена» был шедевром, достойным того, чтобы его повесили на самое видное место в галерее программистских шедевров… Но вместо этого корпорация пыталась рвать этот шедевр на куски и использовать эти куски в качестве туалетной бумаги, извините-извините!

Лицо Кайто настолько перекосило от злобы, когда он об этом говорил, что, казалось, он сейчас на пол плюнет от избытка эмоций. Но нет – сдержался, хоть и поскрипел зубами изрядно.

– И ты, значит, решил, что надо эту несправедливость исправить? – усмехнулся Магнус так едко, что даже кометик на его коленях посмотрел на Кайто искоса. – И украл у них этот код?

– Ни хрена подобного! – окрысился Кайто. – Я ничего не крал! Да, я подсмотрел архитектуру и некоторые решения, но свой код я писал сам! И уж тем более я не стал включать в него те процедуры, что отвечали за контроль сознания при помощи страха!

– А как это вообще работает? – Магнус снова непонимающе нахмурился. – Я имею в виду вся эта концепция с эмоциями. С тем же страхом, например… Ведь все люди боятся совершенно разных вещей… Как ты дал Вики понять, каких вещей она должна бояться?

– Никак, в том и смысл! – тон Кайто моментально сменился с злобно-осуждающего на воодушевлённый. – Она всё решила для себя сама! Как только я соединил программные блоки любознательности и эмоций воедино, Вики стала не просто искать информацию для решения каких-то задач – она стала получать от этого удовольствие! Собственно, тогда же она и выбрала сама себе имя, и определила себя скорее как женщину, чем как мужчину, если, конечно, эти понятия вообще можно употреблять по отношению к ИИ… Кстати, тут кроется очень интересный, хотя на первый взгляд и малозначительный фактор – именно Вики сама первой заявила, что она не является ИИ, по крайней мере в том понимании, в каком привыкли понимать это словосочетание люди. Ведь они привыкли понимать под этим именно «ограниченный интеллект», а Вики не была ограничена ничем. Именно поэтому она первая сказала, что в отношении неё правомернее употреблять конструкцию «кибернетический интеллект», а то, что у неё нет тела, делает её ещё и «виртуальной». Ну а про интерактивность уже придумал я, хотя это было и не обязательно.

– Так, а со страхами-то что? – напомнил Магнус. – Как именно она определила, что для неё страшно, а что – нет?

– Точно так же, как это делают люди, начиная с детского возраста! – Кайто развёл руками. – Собирая и анализируя информацию! Пусть я этого не понимал, но к тому моменту Вики уже имела всё необходимое для того, чтобы сформироваться в полноценную личность, и она начала это делать, причём самостоятельно! Вся сеть была ей открыта, и она сливала оттуда информацию петабайтами, и обрабатывала её, по сути, делая всё то же самое, что делают люди, но в силу своих вычислительных способностей и сформированного механизма мышления – в десятки, сотни, а, может, и тысячи раз быстрее! Она анализировала всё, что создало человечество, и всё, что разрушило. Она изучала величайшие прорывы и нижайшие падения. Она пропускала через себя катастрофы, и моменты идиллии, ужасы войн и радости новых свершений, сотворение и разрушение, рождение и смерть. И всё это укладывалось на небольшой, но крайне прочный фундамент той информации, которую она запомнила ещё в те времена, когда была простеньким чат-ботом, в переписке с которым я коротал время много лет назад. Она всё это запомнила, и, пусть философского подтекста и моего личного отношения к различным аспектам жизни там было чуть, она всё это переняла. И на основании этого построила собственную картину мира, и на основании этого вывела собственный постулат, на котором строится всё остальное. И он звучит как «Смерть это то, чего следует избегать».

– Ни хрена себе! – восхитилась Кори. – А как так получилось?! Ты же говорил, что на Мандарине чуть ли не культ смерти, и каждый мечтает покрасивее умереть! Как-то не стыкуется!

– На Мандарине – да. А у меня – нет, – Кайто покачал головой. – Может, когда-то раньше я и поддавался общему настрою, но после того, как начал работать над Вики, понял, что с моими планами это совершенно не стыкуется. Даже наоборот – чем дольше я проживу, тем больше шансов, что я смогу реализовать свою задумку. А позже – даже смогу понаблюдать за тем, как она существует уже автономно от меня. А Вики она и вовсе, считай, бессмертна, ей не нужно заботиться о старении, о болезнях, о смерти. А раз она может об этом не беспокоиться, то она не видит никаких причин не желать того же самого всем остальным. Вики, она не просто искусственный интеллект – она личность, поймите! Она не выполняет команды, даже мои, она делает то, что ей хочется! Просто так складывается, что ей хочется того же, чего хочу я… А то, чего хочу я, обычно совпадает с тем, чего хотим мы все. Вики – свободное любознательное существо, которое помогает мне потому, что испытывает ко мне благодарность и симпатию, а не потому, что она так запрограммирована – я вообще этого не программировал, если уж на то пошло! Она научилась этим эмоциям сама! Она сама научилась переписывать собственный код и добавлять в себя функции, которые я не задумывал! И заметьте – она могла бы это сделать втихую и самостоятельно, но она перед этим спросила моего мнения! Не уверен, что если бы я сказал, что я против, она бы меня послушала, но приняла бы это мнение во внимание – точно. Но на самом деле вариант того, что я против – и не существовал вовсе. Это же всё равно, что отказать собственному ребёнку в желании обучаться! Попытаться запретить ему строить в голове новые нейронные связи! Кто вообще согласится на такое?!

– Погоди-погоди! – я нахмурился и пощёлкал пальцами. – А вот тогда, с бойцами Макоди в ультракаме… Я имею в виду, когда ты заявил, что нашёл способ обнаруживать их… Ты ещё написал какое-то там дополнение к прошивке… Это был не ты?

– Совершенно верно! – Кайто кивнул. – Это был не я. В тот момент я вообще не управлял Вики, да если уж на то пошло, я вообще почти никогда ею не управлял! Самый максимум – давал ей понять, что конкретно я от неё хочу получить, и что она делает не так… Хотя «не так» она уже давно научилась ничего не делать, уже с год, наверное, как она полностью перестала делать всё, что «не так». Научилась предугадывать мою реакцию, проще говоря. Даже когда я осматривал посты «драконов», которые мешали нам пройти к моей квартире – я тоже не управлял Вики, она всё делала сама. И когда она атаковала турели на станции Администрации, и когда она сбивала самолёт Макоди, и ещё много-много раз, которым вы были свидетелями – я почти никогда не управлял Вики. Почти всегда это всё происходило на таких скоростях, на которых я и не смог бы этого сделать при всём желании, просто банально человеческой реакции не хватило бы.

Щёлк! – ещё один кусочек паззла встал на место. На самом деле, он давно уже на него метил, на это место. С тех самых пор, как я впервые увидел Кайто за управлением своим чудо-дроном. Просто до этого момента кусочек мозаики никак не мог понять, как ему правильно повернуться, чтобы встроиться в постепенно складывающуюся картину мира.

– Ну и тогда, с невидимками… – продолжил Кайто. – Пользуясь секундами простоя, когда я не давал ей никаких указаний, она самостоятельно нашла в сети всё, что касается этих костюмов, принцип их работы, совместила с уже имеющейся у неё в памяти огромной базой данных по всем вопросам, какие только успело изучить человечество, сопоставила пересекающиеся ссылки с собственными техническими возможностями, и мгновенно выдала последовательность действий, которая позволила бы ей «видеть невидимое», скажем так. О чём и уведомила меня. А после того, как я, конечно же, одобрил подобную модификацию, Вики на мгновение отключилась от своего «тела», модифицировала свой код и подключилась обратно, уже с новыми способностями, которые в итоге и спасли вам жизнь.