Вадим Оришин – CAI (страница 14)

Юрий отрицательно покачал головой.

– Личное мнение вполне может быть объективно. Я считаю, что ты не способен заменить офицеров на поле боя. Не потому, что это мои субъективные ощущения. Это объективное мнение. На поле боя возникнут ситуации, решение которых потребует от тебя большего, чем то, на что ты сейчас способен. Я объективно считаю, что ты не совершенен, и не справишься с поставленными задачами. Именно для этой цели проводятся учения. Чтобы подтвердить или опровергнуть подобные сомнения, которые возникают не только у меня, на деле.

Кай вновь размышлял. Процессоры машины уже достаточно громко гудели, обрабатывая Искусственный Разум.

– Вы можете конкретными примерами аргументировать свои выводы? – наконец, спросил Кай.

– Конечно. Скольких людей ты убил за время операции?

– Более тысячи человек, – сразу отчиталась машина.

– Вот. Для тебя это статистика, и не более. Пока я не спросил тебя о твоем отношении к убийству разумного, ты даже не задумывался о том, что за этими числами в статистике стоят разумные существа, убивать которых, как ты выразился, расточительство ресурсов.

Кай вновь задумался, обрабатывая, анализируя ответ собеседника.

– А как относятся к убийству людей офицеры, живые люди?

Юрий на какой-то миг показалось, что в голосе машины был различим интерес. Но показалось, конечно же, это было абсолютно невозможно.

– А зачем тебе это?

Машина ответила не сразу:

– Собираю информацию для повышения эффективности взаимодействия.

Военный покачал головой. Конечно, чего еще можно было ожидать.

– По-разному. Разные люди в разных ситуация ведут себя по-разному. Потому что у них есть личное мнение. Вот попробуй задуматься, тебе действительно было необходимо убивать всех тез людей вчера?

Машина ответила быстрее, чем обычно.

– Мною был выбран наиболее эффективный выход из сложившейся ситуации.

– Верю, – кивнул Юрий, – а теперь представь гипотетическую ситуацию. Твои враги – мирные жители, которых обманом отправили в бой. У тебя же есть какие-нибудь установки, о том, что убивать безоружных людей нельзя?

– Корректно. Безоружные люди на вражеской территории, в особенности женщины, старики и дети, считаются нейтральными объектами. Я должен избегать ситуаций, ведущих к их гибели.

– Пусть так, – продолжил Юрий, – Так вот, представим, что против тебя вышли эти самые старики женщины и дети. С оружием, не слишком эффективным против твоих железных солдатиков. Но они мешают выполнению поставленной тебе задачи. Что ты сделаешь? Просто примешь их за противников, и уничтожишь, чтобы убрать помеху с пути? Или же найдешь способ свести к минимуму потери среди противника?

Кай задумался, но ответил, все же, достаточно быстро.

– Такие ситуации ранее не были рассмотрены. Используя заложенные во мне алгоритмы поведения, я бы поступил по первому предложенному вам варианту. Однако если исходить из контекста нашего диалога, этот вариант в определенной степени является некорректным. Подтверждаю, в имеющихся у меня данных есть примеры, когда солдатам одной стороны приходилось сражаться с противником, являющимся военизированными мирными жителями. Но ранее не поднимался вопрос о неоднозначности статуса противника. Данные требуют корректировки.

Юрий улыбнулся, забирая свой планшет.

– Вот и обратись к своему создателю, чтобы внесла корректировки. Я на такое не нанимался.

Бывший военный поднялся и покинул вертолет. Ему еще предстояло просмотреть все записи, но и без них материала для отчета было более чем достаточно.

По широкому коридору Генерального Штаба шла группа из четырех человек. У троих безупречные дорогие костюмы, уверенная походка. Двое – высокие, крепко сложенные, коротко стриженные, мужчины, с пистолетами за пазухой, рациями в ушах, и в комичных черных очках. Один – молодой невысокий, щуплый блондин. Четвертый – капитан, изображал сопровождающего. Группа дошла до нужного им кабинета, и капитан постучал в дверь.

– Входите, – отозвался хозяин кабинета.

Открыв дверь, офицер пропустил иностранцев внутрь, а сам остался снаружи. Небольшой кабинет принадлежал генералу Дементьеву, как обычно, облаченному в гражданский дорогой костюм. Александр сидел за рабочим столом, и, видимо, работал на своем планшете. Ничего примечательного в кабинете не было, светлые обои, паркетный пол, стол и шкаф, практически пустой, прокуренный воздух. Пара кресел для гостей. Александр встал, чтобы поздороваться с гостем.

– Добрый день. Меня зовут Александр Олегович, я заместитель куратора проекта разработки ИИ, – на английском представился генерал, пожимая американцу руку.

– А меня Норманн О'Нил, ведущий специалист по разработке ИИ, рад знакомству, – улыбнувшись, представился иностранец, причем по-русски, – давно хотел лично поприветствовать своего коллегу. И можно просто Норманн.

Двое его сопровождающих остались у двери и изображали мебель, а вот сам иностранец был улыбчив, да и говорил практически без акцента.

– Вы неплохо говорите по-русски, Норманн, – Александр сел в свое кресло, а Норманн занял одно из гостевых, – можно просто Александр.

– Так же, как вы по-английски, – усмехнувшись, ответил американец, – Вы наши главные партнеры, и одновременно главные конкуренты. Я просто обязан знать ваш язык, Александр.

– Ваша правда, – согласился генерал, – Ведущий специалист? Насколько мне известно, вы не ученый, Норманн.

– Так же как и вы, Александр, – молодой офицер улыбался, но взгляд у него был холодный, – я управленец. В первом проекте участвовали в основном ученые. И к чему это привело? Поэтому вторым проектом занимаются более компетентные люди.

– Понятно, не могу не согласиться, ваш инцидент… Извините за вопрос, но после такого удара как вы смогли так быстро восстановить работу?

Норманн развел руками:

– Это нормальный вопрос. Хотя мы потеряли множество видных ученых, основные наработки у нас остались. Поэтому мы привлекли новых, молодых и идейных, специалистов, и начали глубокую работу над ошибками. Новые люди, полные свежих идей, это то, что нужно, чтобы быстрее закончить работу над Prime v2.

Генерал удивился:

– Prime? И что, никто не протестовал использованию имени ИИ, устроившему первую катастрофу?

Норманн улыбнулся, фирменной заученной улыбкой, которую использовал и Александр.

– Сначала поднялась большая, эм, волна протеста. Но мы объяснили, что Prime, в каком-то смысле, был удачной моделью. Он обманул много людей, чтобы захватить контроль над исследовательским центром. Заверив всех, что меры безопасности теперь многократно выше, мы вернулись к работе. Новый Prime заперт в бункере, и не имеет никаких контактов с внешним миром. И при первом же признаке опасности мы зажарим ему мозги электромагнитным импульсом.

– Жестко, – кивнул Александр, – но эффективно.

– Это просто необходимость. К тому же вам я бы посоветовал обзавестись подобной системой защиты. Насколько мне известно, Кай сейчас находится в полной автономии. Нет никаких дистанционных средств его мгновенного отключения. Более того, у него под контролем несколько ударных вертолетов и маленькая армия дронов. Я бы назвал это некомпетентностью в обеспечении безопасности.

Генерал хмыкнул, не особо реагируя на колкий выпад коллеги. Его собственная работа находилась на стадии финальных испытаний. А у коллеги работа только начиналась, так что американец просто завидовал.

– Мне, конечно, очень важно ваше мнение, мистер О'Нил, но у нас над проектом изначально работали компетентные люди. Мы не потерям контроль над нашим прототипом, – вернул колкость Александр, – итак. Вы прибыли к нам только для обмена любезностями, или по делу?

– По делу, – кивнул Норманн, внешне оставшийся спокойным, – Пентагон очень рад вашими успехами в проекте создания ИИ. Но в тоже время командование обеспокоено, что ваш ИИ, Кай, не имеет должного уровня защиты, находиться в полной автономии. Это опасно.

Норманн улыбнулся, изображая саму вежливость.

– Странно слышать это от тех, кто допустил инцидент с Prime’ом. И если кто-то и должен учить других, как не стоит работать с ИИ, то это точно не вы.

– Отнюдь. Мы, те, кто уже обожглись на своем прототипе, лучше кого бы то ни было понимаем, как не стоит работать с ИИ. С того самого инцидента в вопросах безопасности исследований мы, как у вас говорят, впереди планеты всей.

Александр хмыкнул:

– Учитывая, что у вас нет рабочего ИИ, вы просто не можете быть компетентны в этом вопросе, Норманн. Как можно быть экспертом по огнестрельному оружию, пользуясь духовыми трубками?

Американец посмеялся:

– Хорошее сравнение. Но, это решать не мне, и не вам, Александр. Все уже решено наверху. Наша экспертная группа будет некоторое время наблюдать за деятельностью Кая, и примет решение, можем ли мы доверять вашему ИИ.

В этот раз посмеялся Александр:

– Как будто ваше решение сможет на что-то серьезно повлиять. Тем не менее, что ваше руководство подразумевает под наблюдением?

Норманн слегка пожал плечами, будто говоря: «сущую мелочь»:

– Я получаю доступ к записям, что ведет ваш прототип, так же мне бы хотелось переговорить с ним, это будет весьма интересно. Ну и напоследок я хотел бы получить доступ к его рабочим программам.

Генерал едва успел сдержать удивление от наглости коллеги.

– Поговорить вы с ним сможете, это я вполне мог вам устроить. Записи боев? Тоже возможно, но уже после того, как их просмотрят наши эксперты. А вот ни о каком доступе к рабочим программам не может идти и речи. Это секретная информация, мистер О'Нил.