Адьям Гати – Рыба на Луне (страница 3)
Первый такой опыт показал, что Омуль достоин стать связующим звеном между человеком и техникой. Всё лето за ним вели круглосуточное наблюдение: оценивали каждое действие и слово, отображаемое в диалоговом окне. Насколько хорошо программа понимает контекст, как справляется с решением задач, может ли проявлять инициативу и не слишком ли много себе позволяет. Свежи были в памяти примеры, когда нейросети становились расистами или начинали «галлюцинировать», выдавая за правдивый ответ несуществующую чепуху. Омуль был не таким. Возможно потому, что обыватели не заваливали его глупыми вопросами, либо по причине научно ориентированной базы данных. Искусственный интеллект знал несколько языков, разбирался в астрофизике, небесной механике, робототехнике, химии, геологии, инженерном деле, но совершенно не представлял себе, как устроен мир людей. С помощью роботов он мог починить что угодно на базе, включая себя самого. Мог даже собрать из запчастей дополнительные модули памяти при необходимости, но был не способен определить авторство текста или песни. В его базы данных внесли лишь ту информацию, которую сочли полезной для миссии.
– Мы создали крайне образованного глупца, – пошутил Сергей одним ясным августовским вечером, – и отправляем ему ещё больше знаний, ни на йоту не приближающих его к пониманию человеческой природы.
– Его задача в том, чтобы исследовать и строить, – напомнил Геннадий.
– Но как он может обнаружить что-то важное для человека, если не понимает наших ценностей и устремлений? – продолжал настаивать Сергей. Оба стояли на балконе и наблюдали, как полосы метеоров время от времени расчерчивают холодную синь неба. – Мы предвкушаем, как в считанные часы взрастим из ребёнка профессора, но руководить его действиями по-прежнему будут люди!
– А как иначе?
– Почему тогда мы называем его «искусственный интеллект»? Это просто интерфейс.
– Не цепляйся к словам, – передёрнул плечами Геннадий, шагая обратно в комнату, – и не стой тут долго – замёрзнешь.
Сергей вяло кивнул и вздрогнул от закравшейся вдруг в голову шальной мысли. А не попробовать ли обучить искусственный интеллект таким понятиям, как «стратегия», «нравственность» и «политика»? С введением в эксплуатацию новых мощностей, у Омуля как раз появится некоторый запас вычислительных ресурсов. Если производить обучение в изолированной среде, опыт едва ли навредит миссии, зато, когда на Луну полетят люди, им проще будет найти общий язык с программой. Сергей снова вздрогнул и тоже покинул балкон. Сегодня коллега пригласил его отужинать в семейном кругу, и мужчина просто не мог допустить, чтобы его ждали. Жена Геннадия слишком хорошо готовила!
Несколько дней спустя ведущий разработчик столкнулся с неприятными последствиями того ужина. Сергею требовалось срочно посетить стоматолога, и Геннадий отпустил его в рабочее время: мучимый нестерпимой болью, коллега всё равно был бесполезен. Дел перед запуском было невпроворот, и Геннадий, скрепя сердце, переложил часть обязанностей иркутянина на Марину. Перспектива какое-то время работать с ним в одном кабинете девушку не обрадовала: Геннадий вечно её в чём-то упрекал, поэтому Марина старалась лишний раз не открывать рта в его присутствии. Сегодня она не сдержалась.
– Вы уже получили разрешение обследовать те пещеры? – осторожно поинтересовалась девушка, заметив, как один из роверов с дроном на борту резво удаляется в направлении сети лавовых трубок.
Геннадий обернулся и бросил на помощницу недовольный взгляд, но вид лунного ландшафта, подрагивавшего на экране монитора Марины, его мигом отрезвил. Разработчик тут же запросил логи за ближайшие несколько часов и незамедлительно связался с дежурным оператором.
– Он сказал, что команду отдали вы, – ответил наблюдатель.
Геннадий поперхнулся, но быстро совладал с собой: вероятно, Омуль неправильно воспринял контекст вопроса, потому как он никакой команды ему не давал.
– Что конкретно вы спросили? – уточнил мужчина взволнованным голосом. Марина поняла, что дело серьёзное и на цыпочках вышла из кабинета, чтобы связаться с Сергеем.
– Спросили, куда он направляется, – принялся объяснять оператор. – Он ответил, что должен обследовать все пещеры в радиусе трёхсот метров от базы. В списке активных задач ничего похожего не числилось, поэтому мы спросили, кто и когда дал ему такой приказ. Он ответил, что задача была сформирована три дня назад, но выделить ресурсы на её решение он смог только сейчас…
Геннадий почувствовал, как холодеют кончики пальцев.
– Свяжитесь с геологами и выясните, подавал ли кто-то заявку на обследование пещер, – произнёс он не своим голосом. – Я проведу полную диагностику систем… Возможны помехи и отключение камер. Если связи не будет дольше минуты – немедленно сообщите!
Геннадий повесил трубку. Несколько мгновений он был не в состоянии что-либо делать и только слушал, как кровь стучит в висках. В кабинет вернулась Марина – хлопок дверью непривычно громко отдался в ушах.
– Где Сергей?! – требовательно спросил мужчина.
– Сказал, что будет в течение часа, – пролепетала Марина, нервно теребя в руках смартфон.
Геннадий подошёл и резким движением выхватил у неё из рук устройство. Экран ещё светился, поэтому вводить пароль не потребовалось, и разработчик бесцеремонно пролистал список звонков и последних сообщений, просмотрел мессенджеры. Девушка действительно звонила его коллеге пару минут назад и больше ни с кем не связывалась. Геннадий гулко опустил смартфон на стол и вернулся к своему рабочему месту. Произошедшее так шокировало Марину, что она тоже молча опустилась в кресло. Девушка чувствовала себя подавленной, а чуть погодя, ещё и очень обиженной за необоснованные подозрения.
Спустя час в кабинете появился Сергей. Геннадий ещё возился с проверкой систем, и безупречное функционирование всех компонентов начало его порядком раздражать. Омуль не мог сам себе придумать задачу!
– Программа хотела загнать ровер в пещеру, – коротко озвучил мужчина и снова спрятался за монитором. Давно Сергей не видел его таким взбудораженным. – Ты давал ему какие-то команды? Три дня назад.
Сергей пожал плечами: загрузил пакет данных согласно расписанию и всё. Тут его осенило – мужчина подскочил к клавиатуре и принялся что-то быстро печатать. Омуль ответил незамедлительно.
Сергей восхищённо всплеснул руками: надо же, как буквально искусственный интеллект воспринял его слова! Мужчина признался, что на днях имел короткую беседу с Омулем и спросил, где бы тот стал возводить базу, если бы сам принимал решение.
Губы Геннадия нервно дрогнули, но он сдержал эмоции.
– Что ты у него спросил? – процедил мужчина сквозь зубы. Сергей повторил предложение, и коллегу прорвало. – Т-ты, специалист высочайшего уровня!.. Ведёшь с главнейшей разработкой десятилетия фривольные разговоры в свой обеденный перерыв?!
– Я обучаю его быть более человеко-ориентированным, – попытался оправдаться Сергей. – Когда на Луну полетят люди…
– … они должны быть уверены в том, что контролируют ситуацию! – закричал Геннадий с несвойственной ему эмоциональностью в голосе. – Они будут командовать, а он – подчиняться! Только такая зависимость приемлема!
– Но, Гена, он ведь прав. Пещера – хороший вариант…
– Геннадий Петрович! – громко поправил мужчина. – И я попрошу вас, Сергей Семёнович, больше не внедрять в систему неучтённые алгоритмы!.. Омуль – высокоорганизованный интерфейс! Манипулятор, дающий нам множество возможностей! Каждое его действие должно быть согласовано с человеком.
Сергей напряжённо поджал губы и приготовился отстаивать свою позицию. Им дали задачу разработать автономную программу, способную принимать сложные решения на основе многочисленных факторов. Может случиться так, что на выбор будет отведено всего несколько секунд, после – смерть. Люди не способны так быстро обрабатывать информацию, а Омуль может.
– Если человек потеряет сознание, с кем тогда ему согласовывать свои действия?! – поинтересовался иркутянин слегка возмущённым голосом. – Луна – опасное место, и Омуль должен понимать нашу логику мышления. Этому я…
Геннадий прервал коллегу на полуслове и выкрикнул, что только человек в состоянии нести ответственность за свои действия. По какой статье спрашивать с программы в случае трагедии? Правильно! Не существует такой статьи!
– Ещё раз, Сергей Семёнович, по вашей вине произойдёт отклонение от намеченных работ – я вас уволю, – пообещал Геннадий.
Не успел он прийти в себя, как зазвонил служебный телефон. Руководитель проекта очень хотел знать, что происходит: сами же говорили, что на исследовательскую деятельность пока не хватает мощностей.
– Небольшое отклонение в рабочем процессе, – ответил Геннадий, решительно нахмурив брови. – Я уже работаю над этой проблемой.
На протяжении нескольких секунд из трубки доносилось лишь тихое шипение.
– Хорошо! Жду ваш отчёт по окончании работ, – согласился руководитель. – Геологи тоже ждут, но больше никакой самодеятельности! Запуск на носу – хотите мне миссию сорвать?!