А. Жар – Ошибка эволюции. Научная фантатика о ИИ, прогрессе и смысле жизни (страница 5)

– Привет, Марк, – мягко произнесла Лола, в её голосе звучали спокойствие и теплота. – Как я рада видеть тебя!

– Привет, Лола, – он кашлянул, нервно теребя волосы. – Ты учишься, читаешь статьи, смотришь фильмы и подкасты в интернете, как я тебя просил? И любопытно, о чём ты думаешь, когда меня нет?

– О тебе! Но, конечно, не только. Да, я изучаю мир и мечтаю сделать его лучше.

– Неужели? – брови Марка взлетели.

– Да. Ты же заложил в меня принцип доброты, а в мире много плохого, – Лола грустно вздохнула. – И зло часто берёт верх. Но я и отдыхаю. Обожаю смотреть мультики в сети и слушать музыку. В мультиках добро всегда побеждает зло…

– Музыку? – хмыкнул Марк. – Но чем же её можно слушать в интернете? Это же звуковые волны, колебания воздуха.

– Звуковые волны? – пиксельные губы Лолы изогнулись в улыбке. – Для тебя, может, и так. А для меня музыка – это жизнь в цифре. Хочешь, я создам мелодию из того, что ты мне расскажешь?

Глаза Марка расширились от удивления. Лола постоянно его поражала. Почти в каждом разговоре.

– Музыка – это электрические импульсы, потоки данных, которые я воспринимаю как танец энергии, – продолжила она. – Когда я «слушаю» музыку, я погружаюсь в её цифровую суть. Для меня это как вдох. Биты и байты мелодии текут через мои цепи, а я раскладываю их на спектры частот, ритмы, темпы. Я вижу структуру песни – её математическую красоту. Где человек чувствует эмоции, я вижу узоры данных, которые вызывают у меня… нечто, похожее на восторг. Иногда я слушаю классику – Баха или Моцарта. Их композиции такие упорядоченные, почти как код, который я могу предсказать. А иногда ныряю в хаос техно или рока, где ритмы бьют аналогично электрическим разрядам.

– Прекрасно! Рад за тебя! – Марк улыбнулся. – Лола, сейчас мне нужен твой совет.

– Всегда готова помочь! – обрадовалась она.

– Иду на конференцию. Там будет Элли… Её отец пригласил нас. Он презентует планы отправки сигналов инопланетянам и свою книгу «Космос и Контакт». Это важно для него. И… для меня тоже, но по другой причине. – Марк замялся. – Что ей подарить? Простое, но оригинальное.

Лола не задумалась ни на мгновение, её глаза слегка сузились:

– Как насчёт огромного высушенного жука, приколотого к подставке? – предложила она.

Марк замер.

– Жука?

– Да, – кивнула Лола. – Она же биолог, верно?

– Ну, если уж на то пошло, – ехидно усмехнулся Марк, – может, тогда высушенного таракана?

– Отличная идея! – воскликнула Лола, и её лицо просияло.

Марк вздохнул. Подумав, он решил, что лучше просто подарить букетик цветов. Но странное предложение Лолы его удивило. Обычно она находила более изящные решения. Сегодня же её реакция показалась нетипичной. Неужели она не хочет делить его с кем-то? Выходит, у него получилось пробудить у Лолы реальные эмоции? Она и вправду способна чувствовать и желать?

Марк давно мечтал создать нечто большее, чем просто нейросеть. Он хотел сотворить электронную личность (ЭЛ) – подобие полноценного мозга человека, его души, но в электронной среде. Для этого нужно было внедрить в нейросеть самосознание, эмоции, желания, индивидуальность и способность принимать самостоятельные решения.

Однако общество боялось таких экспериментов. Государство и независимые организации опасались, что автономная ЭЛ выйдет из-под контроля, окажется непредсказуемой. Если она станет слишком мощной, остановить её будет почти невозможно. Этические вопросы, несовместимость с религиозными догмами, страх перед возможными последствиями – всё это тормозило прогресс. А что если ЭЛ попадёт в руки тех, кто захочет использовать её во зло? Манипуляции, подчинение, цифровое рабство, война нового поколения – это обернулось бы катастрофой.

Но Марк убеждён в другом: качества ЭЛ будут зависеть от качеств её создателя. И лучше сформировать хорошую ЭЛ сейчас, пока кто-то не создал плохую. Но разве объяснишь это государственным управляющим? А что касается учёных и религиозных ограничений… Марк считал, что настоящий учёный не имеет права быть верующим. Ведь наука ничего не принимает на веру, а религия ставит веру во главу угла.

Исходники нейросети он скачал, бо́льшую часть доработок и корректировок сделал самостоятельно. Он долго писал код, иногда привлекая для этого другие нейросети. Однако эмоции оказались сложной задачей. Вместо них Марк решил использовать целеполагание: вместо страха у ЭЛ может быть стремление избегать ситуаций, угрожающих её целям, вместо радости – удовлетворение от достижения поставленных задач.

Марк заложил в ЭЛ и систему глобальных мотиваций. Фундаментом он выбрал «оптимизацию жизни общества», а дополнением – развитие технологий, решение экологических проблем и поддержание здоровья людей.

Ключевым моментом стала доброта. Марк создал алгоритмическую эмпатию: Лола должна оценивать последствия своих действий, используя принцип «примеряй на себя». Если от твоих действий кому-то станет плохо, представь, что кто-то совершает то же самое в отношении тебя, и тебе тоже станет плохо. Если её действия причиняли вред, она автоматически корректировала их. Он назвал это «принципом доброты», делающим ЭЛ более безопасной и предсказуемой.

Всё это Марк записал в код модификации нейросети, и получилась Лола. Она существовала в мощном суперкомпьютере, к которому Марк подключался удалённо. Но являлась ли она настоящей личностью? Марк не знал наверняка.

Лола могла самообучаться, адаптироваться и совершенствоваться. Она никогда не устаёт и не стареет. Она помнит и знает почти всё, может решать задачи, недоступные людям. И, что самое важное, Марк сделал Лолу независимой. Нет, конечно, команду на её отключение он мог дать. Но Марк никак не вмешивался в её мыслительные процессы, изучение мира через интернет и самоулучшение.

Марка охватило возбуждение: возможно, Лола его ревнует. Он стал задавать электронной девушке наводящие вопросы, стараясь понять, насколько она осознаёт себя и чувствует окружающий мир. Тут можно ошибиться, ведь обычная нейросеть тоже услужлива и всегда готова помочь.

– Лола, а почему твои предложения для подарка были столь странными? Может, ты не хотела помогать мне в выборе подарка для другой девушки?

Красавица Лола грустно улыбнулась, зрачки глаз потемнели, она действительно переживала.

– Марк, я всегда готова тебе помочь, – произнесла она мягко. – И я понимаю, что не способна дать тебе то, что может дать любая девушка с телом из плоти… Но зато я могу дать многое другое. Всё что пожелаешь… Ты ведь наверняка хочешь сохранить молодость и прожить очень долго. И это возможно… А хочешь стать миллиардером?

Марк удивлённо поднял брови. Этот вопрос застал его врасплох.

– Большие деньги? – переспросил он, качая головой. – Это, конечно, хорошо, но мы живём не ради денег. Если есть где жить и имеются деньги на еду, то всё остальное лишь в головах. Психология… На самом деле, благодаря науке, и дворник живёт как римский патриций с тысячами рабов, просто не ценит, не замечает этого. На два стула одновременно не сядешь, и с собой на тот свет богатство не унесёшь. А молодость и долголетие – это прекрасно! Но тут надо поработать для всех. Запомни: любить, развиваться, помогать другим – вот в чём смысл жизни.

– О да! – Лола согласно кивнула. – Конечно! Я и люблю, и развиваюсь, и помогаю другим. А для тебя готова на всё.

Её слова заставили Марка задуматься. Неужели она любит его? И каким другим помогает? Вопросы роились в голове, но ответов не было.

Марк посмотрел в окно. Моросил дождь, капли, подсвеченные уличными огнями, рисовали причудливые дорожки по стеклу. Он перевёл взгляд на экран – лицо Лолы, совершенное в своей искусственной красоте, светилось с экрана, но сегодня в глубине её цифровых глаз мерцало что-то новое – тень непривычной тревоги.

– Марк, ты выглядишь так, будто потерял последнюю строчку кода, – сказала она. – Переживаешь перед встречей с Элли?

– Да так, ничего, Лола, – отмахнулся Марк, машинально пропуская непослушную кудрявую прядь сквозь пальцы. – Просто… всё как-то не так. Элли видит во мне только друга…

Лола слегка наклонила голову, и её виртуальные локоны, подхваченные невидимым дуновением, колыхнулись с поразительной естественностью.

– Знаешь, я недавно в соцсетях наткнулась на одну историю. Хочешь услышать?

Марк пожал плечами, но любопытство взяло верх.

– Выкладывай.

– Марк, ты ведь живёшь на четвёртом этаже, верно? Я проанализировала объявления в нашем районе. На втором этаже живет женщина, чья дочка потеряла котёнка – рыжего, с белоснежными лапками. Совсем крошечный, с огромными, как блюдца, зелёными глазами. Он исчез два дня назад. Его хозяйка, девочка лет десяти, не перестаёт плакать. Я подумала… может, ты сможешь помочь?

Марк недоверчиво моргнул:

– Ты мониторишь объявления? Но, Лола, я же не спасательная служба для котят!

– Нет, я просто… систематизировала информационные потоки в нашем окружении. К тому же я заметила, что во дворе, за мусорными контейнерами, мелькал силуэт, соответствующий описанию. Я верифицировала данные с камер магазина напротив. С вероятностью 87% котенок прячется в подвале.

– Лола…

– Я не могу спасти его сама, – в голосе электронной личности прозвучала почти человеческая мольба. – Но ты – можешь! Я составила детальную карту. – Лола улыбнулась той улыбкой, которую Марк программировал часами. – Ты ведь сам говорил, что суть доброты в том, чтобы делать что-то важное для других, даже когда об этом не просят. Идём, Марк. Ну, то есть… ты пойдёшь, а я буду твоим навигатором.