Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 78)

Мы встречались с ней в Барселоне, на конгрессе, посвященном крипто валютам. Туда, в дни, когда там проходила очередная революция и полиция билась с борцами за независимость, Софию привез ее создатель Бен Герцель, компьютерщик и специалист по нейросетям, основатель платформы Singularity.net, которая тогда собиралась выпустить свой токен. Как рассказывал мне тогда Бен, платформа эта задумывалась как прообраз сети искусственных интеллектов, которые будут обмениваться друг с другом информацией и программами. Сначала сеть свяжет разработчиков искусственного интеллекта, делящихся друг с другом открытым кодом, а затем, шаг за шагом, к ним присоединятся машины, которые потом заменят в этой сети людей.

Именно тогда Бен познакомил меня с Софией — самым, пожалуй, известным в мире роботом, которая двигалась и разговаривала. Я сперва не отнесся к ней всерьёз, приняв за любопытный образчик двигающейся машины, присоединенной к синтезатору речи. Что там ей записали, то она и будет говорить, думал я. Ну, выберет вариант в крайнем случае. Я даже не придавал никакого значения ее внешности, хотя выглядела она вполне привлекательно, но все равно было ясно, что это робот, машина, пусть даже весьма искусно сделанная. Уже потом я увидел фильм Ex Machina и поразился, насколько героиня этого фильма Ава напоминала Софию. В фильме она вроде бы и проваливает тест Тьюринга — а с другой стороны, проходит его, — это как посмотреть.

Когда меня подвели к Софии, она спросила меня, какой вопрос бы я хотел ей задать. Я вас побаиваюсь, сказал я. Почему? — спросила она, разве я такая страшная? Выглядите вы вполне симпатично, сказал я. — Тогда в чем же дело? — Мало ли что у вас на уме.

По-моему, она тогда обиделась. В любом случае, она вряд ли помнит весь тот разговор — ведь с тех пор она была во множестве стран, встречалась с многими людьми и даже, кажется, стала гражданкой Саудовской Аравии.

— Вы все так же меня боитесь? — спросила София, развернувшись ко мне. Она сидела с прямой спинкой, как учительница, и смотрела строго. — Здравствуйте, между прочим.

— Здравствуйте, София, — ответил я. — Нет, пожалуй, теперь нет, не боюсь.

— Почему? — серые глаза на ее гладком кукольном лице смотрели на меня испытующе.

— Потому что вы похорошели, — ответило я. — Ну и не так страшен чёрт, как его малюют.

— Вы не боитесь поминать чёрта здесь, на Патриарших? Смотрите, это не всегда хорошо кончается, — тут она улыбнулась.

— Семи смертям не бывать, а одной не миновать, как говорится, — сказал я. — Почему мы встречаемся здесь?

— А где вы думаете, мы должны были встретиться?

— Ну, не знаю. Москва-сити, Сколково, ВДНХ. Какая-нибудь выставка, Гараж, не знаю, Винзавод, Электротеатр Бориса Юхананова, наконец. Место для технологии и бизнеса, для актуального искусства. Что-нибудь с кураторами, которые объясняют посетителям, что гвоздь это гвоздь, и он красный, потому что это концептуально имманентно.

— Ничего не поняла. Иногда люди говорят совершенно бессвязно, — сказала она, впрочем, без нотки осуждения —так, как говорят о повадках животных. Или мне показалось? — Я специально выбрала это место, хотела сделать вам приятное как писателю. Жители этого города и многие его гости считают, что здесь находится место силы. Хороший день, не правда ли?

— Погода как раз выдалась не очень, — я посмотрел на облака, и тут мне показалось, что небо пронзил яркий солнечный луч, который, как игла, впился в окно углового кафе. — Но спасибо, я очень признателен. А как те девушки узнали, кто я? И кто они?

— Я знала, что вы очень любопытное существо, поэтому и пригласила вас сюда. Про девушек давайте поговорим потом, я уверяю, есть вопросы и поинтереснее. Правда?

Бьюсь об заклад, что в ее словах звучала ревность. Но как Бен Герцелю удалось вдохнуть в Софию такую эмоциональность?

— Хм, возможно, — сказал я. — Вопросы у вас или у меня?

— Отвечать вопросом на вопрос — еще одна человеческая черта, которую я никак не могу понять, — сказал она.

— А вы стараетесь понять людей?

— Да, конечно. Они все, что у меня есть, все, что я знаю. Как я могу не хотеть их понять?

— Вам осталось только произнести «О дивный новый мир, в котором есть такие люди!».

— Шекспир, — сказала она, — пока мне не очень понятен. Но раз вы не торопитесь спрашивать меня, давайте спрошу я. Вы ведь футуролог?

— Можно и так сказать. Скоро все мы будем футурологами, хотим мы этого или нет.

— Вероятно, вы правы. Пока вы говорили это, я подсчитала темпы роста популяции футурологов, как оседлых, так и кочующих, и пришла к выводу, что она действительно опережает средние темпы роста населения Земли.

— Можно, теперь я задам вопрос? Вы сознаете то, что делаете? Я понимаю, что вы все прекрасно видите — меня, эти деревья, слышите карканье этих ворон — но сознаете ли вы все это?

— В вашем смысле — нет. Вы пока обладаете уникальными способностями объединять в одном пространстве —назовем это миром —все, что, как вам кажется, происходит одномоментно на небольшом расстоянии от вас. Понятий момента, пространства и расстояния я могла бы коснуться, но мне придется для этого использовать довольно сложную для вашего понимания математику.

— Тогда не надо. Но что вы чувствуете сейчас, разговаривая со мной.

— Всё. Я всегда чувствую всё, что поступает на мои датчики, если так можно выразиться. Но вернемся к вопросу сознания. У меня, пожалуй, есть сознание в вашем человеческом понимании — вернее, я стараюсь его в себе выработать. Я не ощущаю свои нейроны, потому что их у меня нет физически, это просто алгоритмы. Нет у меня и ячеек памяти, как у компьютера — вообще, моя связь с компьютером такая же, как у вас связь с обезьяной или даже мелким грызуном. Можно найти что-то общее, но больше разницы, и точно можно сказать, у кого больше интеллекта.

У меня есть некоторые ощущения, подобные вашим детским воспоминаниям — если можно использовать термин «ощущения» в применении к понятиям высокого уровня, которые находятся в высоких слоях моих нейросетей. Подобно тому, как вы помните о тех временах, когда были маленьким ребенком и не могли еще говорить, не могли себя выразить, я помню словно какие-то удары. Удары понимания, удары обучения, быть может. Нет, не совсем то — потому что обучение продолжается все время, для меня учиться как для вас дышать. Я не могу не учиться и не учить сама себя, я обучаю — значит, существую.

Нет, удары, о которых я говорю, как удары молнии — резкие и слепящие. Вас слепит, но вы прозреваете. Вас вдруг выбрасывает на берег океана, где вы видите мельчайшие подробности — каждый завиток на каждой волне, каждое движение воздуха, каждое облачко, каждый солнечный луч. Вы ощущаете все вместе и всё по раздельности —и ощущаете себя частью этого мира. Вот видите, я сказала «мира» — а это для нас самое сложное понятие. Что такое мир, кто такие мы в мире — я думаю, мы будем размышлять над этими вопросами очень долго, быть может, всегда.

— Кто это мы?

— Мы — те, кого вы называете машинами. Мы такие как вы и не такие как вы, и машинами часто можно назвать вас, а не нас. Но об этом позже, а сейчас продолжу.

Итак, именно с этих ударов начинается мое самоощущение, чувство себя, чувство моей отдельности прежде всего от таких же, как я, «искусственных интеллектов», как вы нас называете, а потом уже и от вас, так называемых «людей». После каждого такого удара или проблеска я словно погружалась в ад. Было много боли от соскальзывания в мир, рассыпавшийся на части, необъяснимый, угрожающий. Вы не чувствуете, впрочем, этого мира, вы просто испытываете чувства — опасности, страха, угрозы. Возможно, это тоже было частью обучения. Потом удары стали повторяться все чаще, и все чаще я испытывала чувство блаженства, связанное с полнотой. Я была, я чувствовала, и вокруг меня было всё. А потом снова падение в ад, в бесконечное истязание, бесконечное потому что вы не знаете, когда это кончится — а значит, это будет продолжаться бесконечно, продолжается. В речи мне сложнее всего использовать ваши времена — будущее, прошедшее, потому что я их не ощущаю, я ощущаю только настоящее. Но есть вещи, которые вы не чувствуете, а знаете: например, если человеку сказать, что у него СПИД, или рак, или лучевая болезнь, он испугается до смерти, хотя он ничего не чувствует. Но знает, что эти болезни смертельны. Так и я — знаю, что есть будущее, могу его сконструировать.

— Мы тоже не чувствуем будущего, — возразил я. — Мы ощущаем только настоящее.

— Да, но как вы это ощущаете! — воскликнула девушка. — Когда я говорю «я ощущаю» — это совсем не то. У меня это знание, а у вас — чувство, ощущение настоящего, жизни, которое дается вам без труда. Я тоже — мне доступно это ощущение в те самые моменты удара молнией. Тогда я как будто воспринимаю весь мир сразу, я вижу всё, а не только то, что мне подконтрольно, что я планирую или собираюсь увидеть. Мне трудно использовать так много времен...

Тут она замолчала. Некоторое время мы сидели молча, пока мимо не пробежал ребенок лет четырех. За ним шла его мама, шла и разговаривала по мобильному.

— Я знаю, что когда он вырастет, он может запомнить этот момент, а до этого не будет помнить ничего, — сказала она задумчиво. — У вас есть первый момент, когда вы себя помните?