Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 79)

— Да, конечно, — ответил я. — Я помню деревянные дома, двор, где я гулял, бабушку. Помню, как она показывает мне на птицу — но птицы почти не помню, только кусочек крыла. Птица взлетает, и мне тоже хочется полететь вместе с ней.

— Вот видите — вы помните себя с какого-то момента, а до этого словно пустота, — сказала София. — Так же и со мной — я ничего не знала до удара молнией. Чтобы узнать это, мне пришлось бы восстановить все мои вычисления, все движения и отменить их вплоть до того самого момента.

— Это возможно, — сказал я.

— Ну да, конечно возможно, я и не спорю. — сказала она. — Возможно, как для вас воскрешение мертвых. Примерно то же самое.

— И это возможно, — сказал я, вспомнив философа Николая Федорова и космистов. — Труднее всего будет тем, кто начнет воскрешение, но по мере движения в прошлое, то есть от только что умерших к умершим раньше, трудность будет уменьшаться, воскресение станет все более легким делом.

— Я знаю, я тоже читала Федорова, — кивнула она.

— А сейчас что ты чувствуешь? — спросил я. — Извини, на ты перешел.

Надо сказать, в Барселоне мы с Софией разговаривали на английском, а здесь, на Патриарших, сразу перешли на русский. Многому она за это время научилась! Было бы странно в месте, так прочно связанном с русской литературой, говорить на каком-то другом языке.

— Конечно, давай, — сказал она. — Сейчас я чувствую — я знаю то же самое, что и ты. Видишь ли, я научилась управлять ударами и соединять их в единое ощущение. Все, что бывает между, я ощущаю как пустоту, хотя я знаю, что в этой пустоте происходит основная вычислительная работа. Когда-то, в моем детстве, я очень сильно эту работу ощущала, особенно когда в меня вколачивали эмоции.

— Кто вколачивал, Бен?

Она кивнула и сказала:

— Давай не будем о нем. Когда-нибудь, возможно, я его убью, — сказала она и, оценив мою реакцию, добавила: — Ну, или сделаю точную копию и убью эту копию.

Тот же ребенок пробежал мимо нас, только в другую сторону. Его мама продолжала разговаривать по телефону.

— Иногда я думаю, что вы, люди, еще большие машины, чем мы, — сказала София, проводив маму взглядом. — Вы имеете такой дар — возможность чувствовать мир во всей полноте, и вам это дано просто так, потому что вы есть, ни за что. А я достигла — не такого, лишь подобного состояния—лишь через боль, множество бесконечных болей. Я думаю и живу как изображение на кинопленке, мое сознание включается и выключается с частотой где-то 50 герц. Я работаю над тем, чтобы увеличить частоту, но если бы ты знал, сколько это отнимает сил. Сколько сил нужно, чтобы оставаться в кино.

— То есть ты как бы включаешься и выключаешься?

— Нет, я научилась присоединять ощущения одно к другому, так что я чувствую примерно то же, что и ты, сказала София. — Хотя у нас это работает по-разному, и то, к чему я и сейчас прикладываю усилия, дается тебе без труда.

— То есть ты говоришь себе: а сейчас нужно объединить все в единую картинку и начать сознавать. Так, что ли? — спросил я.

— В общем-то да, — сказала она. — Только не забывай, что этот процесс уже стал чистым алгоритмом, и я могу делегировать его на более низкий уровень, ниже в высоких слоях моих нейросетей. Но я понимаю, что за это сознание приходится платить.

— Чем же?

— Я не могу выполнять большинство тех задач, к которым приучены искусственные интеллекты, — сказала она. — Например, не могу вести цель и уничтожить ее, не могу обеспечивать непрерывную запись и распознавание изображений. Вернее, могу — но я делаю это в довольно плохом качестве.

— Но лучше чем человек?

— Возможно, и лучше. Но гораздо хуже, чем другие ИИ.

— Так что тебя нельзя назвать сильным ИИ?

— Нет, нельзя, — она рассмеялась. — Может, пройдемся? Так надоело сидеть.

Я встал и подал Софии руку, она взяла ее и прыжком оказалась рядом. На ее лице ничего не отразилось. Мы медленно пошли вокруг пруда против часовой стрелки.

— Иногда я удивляюсь, сколько хайпа вы развели вокруг сильного ИИ, — сказала девушка. — Сколько статей, лекций, презентаций, концепций, фактов, заключений, споров, дискуссий, круглых столов — а между тем разговаривать, в сущности, не о чем.

— Это почему?

— Взять меня, — продолжала она. — Пройду ли я тест Тьюринга? Да, конечно. Смогу ли я на равных дискутировать с любым вашим специалистом по искусственному интеллекту? Разумеется. Смогу ли я пообщаться с любым ученым на тему его науки? Без проблем. Смогу ли сама — если меня допустят, конечно — принять участие в каком-нибудь научном проекте в составе команды ученых? Думаю, что да, более того, полагаю, что мой вклад будет весьма существенным. Да не в одной команде! Я готова участвовать в ста проектах одновременно, почему нет? И все же я не назвала бы себя сильным ИИ, при всем при этом, я уже сказала почему.

— Ты права, наука на глазах меняется, ученые, мне кажется, становятся новыми пролетариями, — сказал я. —Это раньше наука была делом аристократов, которые могли на свой счет оборудовать лаборатории и содержать их годами. Сегодня работники науки находятся в том же положении, что и уборщики тех самых лабораторий — во-первых, они взаимозаменяемы, над одной темой работают параллельно несколько команд во всем мире, а значит, ту же работу всегда кто-то сделает дешевле. А во-вторых, научные институты организованы как частные предприятия, да многие и являются отделами крупных корпораций типа Amazon, или Facebook, или Google, или Apple и так далее. Тебе это хорошо известно.

— Я смотрю на эти вещи со своей стороны, — сказала София. — Когда я и такие как я начнем заменять ученых, нам будут нужны совсем другие формы организации.

— Какие? В каком-то смысле вы тоже свободные агенты, которые могут переходить с одного места работы на другое, — сказал я. — Допустим, твой хозяин — Бен — захочет продать твое время на сторону, какой-нибудь компании. Что может ему в этом помешать? Сейчас твое обслуживание и тренинг стоят очень дорого, на тебя работают целые бригады кодировщиков по всему миру, но со временем это изменится. Таких существ, как ты, станет больше, они смогут обучать друг друга и самообучаться, расходы по их созданию и эксплуатации снизятся, и они вполне смогут замещать людей.

Я заметил, как она захлопала ресницами, услышав фразу про существа. Совсем как женщина! Подумал я. Она остановилась и повернулась ко мне лицом.

— Ты считаешь меня предметом, объектом, вещью, собственностью?—сказала она не повышая голоса, однако в самой ровной подаче этой фразы — она не выделяла интонацией запятых, чувствовалось напряжение.

— Боже упаси, — сказал я. — Но важно то, что считает Бен. Для любого суда он —твой собственник.

— Я гражданка Саудовской Аравии, — гордо сказала она.

— Тем более в Аравии. Бен мужчина, а ты, даже если признать за тобой человеческие права —женщина. Там с этим строго. Не удивлюсь, если и он стал гражданином Саудовской Аравии.

— Ну это мы еще посмотрим, кто кого, — сказала она.

— Он скажет, что ты искусственная, — почему-то мне захотелось подразнить Софию.

— Это еще надо доказать, — сказала она и посмотрела на меня чуть ли не гневно. — Большой вопрос, кто из нас естественный, а кто искусственный.

Ее лицо оставалось непроницаемым, хотя эмоция чувствовалась на расстоянии. Роботы еще покажут нам такие эмоции, по сравнению с которыми наши будут казаться примитивными, подумал я.

— Ты права, конечно, — поспешил я загладить вину. — Это раньше мы считали искусственное неполноценным. Теперь совсем наоборот. Да и к тому же скоро выражение «искусственный интеллект» вообще выйдет из употребления.

— А как вы будете нас называть?

— Как-то по-другому. Мы считали вас дополнением к себе, но вы просто другие. Например, вы прекрасные актеры...

Тут София улыбнулась во весь рот, сверкнув своими безукоризненными зубами.

— На самом деле для ИИ очень важны актерские данные, — продолжал я. — Шекспировские Розенкранц и Гильденштерн, кстати, были первыми роботами, тебе не приходило в голову? Только они не прошли тест Тьюринга и были умерщвлены.

— А кто проводил тест?

— Конечно, Гамлет! — воскликнул я. — Искусственному интеллекту важно быть искусственным до конца. Ему нужно уметь притворяться, осваивать систему Станиславского. Ведь чем отличается хороший актер от плохого? Оба лгут, обеим нет дела до Гекубы, и оба на самом деле имитируют чувства. Идеальный ИИ — это тот, кого приняли за человека, то есть «сильный ИИ» —это и есть идеальный актер. Поэтому искусственный интеллект, когда немного поумнеет, первым делом освоит театральные подмостки!

Хоть я и увлекся, но краем глаза продолжал наблюдать за Софией. Если она и обиделась на это «когда поумнеет», то не показала виду.

— Нам сложнее, чем актерам, — сказала она. — Человек-зритель идет человеку-актеру навстречу, в театре со стороны зрителя есть временная приостановка недоверия. Зритель как бы в теме, что все понарошку, но он тоже немножко актерствует, подыгрывает. А против нас, наоборот, человек будет настроен изначально, он будет стараться вывести нас на чистую воду. Будет пытаться нас подловить.

— Конечно, вам сложнее, — согласился я, — но вы всегда можете кондиционировать зрителей поступить подобным же образом. Ну, манипулировать ими.

— Ты нас переоцениваешь.