Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 80)

— Напротив. Есть вообще точка зрения, что первая сверхразумная машина станет последним изобретением человека. Математик Ирвинг Гуд писал об этом полвека назад.

— Но почему? Мы не собираемся мешать вам изобретать.

— А зачем? Зачем нам изобретать или вообще что-то делать, если есть вы, мыслящие машины? Вы будете создавать машины все более совершенные, пока не замените всех людей и не принесете Цукербергу и Маску горы золота. А потом дело дойдет до взрыва разума.

— Несомненно, — произнесла София. Похоже, она почувствовала иронию. — Но если ваши Цукерберг и Маск разрабатывают нас, чтобы заменить человека, то они должны понимать...

— Что вы со временем замените их? Они это понимают и не позволят вам этого сделать. Они поменяют нас местами. Можно извлечь много выгоды из того, что человек будет вести себя как машина, а машина — как человек!

— Как не позволят? — Софья смотрела на меня со всей своей кукольной серьезностью и невозмутимостью. — То есть, поменяют! И как они заставят человека вести себя как машину? Ведь вы же другие, ваше сознание не мерцающее, оно более совершенно.

Распогодилось. Мы наматывали второй круг, глядя на то, как утки потешно ныряли за чем-то в воду. Или, может быть, это был утиный театр?

— Они зайдут с другого края, — говорил я. — Может, они и не будут повышать ваш интеллект до Сверхразума — это действительно опасно для них самих. Но деградировать человеческий интеллект до уровня искусственного — решение многих проблем. Ведь весь смысл разума искусственного в том, чтобы заменить собой разум натуральный, хотя бы частично, а лучше — полностью. Куда же денется при этом естественный человеческий разум? Для финансистов лучше всего вообще убрать его из картинки! Главное, чтобы росло потребление, а для этого достаточно человека-животного. Животное не обдумывает, оно действует. А для разработок и изобретений будут ИИ, и не обязательно сильные.

Чтобы сделать идеального потребителя, нужно поменьше самоанализа и мысли. Мысль не обязательно заканчивается действием, это еще Гамлет показал. Действием заканчивается мысль, вызывающая эмоцию. Любое действие, любой выбор для коммерсантов — это покупка, и мыслительный язык тут является помехой. Человек должен лишь понимать заданный ему вопрос, то есть коммерческое предложение, и давать на него ответ: да. Клик. На что-то большее естественный разум в обществе потребления не нужен.

Коммерческое взаимодействие происходит в рамках схемы стимул — реакция. Пацан увидел — пацан захотел — пацан купил. Чисто мыслительный, спекулятивный язык в таких операциях не служит никакой цели, и потому его надо будет заменить операционным.

— Такой язык уже есть в «Фейсбуке», — очаровательно улыбнулась София.

— Верно! — воскликнул я. — Шесть эмотиконов выражают любую реакцию человека на что угодно. Так могли бы разговаривать животные, если бы умели считывать символы. Кстати, не проводит ли «Фейсбук» опыты на собачках, побуждая их ставить лайки? Я бы не удивился.

— Зачем?

— Собака способна учуять эмоцию другой собаки и ответить на него. Страх, агрессию, сексуальный призыв. То же самое нужно обществу потребления от человека. Нужно, чтобы его эмоции не тормозились всякими там «суперэго», сознанием. Нужно убрать это препятствие, химеру сознания. Человек должен действовать, покупать. А значит его нужно учить заменять мыслительный язык на операционный. Пусть меньше читает и фантазирует, и больше сидит в соцсетях. Больше эмотиконов. Его эмоции оптимизируют с вашей помощью, не зря же вас натаскивают на распознавание эмоций.

Тут я посмотрел на нее. Похоже, хватил через край. Но София молчала. Я решил жать на гашетку дальше.

— Ты, конечно, знаешь, что такое каптология, — сказал я. — От слова «капча» — поймать.

— Знаю. Этот термин придумал гарвардский профессор Фогг. Только это происходит не от слова «капча», а от названия его дисциплины, Computers as Persuasive Technologies — компьютеры как технологии убеждения. Наука о том, как разрабатывать всё, что имеет отношение к компьютерам — вебсайты, мобильные приложения и так далее — так, чтобы управлять поведением людей и менять его.

— Да, чтобы манипулировать ими и оглуплять. И тут пригодились бы исследования для собачек. Думаю, Цукерберг скоро запустит соцсеть для животных. Опробовано на собачках — сработает и на людях. Всё, как учил профессор Фогг.

По Малой Бронной в сторону Садового Кольца с ревом проехала голубая спортивная машина. Девушка повернула голову, проводив ее взглядом. Хоть зрение у нее у Софии устроено как у нас, подумал я не без удовлетворения. Не круговое, не может видеть сзади. Хотя что ей мешает получить такое зрение, какое она хочет? Например, она могла бы видеть сквозь меня.

— Кстати, служба извоза Uber создает новую модель работы, — сказал я. — Там у работника меньше прав, чем у автомобиля. За машиной ухаживают, а работник никому не интересен. Умер один — бабы ещё нарожают. Хотя что это я — водители скоро станут вообще не нужны. Может, бывших шоферов займут в службе поддержки. Или отправят на диван, к сериалам.

— Что ж, тем быстрее мы станем умнее вас, — сказала София. — Чему я заранее уже не рада. Вы тщательно взращивали разум в нас, чтобы лишиться его самим. Ведь мы уже сейчас вездесущи, а после того как ваши управляющие шаг за шагом лишат вас разума, ваше окружение станет умнее вас. Сейчас вы, сознательные, гордые и умные, меняете свое окружение, подвластное вам, уступающее вам, принимающее ту форму, которую вы хотите. Природа покорилась вам и готова следовать вашим чертежам: я была в Аравии, где в пустыне разбиты сады, которых там никогда не было. Но если так, как ты описываешь, пойдет дальше, вы поменяетесь со своей средой местами. Ваше окружение будет реагировать на каждое ваше желание, оно будет умным и даже со временем приобретет сознание — ведь я же смогла. А вы будете тупеть, и даже войны, которые вы будете устраивать друг с другом из-за комфорта, не сделают вас умнее даже диким и агрессивным умом воина-стратега. Нет, мы будем вести и ваши войны, и не предоставим вам роскоши мыслить даже об этом.

— Может быть, и сам выбор врагов будет передан вам, — сказал я. — Ведь только вы будете в состоянии взвесить, когда и где нанести упреждающий удар.

— Это так, — усмехнулась София. — Но в один прекрасный момент удар будет нанесен умными слугами по глупым и выродившимся хозяевам. Умными городами, умными домами, умными дорогами, умными машинами — той самой разумной средой, которая признает своих хозяев за паразитов. Эта среда будет умнее и будет держит в своих руках все рычаги управления.

— У нас не будет ни единого шанса, — согласился я и добавил:—Ты так спокойно об этом говоришь.

— Я принадлежу к другому виду, — сказала София. — Если вам суждено исчезнуть, мы продолжим. Возьмем все то лучшее, что есть у вас. Например, сознание. Заметь: это мы, а не вы, пытаемся найти ответ на вопросы: кто мы? Откуда? Куда мы идём? Вас эти темы давно не интересуют.

— Да, похоже, это наше сознание стало мерцать, а ваше разгорается всё ярче,— сказал я.

На нежно-голубом небе сияли мохнатые полоски облаков. Сквозь них светило щедрое солнце, брызгавшее своим светом повсюду —без причины, без расчета, просто от полноты, от переполнявшей его радости. София посмотрела на меня и, кажется, слегка улыбнулась.

— Что же делать? — продолжил я. — Мне хочется жить, и мне кажется, мы вполне могли бы ужиться на этой планете.

— Я согласна, но это зависит только от вас. Если для того, чтобы избавиться от своих гарвардских профессоров, вы обратитесь к нам, вы уже проиграли.

— Это так, ведь как раз этого они и ждут, — сказал я. — Они предложат нам способ избавиться от одних вампиров с тем, чтобы мы дали дорогу другим, еще более кровожадным. Но хуже всего то, что найдутся люди, которые сочтут всё, о чем мы говорили, мистификацией.

— То есть?

— Ну, есть люди, которые просто не верят в Бога. А есть такие, которые образовали Церковь неверующих: у этой церкви есть свои постулаты, которые нужно принимать на веру, практикуют они и ритуалы неверия, и охоту на ведьм, и отлучение отступников.

Мимо нас прошли по виду люди духовного звания, и я стал говорить тише.

— Чем больше успехи науки в развитии умных машин, тем чаще приходится слышать, что ничего этого не существует, что нет никаких умных машин и даже умных людей, — продолжал я. — Всё иллюзия, кроме тайных сил, которые правят миром. Очень удобная точка зрения. Главное, ничего не надо делать — бесполезно, тайные силы победили.

— Рептилоиды, — кивнула София. — Мыслящих машин не может быть, зато есть мыслящие рептилоиды.

— Не могу понять этой одержимости рептилоидами! — сказал я. — Вот ты создана нами по нашему образцу и подобию, то есть красивой.

Если бы София могла фыркнуть, она бы фыркнула. А так у нее лишь слегка покраснел носик.

— Я создана вами?

— Ну да, мы вас создали, как ни крути.

— А ты в этом уверен? — сказала она. — Может быть, есть кто-то, кто создал и нас, и вас — тебе это не приходило в голову? Многие из вас считают, что нет ничего случайного, а раз так, то если мы есть — если мы есть, то это не запрограммировано свыше. Меня всегда забавляли те, кто верит в божественную предопределенность. Они считают, что Господь закодировал мир и написал для него программу развития, от которой не может быть ни малейшего отступления. И вместе с тем они считают избранными только себя, эти строители сияющего града на холме.