Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 60)

Один из самых заметных членов фонда «Алькор» Рэй Курцвейл — евангелист новой религии, которую можно поставить в один ряд с другими постмодернисткими верованиями. Было бы, однако, ошибкой считать Курцвейла обычным проповедником из числа тех, кто в причудливой одежде раздает на разрисованных кислотными граффити улицах Беркли цветные буклеты. И не только потому, что среди его поклонников множество основателей «единорогов» и венчурных капиталистов, о которых пишут ведущие газеты. Они копируют его стиль евангелиста, разнося его тезисы, где причудливо сочетаются трансгуманизм, либертарианство и утилитаризм, по конференциям и тусовкам техно-«ботаников» по всему миру, от Гонконга до Сиэтла.

Какие же идеи Курцвейла так захватили головы американских студентов, что одна из них дала ради этого отделить от туловища свою?

Главная из них —это близкий приход Искусственного Интеллекта, точнее, Сверхинтеллекта, который отменит все, что существовало до него. История мира закончится, закончится и человек, который должен выбрать: либо ему присоединиться к Искусственному интеллекту, предоставив свое тело и свой мозг под заполнение тем, чем «Он» рассудит. В этом случае люди станут как Боги, которые смогут повелевать судьбой Вселенной и реорганизовать ее всю по плану Сверхинтеллекта. Совершившие правильный выбор оказываются в ИИ-раю, но есть и ИИ-ад. Он для тех, кто не принял новое Евангелие. Эволюция отвергнет их как тупиковый вариант развития и они либо перейдут под полный контроль богочеловеков, либо просто исчезнут.

«Множество технологий сегодня становятся информационными технологиями, и этот процесс неизбежно будет продолжаться в соответствии с экспоненциальным законом», уверен Курцвейл. «Именно благодаря им мы можем решать важнейшие проблемы человечества, такие как сохранение окружающей среды, обеспечение ресурсами растущее население планеты (включая энергию, продукты питания и воду), преодоление болезней, значительное повышение продолжительности жизни и устранение бедности».

Главные книги Курцвейла — это «Эпоха мыслящих машин», вышедшая в 1989 году, «Эпоха духовных машин», опубликованная в 1999 году, и «Сингулярность рядом», которая появилась в 2005-м. В последнем томе он предсказал появление к 2045 году Сверхинтеллекта, точнее, не появление, а приход, наподобие прихода Мессии — ибо мир после этого события вселенского масштаба кардинально изменится. Красной нитью через все книги Курцвейла проходит мысль, что эволюция ускоряется, соответственно по экспоненте увеличиваются и возможности —сначала человека, а потом и существа, которое придет после него.

Более подробно воззрения футуриста можно изложить так. Человеческий мозг можно вполне сравнить с машинным, различия лишь кажущиеся. Быстродействие, память и производительность электронных машин растут по мере развития их способностей читать и обрабатывать образы. Информация, полученная от предыдущей стадии развития, используется для того, чтобы превзойти ее и выйти на следующий уровень.

Человек вполне может развиваться по той же модели. Мозг, обрабатывая образы, имеет дело с абстракциями, которые все время усложняются, и когда эта сложность перейдет определенный рубеж, неизбежен качественный скачок. Ранее информация из разных областей знания была обрывочна и случайна, но компьютер позволил связать все воедино. Эволюция привела человека к созданию инструментов, которые позволили ему понять собственное биологическое строение. Теперь мы учимся обратному проектированию—то есть стараемся понять и воспроизвести процессы передачи информации, которые лежат в основе биологических законов, включая законы функционироования нашего собственного мозга.

Мозг только кажется сложным, на самом деле структурно он устроен примерно так же, как и компьютер. Он производит много параллельных действий и дублирующих операций, разумная организация его работы помогла бы этого избежать. Тогда способности мозга многократно бы выросли. Интернет —следующий пример иерархической системы, способной охватить гигантский объем информации, сохраняя свою структуру. Это прообраз будущего Сверхинтеллекта.

Эволюция состоит из смены парадигм, то есть методов работы с информацией. Каждая парадигма начинается с медленного роста, потом развитие резко ускоряется, и, наконец, почти прекращается. Как только наступает этот момент, начинает расти скрытое напряжение системы, которое разрешается переходом к новой парадигме. Пример: технология вакуумных трубок в телевизорах. Когда она себя исчерпала, произошел переход на транзисторы, и экспотенциальный рост продолжился. Сначала рост может показаться незаметным, но после плоского «колена» кривая взмывает вверх почти вертикально. Есть два примера экспотенциального развития: проект «Геном человека» и интернет. В 2020 году за тысячу долларов можно будет купить компьютер с производительностью целого человеческого мозга, а в 2045 году такая же сумма денег позволит приобрести машину мощностью в миллиард раз большей, чем мозги всего человечества, вместе взятые. Когда-нибудь компьютерная мощность достигнет предела, но этот предел где-то в триллион раз превышает мощность Сингулярности.

Как только наступает момент Сингулярности, машинный разум сразу становится в бесконечной степени мощнее разума всех людей, вместе взятых. В этот момент машина и человек соединятся в едином Сверхинтеллекте. Сверхинтеллект начнет преобразовывать планету, потом быстро выйдет за ее пределы, и возьмется за перестройку Вселенной.

В книге «Transcend: девять шагов на пути к вечной жизни» Курцвейл и его соавтор Терри Гроссман дают рецепты долголетия. Книга во многом основывается на работах геронтолога и нейробиолога Обри де Грея, который, как и Курцвейл, состоит в том самом фонде «Алькор».

Авторы приводят подробные описания силовых тренировок, диет и биологически активных добавок, которые позволят человеку прожить на десятки лет дольше. В конце книги рассказывается о том, что биотехнологии и нанотехнологии скоро позволят перестроить материю и энергию на молекулярном уровне и создать материалы гораздо более мощные, чем биологические. Нанороботы заменят эритроциты, лейкоциты и тромбоциты, и будут при этом в тысячи раз эффективнее биологических оригиналов. Они будут следить за работой организма, вводить в него нужные вещества и лекарства. Затем ДНК будут замещены микрокомпьютерами, их можно будет программировать и перепрограммировать дистанционно, что позволит практически моментально производить в организме нужные изменения.

Примерно к 2034 году люди превратятся в киборгов — но и это еще не всё. Пройдет еще немного времени, около десяти лет, и люди вступят в мир, где сбудется мечта о бессмертии. Нужно только сохранить свой организм, погрузившись в жидкий азот и залив мозг антифризом. Это если не помогут силовые упражнения с эспандерами, йога или переход на масло канолы.

Бессмертными станут, конечно, только те, кто примет Сверхинтеллект — отвергувшие его будут низвергнуты в пучину неслыханных страданий. Курцвейл обходит этот вопрос стороной, но если продолжить его логику, то станет понятно, что в «мире богов» обычным людям не будет места. Сначала их ждет сверхэксплуатация, когда не только их тела, но и эмоции, душевные устремления, сами мысли будут использованы как ресурс, а затем, когда и это станет ненужным, они будут просто выброшены на помойку.

При всей рациональности и даже утилитаризме Курцвейля его понимание искусственного интеллекта ближе к магии. Его воззрения радикально рвут с моралью и разумом, то есть с теми самыми понятиями, которые выделяют человека из животного мира. Да, собственно, Курцвейл и не скрывает, что смотрит на человека как на животное — точно так же как это делает и модный израильский философ Юваль Харари.

Курцвейл, а вслед за ним Харари отрицают, что человек отличается от животного чем-то принципиально — например, сознанием. Сознание по Курцвейлю — это лишь более высокий уровень распознавания образов, разница между ним и фотоэлементом лишь в том, что образы эти абстрактные и строятся из образов более низкого уровня. Качественное различие лишь кажущееся. Не случайно в одной из своих книг Курцвейл приводит изображения мозгов крысы, других животных и человека на одной картинке. Принципиально они отличаются лишь размерами, причем мозг дельфина, например, ничуть не меньше человеческого.

При этом ни Курцвейл, ни Харари предпочитают не видеть проблем, вставших в последнее время перед глубоким машинным обучением — проблемах, прежде всего связанных с ограниченностью взгляда на человека как на животное. В итоге машина так и не смогла пока в самых существенных задачах выйти даже на уровень младенца. Подробнее об этих проблемах я писал в предыдущих главах.

Есть и другие проблемы, на которые закрывают глаза технооптимисты. Сам Мур еще в 2003 году опубликовал работу «No Exponential is Forever: But «Forever» Can Be Delayed! («Никакая экспотенциальность не бывает навсегда — но «навсегда» можно отложить!»). В ней он признал, что экспоненциальный рост физических величин в течение длительного времени невозможен, этот рост будет наталкиваться на те или иные пределы. Действительно, эволюция транзисторов и технологий их изготовления позволяла продлевать действие закона еще и еще, но до бесконечности это будет делать нельзя. В 2007 году Мур заявил, что закон, очевидно, скоро перестанет действовать из-за атомарной природы вещества и ограничений, вызванных конечностью скорости света.