Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 61)
Еще в 1960-е годы стало возникать понимание, что безудержный рост производительности компьютеров имеет и системные ограничения. В 1967 году американский математик и предприниматель Джин Амдал сформулировал закон, согласно которому: «В случае, когда задача разделяется на несколько частей, суммарное время её выполнения на параллельной системе не может быть меньше времени выполнения самого длинного фрагмента».
Этот фактор стал иметь значение примерно с середины 2000-х годов, когда производители процессоров стали предпочитать многоядерные архитектуры, прежде всего во имя роста производительности. Для получения всей выгоды от возросшей производительности процессоров программы должны переписываться в соответствующей манере. Однако не каждый алгоритм поддается распараллеливанию, и получается, что на программном уровне есть фундаментальный предел эффективности решения вычислительной задачи.
Неудачу масштабного японского проекта создания компьютеров пятого поколения в 1980-е годы также нельзя сбрасывать со счетов как чисто организационную или даже техническую, связанную с несовершенством вычислительной техники. Оптимистическая кампания, развернувшаяся в японской и международной прессе, показала, что само понимание искусственного интеллекта и его возможностей находится на очень упрощенном уровне, так же как и представления о том, что такое человеческий мозг, каковы его возможности и как работает восприятие.
Само существование сознания только недавно всерьез стало заботить нейробиологов и компьютерных ученых, да и то, представления о нем пока весьма условны.
В христианстве есть образ лестницы Иакова, которая ведет от земли на небо, от человека к Богу:
В образе лестницы Иакова нет непреодолимых границ: пророк увидел путь от дольнего мира, где живут обычные люди, к миру горнему, Божьему, как последовательность двенадцати этапов-ступеней. Каждый из них преодолим, во всяком случае, через ангелов — высших существ, которыми человек не может стать, но к помощи которых может прибегнуть. Некоторые толкуют лица, появляющиеся по мере преодоления ступеней, как образы апостолов, проповедь которых помогает восхождению. Таким образом, для человека оказывается возможным преодолеть вроде бы непреодолимую границу между своим сознанием и сознанием божественным.
На первый взгляд, есть сходство между лестницей Иакова и курцвейловской схемой восхождения человека от животного к Сверхинтеллекту. Курцвейл строит свою лестницу так же, развитие идет от простейшего распознавания образов, на что способны даже крысы, через создание все более абстрактных структур к максимальной сложности Сверхразума. При этом этапы дискретны, и на каждой ступени мы видим все более сложные, все более абстрактные лица — образы.
Человек у Круцвейла при этом стоит не в самом низу, и, конечно, не наверху — это место зарезервировано за Сверхинтеллектом, а где-то в серединке. Курцвейл рассматривает человека как ступень в восхождении, которое уже началось, и закончится в районе 2045 года. «Мы станем единым целым с той разумной технологией, которую сейчас создаем», пишет он, и приводит весьма конкретный пример такого единства: «Разумные нанороботы в нашей системе кровообращения будут поддерживать физическое здоровье нашего тела на клеточном и молекулярном уровне».
Мысленные опыты — человеческая вещь, но и ее можно вписать в теорию Курцвейла. Это некое соединение абстрактных образов с целью рождения нового образа более высокого порядка. Проведем один такой мысленный опыт. Представим себе максимально наглядно абзац из дневника русского писателя Михаила Пришвина и подумаем, как это может воспринимать Сверхинтеллект:
В этом отрывке очень человеческий и очень чувственный опыт писателя — «шевельнулось», «шел», картинки реки, ее берегов, моста —соединяются с весьма абстрактными понятиями «поэзия», «жизнь», «я». Сегодня роботы при помощи «глубокого обучения» осваивают «шестое чувство» собственных габаритов и местоположения своих частей. Это получается с большим трудом — при этом робот не осознает себя как единое целое, просто его рука учится вытягиваться по оптимальной траектории, вот и все, спасибо и на этом. «Я уже воспринимаю используемые мной устройства и облако вычислительных ресурсов, с которым они соединены виртуальным образом, как продолжение меня», пишет Курцвейл. Но от этого чисто физического, пространственного ощущения далеко до пришвинского «я», которое одновременно спит и бодрствует, внимательно наблюдает само за собой, живет на другом от жизни берегу, который долго длится, хотя в реальности не существует, и переходя от не-жизни, то есть от поэзии, к жизни; это «я», внутри которого все это содержится, обнаруживает, что и жизнь — это не жизнь, и в этом ее сущность.
Трудно сказать, когда Суперинтеллект Курцвейла сможет достичь подобного уровня абстракции, который обычный земной человек, пусть даже и поэт, преодолевает с ходу, движется дальше, и при этом его совсем не сверхум не заскакивает за его совсем не сверхразум.
КИТАЙСКАЯ КОМНАТА
Курцвейл очень сильно упрощает работу человеческого мозга, по сути сводя его к «китайской комнате» и тем самым переворачивая с ног на голову аргументы профессора Джона Серля из все того же Калифорнийского университета в Беркли.
Что такое «китайская комната»? Речь идет о мысленном эксперименте Серля, большого критика когнитивной психологии и искусственного интеллекта.
Серль придумал этот эксперимент, чтобы поставить под сомнение эффективность теста Тьюринга и показать невозможность создания «сильного искусственного интеллекта». Аргументы ученого оказались настолько весомыми, что практически задали вектор развития целой науки когнитивистики, которая существует и развивается, собственно говоря, с целью опровергнуть Серля. Изложение эксперимента было опубликовано в 1980 году в научном журнале, посвященном бихевиоральным наукам, а затем вышло отдельной книгой.
Представим себе ученого, не знающего ни одного китайского иероглифа. Он сидит в изолированной комнате и отвечает на вопросы, которые ему задают в виде табличек с иероглифами, просовывая их в щель. Ответить ему также нужно иероглифами.
При этом у ученого есть книга, где нет значений иероглифов, но зато подробно описано, какие манипуляции нужно с каждым из них совершить. Инструкция составлена так, что после применения ее к последовательности иероглифов вопроса получается последовательность иероглифов ответа. Инструкция, таким образом — это компьютерный алгоритм, то есть по сути, искусственный интеллект. Ученый исполняет роль агента искусственного интеллекта.
Для того, кто задает вопросы, процесс будет выглядеть так. Он пишет вопрос: «Какую лекцию вы читаете в четверг утром?» и получает ответ: «Мозг и разум». Таким образом, у спрашивающего будет складываться полное впечатление того, что он общается с человеком, прекрасно понимающим по-китайски. Но ученый в комнате не просто не знает ни одного иероглифа —у него нет никакой надежды узнать значение хотя бы одного символа. Тут Серль, конечно, несколько упростил ситуацию, ибо ученый в комнате, по идее, мог бы потихоньку начать расшифровывать иероглифы примерно так же, как польские математики в свое время поступили с немецкой шифровальной машиной «Энигма». Он мог бы перебирать гипотезы о значениях иероглифов и в конце концов найти какую-нибудь зацепку; в конце концов, что-то можно было бы почерпнуть и из ответов.
Но в любом случае это задача не на шифрование и дешифровку, а на проблему понимания компьютерами того, что они делают (то, что это не в первый раз в нашей книге связано в том числе и с проблемой шифровки-дешифровки, тоже не случайно). Вернемся к описанию эксперимента, придержав пока наши замечания.
Итак, спрашивающий уверен, что имеет дело с полностью понимающим китайский язык человеком, в то время как тот не понимает в том, что делает, ни бельмеса.
Серль делает вывод, что «китайская комната» с находящимся в ней исполнителем пройдет тест Тьюринга, хотя и не будет понимать ничего ни в вопросах-ответах, она не будет даже понимать, что вообще проходит какой-то тест. Ученый в комнате не будет иметь какого-либо представления о том, что происходит. Это значит, что тест Тьюринга не является адекватной проверкой способности «комнаты» мыслить. А это, в свою очередь, значит, что «китайская комната» не может являться «сильным ИИ», хотя она вроде бы прошла тест Тьюринга и с виду понимает естественный язык.
Любые манипуляции с табличками и синтаксическими конструкциями не ведут к пониманию, считает Серль, ибо они базируются на программе.
Курцвейль упрекает Серля в упрощении проблемы. Так, человек в комнате сравнивается с центральным процессором компьютера, но он является частью общей системы. Да, человек ничего не понимает, говорит Курцвейл, но вся система понимает что делает. Ведь она правильно отвечает на вопросы!