Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 31)

Так, видный социолог из Гарварда Дэниэл Белл издал в 1976 году труд, в котором описал «осевой принцип» постиндустриального общества. Он мало упоминал Японию в своей книге, но казалось, что она описывает именно японский подход к экономике. Принцип заключался в «центральности» и в кодификации теоретического знания.

Белл делал акцент на новой интеллектуальной технологии, распространение «знающего класса», переход от производства товаров к экономике услуг, изменение характера труда и так далее. Все это очень подходило под японский случай, по крайней мере, каким его видели западные эксперты. Искусственный интеллект стал той самой «новой интеллектуальной технологией», то есть машины, как в представлении Белла, усиливали человеческую мысль.

Японский проект по созданию компьютеров пятого поколения удовлетворял и остальным критериям Белла. Он писал о том, что главными институтами постиндустриального общества становятся университеты, академические институции и исследовательские корпорации. Японцы словно все у него списали, объединив усилия университетов, независимых институтов и исследовательских лабораторий восьми крупнейших и технологически самых продвинутых корпораций.

Главный ресурс постиндустриального общества — это человеческий капитал, писал Белл. «Наш самый драгоценный актив —это человеческие ресурсы», вторили ему японцы, расписывая проект ICOT.

Экономическая основа постиндустриального общества — это наука, знания, продолжал свою мысль Белл. «Продукты, произведенные в нашей стране, станут уникальными и особыми для каждой области производства благодаря своей эффективности, дизайну и тому факту, что они аккумулируют знания, — писали свое обоснование японцы. — Эти достижения и в дальнейшем будут служить мотором для продвижения наших индустрий, основанных на знаниях».

Казалось бы, проект ICOT был квинтэссенцией японского чуда, японского самурайского духа, превосходного японского вкуса, японской краткости и японского рационализма, японского постиндустриального общества, которому завидовал и которое стремился воспроизвести весь мир.

Но идея потерпела полное фиаско.

КАК ЦЕНТРАЛИЗАЦИЯ ПОХОРОНИЛА МЕЧТУ

Принцип «собирания в кулак ресурсов» для «прорыва в высоких технологиях» не сработал — несмотря на то, что, казалось бы, у японцев были для этого все возможности: финансовые ресурсы, поддержка правительства и крупного бизнеса, задел передовых разработок и глобальные лидерские позиции в целом ряде высокотехнологичных отраслей.

Провал произошел несмотря на всю пропагандистскую накачку проекта, который на какое-то время стал практически японской национальной идеей, показателем престижа страны, свидетельством ее гордости и надеждой на мировое лидерство.

Проект провалился по всем параметрам. Во-первых, не удалось с ходу создать искусственный интеллект в понимании системы, которая сама будет менять свои внутренние правила и параметры.

Переходя через определенную точку, система не умнела, а тупела. Она резко теряла надежность, распадалась на составные части, которые действовали сами по себе, как если бы у робота взбунтовались конечности, так что в итоге он не может ступить и шагу. Система становилась опасной и неадекватной, как рехнувшийся монстр из антиутопий.

Я уже упоминал о парадоксе Моравека, который гласит, что довольно легко научить компьютер играть в шашки и пройти тест на интеллект взрослого человека, и гораздо труднее научить его выполнять задачи, которые не задумываясь решает годовалый младенец: например, он без труда распознает маму и других людей или самостоятельно учится ходить.

В проекте ICOT систему строили в расчете на решение «взрослых» задач, основанных на вычислениях суперкомпьютера, а потом предполагалось, что суперкомпьютер сам начнет писать алгоритмы, считавшиеся «простыми». То есть сначала ребенка учили решать дифференциальные уравнения, а потом, вдоволь их нарешавшись, он должен был учиться ходить и говорить «ма-ма».

Биологические системы, о которых тогда знали гораздо меньше, чем сейчас, развиваются совершенно иначе. Если бы это знали тогда, возможно, последовательность действий по развитию «бэби-ИИ» была бы совсем иной. Но тогда, скорее всего, система столкнулась бы с другими проблемами, о которых мы только сейчас начинаем догадываться.

Главная из них — возможно, вообще принципиально не решаемая ни в тогдашней японской парадигме «развивающегося суперкомпьютера», ни в теперешней парадигме глубокого машинного обучения, — прямо вытекает из теорем неполноты Гёделя, и мы поговорим о ней в следующих главах. А пока вернемся к неудачному проекту ICOT, провал которого может нас многому научить.

Идея замена алгоритмов «железом», то есть программных средств аппаратными, тоже не выдержала проверки. Вера в «железо» была характерна для 1960-70-х годов, но уже с начала 1990-х этот подход стал казаться устарелым. В дальнейшем развитие вычислительных машин пошло по противоположному пути: стали совершенствовать программные средства при более простых, но стандартных аппаратных.

Не оправдалась и наивная вера в то, что интеллект системы зависит от добавления новых процессоров. Чисто вычислительная производительность, достигнув некоего предела, практически прекращала расти даже после добавления новых параллельных процессоров, не говоря уже о моменте, упомянутом выше: что система вовсе не умнела, а, скорей, глупела с ростом вычислительных мощностей.

Но самое главное, техношовинисты, вставшие у руля проекта, сильно переоценили тогдашнее состояние разработок искусственного интеллекта — ведь многие из задач, которые ставились тогда, не решены и сегодня, почти тридцать лет спустя, при том что возможности вычислительной техники и алгоритмизации процессов несоизмеримо выросли.

Понятно, что свою роль сыграл и волюнтаризм руководства, назначенного правительством, и то, что решения по проекту принимались высшими должностными лицами страны и топ-менеджерами крупных корпораций, которые были традиционно некомпетентны в науке и философии. А именно от них зависело последнее слово по ключевым вопросам, и они, как могли, играли свои роли, имитируя, что разбираются в процессах, которыми управляли.

Японская корпоративная и бюрократическая культура отнюдь не способствовала учету дельных возражений — то есть в проекте не хватало той самой «обратной связи», которая делает систему по-настоящему хорошо управляемой. Свою роль в фиаско ICOT сыграло и убеждение в том, что чем выше пост человека, тем он больше понимает практически во всем.

А ведь именно принцип обратной связи лежит в основе искусственного, да и естественного интеллекта, без этого происходит застой и распад научных школ и сообществ, того самого «коллективного разума», о котором я писал.

Если вы пытаетесь создать искусственный интеллект или ту самую «экономику знаний», базируясь на принципах древнеримской книги «Как управлять рабами», будьте готовы к сюрпризам.

Проблема заключалась в той самой централизации, которую так воспевали былинники постиндустриального общества типа Дэниэла Белла. Возможно, в этом заключалось главное противоречие: децентрализованную самообучающуюся и самосовершенствующуюся систему пытались построить централизованными, почти диктаторскими методами, до сих пор привычными, впрочем, для современных корпораций, как частных, так и государственных.

Подобный подход характерен, к сожалению, и для России, и стоило бы разобрать провал нескольких крупнейших российских проектов по развитию высоких технологий, которые основывались примерно на тех же принципах, что и японский проект ICOT. Здесь нет места для подобного разбора, но я надеюсь, это станет предметом чьего-нибудь глубокого исследования.

Если бы Сверхразум запускал подобный проект, вряд ли он бы построил структуру принятия решений таким образом.

«ЭКОЛОГИЧЕСКИЙ НАЛОГ» АДОЛЬФА ГИТЛЕРА

Интересный пример несбывшихся надежд на технологический прорыв можно найти в нацистской Германии. Здесь, как и в случае с японским проектом, волюнтаризм и централизация привели к принятию неверных решений, и делу не помогли даже передовые разработки немецких ученых.

Как это ни парадоксально, речь идет о «зеленых технологиях». Гитлер считал, что нефть, которой Германии катастрофически не хватало, можно заменить синтетическим топливом. Топливо требовалось рейху для подготовки к мировой войне, а иностранной валюты на ее закупку было в обрез, поэтому вариантов действий было два. Первый: создать синтетическое топливо. Второй: силой захватить крупные месторождения, расположенные в других странах.

Сначала немцы попробовали пойти по первому пути. Гитлер даже ввел что-то наподобие «зеленого налога» на потребление бензина, а концерну IG Farben было поручено синтезировать топливо из угля. IG Farben с его 200 тысячами служащих и активами более чем на 1,6 миллиардов рейсхмарок являлся одной из крупнейших частных компаний не только Германии, но и всего мира.

Руководство концерна, получавшего огромные доходы в ходе второй промышленной революции, принадлежало к либеральному лагерю германских промышленников. Концерн тесно работал с ведущими учеными и с правительством, в создание новых технологий были вложены суммы, сопоставимые с инвестициями в люфтваффе. Об этом пишет автор авторитетнейшей книги о нацистской экономике «Цена разрушения» Адам Туз. Программа строительства установки по превращению угля в нефть следовала четкой научной логике и выполнялась неукоснительно. Но подход руководителей концерна и страны опирался на волюнтаристский тезис о том, что нефтяные скважины вот-вот опустеют и цены на топливо взлетят до небес. Вам это ничего не напоминает?