Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 29)
Бортовой компьютер Хал 9000 и есть этот сверхразум, у него своя повестка, он как бы следующий этап эволюции человечества. Хал чувствует себя непогрешимым, и у него своя мораль, в которой человеку нет места. Он обманывает людей, устраивает за ними слежку и подслушивает их тайный разговор о том, что компьютер стал опасным и нужно его отключить.
Разумеется, Сверх-сверх-разуму, да и искусственному интеллекту уровня Хала, не нужно даже устраивать тотальную слежку за людьми. Сегодня такой ИИ легко сможет просеять совершенно открытые человеческие идеи о том, как от него избавиться — книги, серьезные и не очень, манифесты, фильмы, комиксы, разговоры на ютьюбе. Просеять и принять превентивные меры. В фильме Кубрика эти меры просты: Халу достаточно просто обрубить трос, связывающий астронавта с частичкой Земли, с кораблем. А человек ведь не изменился со времен неандертальцев —в открытом космосе он обречен. Это к вопросу о том, за счет чего машины могут переиграть людей, когда дойдет дело до выяснения отношений.
И, наконец, в фильме показан момент преображения, или жизни после смерти, когда человек перешел на следующий уровень. Сохранив себя, даже в своем физическом облике, «по образу и подобию», он тем не менее без всякой оболочки может существовать в космосе. Первыми этот путь, кстати, наметили русские космисты — но к этой теме мы будем возвращаться в других главах.
Так — под все тем же оком Сверх-сверх-разума — начинается история нового человечества, к которой вся наша обычная история была лишь прелюдией.
Этот эпический фильм, который со времен создания входит во все возможные рейтинги самых выдающихся художественных и фантастических лент, использует модную тему космического полета лишь как внешнюю сюжетную оболочку, чтобы рассказать и о грядущем столкновении человека, которого создал искусственный разум — с искусственным разумом, созданным им самим, и о возможном пути человеческой эволюции.
Идея космоса как обратной стороны нас самих, похожего в этом смысле на искусственный разум, носилась в воздухе — или лучше сказать, в ноосфере, в пространстве коллективного человеческого разума — как раз в конце 1960-х года. Примерно о том же снимает свой «Солярис» великий режиссер Андрей Тарковский — фильм выходит на экраны в 1972 году. Вряд ли это совпадение, что в то же самое время на Земле происходят социальные потрясения, которые будут иметь далеко идущие культурные, духовные, политические, социальные и технологические последствия. Ощущение, что на планете тогда действительно происходил ноосферный катаклизм! Интересно, что великий польский фантаст и футуролог Станислав Лем в романе, по которому снят фильм, очень подробно описывает страшные и величественные бури и изменения, которые случаются на поверхности выдуманной им планеты Солярис — и эта поверхность представляет собой разумный океан!
В это трудно поверить, но Лем написал роман еще в 1960 году — до полёта Юрия Гагарина. «Солярис» — одна из тех гениальных книг, которые ведут реальность за собой, появление таких произведений как раз и приводит к бурям в разумном океане — бурям, волны от которых доходят до нас и сегодня.
Но вернемся к Марвину Минскому. В книге «Общество разума» он описал процесс сборки искусственного интеллекта из простых частей, которые он назвал агентами, которые сами по себе разума не имеют. Разум, по Минскому — это даже не получившаяся структура, а само взаимодействие между собой этих агентов. Будучи атеистом, он ничего не говорил о душе, а человеческий разум считал таким же агентом, как и остальные возникшие за сотни миллионов лет эволюции когнитивные системы. Разум — это не какая-то целостная единица или следствие базового принципа, считал Минский, разум —это общество агентов, когнитивных процессов, которые на выходе производят способности, которые, как мы считаем, делают нас разумными.
Разные агенты могут строиться на основе разных процессов с разными целями, разными путями представления знаний и разными методами получения результата.
Идея лучше всего описывается следующей цитатой из «Общества разума»: «Какой волшебный фокус делает нас разумными? Фокус в том, что нет никакого фокуса. Сила интеллекта проистекает из нашего разнообразия, а не из одного идеального принципа».
Мозг, считал Минский, можно сравнить не с одним компьютером, а с четырьмя сотнями —и каждый из них работает по-разному. Принципы работы каждой из колонок новой коры одни и те же, но каждая из колонок эволюционно строилась по-своему, поэтому обрабатывают информацию и выдают результат они тоже по-разному. Минский восхищался свойством человеческого мозга не сдаваться, если задача не решается привычным способом, а получив сообщение об ошибке или о невыполнении задачи в срок, перебрасывать работу на другой участок коры, на другую колонку. Он сравнивал этот процесс с высокоэффективным управлением гигантской корпорацией.
Минский писал, что мы подошли к той точке, когда существует много самых разных способов решать задачи, и машина должна использовать наиболее подходящий — а не только, скажем, нейросети. И мы, люди, имеем весьма слабое представление о том, как решать задачи, а вот машины смогут разобраться в этом и применить правильный метод.
Люди — это те же машины, в которых разум возникает из взаимодействия множества неразумных или частично разумных агентов, из которых состоит мозг. Поэтому когда-нибудь в будущем компьютеры станут разумнее людей. Минский предупреждал, что может возникнуть ситуация, когда искусственный интеллект, которому будет поручено решать какую-нибудь невинную математическую проблему, может прийти к выводу, что для выполнения задачи ему нужно будет построить суперкомпьютер, а для этого, в свою очередь, понадобятся ресурсы всей планеты.
Впрочем, ученый был оптимистом и считал, что перед тем, как запускать такой ИИ в работу, люди тщательно его проконтролируют. Такая точка зрения наверняка казалась наивной и 50 лет назад, ведь Халу из «Космической одиссеи» удалось усыпить бдительность своих «проверяющих».
В одном из телеинтервью Минского спросили, как он относится к идее внедрения в человеческий мозг трансплантов и за счет этого усиления его мощности и возможностей. «Я бы предпочел не вставлять чипы в мозг, — ответил ученый, —а наоборот, транспортировать сам мозг на другой носитель, туда, где меньше багов, и где легко в случае чего можно будет заменить материнскую плату».
Ученый вряд ли шутил, когда сравнил человеческое тело с изношенной материнской платой. Сам он, во всяком случае, стал членом Научного совета общества «Алькор», о котором пойдет речь в другой главе этой книги. Оно занимается глубоким замораживанием мозгов и, за дополнительную плату, целиком «материнских плат» своих членов. Сообщалось о том, что мозг Минского заморозили 27 января 2016 года. На контейнере, содержащем его разум, написано: «Пациент 144».
ТЕХНОСАМУРАИ АТАКУЮТ
ВЕЛИКАЯ ЯПОНСКАЯ МЕЧТА
В начале августа 1982 года самые многообещающие молодые компьютерщики Японии собрались на совещание. Оно происходило на двадцать первом этаже типового небоскреба в центре Токио, за типовой дверью с толстым окошком, напоминающим кусок льда, на которой висела типовая табличка со скромной надписью по-японски и по-английски: «Институт компьютерной технологии нового поколения» (Institute for New Generation Computer Technology (ICOT)).
Правда, из типового офиса, находившегося за типовой дверью, открывался потрясающий вид на Токио: блестел на солнышке залив, в промежутках между домами розовели и зеленели сады, а вдали синела в легкой дымке знаменитая гора Фудзи.
За длинным столом в просторной светлой комнате с видом на Фудзи сидело сорок молодых исследователей, молчаливых очкариков с упрямыми лицами. Это были лучшие из лучших, юные гении программирования, математической лингвистики, логики, вычислительной техники, отобранные для участия в самом, пожалуй, многообещающем проекте в истории Японии.
Через десять лет Стране Восходящего Солнца предстояло стать ведущей экономикой мира, страной с самыми продвинутыми технологиями, настолько продвинутыми, что и друзья, и враги будут искать ее расположения.
Японское чудо было в самом разгаре, японские компании скупали самую дорогую недвижимость в самых дорогих городах мира, японская бизнес-модель считалась примером для подражания. Японцы собирались капитализироваться на своем промышленном чуде и произвести новый чудо-продукт. Он должен был прийти не из шахт, полей или морей, не с фабрик и заводов — а прямо из мозгов, из голов. Чудо-продуктом, с помощью которого Япония собралась покорить мир, были знания. Они собирались упаковывать и продавать знания в той же манере, как другие народы продают нефть, газ или промышленные товары — с той поправкой, что знания будут стоить гораздо дороже и принесут им глобальное экономическое лидерство.
Примерно за год до этого, в октябре 1981 года, правительство публично объявило, что собирается потратить на создание пятого поколения компьютеров $450 млн. Еще столько же должны были внести частные компании-участники проекта.
В консорциум, образованный для поддержки проекта, вошли такие столпы японской экономики, как Fujitsu, Hitachi, Nippon Electric Corporation, Mitsubishi, Matsushita, Oki, Sharp и Toshiba. Государство поддержало проект через две свои крупнейшие лаборатории, Nippon Telephone and Telegraph’s Musashino Laboratories и электротехническую лабораторию MITI.