Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 58)
Я беседовал со знаменитым роботом Софьей, изготовленной замечательными ребятами из проекта Singularity, но понятно, какая большая работа целой команды стоит за ее жестковатым юмором и впечатляющим дизайном в стиле фильма Ex Machina (или создатели фильма вдохновились образом Софьи?). Она отвечала на мои вопросы, и довольно неплохо, но я подозреваю, что список вопросов, которые человек задает, встречаясь с ней впервые, довольно короток. Так что для меня осталось полной загадкой, поняла ли она меня и понимает ли она вообще, что говорит (впрочем, таким же «искусственным интеллектом» является любая женщина).
Что можно сделать, чтобы ИИ смог преодолеть «смысловой барьер», или «барьер понимания»? Несомненно, для этого нужно глубже изучить, как работает восприятие и сознание самого человека. Наше понимание ситуаций, с которыми мы сталкиваемся каждый день, основывается на здравом смысле.
Никто толком не знает, что это такое, но если не углубляться, то это некий набор знаний о том, как устроен мир, о том, как ведут себя в нем другие: люди, животные, неодушевленные объекты, что ими движет и так далее. В здравый смысл входит и наше понимание законов природы, даже абстрактных концепций вроде электричества или того же интернета. А еще мы умеем подстраиваться, даже иногда, хотя и нечасто, учиться на своих ошибках, и почти никогда на чужих. Но в целом эволюция и человеческая история показала, что мы достаточно неплохо адаптируемся к самым разным ситуациям.
Какие-то вещи мы делаем интуитивно, какие-то — инстинктивно, какие-то — повинуясь здравому смыслу, а какие-то — наперекор ему. Человек сложное создание, но без этой сложности и непредсказуемости не было бы, по всей видимости, сознания.
Исследователи уже не одно десятилетие пытаются создать методы научения ИИ искусству делать обобщения, здравому смыслу и даже таким вещам, как интуиция и воображение. Но если в обобщениях они, при всех оговорках, продвинулись, в других областях особого прогресса пока нет.
Все это могло бы не волновать нас, обычных людей, которые далеки от проблематики создания ИИ. Пусть ученые занимаются своим делом, а мы будем заниматься своим, не так ли?
Нет, не совсем так, или, вернее, совсем не так. Все эти плохо пропеченные пока системы и агенты с искусственным интеллектом больше и больше применяются повсюду — и принимают решения, от которых зависит жизнь людей.
За ИИ стоят огромные инвестиции, на кону огромные состояния и карьеры талантливых капитанов индустрии, амбициозных ученых, бюрократов, которые мечтают продвинуться, ничего не делая и ни за что не отвечая — вернее, переложив на ИИ свою ответственность.
Слишком много людей заинтересовано в возможно более широком распространении ИИ и его возможно более быстром развитии. И в как можно большей автономии систем с искусственным интеллектом.
Проблема пока что не в том, что вот-вот появится Сверхразум или «сильный ИИ», который с легкостью будет проходить тест Тьюринга. Настоящая проблема в том, что мы слишком стали доверять пропаганде вокруг ИИ, что мы считаем эти алгоритмы совершеннее, чем они есть на самом деле, и готовы отдать им на откуп целые сферы человеческой деятельности. Да, мы грешные и ошибающиеся люди — но нас хотят заменить столь же часто ошибающимися машинами, которые не ведают греха и не понимают, что это!
Так что же, искусственный интеллект —бумажный тигр? В этом духе рассуждают многие. Это напоминает истории, которые рассказывали в начале 1970-х гэбистам командировочные на Запад: что есть там такие электронно-вычислительные машины, которые заводят, чтобы не выпасть из моды, и цвет выбирают под интерьер.
Впоследствии оказалось, что ЭВМ нужны не только для того, чтобы украшать интерьер, и те руководители КГБ, которые смеялись над рассказами командировочных, сами стали покупать американские персональные компьютеры. На пенсии, проиграв страну.
Действительно, системы с ИИ сегодня имеют множество недостатков, и пока непонятно, как с этим быть. Но развитие не стоит на месте: десятки тысяч ученых по всему миру каждый день выходят на работу, чтобы добиться прорыва в создании «сильного ИИ». Их мотивируют каждый день для того, чтобы ИИ работал лучше и лучше — пока на узких задачах, потом на более широких. Вероятно, для того чтобы преодолеть «смысловой барьер», разработчикам ИИ придется сделать шаг назад, забыть про создание все больших нейросетей и баз данных, подумать над корневыми проблемами наук о познании, поискать какие-то интересные процессы из области неизвестно пока какой науки, которые могут привести к решению, может быть, самой сложной из научных проблем: открытию природы интеллекта. И, как следствие, к прорывному развитию ИИ. Ученым точно придется внимательнее всмотреться в человека и его особенности, в его когнитивные способности и недостатки, которые могут тоже обернуться открытиями. Взять лишь психическое расстройство деперсонализации — может быть, его изучение откроет нам что-то очень ценное о природе нас как организмов. Возможно, ученым даже придется отказаться от цифры и обратиться вновь к аналоговым системам, не смотря на все вложения в пропаганду цифры и хайп вокруг нее.
И самое главное. Не имея сознания, системы с ИИ обладают важным преимуществом перед людьми: они быстрее считают и быстрее реагируют. О том, насколько важно это преимущество, знал когда-то каждый шериф на Диком Западе.
Если мы думаем, что, выпустив джинна из бутылки, мы сможем затолкать его обратно, мы ошибаемся.
СВЕРХИНТЕЛЛЕКТ И КОНЕЦ ИСТОРИИ
ЗАКОН УДВОЕНИЯ ТЕХНООПТИМИСТОВ
Энтузиасты компьютерной революции очень любят цитировать журнал Scientific American за 1983 год. Согласно этому изданию, самолет «Боинг-767» стоил бы всего 500 долларов и мог бы облететь вокруг Земли за 20 минут, если бы авиапром с конца 1950-х развивался такими же темпами, как вычислительная техника. При этом самолет затратил бы меньше 20 литров топлива.
Когда глава компании Intel Гордон Мур заметил, что число транзисторов на единицу площади микросхемы удваивается каждые два года, это наблюдение сразу провозгласили законом природы. Некритически воспринятый, «закон Мура» вызвал эйфорию с далеко идущими последствиями. Свои Муры появились в других быстро развивающихся технологических отраслях. Например, американский изобретатель и евангелист трансгуманизма Рэй Курцвейл провозгласил, что каждый год удваивается добытая исследователями информация о мозге, удваиваются и возможности нейронауки. Курцвейл подвел под «удвоением всего» теоретическую базу, назвав это «законом ускорения отдачи». Не все журналисты слышали о первом законе Ньютона, при этом законы Курцвейла кочуют из издания в издание. Я бы сказал, что точно действует закон удвоения энтузиастов, заявляющих об удвоении прогресса в своей области.
Новое — это хорошо забытое старое, и у Мура с Курцвейлом, конечно, были предшественники. Еще Фридрих Энгельс писал о том, что движение науки вперед определяется объемом знаний, унаследованных ею от предшествующего поколения. Современная наука возникла в XVI-XVII веках, считал Энгельс, и с тех пор объем знаний рос пропорционально квадрату временного расстояния от точки её возникновения. Схожие идеи высказывал русский мыслитель Владимир Иванович Вернадский, писавший о непрерывном росте темпов научного творчества.
Действительно, уже несколько десятков лет подряд машины считают все быстрее, энергии на это тратят все меньше, а стоят при этом все дешевле. Правда, однако, и то, что в прошлые годы столь же стремительное развитие предсказывалось и другим отраслям.
Например, в 60-е годы считалось самоочевидным, что в районе 2000 года люди будут жить на других планетах и все мы будем летать на Марс. Космонавты и астронавты были известнее любых звезд кино, космические полеты оказали влияние даже на дизайн мебели и бытовой техники. В фильме «Космическая одиссея 2001 года» экспедиция, посланная на Юпитер для исследования загадочного монолита, делает остановку на Луне, где уже существует развитая колония землян. Кубрик снимал фильм как документальный: к съемочной группе были прикреплены эксперты из Национальной администрации по аэронавтике и космосу (НАСА), которые прорабатывали все компоненты систем управления кораблем и написали подробные инструкции по использованию различных узлов космических аппаратов.
Транспортные средства, скафандры и каждая мелочь в интерьере имели реальные прототипы, а консультанты жаловались на то, что не успевают отследить все новые идеи и изменения, которые происходят в реальной науке. Развитие космонавтики опережало художественную фантазию!
Но в реальности прогнозы о космическом будущем человечества не оправдались: сегодня как большое техническое достижение обсуждается возможность высадки на Луну — через 60 лет после первой. В фильме Кубрика миссия «Юпитер» терпит крах из-за свихнувшегося суперкомпьютера, который решил уничтожить космонавтов: не оказался ли такой сюжетный поворот пророческим для судьбы реальной космонавтики?
В повестке дня 60-х был и управляемый термоядерный синтез. Политики уже закладывали в свои расчеты скорое обретение человечеством почти бесконечных резервуаров почти бесплатной энергии: во многом на этом строилась программа КПСС, обещавшая коммунизм в 1980 году.