Леонид Черняк – Об ИИ без мифов. Путеводитель по истории Искусственного Интеллекта (страница 16)
О целесообразности переориентации научного сообщества со стремления наделить машины человеческими качествами на обеспечение более продуктивного взаимодействия человека с компьютером писал Джозеф Ликлайдер, психолог, вошедший в историю своей ролью в создании интернета. Ликлайдер был руководителем отдела методов обработки информации (Information Processing Techniques Office, IPTO) – подразделения ARPA, курировавшего разработку Глобальной сети. Ликлайдер автор знаменитой статьи «Симбиоз человека с машиной» (
Может показаться странным, но в 60-е годы способность компьютера, играть в шахматы, сочинять музыку или выполнять перевод с иностранного языка казалась гораздо более важной, чем умение решать те многочисленные и разнообразные прагматические задачи, для которых он используется сегодня в 99,99 % случаев. Нужен был кто-то, кто мог изменить цели и по-иному расставить приоритеты, и этим кем-то оказался психофизиолог Джозеф Ликлайдер. Он предложил направление, им же названное interactive computing, где во взаимодействии с человеком машине отведена вспомогательная роль. Через пару лет Даг Энгелбьарт уточнил роль компьютера – усиление человеческого интеллекта (augmenting the human intellect).
В статье Ликлайдера находим: «Задача состоит в том, чтобы обеспечить симбиотическое партнерство человека и машины, где человек ставит цели, формулирует гипотезы, определяет критерии и дает оценки, а на компьютер возлагается рутинная часть работы, способствующая повышению продуктивности человека». Эта мысль Ликлайдера остается актуальной по сей день: с внедрением новых технологий повышается уровень взаимодействия, в компетенцию машины переходят те рутинные функции, которые прежде мог выполнять только человек.
Критические взгляды таких ученых, как Вейценбаум и Ликлайдер, с одной стороны, и отсутствие практических результатов с другой, не могли остаться незамеченными. Была, правда, надежда на системы автоматизации перевода MT, но и они не оправдывали ожиданий. Для того чтобы сравнить обещанное в этой области с реальностью в 1964 году правительство США создало специальный комитет ALPAC (Automatic Language Processing Advisory Committee), его составили семь ученых, принадлежавших к разным направлениям, в том числе и те, кто серьезно занимался проблемами МТ. Наиболее критично был настроен Энтони Этингер (Anthony Oettinger, 1929), написавший диссертационную работу на тему автоматизации составления словарей еще в 1954 году и понимавший реальную сложность задачи МТ. Эттингер автор термина компьютерные коммуникации, был консультантом по высадке на Луну «Аполлона», президентом Ассоциации вычислительной техники (ACM), участвовал в работе разведывательного сообщества. Лингвистам хорошо известна его фраза, ставшая каноническим образцом неоднозначности живого языка «Time flies like an arrow; fruit flies like a banana» (Время летит как стрела, а фруктовые мухи любят бананы). В первом употреблении flies переводится глаголом летит, а во втором существительным муха, этот пример демонстрирует ограниченность тривиальных систем MT. В своем отчете, подготовленном к 1966, году ALPAC скептически оценил сделанное и перспективы подхода «слово-в-слово», он констатировал необходимость серьезных академических исследований. Это решение критическим образом повлияло на отношение военных к AI в целом, не только к MT, и стало первым импульсом к сокращению финансирования, близилась «первая зима AI».
Отчет Лайтхилла
Свою особую роль в судьбе AI сыграло правительство Великобритании. Обеспокоенное ситуацией неопределенности, оно в 1973 году обратилось за консультацией к специалисту в области прикладной математики Джеймсу Лайтхиллу, не связанному напрямую с AI, и предложило дать объективную оценку происходящему. Лайтхилл провел всестороннее исследование, проштудировал доступные источники и побеседовал с 52 (!) наиболее известными экспертами в области AI, классифицировал полученные данные, выполнил анализ и сделал прогноз на следующие 25 лет. Отчет официально называется
Лайтхилл начал с анализа статус-кво, разделив всю существовавшую на тот момент деятельность в области AI на три направления – A, B и C по специфике выполняемой в этих направлениях работы.
• A – Advanced Automation (продвинутая автоматизация), сюда он включил все, что так или иначе связано с разработкой машин, способных заменить человека в самом широком смысле этого слова. Направление А он в свою очередь разделил на два канала: один – назовем его A1 – индустриальные и военные приложения, другой – приложения AI к математике и науке. Первый реализуется с применением логических, а не только, как прежде, арифметических, способностей компьютеров для совершенствования систем и процессов управления, а также при разработке таких вещей как распознавание печатных текстов, изображений, на криптографию и на тому подобные вещи, которые сегодня стали естественными составляющими окружающей среды. Второй канал A2 – это доказательства теорем, машинный перевод и другие задачи, которые можно отнести к HLMI, то есть к машинному разуму человеческого уровня
• C–Computer-based CNS (воспроизведение на компьютере центральной нервной системы), в основе которой лежат теоретические исследования в области нейрофизиологии и психологии. Слово теоретические подчеркивает тот факт, что тогда это были не попытки моделировать реальную работу нервных клеток, а создание теоретических моделей мозга на основе общих принципов, известных из нейрофизиологии. Этот направление развивают не биологи, а математики, вкладывающие в свои модели полученное ими представление о работе мозга. Сегодня мы называем этот подход коннекционистским.
• B – Building Robots (создание роботов). Лайтхилл еще использует для него название Bridge activity, то есть объединенная деятельность направлений A и B с целью создания разумных машин-роботов.
Разобрав в первой части состояние дел во всех трех направлениях, автор отчета переходит ко второй части, которую он назвал Past disappointments, то есть разочарования прошлым. В ней он констатирует, что разочарование постигло как тех, кто работал по направлению A, так и тех, кто избрал направления С и B. Реальные достижения в автоматизации с использованием AI не идут ни в какое сравнение с успехами традиционных автоматизированных систем управления, достаточно представать сложность и успешность систем управления в космической индустрии, в авиации и т. д. Достижения по части перевода и доказательства теорем не идут ни в какое сравнение с тем, что делает человек. Столь же критически Лайтхилл оценивает положение в направлениях C и B.
Его основной вывод заключался в признании явного несоответствия уровня притязаний тех специалистов, которые занимаются AI, тому, на что они способны, накопленному ими научному багажу и потенциалу доступных им технологий. Общий тон отчета по-английски не категоричен, он скорее предупреждающий, чем отрицающий, призывает к трезвости в оценке сложившейся ситуации. Доклад заканчивается прогнозом на следующие 25 лет и предостерегает от излишнего оптимизма. Руководствуясь рекомендациями Лайтхилла, Британское правительство отказалось от идеи дополнительного экстренного финансирования AI, позволив событиям развиваться естественными темпами.
Представление отчета публике приняло форму открытой дискуссии в Палате Общин, транслировавшийся по каналу BBC. На роль оппонента был приглашен не кто иной как автор термина AI Джон Маккарти. Доступная в Сети полуторачасовая запись этой акции, интересна не только по содержанию, но и по форме, ее легко найти в YouTube и на официальной странице отчета. Обычно критику, содержащуюся в этом документе, рассматривают как одну из главных причин наступления первой зимы AI, но это не совсем так. Отчет констатирует факты, его можно сравнить с медицинским анализом, вскрывающим реальное положение дел, которое не соответствовало представлению заинтересованной стороны. Поведение Маккарти на слушаниях выглядит по меньшей мере странно, он не смог ничего противопоставить безукоризненно точным доводам Лайтхилла, продемонстрировав перед камерой удручающую беспомощность. Показательно, что только лет через 8–10 Маккарти довольно вяло прокомментировал свое участие в этих дебатах. Есть выражение «must read», то есть «обязательно к прочтению», про эту видеозапись можно сказать, что она «обязательна к просмотру».
Первая зима AI
Несмотря на то что в 60–70-е годы все работы, связанные с AI, были сосредоточены всего в трех местах: поначалу только в МТИ, после переезда туда Маккарти еще и в Стэнфордском университете, а позже и в Университете Карнеги – Меллона, работавшей в них относительно немногочисленной команде удалось привлечь к себе и своей деятельности немыслимое внимание со стороны правительства США. Они не только давали многочисленные обещания о скорой готовности AI, но к тому же сулили неизбежные социальные потрясения, которые вызовет в близком будущем внедрение AI. Запуганная Минским и его командой администрация президента Джона Кеннеди начала, а его преемника Линдона Джонсона завершила создание меморандума о тройной угрозе AI обществу (The Triple Revolution), с описанием прогнозируемых опасностей по трем направлениям: первое – автономные средства вооружения, второе – сокращение занятости и третье – нарушение гражданских прав. Это был первый из бесконечной череды апокалиптических прогнозов, предвещающих чудовищную опасность AI для общества. Особую обеспокоенность проявила весьма влиятельная в те годы организация «Центр изучения демократических ценностей» (Center for the Study of Democratic Institutions), среди тех, кого эти угрозы волновали, оказались многие демократически ориентированные персонажи, в том числе Мартин Лютер Кинг.