Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 5)

Чем вам, кстати, не обоснование любых будущих плодов развития «искусственного интеллекта» — если под последним понимать математический алгоритм?

Гильберт вообще верил в человека и его неограниченные возможности к познанию. Верил он в мир и международное сотрудничество. Во время Первой мировой войны он отказался подписать манифест в поддержку действий германских войск, который одобрили такие крупные ученые, как Макс Планк и Вильгельм Рентген. Годы войны Гильберт провел в Гёттингене. Нацистские ученые провозгласили свободу науки от «еврейского влияния». Немецкая математика отвергла теорию множеств — возможно, из-за использования в ней неарийских символов, а сторонники интуиции в науке, которых когда-то Гильберт высмеивал, образовали «Немецкое математическое общество» и были в фаворе у главы Имперского научно-исследовательского совета пар-тайгеноссе Геринга.

Имперский министр науки, воспитания и народного образования Бернхардт Руст как-то спросил у Гильберта: «Ну как математика в Гёттингене, после того как она освободилась от еврейского влияния»? Гильберт ответил язвительно, но иронию могли распознать только те, кто разбирался в его трудах. «Математика в Гёттингене — ее больше нет», ответил он, намекая на то, что она утратила внутреннюю непротиворечивость, а следовательно и смысл.

Гильберт был представителем той подлинно международной научной школы, среди представителей которой можно назвать таких гениев, как Нильс Бор, Альберт Эйнштейн, Петр Капица, к которой, конечно же, относился и умерший не так давно академик Жорес Алферов. Для этих настоящих «сверхумов» цель науки заключалась не в наживе, контроле или власти, а в объединении человечества и максимальном развитии способностей каждого человека. Я убежден, что только следуя этим установкам коллективного разума, о котором мы поговорим в отдельной главе, человечество может выжить. Только гуманизировав так называемый «искусственный разум» как часть нашего коллективного разума, мы сможем избежать «враждебного поглощения» и двинуться дальше.

Вернемся в Кёнигсберг 1930 года. Конгресс должен был стать триумфом Гильберта, который думал, что сумел обосновать всю математику, то есть при помощи логики показать, что вся она непротиворечиво строится на некотором числе аксиом. Аксиома — это положение, не требующее доказательств, интуитивно ясное. На фундаменте из нескольких аксиом греки возвели внушительное и красивое здание геометрии — некоторые из теорем вы, может быть, до сих пор помните. Это совершенство с древних времен вдохновляло ученых, и не только математиков — каждая наука стремилась создать что-то столь же прекрасное, как греческая геометрия. Гильберт, как ему казалось, показал, что если на основе аксиом можно выстроить арифметику целых чисел, то удастся логически свести к ним вообще всю математику. Именно по этой идее Гильберта и нанес сокрушительный удар юный гость из Австрии.

Следующий абзац можете прочесть по диагонали и, если непонятно, следуйте дальше — но имейте в виду, что в одной из глав книги довольно подробно разбирается понятие рекурсии, которое имеет очень важное значение для понимания интеллекта вообще, как «искусственного», так и натурального.

Итак, в двух своих «теоремах неполноты» Гёдель рассмотрел внутренне непротиворечивые рекурсивные аксиоматические системы, достаточно мощные, чтобы описать арифметику натуральных чисел. Такой системой, кстати, можно считать и интеллект. Так вот, математик доказал, что

для таких систем найдутся утверждения, истинность которых невозможно доказать, исходя из имеющихся в системе аксиом. Первая теорема гласит, что для любой такой системы всегда будет существовать истинное утверждение, которое невозможно ни доказать, ни опровергнуть изнутри системы. Согласно второй теореме, система не может сама продемонстрировать свою непротиворечивость —то есть, исходя из системы, нельзя вывести формулу ее собственной непротиворечивости.

Теоремы Гёделя хорошо объясняют живучесть конспирологических истин. Ни одна из них не была решительно подтверждена или опровергнута. Недавно все стали писать о том, что Гитлер не отравился в бункере, а сбежал в Аргентину и умер чуть ли не в дни распада «Битлз». Есть и подробности, и доказательства: кто-то уверяет, что видел Гитлера в кафе в Буэнос-Айресе, тот, конечно, был без усов —сбрил для конспирации, носил пенсне и говорил по-испански Эти австрияки, черти, способные к языкам. Если не Гитлер, то кто? Его вывезли на подводной лодке Кригсмарине и поначалу разместили на асиенде Сан-Рамон, к востоку от Сан-Карлос де Барилоке. А потом он переехал почти к самой чилийской границе, ну, знаете, у озера Науэль Хуапи. Посмотрите сами, если не верите. Все точно и доподлинно и подтверждено независимым журналистом Джерардом Уильямсом, который учился в Кембридже. Или в Оксфорде. В любом случае его книжку продает Amazon, и это было в новостях на «Первом», не верить этому нельзя.

Внутри системы аксиом, в которой выпускник Оксбриджа говорит только правду, а Сталин лично убил 30 миллионов человек, любые споры бесполезны. Как можно отрицать «факт», о котором писала вся желтая пресса, только на том основании, что об этом писала желтая пресса? Во-первых, сегодня трудно провести границу между прессой желтой и прессой других цветов. И если «Нью-Йорк Таймс» не пишет ничего на тему «Гитлер в Аргентине», это ни о чем не говорит. Изнутри конспирологической системы ни доказать, ни опровергнуть ее «факты» невозможно.

Точно так же любой истинный факт можно объявить конспирологией — и сделать это без каких-либо доказательств. На этом приеме часто строится манипуляция массовым сознанием. Можно сказать, что Джулиан Ассанж — агент ФСБ, и этот факт будет невозможно до конца ни доказать, ни опровергнуть. Ведь Ассанжа обвиняли в сексуальных домогательствах — почему бы ему не быть агентом? А еще он знаком с Исраэлем Шамиром, что точно выдает в нем агента российских, а может быть, кубинских или северокорейских спецслужб. Таким образом на Ассанджа брошена тень или хотя бы полутень, что, собственно, и нужно манипуляторам: теперь вы будете ставить под сомнения правдивость самых твердокаменных и документально подтвержденных расследований «Викиликс».

Итак, мы видим, как теоремы неполноты Гёделя активно используются, пусть и бессознательно, в конспирологии, пропаганде и манипуляции массовым сознанием. О важных выводах применительно к машинному обучению мы поговорим в соответствующей главе, но и в 1930-е годы, когда еще никакого машинного обучения не было, идеи Гёделя произвели эффект разорвавшейся бомбы.

Эти теоремы были сразу же применены ко всему человеческому познанию. Их толковали в том смысле, что некоторые истины никогда не будут познаны, а внутренняя непротиворечивость самой науки — любой науки — всегда будет оставаться под вопросом.

Что это означает в применении к интеллекту, показал наш современник, австрийский ученый Ханс Моравек. Замечаете, как много австрийцев причастно к теме интеллекта? На страницах этой книги их появится еще немало. Моравек — специалист по робототехнике, футуролог, профессор Университета Карнеги Меллона в Питтсбурге, штат Пенсильвания, считается одним из самых глубоких из ныне живущих мыслителей в области искусственного интеллекта. Еще в 1980-е годы Моравек сформулировал принципы того, как ИИ приобретает знания, и эти принципы, в общем-то, противоречили здравому смыслу. Поэтому принято говорить о «парадоксе Моравека». Парадокс гласит, если излагать его без научного жаргона, что познание высокого уровня требует меньше вычислений, чем бессознательное познание низкого уровня. Это чисто эмпирическое наблюдение противоречит вроде бы очевидной мысли о том, что чем больше у нас вычислительных возможностей, тем более «интеллигентные» системы мы сможем создать.

Давайте вникнем подробнее. Системы с искусственным интеллектом могут решать невероятно сложные статистические и логические задачи, от которых голова пойдет кругом у любого человека, как бы умен он ни был. Однако такие простые человеческие задачи, как достать рукой предмет, вызывают у роботов ступор или требуют очень громоздких и сложных вычислительных моделей. Вот как это описывает Моравек:

«Относительно легко научить компьютеры показывать способности взрослого человека, такие как проходить тесты на интеллект или играть в шашки. Но трудно или вообще невозможно научить их тому, что умеет годовалый ребенок в том, что касается восприятия или движений».

Неявное, но вполне очевидное следствие парадокса Моравека заключается в том, что наилучших результатов можно достичь сочетанием машинного и человеческого интеллекта. Назовем такое сочетание Объединенным интеллектом.

По невежеству или целенаправленно, но нас приучают рассматривать искусственный интеллект как нечто внешнее, но это путь в никуда. На деле уже сейчас, как я покажу в следующих главах, ИИ — часть нашего коллективного разума, своего рода расширение в нем. Борясь с искусственным интеллектом наподобие луддитов, мы будем бороться сами с собой.

Вообще, можно ли считать «искусственный интеллект» отдельным от нас существом? Поэты могут видеть живое существо даже в отвлеченной концепции — в стране, в цифре, в машине — но в основе этого лежит поэзия как особый способ восприятия мира. Нет сомнения в том, что разработчики ИИ доберутся в конечном итоге и до поэзии, вытащив из поэтических структур что-то полезное для машинного обучения — но пока мы еще не в этой точке.