Гаспар Кёниг – Конец индивидуума. Путешествие философа в страну искусственного интеллекта (страница 19)
Порой я спрашиваю себя, не могла бы одна строка из Паскаля заменить все эти горы сухой экономической литературы: «Все несчастье людей проистекает из одной-единственной вещи, а именно из неумения оставаться в покое, в своей комнате». Хорошо это или плохо, но нам нужно развлекаться. Мы создаем деятельность. Если бы машина избавила нас от всякого усилия и всякого труда, мы были бы обречены на худшие из метафизических мучений. Чтобы убежать от жгучей мысли о смерти, мы всегда будем находить блага, которые еще нужно произвести, и услуги, которые еще предстоит оказать…
Даже если считать разрушение созидательным, вопрос о его масштабе все равно не исчезает. Пусть безработица всего лишь временная, все же необходимо понять, кто от нее пострадает, чтобы разработать соответствующую государственную программу. Действительно ли ИИ вытеснит всю деятельность, которой мы сегодня заняты? Кто избежит этого, по каким критериям их определять? В моих странствиях по Сан-Франциско мне попалась машина, которая любезно информировала посетителя о вероятности того, что его работу в ближайшие двадцать лет отберет робот. Что касается «писателей и авторов», у нас еще есть время: вероятность составляет всего 3,8 %. Однако наши коллеги судьи, врачи и банкиры должны задуматься: с вероятностью более чем в 50 % им придется менять профессию. Но как обстоит дело в реальности? Как разобраться в фантастических цифрах, которые легко попадают в заголовки газет? Я пообещал своему кузену, радиологу из Руана, вернуться из этого путешествия с четким ответом на вопрос о будущем его профессии, которую часто относят к числу наиболее «автоматизируемых»: говорят, что ИИ скоро сможет сам ставить диагноз, тогда как врач превратится в вежливого гида для пациента. Но дни шли, я читал все больше и больше разных исследований, выслушивал противоречивые объяснения и начал бояться, что не смогу выполнить это обещание.
Однажды вечером, вернувшись со своего ежедневного марафона, я перечитал свои заметки, закапывая себе капли в ухо (возможно, читатель еще помнит о моем отите). Для этого мне пришлось наклонить голову в сторону, а тетрадь повернуть на 90 градусов. Эта необычная поза несколько изменила привычный для меня способ чтения и заставила обратить больше внимания на цифры, написанные на левой странице, где я оставлял ссылки на источники, которые мимоходом упоминали мои собеседники. Именно поэтому меня привлекло краткое упоминание: «Д. Отор, парадокс Поланьи». И тут мне очень повезло… Благодаря этой ссылке я наконец нашел достаточное в концептуальном плане определение того, что значит «автоматизируемый».
Дэвид Отор – экономист из MIT. Несколько лет назад он опубликовал глубокую и вполне понятную научную статью, без уравнений и цитат, которая, как мне показалось, полностью проясняет вопрос автоматизации[69]. Начинает он с внешне вроде бы невинного наблюдения венгерского экономиста Карла Поланьи: «Мы знаем больше, чем можем выразить». Так, нажимая на педали, мы не смогли бы объяснить наши движения, а тем более физические законы, управляющие ими. Наши повседневные действия предполагают едва ли не бесконечную сумму неявных знаний. То есть мы применяем своего рода тайную эвристику, составленную из невидимых правил и бессознательных процедур. Парадокс Поланьи в каком-то смысле равноценен нашему месье Журдену, который говорил прозой, но не знал об этом.
Вот этот парадокс и задает четкие границы автоматизации. В самом деле, как инженеры могут запрограммировать компьютер, который бы моделировал процесс, неизвестный им самим во всех подробностях? Код опирается на представление, данное в явном виде. Чем сложнее разбить определенную задачу на отдельные этапы, тем с меньшей вероятностью ее сможет выполнять робот. Сложная среда с неточными параметрами бросает серьезный вызов алгоритмам, даже когда людям она кажется очевидной и «естественной». Парадокс Поланьи относится, таким образом, к сложным функциям, требующим интуиции и творческих способностей (например, таким как речь адвоката), но также и к более скромным видам деятельности, требующим адаптации к изменчивым ситуациям или к непредсказуемым человеческим взаимодействиям (таким как обслуживание в ресторане).
Для решения этих проблем специалисты по компьютерным наукам могут двигаться в двух направлениях. Первое – это упрощение среды. Если мы не можем окликнуть официанта, а должны занимать очередь нажатием кнопки, если мы больше не имеем возможности заменить картофель фри салатом или сделать из закуски основное блюдо, если, наконец, клиент должен выбирать вино самостоятельно, без долгих объяснений, тогда работу официантов, может быть, и правда автоматизируют. Но зачем вообще ходить в ресторан при таких условиях? Второй вариант, более перспективный, – дать возможность машине самой учиться. К этому и сводится идея «обучения без учителя», то есть техника обучения, при которой алгоритм получает минимальные инструкции и выводит свои собственные правила на основе актуальной среды. Так, в MIT я видел программу, которая учится говорить «как ребенок», выслушивая истории, связанные с определенными картинками[70]. Точно так же знаменитая программа AlphaZero, разработанная компанией DeepMind, учится играть в шахматы и в го, попросту играя против самой себя, безо всяких внешних инструкций. Компьютеру, следовательно, больше не нужно усваивать формальные правила, поскольку он может, опираясь на методы статистического вывода, выработать определенную форму правильной интуиции. Но, как отмечает Дэвид Отор, даже лучшему алгоритму всегда будет сложно определять цель: например, что стул сделан, чтобы сидеть, тарелка – чтобы есть, а шахматная доска – чтобы играть. Его способность к имитации будет создавать убедительную иллюзию лишь до тех пор, пока внезапное изменение в среде не заставит его подать мясо по-бургундски на стуле. AlphaZero сможет побить Каспарова, но вряд ли ему удастся поднести яйцо под майонезом к столику номер пять.
Итак, угроза автоматизации окажется тем более далекой, чем больше задача будет требовать, как говорит Дэвид Отор, «гибкости, суждения и здравого смысла». Вот тут-то снова и появляется здравый смысл, который дал нам ключ к интеллекту! И это неслучайно. Вспомним, что здравый смысл, то есть функция, тесно связанная с нашим биологическим гомеостазом, позволяет схватывать значение окружающего мира, смешение понятий и цели. Он по самой своей сути недоступен для вычислительных способностей, имеющихся у ИИ. Тем самым он ставит окончательный предел сверхинтеллекту как продукту прогресса автоматизации. Никакой ИИ не сможет понять сущность того, что такое ресторан, – в том смысле, в каком понимание предполагает ментальное воссоздание сенсорного опыта и в то же время способность к концептуализации.
Тест, позволяющий узнать, нависла ли угроза над вашей собственной работой, определяется, следовательно, не столько «повторяемостью», сколько здравым смыслом. Официант выполняет работу, во многом состоящую из повторяющихся операций (он работает в одни и те же часы, в одном месте, принимает одни и те же заказы). Однако в ней постоянно задействуется здравый смысл: ему нужно импровизировать и выносить бесчисленное множество суждений, для которых требуется едва ли не весь объем человеческого опыта, начиная со способности залезть в голову клиента и заканчивая оценкой настроения шеф-повара. И наоборот, бухгалтер может заниматься эмоциональным делом, работая в различных секторах и участвуя в самых разных встречах, – но если в итоге он должен упорядочивать цифры в соответствии со строгими инструкциями, абстрагируясь от собственных чувств, то робот, возможно, справится с этой задачей лучше.
Вооружившись этим ценным критерием, я смог отправиться к рентгенологам, чтобы получить ответ на вопрос моего кузена. И разве можно найти лучшего консультанта по этому вопросу, чем доктор Кертис Ланглоц, директор Центра ИИ по рентгенологии в университете Стэнфорда?
Стэнфордский университет, находящийся в географическом центре Кремниевой долины, в получасе от Сан-Франциско и 15 минутах от Пало-Альто, является и центром мировых инноваций. Новичку очень странно ехать вдоль разбросанных в огромном естественном ландшафте зданий из камня цвета охры, увенчанных красной черепицей. Аллеи, окаймленные пальмами, обширные газоны сложной формы, островки калифорнийских дубов – и везде полно скульптур Родена. Студенты живут в гигантском парке, представляем нечто среднее между полем для гольфа и ботаническим садом. Словно бы технологии нужно было сделать здесь вдох, чтобы потом отправиться в городской водоворот стартапов и исследовательских центров. Стэнфорд был построен в стиле
Мираж быстро рассеивается: в небольшой зал в Стэнфордском госпитале входит доктор Ланглоц в очках с черепаховой оправой и клетчатой рубашке. Он профессор рентгенологии (специалист по рентгенографии грудной клетки), а также защитил диссертацию по компьютерным наукам на тему «Модель решения при эвристическом планировании». Значительную часть своей карьеры он еще с 1980‐х годов посвятил разработке информационных программ интерпретирования медицинских изображений. Если этот человек не сможет ответить на мои вопросы, то кто тогда?