Впрочем, мысль о том, что ИИ все чаще помогает нам принимать решения, нисколько не пугает Маркуса. Уравнения и свобода воли – две стороны одного и того же миража.
Маркус Бюлер в этом отношении не одинок. Еще десять лет назад главный редактор технологического журнала Wired Крис Андерсон заявил в своей громкой статье о «конце теории», которая устарела в силу наплыва данных. Однако этот энтузиазм разделяют далеко не все члены научного сообщества. Во многих научных статьях высказываются предостережения по поводу неумеренного применения корреляций в ущерб рассуждениям[108]. Так, Седрик Виллани, математик и лауреат медали Филдса, решительно отвергает представление о том, что данные смогут заменить работу по концептуализации. «Законы Ньютона – это еще куда ни шло, – говорит он мне, когда я задаю ему этот вопрос, – но машинное обучение никогда не сможет прийти к физике Эйнштейна». Нельзя подозревать Седрика Виллани в том, что он недооценивает ИИ, весьма содержательный доклад о котором ученый представил французскому правительству (мы рассмотрим его далее). Но он отказывается превращать его в альфу и омегу нового научного метода. Точно так же специалист по компьютерным наукам Кристиан Игель, которого я встретил в Университете Копенгагена, считает, что ИИ способен помогать астрономам, когда нужны лучшие предсказания, составляемые на основе анализа корреляций. Но такие предсказания делаются в ущерб объяснениям, предоставляемым классическими физическими моделями, которые по-прежнему играют ключевую роль в развитии научной теории[109], поэтому отдельные ученые сознательно отдают приоритет причинно-следственным формулам. Последние менее эффективны в ближайшей перспективе, но зато больше обещают в долгосрочной. Наконец, само представление о том, что корреляция на теоретическом уровне может заменить собой причинность, оспаривается такими специалистами по статистике, как Эммануэль Кандес из Стэнфорда. Он объясняет мне, что предсказания ИИ не опираются на достаточные «основания», а потому остаются фрагментарными (например, ИИ, который должен был определять, закрыты ли ставни окна на фотографии комнаты, обращает внимание на то, занята ли в ней кровать!).
Каковы бы ни были ограничения эмпирического метода, важным остается то, что самые ярые сторонники ИИ не доверяют причинности, которая внедряет в наблюдение человеческий разум. Гуманитарные науки не избежали этого спора. Так, Ян Лекун разволновался, когда в разговоре с ним я упомянул о споре Хомского и Пиаже об обучении языку: «Хомского надо выбросить на помойку», – сказал он. Вспомним, в чем заключался этот знаменитый спор 1973 года. Жан Пиаже, первооткрыватель детской психологии, защищал представление о том, что язык приобретается постепенно, благодаря взаимодействию с внешним миром, тогда как Ноам Хомский, патриарх лингвистики, отстаивал гипотезу врожденной «универсальной грамматики», являющейся продуктом структуры самого мозга и реализующейся во множестве языков, соответствующем числу народов. Ян Лекун, который всецело на стороне Пиаже, подчеркивает «композиционный» характер языка: смысл фразы рождается из взаимозависимости семантики и синтаксиса; иначе говоря, невозможно провести окончательное различие между значениями слов и отношениями, которые их объединяют. То есть нет априорной грамматики, которая бы упорядочивала слова – носители значений, а есть лишь значения, которые, отсылая друг к другу, создают грамматику ровно в той мере, в какой и подчиняются ей. Отвергая статический характер синтаксиса, композиционный подход внедряет в анализ языка ту статистику, которая ищет истинных корреляций. Легко понять, что концепция языка у Хомского соответствует традиционному ИИ (GOFAI), основанному на строгих синтаксических правилах, тогда как представление Пиаже больше соответствует машинному обучению, требующему выявлять повторяющиеся мотивы в отношениях данных. Поэтому нет ничего удивительного в том, какой лагерь выбрал Ян Лекун, который был одним из тех, кто прошел через пустыню медленного развития машинного обучения в 1990‐е годы, сегодня став одним из лучших в мире специалистов в этой области. Из спора Хомского и Пиаже вытекают важные практические следствия: Google Translate, один из самых амбициозных проектов в области машинного обучения, не занимается переносом строгих грамматических правил из одного языка в другой, а основан на миллионах существующих переводов, которые позволяют ему предлагать наиболее вероятные формулировки.
Какое все это имеет отношение к свободе воли? Обращаясь к этому вопросу, Ян Лекун подчеркивает предсказуемость различных форм поведения, которые он может легко наблюдать среди пользователей фейсбука. Но предположим, что применение слов, напротив, может включать определенный произвол. С эпистемологической точки зрения это должно восстановить потребность в причинности, а потому и поиске идеальной грамматики в стиле Хомского. В практическом плане внедрение подобного произвола приведет к нарушению установления корреляций, а это уже двойной урон. Понятно, почему Ян Лекун относится к языковым спорам с такой страстью. Композиционная логика позволяет машинному обучению развить весь свой потенциал, вписавшись в более общую гипотезу общества с высокой предсказуемостью.
Экономика без рынка
ИИ ставит под вопрос принцип рынка, в классическом варианте которого изменение цен должно позволять предложению подстраиваться под спрос. Это хорошо иллюстрирует сектор такси, если сравнивать работу Uber в Калифорнии и Didi в Пекине.
Начнем с Uber. Я не без труда добиваюсь встречи с их главным экономистом Джонатаном Холлом. Штаб-квартира Uber в Сан-Франциско находится в нескольких кварталах от района Тендерлойн с его ничем не прикрытой нищетой. Место вполне соответствует имиджу компании: оно шумное, хаотическое, энергичное. Из лифтов постоянно вываливаются посетители, которым надо брать билетики на десятке стоек у входа. Из всех офисов открытого типа, где я был, этот, несомненно, самый впечатляющий: сотрудники постоянно двигаются от одного пролета к другому. Джонатан Холл, выйдя из стеклянного куба, тут же ударился в пространные объяснения рациональных предсказаний, конкурентных преимуществ и детализации рынка. У меня, в отличие от него, нет докторской степени Гарварда по экономике. Но я попытался, насколько смог, уследить за его мыслью.
Из всех тонкостей алгоритмов Uber мне запомнилась одна: Джонатан, полагаясь на spot market, избегает соблазна dispatch. Если в некоторых зонах спрос выше, платформа повышает стоимость поездки, чтобы привлечь водителей, но не распределяет их в приказном порядке по клиентам. Иначе говоря, Uber относится к водителям как к рациональным индивидам, которые реагируют на цену как на сигнал, и не ставит себе задачи «подтолкнуть» их к определенному выбору. Принципа финансового стимулирования должно хватить для регулирования рынка (поездка, цена которой повышается или понижается для определенного клиента) без необходимости принуждения (надо взять такого-то или такого-то клиента). Конечно, есть и правовые причины для такой политики: независимый водитель, если бы его обязывали выполнять определенные маршруты, мог бы быть переквалифицирован в суде в наемного работника. Однако Джонатан, как убежденный либерал, воодушевлен идеологическими аргументами: необходимо сохранить принцип рынка, основывающийся на свободе воли участников, а потому нельзя переходить к логике плановой экономики, как бы того ни хотели «евангелисты ИИ». Джонатан понимает, что, относясь к людям как к автоматам, мы рискуем атрофией их умственных способностей, что в итоге грозит еще более серьезными рисками. (Он приводит пример авиакатастроф, когда экипаж, слишком привыкший к автопилоту, утратил базовые рефлексы.) Кроме того, опора исключительно на ценовой механизм, регулирующий предложение соответственно спросу, позволяет не собирать приватную информацию, такую как личные качества водителей, которую ИИ ради оптимизации заказов тоже мог бы обрабатывать. «И хорошо, что так», – делает вывод Джонатан: анонимность рынка дает шанс каждому.
Но что же скажут об этом «евангелисты ИИ»? В Didi, которая базируется на другом берегу Тихого океана, сделали сознательный выбор в пользу dispatch, а не стимулов. «Это эффективнее», – объясняет мне Ву Гуобин, с которым мы в этой книге уже встречались. В поддержку своих тезисов он указывает на гигантский экран с «тепловой картой» Пекина, разделенной на сотни микрозон разного цвета. Так называемые прогностические алгоритмы, которые годами питаются всеми данными, собираемыми Didi, и постоянно совершенствуются благодаря сведениям о движении транспорта в реальном времени, позволяют предсказывать состояние трафика и число клиентов в почасовом и поминутном режиме. В закрытой воспроизводящейся системе, каковой является город, степень предсказуемости весьма велика: Ву Гуобин постоянно наращивает точность прогнозов в области спроса и предложений рейсов такси. Если можно с высокой точностью определить, кому понадобится машина, в какое время, в каком месте и для какого маршрута, зачем идти на риск ценового сигнала, который всегда слегка запаздывает и от которого водитель может просто отмахнуться? А раз у нас есть полные данные, зачем вообще обращаться к рынку? Не проще ли в самом деле распределять рейсы заранее, награждая водителей в зависимости от их производительности? ИИ сможет просчитывать стоимость рейса по дифференцированному принципу, основываясь на механизмах, непонятных обычному смертному, таких, к примеру, как «равновесие Нэша, совершенное по подыграм»[110], и ему не нужно будет заявлять цену рейса заранее. От этого все только выиграют: и водитель – он будет менее напряжен, поскольку система сама управляет им; и клиент – у него сократится время ожидания; и, конечно, Didi – она максимизирует число рейсов.
