Гаспар Кёниг – Конец индивидуума. Путешествие философа в страну искусственного интеллекта (страница 34)

Вот почему знаменитое определение рыночной экономики, данное Фридрихом Хайеком, основателем австрийской экономической школы, весьма влиятельной во второй половине XX века, может устареть. С точки зрения Хайека, рынок – это катализатор разрозненной информации. Благодаря конкуренции он устанавливает связи между людьми, преследующими разные и подчас даже противоположные цели, воздерживаясь при этом от всякого суждения. Флуктуация цены – способ передать информацию, позволяющий удовлетворить каждое из частных желаний наилучшим образом. Рынок представляет не столько требование эффективности или равновесия, сколько непринудительный принцип координации человеческих усилий. Чтобы подчеркнуть это социальное и моральное достоинство рынка, Хайек ввел термин «каталлактика» – от греческого слова katallatein, означающего «меняться», но также «допустить в сообщество»[111]. Каталлактика – способ доверять, не становясь при этом друзьями; объединяться, не зная друг друга; создавать общество, не требуя общих ценностей. Подобно Сократу, рынок знает, что он ничего не знает. То есть он должен способствовать возникновению спонтанного порядка, не пытаясь контролировать или даже фиксировать детали повседневных обменов. И наоборот, управляемая экономика опирается на иллюзию, что центральный институт обладает всеведением, а потому и выстраивает все в форме вертикали, что неизбежно приводит к подавлению индивидуальных решений. Вот почему плановая экономика, с точки зрения Хайека, – начало тоталитаризма[112].

Хайек делает одно теоретическое уточнение: если бы у нас была полная информация, если бы мы знали все индивидуальные предпочтения и все способы их удовлетворения, тогда вопрос оптимального размещения ресурсов был бы чисто логическим, а не экономическим[113]. Таким образом, всеведение становится единственным возможным оправданием плановой экономики. Оно должно позволить не только предсказывать трансакции бесконечного числа агентов, но и узнавать об их намерениях («целях», говоря в терминах Хайека). Не это ли конечная цель ИИ? Разве алгоритм не служит созданию этой гигантской комбинаторики? Если бы мир можно было смоделировать на одной тепловой карте, если бы предсказания всего массива нашего поведения достигли достаточной точности, мы могли бы обойтись без рынка и координировать спрос с предложением централизованным образом. В таком случае логика придет на смену каталлактике. Каждый будет «распределяться» по своим урокам, работодателям или любовным приключениям, точно так же как водитель Didi направляется к своему будущему клиенту. Независимо от того, кем будет управляться алгоритм, частным предприятием или государственным ведомством, какую бы форму ни принимало распределение, «подталкивания» (nudge) или обязанности, главное – в том, что заранее установленная инструкция заменяет процесс личного решения, основанного на соотнесении цены и желания. Вот почему Джонатан, экономист Uber, назвал распределение (dispatch) «советской идеей». Как мы увидим далее, между ИИ и китайским коммунизмом действительно существует глубинная связь.

Контраст между Uber и Didi высвечивает радикальную дилемму: если предположить, что ИИ может обеспечивать почти полной информацией, нужно ли держаться за рынок по принципиальным резонам или следует согласиться, ориентируясь на эффективность, на определенную форму полного планирования? Не согласится ли в итоге Джонатан, все еще не отказавшийся от либеральных идеалов, с практическими преимуществами модели его конкурента?

В этом случае ИИ прямо атакует свободу воли, в данном случае – способность Homo œconomicus принимать собственные решения на свободном рынке.

Правосудие без виновных

Массовое внедрение ИИ в американскую судебную систему стало предметом пристального внимания. Мы поговорим о двух вопросах разной степени важности. Первый, более громкий, но менее фундаментальный, касается автоматизации применения закона. Уже сегодня алгоритмы используются судами для упрощения вынесения решения, поскольку наши своды законов стали слишком сложными[114]. Похожие технологии начали применять и адвокаты. Николь Кларк, с которой я встретился в чайной в Лос-Анджелесе, основала стартап машинного обучения для корреляционного анализа истории решений и корректировки защитных речей. Вполне возможно, что судебные процессы станут состязаниями искусственных интеллектов. Сегодня Николь опирается на решения, вынесенные судьей-человеком, и применяет к ним сложный семантический анализ. Но уже завтра ее машина сможет приступить к интерпретации машины-судьи, причем каждая будет пытаться проникнуть в алгоритмы другого… Проблемы, поднимаемые этими инновациями, хорошо известны и широко обсуждаются. С одной стороны, это риски дискриминации (недавно выяснилось, что алгоритмы, оценивающие риски рецидива, содержали в себе структурное предубеждение против афроамериканцев[115]), с другой – невозможность разъяснить все суждение в целом, обусловленная «черным ящиком» машинного обучения, с которым мы уже сталкивались. Но эти проблемы, какие бы тяжелые следствия они ни влекли, остаются, по сути, техническими, а потому могут быть устранены благодаря прогрессивному развитию ИИ, который сможет скорректировать порожденные им предубеждения и разработать процедуры «объяснимости». Все большее распространение получают принципы ответственности и прозрачности при применении алгоритмов[116]. В той мере, в какой современное правосудие должно отвергать любой элемент личной мести, справедливо и бесстрастно применяя право, автоматизация правоприменения, похоже, не противоречит принципам наших демократических обществ. Как показывает одно часто цитируемое исследование, рассуждения судей-людей зависят от состояния их желудков: выносимые ими приговоры обычно суровее к середине дня, чем после обеда[117]. ИИ мог бы исправить этот очевидный фактор несправедливости. Собственно, разве Чезаре Беккариа, юрист эпохи Просвещения, который преобразовал наше представление о пенитенциарной системе, не требовал «автоматичности» наказаний, поскольку не доверял ни одной интерпретации закона судьей?[118] Уж он-то, наверное, рукоплескал бы развитию ИИ, обещающему полную объективность…

Второй вопрос, с моей точки зрения более важный, – это вопрос автоматизации соблюдения закона. Возможно, не повиноваться закону будет все сложнее и сложнее. Когда алгоритм интегрирует в себя закон, он делает его одновременно невидимым и неумолимым. Я поговорил об этом за обедом в Пало-Альто с Джессом Левинсоном, основателем Zoox, одного из самых известных стартапов в Кремниевой долине, цель которого – создать и внедрить первый парк автономных такси. На что будет похож пресловутый умный город с его автомобилями, связанными сетью? В таком городе можно будет по закону запретить применение «ручных» машин, которые в силу своей непредсказуемости станут источником опасности для всех остальных. С правилами дорожного движения больше не забалуешь, если они вообще останутся, когда съезды и развязки можно будет оптимизировать в реальном времени. Придет конец небольшим превышениям скорости, слишком резкому перестраиванию и проезду на желтый свет. А что, спросил я своего собеседника, если надо ускориться в силу срочной ситуации, например чтобы довезти роженицу до больницы? «Можно придумать тревожную кнопку, которая позволит получить приоритет», – спешит ответить Джесс. Но для этого понадобится обоснование… Джесс, считающий себя либералом в европейском смысле слова (что большая редкость для Кремниевой долины), признаёт, что в этом смысле ИИ ведет к утрате чувства ответственности[119] и в то же время к риску бюрократизации. В самом деле, что это за закон, если ему повинуются в силу необходимости, а не по доброй воле? Разве быть гражданином не значит принуждать самого себя? Что останется от правового государства, если мы просто физически не сможем избегать его власти? Именно это канадский философ права Ян Керр назвал «аутопией» – по названию аттракциона «Евродиснея»: дети считают, что сами управляют маленькой машинкой, тогда как на самом деле невидимый механизм всегда ведет их по самой середине дороги, благодаря чему аварии становятся невозможными. Умный город – практическое воплощение «аутопии». Мы все станем такими детьми, сидящими за декоративным рулем.

Теоретически эта логика может распространиться на всю жизнь общества в целом. Полиция Лос-Анджелеса (LAPD) стала применять принцип «предиктивных полицейских действий», опираясь на прогностические алгоритмы, чтобы превентивно отправлять наряд в те места, где вероятно совершение преступления[120]. Представьте общество, в котором преступление стало невозможным. Чем оно будет – пацифистской утопией или же тоталитарным кошмаром в стиле «Особого мнения», когда полиция может арестовать вас на основании ваших предположительных намерений? Мишель Фуко настаивал на важности «нелегальности», серой зоны между правом и не-правом, в которой сегодняшние девианты формируют завтрашние правила. Речь не о том, чтобы отрицать всякое право, а о том, чтобы признать «равновесие терпимости, взаимной поддержки и интересов», – пишет Фуко в работе «Надзирать и наказывать». Зоны «нелегальности» образуют края трансгрессии, где классовые и социальные различия могут смешиваться друг с другом. Ускользая от нашего картезианского разума, они создают тысячи возможностей для разумного действия, которые никакой текст никогда не мог бы определить. Если не будет нелегальности, не лишится ли сама легальность своего смысла?