Гаспар Кёниг – Конец индивидуума. Путешествие философа в страну искусственного интеллекта (страница 26)

Ладно, пусть так… Устойчивая типология, динамический поток. Наши ежедневные поездки можно предоставить ИИ. В конце концов, все это мелочи: по какой улице поехать, где припарковаться… Однако мелочи служат моделью для всего нашего поведения в целом.

Главное же в том, что ИИ готовится проникнуть в самые важные вопросы нашей жизни. Даже в подвижных типологиях его результаты постепенно становятся все более точными. Так, я с изумлением обнаружил, что машина отныне готова взять на себя наши профессиональные и любовные решения, реализуя процесс, который очень похож на GPS, предлагающий самый быстрый маршрут.

Предпосылки для этого я обнаружил в ZipRecruiter, успешном стартапе из Лос-Анджелеса, который выступает посредником между предложением рабочих мест и спросом на них. Сегодня услугами ZipRecruiter пользуется более миллиона предприятий и 120 миллионов частных лиц. Его основатель Ян Сигел – идеальный представитель калифорнийской экосистемы: это молодой, приятный в общении и несколько торопливый человек, которого можно увидеть то за столом для пинг-понга, то за шахматной доской, то на удобном диване. Разумеется, Ян подтвердил мне, что ИИ помог значительно увеличить качество его продукта. Использование машинного обучения позволило забыть о восьми годах трудоемкой работы по оптимизации, основанной на скучных и всегда приблизительных списках критериев, служивших инструментами распределения кандидатов и работодателей, – критериев, которые в то же время были лучшим способом не заметить кандидата с оригинальным профилем. Благодаря методам машинного обучения и особенно некоторым его вариантам, связанным с глубоким обучением, работодатель сможет, например, попросить машину найти «кандидата, похожего на такого-то», не предоставляя ей никаких других дополнительных сведений. Алгоритмы сами поколдуют с этим запросом и придумают стратегию, которая в силу отсутствия полной «объяснимости» для людей останется в значительной мере непостижимой. С помощью сопоставлений, использования статистики и корреляций машинное обучение сможет найти иголку в стогу сена: идеального кандидата среди миллионов резюме. Идеального в каком смысле? В смысле компетенции, характера, мотивации? Никто не смог бы сказать наверняка. Машина просто перемешивает значительный объем данных, не стремясь концептуализировать тот или иной критерий. Она выносит чисто эмпирическое суждение, основанное на примерах успеха или неудачи в прошлом. После собеседования часто можно услышать: «N подходит нам по всем критериям». Но машина не ставит галочки возле каждого пункта. Ее сила в том, чтобы идентифицировать индивида как такового или по крайней мере выяснить, что он соответствует сумме предоставленных им данных.

«Какое будущее у этого направления?» – спросил я у Яна. Как можно еще улучшить продукты ZipRecruiter? Конечно, интегрируя все больше данных. Сегодня кандидаты предоставляют в основном сведения, связанные с профессиональной карьерой. Но чем больше дополнительной информации они будут предоставлять – от любимых мест отдыха и своей финансовой ситуации до пищевых привычек, – тем точнее машина будет вести поиски. Разве важно, что кому-то придется рассказывать о своей личной жизни, если в конечном счете будет найдена работа мечты?

Впрочем, остается один важный вопрос: как именно определять «свои» мечты? Уверены ли мы в том, что хотим именно того, чего хотим? Вот тут-то и выясняется смысл нового изобретения ZipRecruiter: вместо того чтобы подавать заявку на определенную позицию в каком-то определенном секторе, можно будет просто заявлять, что ты свободен и ищешь работу. Если мы предоставим достаточно данных не только о компетенциях, но и о самих себе, наших вкусах и любовных увлечениях, машина сможет автоматически предложить нам максимально удачное рабочее место, подходящее нашей глубинной природе и ситуации на рынке труда. Можно представить, как банкиру, к примеру, будет предложено место в булочной, поскольку в его постах в фейсбуке машина выявила желание сменить профессию, в его воскресных прогулках, о которых сохранились геоданные, – стремление к полям с пшеницей, в его распорядке дня – привычку рано вставать, в его чтении Жана Жионо – интерес к выпечке хлеба, в его профессиональном досье – особую склонность угождать клиентам… При этом у машины есть информация, что такой-то булочной, перспективной, но с плохим управлением, очень нужен финансовый директор. По счастливой случайности, выявленной алгоритмом, булочная расположена как раз возле школы, где учатся дети нашего банкира, которых он хотел бы видеть почаще (о чем свидетельствует его переписка в Gmail). Кроме того, потеря в заработной плате будет с лихвой компенсирована наследством, ожидающим банкира в ближайшем будущем, если судить по медицинской карте одного его родственника, изученной ИИ. Какой человеческий мозг смог бы выявить это чудесное переплетение обстоятельств, выделив их среди бесконечных возможностей? И какой упрямец смог бы сопротивляться такому предложению, выкроенному по его собственной мерке? Конечно, как подчеркивает Ян, ZipRecruiter ограничивается предложениями; решение принимает клиент. Он волен претендовать на такой же пост в другом банке, в котором останется столь же несчастным. Однако сила nudge, персонализированного и оптимизированного подталкивания, кажется непреодолимой. Машина знает наши мечты лучше нас самих и прилагает все усилия, чтобы их осуществить.

Я так и остался в изумлении сидеть на стуле, тогда как Ян бодро вскочил и убежал на следующую встречу. Возможно, мне надо записаться на эту будущую платформу, которая могла бы найти лучшее применение моей естественной мизантропии, чем журналистика. Я почувствовал головокружительную ясность, осознав, что пророчество Юваля Харари, изложенное в его книге «Homo deus», вот-вот сбудется у нас на глазах. ИИ в своей сложной форме машинного обучения больше не довольствуется удовлетворением наших потребностей. Он будет сам определять их. Да и почему нет, если Канеман и Ко. объяснили нам, насколько наши суждения ущербны?

Трудно представить, насколько уверенным нужно быть в своем решении, чтобы сопротивляться столь соблазнительной логике. Лишим ли мы себя информации и благосостояния исключительно из гордости, стремясь делать «автономный» выбор? И что такое эта автономия, если не иллюзия, вскормленная бессознательными предубеждениями и скрытыми влияниями? Искушение ИИ бесконечно. Допустим, что он может найти рабочее место, основываясь на наших талантах и вкусах. Но откуда берутся сами эти таланты и вкусы? Сейчас они пока еще остаются производным от мира, существовавшего до ИИ, то есть результатом случайных встреч и желаний. Завтра же они станут продуктом алгоритмических рекомендаций, которые будут выдаваться на протяжении всего нашего обучения и личного развития. До чего дойдет эта опережающая детерминация? Будет ли новорожденный направляться, в зависимости от его ДНК и социальной среды, в такой-то или такой-то детский сад? Придет ли на смену ZipRecruiter какой-нибудь ZipBaby, как в городе Кюсю в Японии, где компания Fujitsu запустила программу, позволяющую определять детей в ясли, где созданы лучшие условия для их адаптации? Что, если отказ от таких приложений ради абстрактных «свобод» будет означать лишение своего потомства шансов на успех?

Как-то я застал свою восьмилетнюю дочь за тем, как она пыталась поблагодарить маму, используя мой смартфон. Gmail предлагает персонализированные ответы, и точно так же iMessage подсказывает слова. Вот как начиналось сообщение, напечатанное моей дочерью: «Мама, спасибо за морковный кекс. Он был…» Тут на помощь человеческому мозгу пришел Apple, предложив следующие прилагательные: «превосходный», «очень вкусный», «суперский». Дочь выбрала «превосходный» – первое слово, которое попалось ей под палец. «Ты правда так хотела сказать? – спросил я ее. – Именно „превосходный“, а не „удачный“, „сочный“, „чудесный“, „изысканный“, „сытный“, „плотный“, „с корочкой“ или „вкусный“?..» Она не поняла, в чем смысл моего вопроса. iMessage упростил ей когнитивную задачу, так зачем же ей утруждать себя, разбираясь с нюансами французского языка? Именно так ИИ с самого раннего возраста учит нас не думать. Как люди будут расти в мире, в котором слова выбирают за них? Возможно, однажды iMessage предложит сразу отправлять ответные сообщения, не дожидаясь нашего одобрения? Но кто их будет получать? Друг или ИИ друга? А в чем проблема, спросит моя дочь, если это позволяет упростить коммуникацию и быстрее договориться о встрече?

Что же тогда останется на долю человека 1.0? Если и есть еще какая-то священная область, которую многовековая литература тщательно обезопасила от императива оптимизации, то это любовь. Но действительно ли ИИ не посмеет в нее проникнуть? Куртуазная любовь, романтическая, страстная, невозможная – у нас же не отнимут игру случая и любви, соблазна и разочарования? Даже такая закаленная специалистка по информатике, как Аврелия Жан, которой я поведал свои впечатления, вернувшись в Париж, отказывается в это верить: алгоритмы должны держаться подальше от нашего сердца, последнего прибежища магии характера, алхимии связей.