Гаспар Кёниг – Конец индивидуума. Путешествие философа в страну искусственного интеллекта (страница 20)

Я пытаюсь не заблудиться в дебрях медицинской и информационной терминологии. По словам Ланглоца, способности ИИ постоянно растут: сначала это были чисто символические модели (такие как дерево решений, которое управляет каждым шагом машины), а теперь, в последнее десятилетие, это заново открытые нейронные сети. Доктор Ланглоц сотрудничал с самыми известными исследователями в области ИИ, такими как Фей-Фей Ли и Эндрю Нг. В частности, он создал алгоритм для автоматической оценки возраста костей на основе миллионов размеченных снимков, которые хранятся на серверах. Эти инновации, как и любое другое медицинское средство, должен одобрить американский регулятор[71].

Диагностика не всегда надежна, однако сама эта неопределенность должна выражаться во вполне точных категориях, чтобы рентгенолог мог взвесить разные вероятности. Рентгенографический комментарий должен быть как можно менее литературным и исключать все смутные термины, иначе он не сможет достичь максимальной объективности (кажется, особое неприятие доктор Ланглоц питает к прилагательным). Конечно, техники машинного обучения мешают врачу-клиницисту оценивать конкретные основания, оправдывающие тот или иной диагноз, в силу отсутствия полной «объяснимости» рассуждения, выполненного ИИ, – но не является ли медицина как таковая эмпирической наукой?

Тем не менее доктор Ланглоц нисколько не боится, что его заменят собственные создания. Это старая мечта… Еще на заре МРТ, сложных изображений, получаемых путем магнитного резонанса, инженеры хотели обойтись без рентгенологов и напрямую передавать результаты врачам. Но они быстро осознали необходимость человеческой интерпретации. В случае ИИ разработка и усовершенствование алгоритмов требуют сегодня и будут требовать в будущем значительной работы по маркировке изображений: так, доктор Ланглоц вывозит своих студентов в «бут-кампы маркировки», где медицинские базы данных анализируются по цепочке человеческими глазами и умами, прежде чем их передадут машине. Как мы уже выяснили в предыдущей главе на примере стартапа медицинских визуализаций VoxelCloud, традиционные формы восприятия и знания остаются необходимыми на первых этапах, даже если они становятся невидимы, как только алгоритм «созреет». Эта работа по маркировке никогда не закончится: она продолжается и утверждается по мере того, как развивается сама наука. Чтобы заменить рентгенологов, нужно… выпускать рентгенологов!

На более фундаментальном уровне рентгенолог остается нужным для того, чтобы, как сказал доктор Ланглоц, «синтезировать» полученную информацию. Компьютер лучше человека способен искать иголку в стоге сена или же раковую клетку среди миллионов здоровых, однако человек все равно будет лучше реагировать на конкретные обстоятельства, выявлять неожиданные болезни, отбрасывать ненужные данные или придумывать оригинальные гипотезы. Медицинские алгоритмы остаются специализированными и не схватывают человеческое тело как целое; еще хуже они справляются с историей пациента. В силу самой их природы им недостает медицинского здравого смысла, способного к концептуализации и ассоциациям. Вот почему доктор Ланглоц, как и Каспаров, проповедует тесное сотрудничество человека и машины, в котором рентгенологи должны уметь работать с ИИ, который они будут контролировать. Так что мой кузен останется доволен: здравый смысл обещает ему долгие годы практики, и при этом они станут еще более интересными благодаря прогрессу алгоритмов.

Логический вывод из слов доктора Ланглоца состоит в следующем: ИИ преобразует все профессии, как это уже случилось при появлении интернета… но наши профессиональные вселенные останутся сравнительно неизменными. После 1950‐х годов механизация перевернула все сферы деятельности, но ни одна не исчезла полностью, если не считать лифтеров[72].

Можно было бы привести множество примеров, подтверждающих это абсолютно разумное предсказание. Приведу последний, на этот раз из области финансов. Когда «алгоритмический трейдинг» уже в значительной степени захватывает биржи, то и дело всплывает один и тот же вопрос: будут ли решения о размещении капиталов и инвестициях полностью переданы машинам?

На этот раз я в Нью-Йорке, но не на Уолл-стрит, где давно почти не осталось банков, а на Парк-авеню, где размещается штаб-квартира компании J. P. Morgan. Я ожидал, что поднимусь на мраморном лифте, что мне встретятся кипящие энергией волки с Уолл-стрит, похожие на Леонардо Ди Каприо, что я пройдусь по залу биржи, похожему на гигантский улей, как на фотографиях Андреаса Гурски. Но самый большой банк США оказался похож на провинциальную администрацию – с длинными коридорами, потертыми коврами и кабинетами, отделанными пластиком. Лишь шаги секретарш нарушают тишину. Весь блеск перекочевал из финансов в технологии.

Я оказываюсь лицом к лицу с «человеком, который ворочает рынками», если верить CNBC, – с Марко Колановичем, коренастым приветливым хорватом. Название его должности кажется мне престижным и одновременно таинственным (он «глобальный руководитель по количественным и деривативным макростратегиям»). Как меня заверили, именно он руководит стратегическими разработками ИИ в J. P. Morgan. Чтобы снять малейшую тень сомнения на этот счет, он тут же предлагает мне составленный им пухлый внутрикорпоративный доклад по «машинному обучению и альтернативному подходу к данным в инвестициях», набитый графиками, аббревиатурами и математическими формулами. Этот кирпич и сегодня красуется в моем кабинете, и, хотя я пока не смог в полной мере оценить все его достоинства, именно он стал причиной перевеса моего багажа во многих аэропортах. Решительную непонятность сего сочинения я могу считать разве что признаком гениальности. Тот факт, что Марко еще и физик-теоретик, окончательно убеждает меня в этом. После этого путешествия у меня наверняка прибавится скромности.

Марко подтверждает мне то, что рынками ворочает преимущественно машина. В нормальной ситуации, когда параметры инвестиций стабильны, а биржи спокойны, размещение капитала в мире в значительной степени автоматизировано, и еще больше оно автоматизируется завтра. Это ни в коем случае не является проблемой: повышая скорость и эффективность трейдинга на основе открытой информации, алгоритмы улучшают функционирование рынка. Траектории курсов будут меньше зависеть от личных предпочтений игроков и смогут точнее отражать эффективность предприятий. В спокойные времена ИИ мог бы сглаживать сильные колебания капитала, снижая волатильность. Он мог бы корректировать «иррациональное ликование рынков», на которое Ален Гринспен жаловался еще в конце 1990‐х годов.

Ситуация радикально меняется, когда происходит неожиданное событие, кризис, инновация (tail event) или когда в игру вступают долгосрочные соображения. В управление в таком случае должен вмешаться человек, чтобы применить собственную интерпретацию мира, поскольку данные остаются фрагментарными или неточными. Когда Дональд Трамп публикует твит, как ИИ может догадаться, всерьез он пишет или валяет дурака? Для подобного заключения требуется интерсубъективное суждение, основанное на анализе его личности, тем более что в случае Трампа прецедентов практически нет. Ложь, лицемерие, блеф – все это машине недоступно. Вот почему коллеги Марко продолжают встречаться с министрами, руководителями центробанков и главами предприятий – не для того чтобы вытянуть из них информацию, а чтобы лучше понять их образ жизни. Ценность финансовых аналитиков заключается не столько в их математических талантах, сколько в тонкой интуиции. «В конечном счете финансы – это игра между людьми, основанная на определенных правилах», – говорит Марко. Чтобы полностью автоматизировать рынки, сначала пришлось бы… автоматизировать людей.

Марко полагает, что в отсутствие сверхинтеллекта значительное замещение людей машинами невозможно. Так же считают и в компании Bloomberg: IT-директор читает мне весьма взвешенную лекцию о способностях разрабатываемых им алгоритмов, которые в основном используются для извлечения информации из документов, произведенных людьми. Компьютеры могут гарантировать проведение финансовых трансакций, но ни в коем случае не могут создать стратегию инвестирования. Ни один алгоритм не может придумать глобальную интерпретацию мира и людей, его населяющих, – и это опять же вопрос здравого смысла.

Разрушение остается созидательным, кроме того, оно останавливается у границ здравого смысла. ИИ приведет к исчезновению лишь тех профессий, практика которых не требует ни оценки контекста, ни взаимодействия с окружающей средой, ни инициативы, основанной на знании о другом. Иначе говоря, автоматизированы будут только те задачи, которые не смыкаются с другими, замкнуты на себя, почти изолированы. Хорошо бы создать «индикатор здравого смысла», позволяющий эффективнее, чем критерий «повторяемости», оценивать вероятность автоматизации…

В этом отношении «бредовые работы», описанные антропологом Дэвидом Грэбером, кажутся мне наиболее устойчивыми к массовой технологической замене, хотя и неясно, хорошо это или плохо. Грэбер анализирует современную экономическую систему, признавая ее рентовым капитализмом, производящим примерно треть бесполезных функций, предназначенных для того, чтобы увековечить бюрократические механизмы, сохранить иллюзию бурной деятельности или же просто потешить чье-то самолюбие. Волшебники PowerPoint, эксперты по стратегиям и профессиональные консультанты легко узнают себя в этой картине. Однако сама абсурдность их ремесла защищает от ИИ. Чтобы согласиться на выполнение задачи, лишенной как всякого экономического, так и интеллектуального смысла, нужно обладать очень неоднозначным представлением о мире и здравым смыслом, готовым выдержать любое испытание. Только растущей сложностью социальных механизмов, давлением руководящих структур и жаждой власти можно объяснить бурное развитие «бредовых работ». Машина не может валять дурака. Какой алгоритм смог бы производить бесполезные доклады? МВФ регулярно, но безуспешно пытается добиться этого в своих докладах об экономике отдельных стран. Чтобы придать видимость смысла документу, у которого по самой природе его нет, требуется человеческий разум во всей его изобретательности…