Бо Со – Как убедить тех, кого хочется прибить. Правила продуктивного спора без агрессии и перехода на личности (страница 55)

Газетный бизнес и сам по себе был, что называется, в огне. И если бы в упадке той или иной отрасли можно было обвинить какой-то один источник, то в нашем случае очевидным кандидатом были технологии. Реклама (в том числе автомобилей, вакансий и недвижимости) ушла онлайн-конкурентам, резко сократив доходы печатных изданий; крупные технологические компании получали прибыль от новостного контента, размещенного на их платформах, не платя издателям ни гроша. Кроме того, технологии неуклонно ширили и усугубляли вред от фейковых новостей, онлайн-троллинга и эхокамер; все это здорово мешало нашей работе.

Технологии несли в себе еще одну, довольно абсурдную угрозу для выбранной мной карьеры. Дело в том, что к тому времени первые адепты уже на протяжении более чем десятилетия говорили об огромном потенциале искусственного интеллекта в сфере автоматизации разных аспектов журналистики. Разработанное за это время специализированное программное обеспечение – Cyborg агентства Bloomberg, Heliograf от Washington Post и Reporter Mate от Guardian (Австралия) – в основном предназначалось для написания простых, шаблонных статей, скажем о прибылях компаний или результатах спортивных игр, но прогресс технологий был налицо.

Все это вертелось в моей голове, когда я, сидя за рабочим столом в редакции в Сиднее, настраивался на упомянутое выше событие в Сан-Франциско. Сцена на Think – так называется ежегодная конференция по технологиям компании IBM – была оформлена минималистично: две трибуны на равном расстоянии от центра на синем фоне задника. Между ними возвышался черный обелиск, высокий и гладкий, похожий на увеличенный флеш-накопитель или электронную сигарету в человеческий рост. В зал на те дебаты собралось сотен восемь зрителей, а многие тысячи смотрели их онлайн-трансляцию. Кто же в них участвовал? В одном углу был Хариш Натараджан, выпускник Кембриджа с приятнейшими манерами и мой давний соперник по дебатам (в том числе в финале в Салониках, о котором я рассказывал выше), в другом находилась Project Debater, система искусственного интеллекта, обученная вступать в живой спор с человеком и, возможно, побеждать его.

Я впервые услышал о Project Debater во времена ее дебюта, состоявшегося в июне 2018 года на закрытом мероприятии для СМИ в Сан-Франциско[175]. Тогда машина схлестнулась с парой израильтян в обсуждении двух отдельных тем: субсидирование освоения космоса и расширение использования телемедицины. Журналисты, присутствовавшие на тех дебатах, написали, что Project Debater выглядела «весьма убедительно»[176] и что, несмотря на некоторые оплошности, машина «проявила себя с лучшей стороны»[177]. Многие отмечали также ее отличную родословную: ранее грандиозные усилия IBM привели к появлению машины-шахматиста Deep Blue, которая, как известно, обыграла в 1997 году тогдашнего чемпиона мира Гарри Каспарова (Внесен Минюстом РФ в список иноагентов.), и суперкомпьютера Watson, который в 2011 году обыграл в Jeopardy![178] двух тогдашних чемпионов Брэда Раттера и Кена Дженнингса. Project Debater во время своего дебюта сыграла вничью: по теме субсидирования космических путешествий ее позиция была сочтена менее убедительной, чем кейс оппонента-человека, а по теме телемедицины – более убедительной. Счет на табло: 1:1.

И все же я никак не мог заставить себя воспринимать Project Debater всерьез. Репортеры, пишущие о техническом прогрессе, обычно говорили о подобных событиях с придыханием, но когда я в последний раз мог реально положиться на автоматическую помощницу Siri? Кроме того, я ведь принадлежу к поколению детей 90-х, которые, как известно, технически подкованы, но к технологиям относятся скептически. Мы видели много примеров, когда технологии оказывались плохими, и своими глазами наблюдали за переходом от коммутируемого доступа к широкополосному, от Walkman – к iPod, от Windows 2000 – к XP и Vista. У меня вообще имелась собственная модель машины для дебатов – SmarterChild, чат-бот на AOL, которого грубостью или нелогичностью запросто можно было повергнуть в гнев, разочарование и замешательство.

Тем февральским утром, меньше чем через год после ее дебюта, машина для дебатов в какой-то мере играла за меня. Хариш считался одним из лучших и самых опытных участников дебатов из всех мне известных. Он несколько раз побеждал меня на важных соревнованиях. Так что в этом ракурсе их соперничество не могло не зацепить меня за живое.

Как известно, в поп-культуре роботы – обычно ребята довольно злобные, мрачные и молчаливые. Их немота предполагает склонность к жесткому расчету, а не к совету; к действию, а не к объяснениям. Пока машины полностью подчинялись человеку, это было достоинством. Но когда роботы принимали неблагоприятные или даже убийственные решения, их молчаливость становилась великой угрозой. В одном из эпизодов фильма Стэнли Кубрика «Космическая одиссея 2001 года» мы слышим, например, такой диалог человека со смертоносной ИИ-системой под названием ЭАЛ-9000 (ЭАЛ – Эвристически запрограммированный АЛгоритмический компьютер).

Дэвид Боуман: ЭАЛ, я больше не стану с тобой спорить. Открой двери.

ЭАЛ-9000: Дэйв, этот разговор теперь бесполезен. До свидания[179].

«А интересно, – подумал я, – не принялся бы злобный вариант Project Debater в такой же ситуации, как ЭАЛ-9000, во всех подробностях и с невероятным красноречием объяснять причины своего желания причинить нам, людям, вред? И не убедил бы он нас в необходимости таких действий?»

Итак, в Сан-Франциско давний ведущий дебатов Intelligence Squared Джон Донван представил двух спикеров аудитории, состоявшей в основном из экспертов-технарей и нервных руководителей высшего уровня; в зале постепенно воцарилась тишина. «Сегодня вечером первым будет выдвигать аргументы IBM Project Debater». На черном обелиске загорелась полоска синего света. Я не знал, как выглядит машина, и ждал, что ее сейчас выкатят на сцену, поэтому с немалым удивлением понял, что она все это время была тут, с нами. «А оппонентом Project Debater от имени всех нас, остальных, будет Хариш Натараджан; поприветствуем его!»[180] Одетый в костюм-тройку Хариш вышел на сцену в сопровождении рок-музыки.

Тема дебатов звучала так: «Мы должны субсидировать дошкольные учреждения»; сторонам дали на подготовку пятнадцать минут. Я очень хорошо помнил эти напряженные минуты: ты что-то царапаешь в блокноте, что-то шепчешь, репетируя речь, ругаешься себе под нос в лихорадочных поисках аргумента, который запросто может так и не материализоваться. Хариш готовился за кулисами. Машина работала на виду у всего мира. И когда настало время, Project Debater элегантным женским голосом заговорила.

Привет, Хариш. Я тут слышала, ты лучший в мире в соревнованиях по дебатам между людьми. Но, подозреваю, ты еще никогда не дебатировал с машиной. Что ж, добро пожаловать в будущее.

В феврале 2011 года израильский ученый-компьютерщик по имени Ноам Слоним и его коллега по офису встретились в исследовательском центре IBM в Тель-Авиве для мозгового штурма. Всего за несколько недель до этого суперкомпьютер Watson победил двух чемпионов (людей) в викторине Jeopardy! и теперь руководство компании искало очередной грандиозный вызов для своего детища.

Слоним в определенном смысле четко соответствовал профилю ученого, способного возглавить подобный проект. В 2002 году он получил в Еврейском университете степень доктора наук в области машинного обучения (ML – machine learning) со специализацией в применении ML для обработки текстовых данных – эта область сыграла ключевую роль в успехе Watson. Но были в его резюме и другие аспекты, менее очевидные. Например, в бытность докторантом Слоним подрабатывал соавтором недолговечного телевизионного ситкома под названием Puzzle («Головоломка»). А еще он после выпуска из университета и перед возвращением в Израиль несколько лет работал исследователем-биофизиком в Принстоне.

Так вот, во время того часового мозгового штурма Слониму в голову пришла идея, носившая на себе явные отпечатки его разнообразного прошлого. Она объединяла в себе человеческий и машинный язык, развлечения и науку.

«Наша задача: победить человека-эксперта в состязательных дебатах, которые будут транслироваться по телевидению»[181].

Первоначальное предложение Слонима без труда уместилось на одном слайде PowerPoint. На нем Слоним с коллегой писали, что задача эта потребует «новых мощных методов интеллектуального анализа данных, понимания и генерации естественного языка, логических рассуждений, интеллектуальных возможностей и многого другого»[182]. Отдельную проблему представляла верификация успеха, ведь, в отличие от шахматной партии или Jeopardy! у дебатов нет объективных результатов. И тут на помощь пришла традиция состязательных дебатов с «четкими правилами и четким выбором победителя». В еще одном документе, важность которого явно недооценена, авторы позволили себе сделать одно сильное предсказание: «Выполнение этой задачи, вне всякого сомнения, будет считаться событием революционным».

А тем временем неподалеку от исследовательского центра в Тель-Авиве разворачивались трагические события. Израиль, как известно, граничит с четырьмя суверенными государствами: Египтом, Иорданией, Ливаном и Сирией. К концу февраля каждую из этих стран сотрясали массовые протесты в рамках регионального движения против тамошних склеротических и коррумпированных режимов. Движение это вошло в историю под названием «арабская весна» – эпитет, как вы понимаете, скорее поэтический, чем сезонный.