Гаспар Кёниг – Конец индивидуума. Путешествие философа в страну искусственного интеллекта (страница 25)
На теоретическом уровне меня это убедило. Но я все же не собирался бросать 20 тысяч своих фолловеров в твиттере, которых старательно собирал многие годы и с которыми ежедневно общался. Для меня это был настоящий рабочий инструмент, позволяющий мне распространять собственные идеи, делиться статьями, объявлять о публикациях. Как изменить общественное мнение, если не присутствовать там, где оно, собственно, формируется? Вот это я и объяснил Джарону за завтраком.
Слова не понадобились. Впиваясь зубами в свой четвертый бейгл, Джарон вежливо молчал. Сколько раз он слышал подобные объяснения? В конце концов, они есть у всех коллаборантов.
Это стало для меня делом чести или по крайней мере самолюбия. Сидя в Калифорнии, я набрался храбрости и окончательно уничтожил свои учетные записи в фейсбуке и твиттере, решившись более туда не возвращаться. Вот тогда-то я и почувствовал эффект зависимости, в особенности от твиттера, который использовал ежедневно, ежечасно, практически ежеминутно, то есть в любой свободный момент. Когда я обедал с семьей, в любую секунду мог прозвучать сигнал уведомления. Когда я работал на компьютере, аккаунт был открыт в фоновом режиме и любое сообщение тут же отвлекало меня от работы. Я подсел, сам того не осознавая, на поток лайков и ретвитов, потерял способность жить, не получая все чаще и чаще определенную дозу любви и ненависти. Твиттер поддерживал меня в искусственном состоянии перевозбуждения. Изучив мои вкусы, ИИ предлагал мне в самый подходящий момент такие посты, на которые я непременно должен был среагировать[91]. То есть именно в то время, когда я тешил себя иллюзией, будто отстаиваю свободу, я стал своего рода лабораторной крысой, чьи реакции на посылаемые ей сигналы точно просчитаны, – и все для того, чтобы обогатить теневые венчурные фонды. Разве это не идиотизм?
Отвыкнуть, впрочем, оказалось непросто. Внезапно я остался наедине с самим собой, лишенный постоянного потока взаимодействий, которые, по сути, были совершенно предсказуемы. Я осознал, что добровольно замкнулся в «племенной» логике: потерял способность выйти из своего либерального заповедника, высказывать сомнения и уточнения, чтобы не разочаровать ими своих фолловеров, алчущих твердых мнений. Некоторые называют такой феномен «политической гомофилией»[92]: благодаря игре данных интернет стал пространством, которое, не приветствуя различия, усиливает сходства. Больно осознавать это добровольное рабство, странную манипуляцию, источником и одновременно жертвами которой мы стали…
Постепенно я приучился записывать свои впечатления в блокнот, а не постить их у всех на виду, общаться с друзьями, а не поддразнивать их, радоваться собственной жизни, а не хвалиться ею. Прошло нескольких сложных недель (когда, признаюсь, я часто бывал на грани рецидива), и мой мозг вернулся к нормальной работе, восстановив три важнейших интеллектуальных функции: концентрацию, плотность, сложность. Вскоре я обнаружил, что снова смог читать часами, не отрывая глаз от книги, вернулся к внутреннему диалогу, который давно прервался, и начал следить за мыслями, идущими вразрез с моими привычными навязчивыми идеями. Сегодня искусственный рай социальных сетей внушает мне лишь глубокое отвращение. Подобно Рентону из фильма «На игле», я решил вернуться к трезвой и счастливой жизни, без троллей и перестрелок твитами.
Так я на собственной шкуре понял, какой поразительной силой манипуляции обладает ИИ. Чтобы выйти из-под ее власти, требуется железная дисциплина. А вот вернуться к ней можно за один клик…[93]
Но все-таки, если ИИ помогает нам принимать ежедневные решения, от выбора маршрута до занятий фитнесом, может быть, он позволит нам сэкономить интеллектуальные ресурсы для более важных в нашей жизни решений? Что, если применять
Однако мелочи – это и есть жизнь. Токвиль когда-то сформулировал глубокую мысль: «Именно в мелочах опаснее всего порабощать людей». Когда нас постепенно избавляют от привычки самостоятельно выбирать музыку, которую мы слушаем, или ресторан, где мы обедаем, – как можно свободно выбрать профессию или партнера? В недавнем нейрологическом исследовании изучалось влияние GPS на наш мозг[94]. Сравнивались две группы, которые должны найти дорогу в Лондоне: одной помогает приложение геолокации, а другая обходится без таких приложений. Исследователи пришли к выводу, что упражнение памяти и чувства ориентации повышает активность гиппокампа, причем эта активность растет пропорционально сложности маршрута. И наоборот: ученые опасаются, что постоянное применение GPS может привести к атрофии определенных зон мозга, что повышает риск болезни Альцгеймера. Каждый видел, как водители такси сервиса Waze колесят по Парижу по десять часов подряд, совершенно не осознавая ни места, в котором они оказались, ни географии города. Конечно, нельзя заставить себя вернуться к дорожным картам. Но нужно понимать, что за комфорт, предоставляемый ИИ, приходится платить определенную когнитивную цену. Если мы полагаемся на машину, когда надо повернуть налево или направо, не начнем ли мы в конце концов спрашивать у нее, с кем заключать брак? На что же будет похоже общество без гиппокампа?
Как это часто бывает, китайская модель – наиболее яркая иллюстрация этого вопроса. Чтобы не отвлекаться от проблемы вождения автомобилей, я отправился в штаб-квартиру компании Didi. Она находится в самом центре района Чжунгуаньцунь, который часто называют китайской Кремниевой долиной. Didi – это китайский эквивалент Uber; водители этого агрегатора выполняют 30 миллионов рейсов… в день. Компания, основанная всего-то пять лет назад, уже оценивается в несколько десятков миллиардов долларов, а ее кампус простирается на несколько километров. Стеклянные здания, украшенные оранжевым логотипом Didi, выстроились в ряд до самого горизонта – живое свидетельство поразительной скорости роста китайской экономики. После долгого блуждания по кампусу мне наконец удалось найти нужный адрес. Я встретился с Ву Гуобином, одним из руководителей исследовательского подразделения, специалистом по компьютерным наукам. Когда мы прошли мимо недовольных охранников департамента коммуникации, он безо всякого стеснения объяснил мне, что GPS – лишь первый этап в автоматизации всех решений, связанных с траекторией движения. Система виртуальной реальности будет точно показывать пассажиру, в каком направлении он должен идти, чтобы найти водителя в месте встречи; ему достаточно будет просто следовать за стрелками на экране. Что касается водителя, Didi в этом вопросе занимает еще более амбициозную позицию. Если в традиционных агрегаторах такси водители выбирают поездки в зависимости от меняющихся цен, Didi предпочитает из офиса назначать им «лучшую» поездку. Но самое интересное еще впереди… Ву Гуобин рассматривает возможность оснащения водителей биометрическими датчиками, способными измерять уровень их стресса и подсказывать им, когда нужно остановиться, выпить стакан воды и т. д. Вероятно, в ближайшем будущем ИИ будет предсказывать и тот момент, когда водитель захочет облегчиться, основываясь на количестве потребленной жидкости и его метаболизме. Система в таком случае сможет выбирать поездки так, чтобы в удобный момент он оказался неподалеку от общественного туалета. Разве это не лучше, чем оказаться в пробке с нетерпеливым пассажиром и нестерпимым желанием сходить в туалет? Разве это не станет заметным улучшением условий труда? Как искренне считает Ву, «ИИ вносит вклад в социальное благосостояние».
Так, водитель в Didi станет лишь скоплением плоти и нейронов, подключенным к сети, а ИИ будет указывать ему, какого пассажира взять, по какой улице поехать, когда сделать паузу и где остановиться. Даже базовое человеческое решение – когда сходить в туалет – тоже может быть делегировано машине. Как противиться этому безусловному приросту благосостояния? Но как в то же время не видеть в нем запланированного уничтожения наших когнитивных функций? Тут можно даже пожалеть об упразднении работы на конвейере, когда разум еще мог взбунтоваться против тупого повторения телесных движений. Но кто станет бунтовать, когда наши ментальные процессы будут выявляться, предсказываться и контролироваться? Какая зона свободы нам останется? Быть может, все мы станем такими водителями из Didi?
Конечно, городское пространство особенно хорошо поддается такого рода оптимизации. Как объяснил мне доктор Мин Ванли, главный программист проекта City Brain, развиваемого в компании Alibaba, в городе устойчивая типология (конечное число улиц, перекрестков, линий метро) сочетается с динамичным потоком действий (повседневные маршруты, которые более или менее повторяются). Это идеальные условия для тренировки ИИ. Доктор Мин одним из первых точно предсказал колебания городского трафика в 2007 году в Сингапуре, а позднее и в южной части Шанхая. Для инициативы компании Alibaba, одного из четырех цифровых гигантов Китая[95], было выбрано удачное название: разработать «мозг города» – значит получить способность предсказывать и контролировать его основные потребности, то есть не только трафик, но также организацию уборки улиц, управление парковочными местами, качество воздуха и даже городское планирование. Alibaba намеревается стать гением городов.