Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 2)
Как они собираются лишить человека воли к действию, хорошо показал коронавирус. Прежде всего, для этого нужно разъединить людей, сделать так, чтобы они утратили сам мотив к коммуникации. Затем нужно сделать так, чтобы действительно важные вещи людей не заботили. Может быть, для этого и была создана так называемая «экономика внимания»: ведь, погруженный в приватизированный виртуальный мир, где его покупают и продают прямо в тот момент, когда он потребляет «контент», человек ничего не будет делать. Его внимание расфокусировано, он находится не в со-знании, а в возле-знании — то есть, его критическое мышление отключено. Человек перестает думать о реальной жизни, о своем собственном завтрашнем дне, который он иначе мог бы изменить, о своей семье, об обществе, в котором живет. Я все жду, когда у совершенного потребителя «экономики внимания» начнёт расти шерсть, как у бедняков, высланных на Дурацкий Остров в пророческом романе Николая Носова «Незнайка на Луне».
Мы находимся в начале эпохи, где то, что называют сегодня «искусственным интеллектом», будет играть ключевую роль. Например, на наших глазах «наука о данных» выжигает то, что еще осталось от великой европейской науки. Это произошло незаметно — ведь «старый добрый искусственный интеллект» XX века ещё основывался на математической логике. Сегодня эти подходы практически полностью заменены вероятностными и статистическими моделями. Эти модели оказались успешными — например, в компьютерном зрении или в имитации человеческого языка, — поэтому технократы стали думать, что могут всё. Теперь можно упразднить все классические науки, начиная с физики. Как? Например, мы хотим предсказать, что произойдет в следующую секунду за окном. Раньше мы должны были применять множество теорий, от гравитации до квантовой механики. Теперь достаточно записать множество видео о том, что происходит за окном, скормить их суперкомпьютеру и сделать комплексный статистический анализ. Получится предсказание гораздо лучшего качества, чем то, что сделали бы физики! Значит, институты физики пора закрывать.
Так можно поступить с каждой наукой — хотя жрецы-технократы скажут, что оставят по нескольку человек в каждой области на развод, чтобы было кому скармливать машине данные.
Что же делать? Каждый год в англоязычных странах снимают десятки, если не сотни футуристических фильмов и телесериалов. В них будущее показано страшным, привлекательным, диким, завораживающим, райским, адским, абсурдным, нелепым, смешным. Чаще страшным. Люди вписываются в эти антиутопии или выпадают из них. Чаще выпадают.
В фокусе этих произведений оказываются разнообразные идеи, изобретения и технологии — и моделируется реакция на них отдельных людей и общества. Вспомним, хотя бы, сериал «Черное зеркало», где в каждой серии обыгрывается то или иное технологическое достижение, и показана его обратная сторона. Мы понимаем, что за технологический прогресс надо платить. Комфорт требует полного подчинения бездушной системе. Удобства оборачиваются расчеловечиванием. Перекладывание ответственности на гаджет приводит к появлению монстров. Выявляя болевые точки, часто этим и ограничиваются. В произведениях массовой культуры все проблемы решаются сверхчеловеком, который одерживает верх в самой безвыходной ситуации. Так массовое сознание получает дозу транквилизатора. Все под контролем, капитан Америка все разрулит.
Массовая аудитория уже давно включает в себя и «креативный класс», который точно так же подвержен циклам возбуждения и успокоения. Этим классом управлять, пожалуй, даже легче, чем простыми работягами, потому что креаклы податливей к атакам символами. Так и образованные классы, и массы потихоньку привыкают шокирующему и совершенно бесчеловечному миру, в который нас ведут крупные корпорации и правительства.
Конечно, на английском есть и книги с глубоким анализом происходящего, где многие вещи называют своими именами. Эти книги не раскручивают так, как массовую литературу: их функция прежде всего в настройке обратной связи системы. Без обратной связи не бывает управления. Бенефициары системы хотят знать тонкие места, хотят понимать, где может порваться или рвануть, и хотят к этому подготовиться. Таким образом, для самых внимательных, для наименее подверженных воздействию масскульта, для тех, кто дает себе труд вникнуть в проблему, появляется возможность что-то понять и осознать.
Увы, Россия, страна, пославшая в космос первого человека, перестала задумываться о будущем. Она живет на безумном контрасте цифровизации и суеверий, невежества и быстрого технологического прогресса, веры в компьютеры и упадка критического мышления. Страна открыта самым новым, самым смелым технологиям, одна из первых применяет их на практике: будь то бесконтактные банковские операции, криптовалюты, распознавание лиц, социальный мониторинг, дистанционное обучение, системы тотальной слежки и так далее. При этом, в обществе не происходит осмысления или даже обсуждения проблем, которые несут эти технологии. По этим темам в России не производят фильмы, практически не пишут книги. Зачем? Мы не метрополия, а колония. Англоязычные произведения массовой культуры полностью контролируют наши мысли и наши страхи, напрямую или через локальные адаптации.
Правительство активно навязывает обществу, народу, бизнесу, повестку цифровизации как некую кампанию, на которой крупным игрокам можно заработать, а остальным придется с этим смириться. При этом, облики грядущего исправно поставляются нам Голливудом. Культурная провинция станет и цифровой провинцией, ценной лишь поставками новой нефти — человеческого поведения марки Urals.
Технократы считают, что нельзя упускать прибыли от новых технологий, а будущее, которое они несут, простых людей интересовать не должно: кто-то в Силиконовой долине уже подумал над этим. При этом наш общественный идеал фантастическим образом лежит в глубоком прошлом, в дворянско-купеческом раю, в придворных интригах в камзолах XVIII века, в Нарышкиных, Голицыных и в эпохе Алексея Михайловича.
Не в силах совладать с настоящим, мы не думаем о будущем. Массовому сознанию нельзя давать время на размышления, оно не должно выходить из состояния шока, поэтому создается атмосфера непрекращающегося скандала, эйфории, а с недавних пор и катастрофы. Ковид облегчил задачу: индустрия гостеприимства рухнула, зато производство истерии и страха выдвинулось на первое место. С запуганными людьми можно делать что угодно, и абсурдные распоряжения в сочетании с системами цифрового контроля позволяют технократам форматировать сознание. Прежде всего, стираются личности детей и подростков, на них пишут, как на чистых листах бумаги. Так рождается будущее, в котором, как проговариваются некоторые технократы, уже не должно быть человека.
Эта книга родилась как ответ на запрос многих, которые хотели бы разобраться, что находится внутри «чёрного ящика» — ящика Пандоры новых технологий. Вы увидите, что за индустрией искусственного интеллекта стоит целая пирамида материальных ресурсов, знаний и человеческого труда. Я постарался сделать изложение доступным не только для «гиков» или «технарей», поэтому сложные концепции поясняются на простых примерах, представляются через парадоксы, мысленные эксперименты и метафоры, которыми, в сущности, являются все научные понятия.
Книга ни в коей мере не претендует на полноту охвата темы. Она была написана еще до ковида, который резко ускорил развитие человечества. Во время карантина 2020 года я написал продолжение этой книги, где подробно разбираю социальные и антропологические последствия масштабного появления систем искусственного интеллекта в повседневной жизни. Эта книга называется «Человек взломанный» и выйдет после «Демона внутри». Речь в ней пойдет о новой сущности, которая своими чертами напоминает государство — о глобальном Цифровом Левиафане, а также о социальной и человеческой сингулярностях, ждущих нас впереди.
Но и второй книги оказалось недостаточно, чтобы показать, как родилась новая реальность цифрового Левиафана и роевого сознания, идущего на смену личности, утраченной «человеком взломанным». Поэтому сейчас я работаю над третьей книгой серии, в которой подробно остановлюсь на истории искусственного интеллекта как понятия и практики. Двигаясь во времени, мы увидим, как наука перешла от дешифровки мира к дешифровке человека. Рассматривая машину как своё расширение, человек стал с двойным усердием штурмовать природу — и не заметил, как изменился сам. В последние годы успехи в техническом воплощении систем ИИ связываются прежде всего с учеными из США и Великобритании, поэтому принято показывать развитие отрасли с их точки зрения. При этом игнорируются достижения ученых из Германии, России, Польши, Финляндии и других стран. Я постарался восполнить этот пробел.
История исследования человеческого разума и его двойника, разума искусственного сопряжена с захватывающими эпизодами, драматической схваткой идей и личностей, которая продолжается и поныне. Отправляясь в мысленное путешествие с целью понять, что такое «искусственный интеллект», давайте уговоримся на полную катушку использовать интеллект естественный.