Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 53)

Оказывается, сознательное и даже общественное поведение человека строится в целом по тем же эвристическим правилам, что и наши бессознательные, вполне автоматические движения. Разница, конечно же, заключается в том, что своим сознанием мы можем повлиять на это поведение, сделав его, таким образом, более осмысленным. Другое дело, что это требует определенных усилий, а люди привыкли плыть по течению и предпочитают верить в удобные иллюзии. В итоге знание о том, как искажается человеческое восприятие, используется чаще всего не на благо человечества, а во вред ему: для того, чтобы манипулировать как отдельными людьми, так и обществом.

Наш мозг все время сталкивается с четырьмя главными проблемами.

Во-первых, это избыток информации, который по мере прогресса новых технологий только усиливается. Разум решает эту проблему, постоянно «фильтруя базар», то есть отделяя важное, по его мнению, от менее важного.

С первым фактором связан второй, а именно беспорядочность информации, которая нас все время путает. Чтобы организовать этот хаос, разум придает событиям в настоящем и прошлом определенные смыслы, и проецирует эти смыслы на будущее. Он постоянно представляет происходящее в виде логических последовательностей, заполняет пустые места в цепочках, автоматически занимаясь предсказаниями.

Эволюция приучила нас действовать максимально быстро, иначе мы можем упустить свой шанс и промахнуться, лишив семью еды до следующей охоты. Поэтому мозг стремится как можно быстрее сделать выводы из полученной информации и, если она важна, побудить нас к немедленному действию.

После того, как мозг отработал по важной информации, он перемещает ее в память. Чтобы при необходимости извлечь ее оттуда, у человеческого разума есть свои короткие пути и приемы.

Мозг активно решает описанные выше проблемы, но эвристика процесса такова, что приходится чем-то жертвовать.

Сейчас вполне можно говорить о том, что разработчики ИИ руководствуются в первую очередь последними новинками в изучении работы человеческого мозга, поэтому этот путь, по факту, является магистральным. Но если искусственный интеллект идет по пути копирования человеческого, то ему не обойти проблем, связанных с разного рода искажениями обработки и хранения информации. Впрочем, даже в том случае, когда ИИ или сеть ИИ превзойдет возможности человеческого ума, развиваясь как грибница, или пчелиный рой, или вообще как что-то нам совершенно неизвестное и неописанное, то наверняка у этого мощного нечеловеческого мозга будут свои короткие пути познания, которые позволят быстро делать выводы и реагировать на изменения среды, отсекая информацию, которую этот мозг признает ненужной. А раз так, неизбежны те или иные упрощения, обобщения и искажения, и нет никаких причин думать, что искусственный разум не будет иметь своих «мертвых зон» и «белых пятен» восприятия.

Думать — дело непростое. Мы атакованы информацией со всех сторон, а реагировать на все нужно быстро. Что-то мы можем отложить на потом, что-то быстренько распихать по сусекам памяти, но в целом хоть кричи караул. На помощь нашему бедному мозгу приходят искажения, предубеждения и другие способы сэкономить время и энергию. Разберем главные из них один за другим, и посмотрим, как можно вписать искусственный интеллект в эту картинку.

25 КОГНИТИВНЫХ ПРЕДУБЕЖДЕНИЙ, БЕЗ КОТОРЫХ МЫ НЕ ПРОЖИВЕМ И ДНЯ

Здесь содержится далеко неполный список «когнитивных предубеждений», то есть искажений в картине мира, других людей и самих себя, которые определяют человеческое поведение. Список составлен на основе анализа Бастера Бенсона. Эти «глюки в матрице» хорошо известны социальным психологам, рекламщикам, политтехнологам и довольно агрессивно используются для манипуляции сознанием миллиардов людей. Они напрямую связаны с тем, как биологический разум на глубинном уровне познает мир. В будущем, несомненно, подобный список будет составлен и для искусственного интеллекта —или множества таких интеллектов.

ИСКАЖЕНИЯ ОТ ИЗБЫТКА ИНФОРМАЦИИ

1.

Мы замечаем прежде всего вещи, уже сохраненные в памяти, с которыми мы часто сталкивались. Это приводит к тому, что мы отбрасываем информацию, которая на самом деле очень важна. Представьте себе, что такой предвзятостью обладает ваш умный электронный помощник по дому. До того, как вы ушли в парикмахерскую, все было хорошо, но стоило вам сменить прическу, и он перестал вас узнавать. Что это — каприз, глюк, или нравились вы ему больше с той прической? Из экономии или из вредности понизит температуру в доме до уличной, а ваши мольбы и слушать не станет!

2.

Броские, странные, забавные и человекоподобные образы замечаются быстрее и удерживаются в памяти дольше, чем обычные, скучные и абстрактные образы. Этот эффект вовсю эксплуатируется средствами массовой информации, которые работают на броскую картинку, заставляющую работать воображение. Газеты и телевидение не зря обожают крупные планы окровавленных лиц во время разгона демонстраций, сцены самосожжения и тому подобные ужасы: это вызывает моментальную эмоциональную реакцию и облегчает некритичное восприятие идущей фоном информации о том, кто, по мнению СМИ, виновен в происходящем. Так создаются поводы для войн и «гуманитарных интервенций». Интересно, что за необычные образы человек будет показывать ИИ, чтобы привлечь его внимание? И как будет ИИ реагировать?

3.

Чтобы мы обратили внимание на картинку, нужно, чтобы там что-то поменялось. Человек —стихийный консерватор и нередко видит в переменах угрозу, хотя это зависит от возраста и предшествующего опыта. Но искусные маркетологи научились пользоваться этим эффектом для продвижения технологических нововведений: пользователей убеждают в том, что их жизнь не изменится, а станет лишь удобнее и проще. Здесь маркетологи стоят перед дилеммой: с одной стороны, нужно скрыть или задрапировать реальные изменения, с другой — сделать так, чтобы вы обратили внимание. Кстати, на какие уловки пойдут маркетологи, чтобы впарить товар искусственному интеллекту?

4.

Мы сразу обращаем внимание на детали, которые подтверждают наши взгляды. Избирательное восприятие имеет оборотную сторону: мы охотно прячем голову в песок, не замечая того, что идет вразрез со сложившейся в мозгу картиной мира. Так, в 1930-е годы немцы в упор не видели геноцида, который осуществлялся открыто, хотя и без лишнего шума. Они «верили» в то, что живут в цивилизованной стране, где все делается по закону. На самом деле это была не вполне искренняя вера, а принцип «сознательной приостановки неверия», на котором основан успех театра в человеческом сообществе. В театре вы не то чтобы верите в происходящее, но сознательно приостанавливаете свое неверие, что позволяет вам эмоционально сопереживать. Для достижения такого эффекта нужен талантливый актер, коим, без сомнения, являлся Адольф Гитлер. Что, впрочем, никак не отменяет вины миллионов соучастников его преступлений. Ведь театр театром, а кровь-то лилась настоящая, трудно этого было не заметить. Кстати, ведущие западные газеты также отфильтровывали и не публиковали сообщения очевидцев о массовых убийствах и концлагерях, зато много писали об эффективности и порядке нацистского режима, пресловутое «при Муссолини поезда перестали опаздывать». Они тоже — не то чтобы «верили» Гитлеру, а сознательно приостанавливали свое неверие. Сегодня «эффект страуса» находит применение в социальных сетях, где вокруг пользователей создаются «информационные пузыри»: люди живут в облаке новостей и комментариев, которые лишь подтверждают и усиливают их оценки, за которые они получают лайки от своих друзей и единомышленников. Самые абстрактные взгляды, например, на экономические проблемы воспринимаются через призму конкретной личности: наша точка зрения имеет человеческое лицо, а чуждые нам взгляды высказывают люди неприятной наружности (сочетание «эффекта страуса» с «эффектом человекоподобного образа»). Возможно, что для того, чтобы убедить в чем-то искусственный интеллект, человеку нужно будет прикидываться ему подобным.

5.

Мы склонны видеть соринку в чужом глазу и не замечать бревна в своем. Это называют наивным цинизмом или наивным реализмом. Наверное, это все-таки можно преодолеть машинным обучением.

ИСКАЖЕНИЯ ОТ УПРОЩЕНИЯ СМЫСЛОВ

6.

Хаос — враг разума, и даже совсем случайный набор фактов мы склонны складывать в историю. Это называется иллюзорная корреляция, которая часто включает в себя и антропоморфизм, то есть наше стремление приписать непонятному человеческие черты. Мозг все время присваивает деталям значения из семантического поля смыслов, без допущений он просто не мог бы работать, поэтому заполняет лакуны сообразно имеющимся уже представлениям. Мы смеемся над древними, которые населяли мир могущественными духами, но охотно сочиняем и свои мифы, вроде «глубинного народа», который «действует» и даже определяет судьбу страны. На этом эффекте основана вся конспирология и неуспех театра абсурда: даже в театре нам нужна гипотеза, которая бы объясняла происходящее. Опытный режиссер всегда заставит зрителя поверить в «волю к власти» или «кровавый режим», имеющий человеческое (как правило, уродливое) лицо.