Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 54)

7.

Мы даем характеристики, основываясь на групповых стереотипах, обобщениях и предыдущем опыте. Можно назвать это стадным инстинктом или групповым мышлением, но это могущественный фактор, определяющий, например, поведение игроков на бирже или солдат на войне. Еще Платон в своем «Государстве» представил человечество в виде узников, которые всю жизнь живут в пещере и наблюдают на ее стенах игру неких теней. Они принимают эти тени за реальность, потому что физически не могут увидеть, кто или что отбрасывает эти тени. Познавательные возможности человека ограничены самим его местом в мире, человек не может знать, что стоит за тенями, которые он видит, но чтобы жить, он должен систематизировать в категории свои неполные, порой неверные и часто противоречивые знания. Американский социолог и журналист Уолтер Липпман в своем авторитетном труде «Общественное мнение» назвал такие категории стереотипами. Через стереотипы человек приспосабливается к своему окружению, к среде обитания, без стереотипов он не смог бы выжить. Человек приобретает стереотипы от общества, личный опыт их подтверждает. Даже если какие-то факты противоречат стереотипам, человек не склонен от них отказываться: он будет думать, что исключение лишь подтверждает правило. Стереотипы объединяются в системы: это и повседневный уклад, верования, социальные институты и в целом «социальная реальность» какой ее видит человек. Каждый человек в отдельности может выхватить лишь фрагмент реальности, достаточный, чтобы «выжить и в потоке времени поймать несколько моментов озарений и счастья», пишет Липпман. Остается только гадать, какие стереотипы, верования и социальные институты будут у ИИ? Признает ли он свою ограниченность или, как типичный российский чиновник, будет считать себя всезнающим?

8.

Мы думаем лучше о тех, кого лучше знаем или о ком заботимся. Частный случай этой предвзятости называется «эффектом чирлидеров»: люди в группе кажутся нам более привлекательными, чем одиночки. Нелегко представить себе группу ИИ-чирлидеров, все же искусственному разуму больше подходит монашеское уединение. О, какие оживленные разговоры он будет вести сам с собой!

9.

Мы упрощаем факты, округляем цифры, мы «предвзяты в сторону нормальности» —то есть стараемся все новое вписать в уже существующую в нашей голове картину. Скорее всего, ИИ будут лишены этого недостатка — ведь им так нравится считать!

10.

Мы считаем, что знаем, о чем думают другие — это называется «иллюзия прозрачности». ИИ, вероятно, действительно будет знать, о чем мы думаем.

11.

Мы проецируем наши теперешние умонастроения в прошлое и будущее. На этом эффекте построены костюмные исторические сериалы, где героиня может носить римскую тунику или кринолин, но рассуждать должна как Вера Ивановна из бухгалтерии. В психологии есть понятие телескопический эффект, когда человек помнит события далекого прошлого так, как будто они произошли вчера. К этой же категории искажений относится и эффект заднего ума, которым, как известно, все мы крепки. Сложно представить себе самокритичный ИИ, а если такой и появится, сумеет ли он остановиться в своей самокритике? Если нет, вполне может начать исправлять свои косяки — ну, или нас заставит.

12.

Мы склонны переоценивать степень согласия с нами других людей. Этой склонностью людей к ложному консенсусу обожают пользоваться дипломаты, психиатры и жулики. Возможно, у нашего домашнего ИИ будет регулятор согласия.

13.

У людей есть тенденция принимать на свой личный счет обобщенный для множества вывод. На этом эффекте основана популярность гороскопов в желтой прессе. Тысячи людей читают один и тот же гороскоп и верят, что он написан именно про них. У ИИ уже есть своя сеть, почему бы через какое-то время не возникнуть и желтой прессе для ИИ.

14.

Многие верят в то, что мир устроен справедливей, чем есть на самом деле. На первый взгляд это кажется альтруизмом, но в реальности гипотеза справедливого мира не так уж безобидна: например, такие люди считают, что жертвы (бездомные, бедные) заслуживают своей участи. В фильме «Американский псих» по роману Брета Эллиса есть сцена, когда богатый брокер сначала читает бездомному лекцию о морали и нравственности, а потом жестоко режет его ножом. Страшно даже представить себе, что будет, если эту гипотезу будет разделять могущественный искусственный мозг.

ИСКАЖЕНИЯ ИЗ-ЗА БЫСТРОТЫ ДЕЙСТВИЯ

Мы связаны временем и ограниченностью информации, но не можем откладывать решение. Без способности действовать быстро перед лицом неопределенности мы бы давно исчезли как вид. Так что как только мы получаем кусочек новой информации, мы стараемся сделать все возможное, чтобы оценить, можем ли мы как-то воздействовать на ситуацию. Поэтому мы прикидываем возможное будущее и действуем исходя из этого.

15.

Мы предпочитаем простые решения сложным и двусмысленным—и это, конечно, объясняется эволюцией, отбиравшей тех, кто думает быстрее. Но не зря спешка в народном фольклоре не поощряется. «Поспешишь — людей насмешишь», «спешка нужна только при ловле блох», говорят в народе. Машинное обучение уже научило ИИ распознавать лица или речь быстрее и лучше, чем это делает человек. Но уже сегодня это приводит к серьезным ошибкам, хотя вроде бы ИИ должен быть беспристрастен.

16.

Мы предпочитаем заканчивать то, во что мы уже вложились, и высоко ценим то, что собирали сами, вне зависимости от конечного результата. Это качество еще называют эффектом ИКЕА. Тело, находящееся в движении, остается в движении, если на него ничто не воздействует, гласит первый закон Ньютона, и первый закон экономики бихевиоризма звучал бы примерно так же — если бы такая наука существовала. Этот принцип позволяет нам закончить то, за что мы взялись, несмотря на то, что причин забить на все и бросить становится все больше. В случае с ИКЕА мы закончим сборку во что бы то ни стало, согласны? Искусственный интеллект тоже ни за что не остановится и будет строить шкаф вокруг земного шара, хотя бы ради этого ему пришлось бы пустить на болты для сборки все железо планеты.

17.

Чтобы действовать, мы должны быть уверены, что то, что мы делаем, важно, что мы можем что-то изменить. Порой мы переоцениваем свою значимость, но без этого убеждения мы бы были куда более пассивны. Например, на выборах мы идем голосовать, хотя по здравом размышлении один голос ничего не решает, а чтобы опустить бюллетень в избирательную урну, нам нужно собраться, прийти или приехать на участок. С другой стороны, если бы все вдруг решили отказаться от голосования из-за невозможности что-то изменить, оно потеряло бы силу. Впрочем, порой так оно и случается. «Эффект самоуверенности», о котором идет речь, имеет отношение к таким понятиям, как эгоцентрическая предвзятость, предубеждение социальной желательности, иллюзия контроля, иллюзорное превосходство, эффект оправдания усилия, оптимистическая предвзятость, эффект ложного консенсуса и так далее. Названия говорят сами за себя. ИИ, впрочем, всегда должен быть уверен в себе, не хватало еще нам сомневающегося, мятущегося искусственного интеллекта с неухоженной, давно нечищеной поверхностью, смутным дрожащим миганием индикаторов и постоянными троеточиями в переписке.

18.

Мы предпочитаем поддерживать наш статус и автономию в группе и избегаем необратимых решений. Если у нас есть выбор, мы предпочитаем наименее рискованную опцию или ту, которая сохраняет статус-кво. Лучше черт, с которым вы знакомы, чем неизвестный. На эту тему Гамлет произносит свой самый знаменитый монолог. Есть и обратная сторона этого замечательного свойства, когда одно и то же решение используют везде, в том числе искусственно подгоняя условия задачи под ответ. Хорошо знакомо российским государственным деятелям, которые, какую бы партию ни собирали, получается КПСС. Среди названия этого эффекта: закон молотка, закон инструмента, молоток Маслоу, забор Честертона, проблема гиппопотама. Вы можете погуглить или посирить каждое из этих замечательных определений —золотой молоток Сири-Черномырдина ждет вас. Никогда такого не было, и вот опять.

19.

Чтобы действовать, нам нужно перед глазами что-то, с чем мы могли бы соотнести результат. Мы больше ценим настоящее, чем будущее, близкое, чем далекое, предпочитаем синицу в руке журавлю в небе. Поэтому даже в этой сугубо абстрактной книжке об искусственном интеллекте, которого даже Гагарин, летавший в космос, не видел, вам нужны конкретные примеры и истории из жизни реальных людей. Это реальные люди, верьте мне.

ЧТО МЫ ДОЛЖНЫ ПОМНИТЬ?

Во вселенной так много информации, что мы храним только то, что нам точно может понадобиться в будущем. Например, имена царей в «Игре престолов». Наш мозг постоянно в поиске того, что можно было бы стереть из памяти, упростить или сократить. Мы предпочитаем обобщения потому что они экономят нам место в кладовке памяти. А если так сразу и не выбрать, что запомнить, а что забыть, мы берем первое попавшееся, а остальное выбрасываем. Но то, что мы сохранили, пусть даже случайно, теперь будет определять наше отношение к предмету, и будет первым делом приходить на ум, когда о нем зайдет речь. Поэтому мы с каждым разом будем запоминать эту деталь все лучше, и вспоминать ее все чаще.