Ричард Йонк – Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта (страница 33)

Если вы сейчас спрашиваете, как такое возможно, подумайте над одной поучительной историей. В 2006 году разведенный мужчина средних лет по имени Роберт зарегистрировался на интернет-сайте знакомств, чтобы общаться с женщинами. Обменявшись с некоторыми из них сообщениями в чате и несколькими письмами по электронной почте, он познакомился со стройной привлекательной брюнеткой по имени Светлана, в чьем профиле было сказано, что она живет в Калифорнии недалеко от него. По-английски она говорила не слишком хорошо, но ее письма были теплыми и задушевными. Вскоре Светлана призналась, что живет не в Калифорнии, а в России, в Нижнем Новгороде. Поскольку все бабушки и дедушки Роберта переехали в Соединенные Штаты из России, его это абсолютно не смущало, наоборот, было еще одной общей чертой.

Несколько месяцев Роберт и Светлана переписывались по электронной почте, и Роберт понял, что влюбляется. Однако Светлана постоянно отказывалась поговорить с ним по телефону. Наконец, на пятый месяц переписки Роберт решил выкроить время и приехать к ней в гости. Но с приближением дня отъезда у Роберта появились нехорошие предчувствия. Что-то не давало ему покоя. Письма Светланы были какими-то странными, и дело было даже не в ее плохом владении английским. Роберт решил отправить ей для проверки письмо:

asdf; kj as; kj I; jkj; j; kasdkljk; klkj

'klasdfk; asjdfkj. С любовью, /Роберт

Светлана написала в ответ длинное письмо о своей матери, ни разу не упомянув абракадабру из его прошлого сообщения. Роберт был ошеломлен: все это время он общался с чат-ботом, компьютерной программой, написанной для поддержания бесед с людьми.

Доверчивость Роберта вполне простительна. В конце концов, любой из нас может принять желаемое за действительное и попасть в ловушку собственных эмоций, гормонов или одиночества. Кроме того, Роберт – бывший главный редактор журнала Psychology Today Роберт Эпштейн, написавший множество книг об отношениях и любви и один из ведущих экспертов в области общения человека с машинами – в частности чат-ботами. На самом деле в 1990-х годах Эпштейн руководил конкурсом на премию Лёбнера в области искусственного интеллекта. В этом соревновании жюри определяет самую удачную попытку отличить беседу с компьютерной программой от бесед с настоящими людьми.

Ко всему прочему Роберт признается, что совсем скоро после этого случая его обманул еще один чат-бот. Роберту даже не пришлось убеждаться в этом самому. Ему написал программист из Великобритании, который знал, кто такой Роберт, и посчитал нужным предупредить его, что он общается с компьютерной программой.

Никто не знает наверняка, сколько ботов на сайтах знакомств и в социальных сетях, эксперты говорят, что их несколько миллионов. В последние годы таких программ стало больше, и они стали сложнее. По оценкам исследования 2014 года, 56 % интернет-трафика исходит от ботов – программ, предназначенных для выполнения часто повторяющихся операций². В исследовании сообщалось, что половина этого трафика исходит от полезных ботов, но примерно 30 % – от вредных: агрегаторов, хакерских программ, спамеров и имитаторов. Отмечалось, что 20 % интернет-трафика исходит от имитирующих программ, в том числе чат-ботов. Такие программы используются для совершения разного рода киберпреступлений, число которых постоянно растет.

В определенных сферах эмоциональный интеллект задействуется постоянно: при оценке рисков, взаимодействии с гражданскими с обеих сторон конфликта и при поддержании тесных связей между боевыми товарищами.

Итак, по мере того как искусственный интеллект становится все сложнее, и его способности считывать, интерпретировать и реагировать на эмоции и невербальные сигналы развиваются, насколько уязвимыми становимся мы все?

Когда технологии эмоционального программирования найдут применение в различных сферах, мы, скорее всего, столкнемся с множеством неприятностей. Чтобы понимать и предсказывать поведение преступников и личностей, представляющих интерес для следствия, будет полезно использовать технологии эмоционального программирования в работе правоохранительных органов и при сборе разведывательных данных. Могут ли эти технологии изменить или усугубить нарушения наших гражданских свобод со стороны служащих госаппарата? По всей видимости, такая ситуация будет распространенной.

Конечно же, есть определенная польза в том, что люди, которые нас защищают, используют технологии эмоционального программирования. Полицейские, агенты разведки и сотрудники таможенных служб регулярно сталкиваются с обманом. В конце концов, обман – основа преступления. Без него большинство правонарушений были бы невозможны или неудачны. Обман определяется как намеренное сообщение информации, чтобы создать или поддержать ложное восприятие или убежденность³. Работа правоохранительных органов основана на раскрытии совершённых преступлений и на проверке прошлых, настоящих и будущих намерений. В этой сфере технология, способная измерять или считывать эмоции, станет отличным инструментом.

Для успешного взаимодействия внутри вида нужна система, основанная на взаимном альтруизме, в которой ни одна из особей не получает нечестного преимущества над другими в рамках ячейки общества⁴. Благодаря этому становятся возможными общение и социальная сплоченность. Большую часть времени мы проводим, общаясь с другими людьми, и считаем, что все, что нам говорят, правда⁵. Без этой уверенности общение становится не только неэффективным, но даже хуже, чем бесполезным. Психологи определили, что в основном мы действуем на основании склонности к правде, то есть предпочитаем считать правдой все, что нам говорят. Такое исходное предположение повышает эффективность общения.

С другой стороны, исследователи полагают⁶, что обман мог сыграть (и продолжает играть) роль в естественном отборе. Благодаря преимуществам, которые обман дает тем, кто удачно им пользуется, возникает убежденность, что риск подобного поведения оправдан. В некоторых случаях это может быть верно. Средства и методы обмана многочисленны, но есть у них общая черта: намерение сместить относительный баланс сил в пользу обманщика.

Масштабный мета-анализ результатов изучения 206 документов и 24483 записей судей показал, что всем нам, в том числе полицейским и судьям, удается отличить правду от лжи с вероятностью, немного превышающей обычную случайность. В среднем люди правильно определяют ложь всего в 54 % случаев⁷. Стоит отметить, что если большинство людей действуют на основании склонности к правде, то сотрудники органов правопорядка придерживаются другой крайности и считают, что люди склонны привирать. Тем не менее ни один из этих подходов не эффективнее другого. В ходе еще одного исследования, в котором приняли участие 509 человек, в том числе персонал правоохранительных органов, таких как Секретная служба США, ЦРУ, ФБР, Агентство национальной безопасности и Управление по борьбе с незаконным оборотом наркотиков, только сотрудникам Секретной службы с вероятностью выше случайной удалось определить, лжет ли собеседник. Но даже их успех составил всего 64 %.

Нет ничего удивительного в том, что люди по всему миру ищут надежные способы определения лжи. Если отбросить позорные стулья из прошлого и сжигание ведьм, то научный метод выявления обмана начал применяться лишь в конце XIX века. В то время несколько открытий и изобретений, основанных на спонтанных реакциях человека, были объединены в первую версию современного детектора лжи. Детектор лжи, или полиграф (что означает «много написанного»), изобрел Джон А. Ларсон в 1921 году в Беркли, штат Калифорния. Устройство одновременно записывало и отображало изменения пульса, артериального давления и частоты дыхания у проверяемого.

Со временем полиграф много раз изменяли и усовершенствовали, в частности добавили функцию измерения электропроводности кожи проверяемого. В конце XX века появились алгоритмы и программное обеспечение для более эффективного анализа данных, полученных полиграфом. Сейчас проверка на полиграфе – один из лучших и исключительно технологичных методов подтверждения правды и выявления обмана.

Тем не менее эффективность полиграфа остается крайне спорной. Разночтения в результатах проверки вызывают множество противоречивых мнений. Кроме того, нельзя отличить ответы человека, который говорит правду, но взволнован, и того, кто действительно лжет. Дело усложняет то, что некоторые люди специально тренируются, чтобы провести машину, и лгут, не проявляя спонтанных реакций, которые бы их выдали. Поэтому многие суды и законы не считают проверку на полиграфе приемлемым доказательством.

С точки зрения предотвращения преступлений есть еще одна проблема – полиграф нельзя использовать удаленно; чтобы устройство работало, его нужно подсоединить к проверяемому человеку напрямую.

С появлением эмоционального программирования ситуация может измениться. Вспомогательные технологии, такие как распознавание лиц, уже используются в крупных городах: в магазинах, на рекламных щитах, спортивных стадионах и на улицах – в видеокамерах систем замкнутого типа. В некоторых городах цифровые табло показывают целевую рекламу в зависимости от пола, возраста и этнической принадлежности смотрящего. Цифровые табло, разработанные такими компаниями, как Immersive Labs (которую в 2015 году купила компания Kairos), могут определять характеристики целевой аудитории с расстояния 7,6 метра при равномерном освещении для двадцати пяти человек одновременно. Умное телевидение и системы, оснащенные Microsoft Kinect или веб-камерами, можно запрограммировать на определение демографических или иных данных человека, стоящего или сидящего напротив. Полученная информация позволяет мгновенно подбирать для него специальную информацию, в том числе рекламную. В Великобритании технологии распознавания все чаще применяются в изображениях, передаваемых через шесть миллионов камер слежения, установленных по всей стране.