Ричард Йонк – Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта (страница 44)

Кроме того, будут ли этичными попытки запретить подобные устройства? Взять, к примеру, те уголки мира, где число мужчин и женщин весьма неравное. Правильно ли будет обречь некоторую часть населения на жизнь без любви и теплых близких отношений лишь потому, что численное соотношение не совпадает? А как насчет людей, которые не могут найти возлюбленного из-за серьезных физических изъянов или проблем с эмоциями? Справедливо ли приговорить их к существованию без любви из-за предубеждения насчет отношений людей и машин? Хотим ли мы сказать этим, что жить без отношений лучше, чем с роботом?

Эмоциональные технологии изменят наши намерения, поведение и даже наши сексуальные предпочтения и нравственные нормы.

С другой стороны законодательного подхода, что произойдет с проституцией в мире, где полно секс-ботов? Разумеется, есть те, кто считает, что машины никогда не вытеснят из этой сферы людей, но большинство аргументов не учитывает эмоциональную грамотность. По мере того как эмоциональное программирование будет совершенствоваться и аффективные технологии будут использоваться для создания секс-ботов и других секс-игрушек, подобные аргументы станут несостоятельными. Конечно, эффект зловещей долины будет какое-то время отпугивать добропорядочных граждан, но что если проблему удастся решить и секс-боты перестанут отличаться от людей, работающих в сексуальной сфере? Такие партнеры не заразят венерическими болезнями, не будут настаивать на эмоциональной привязанности, а вопрос эксплуатации просто не возникнет. Многие назовут это сплошной пользой, за исключением, конечно же, людей, работающих в сфере сексуальных услуг. Но при этом в сфере сексуальных услуг много жертв торговли людьми и эксплуатации, пропорция не принимает их в расчет. В мире, где люди уже теряют множество рабочих мест из-за автоматизации и роботизации производства, количество работников сферы секс-услуг может быстро уменьшиться²⁷.

Наконец, как изменится наше отношение к роботам, к которым мы испытываем любовь и, по крайней мере, можем представить, что они испытывают любовь к нам? Машина, наделенная способностью чувствовать (или имитирующая способность чувствовать), обнаружит, что у нее есть сторонники, готовые отстаивать ее гражданские права и свободы и обеспечить ее поддержкой в соответствии с основными гражданскими правами. Программа может обрести сознание, а может и не обрести его, но вероятность нашей с ней эмоциональной связи и стремления ее защитить сильно возрастет, если мы поверим в то, что она испытывает эмоции²⁸. Преуспеют ли в своем стремлении защитники «угнетенного механического меньшинства», не так уж и важно. Эти действия ознаменуют начало изменений в обществе, не похожие на те, что мы наблюдали раньше. И хотя машины могут не получить таких прав, даже если они обретут сознание (если это в принципе возможно), мир вокруг нас все равно сильно изменится.

Секс-куклы обычно ассоциируются с извращенной мужской сексуальностью, но ситуация меняется. Среди пользователей подобных устройств становится все больше женщин. Меняется и отношение, создаются форумы и группы поддержки пользователей секс-ботов и секс-кукол. Об этой субкультуре даже снимают фильмы, например в 2007 году вышла комедийная мелодрама Райана Гослинга «Ларе и настоящая девушка» [Lars and the Real Girl). Как только существование эмоционально грамотных роботов – сексуальных или нет – станет реальностью, обществу придется изменить свое отношение к искусственным формам жизни. Не в последнюю очередь потому, что они станут кем-то вроде членов семьи, что мы увидим в следующей главе.

Глава 14

Искусственный интеллект в семье

Квартира в Квинс, Нью-Йорк – 20 января 2058 года

Арчи стукнул кулаком по столу.

– Нет! Ты не выйдешь за Майкла, и это решено!

– Но папа! – крикнула Глория, едва сдерживая слезы. – Мне больше ни с кем не было так хорошо! Майкл относится ко мне так, как будто я лучше всех на свете.

– Солнышко, ты замечательная, – присоединилась к разговору ее мать Эдит. – Арчи, ты действительно не дал Майклу ни одного шанса.

Арчи поднял взгляд от тарелки с недоеденной отбивной.

– Дал.

– Нет, папа, – Глория продолжала гнуть свою линию. – Ты этого совершенно точно не сделал. Твою фанатичную неприязнь к Майклу можно было заметить с самого первого дня.

– Я не фанатик! – прорычал Арчи сквозь сжатые зубы. Обвинение заставило его вскипеть от гнева.

Эдит посмотрела на мужа с другого конца стола и спокойно произнесла:

– Дорогой, очень похоже на то.

– Моя дочь не выйдет замуж за робота, и это мое последнее слово!

Глория вздрогнула, услышав презрительно брошенное слово, и выскочила из-за стола.

– Майкл – кибернетическая личность с теми же правами, что у тебя или у меня! Мы поженимся, и ты ничем не сможешь нам помешать!

Она выбежала из столовой вся в слезах.

Арчи попытался что-то сказать, но увидел, как Эдит поджала губы, и передумал. Бросив взгляд на недоеденный обед, он понял, что у него пропал аппетит, и оттолкнул от себя тарелку.

Аффективные технологии и эмоциональный искусственный интеллект привнесут в общество огромные перемены. Возможно, наиболее очевидными они станут именно в семейных отношениях. Несомненным плюсом этих технологий станет то, что они откроют нам новые средства общения и позволят установить такую эмоциональную связь, на которую мы не были способны прежде. Мы сможем ощутить, что чувствуют наши любимые люди, даже если они находятся от нас на огромном расстоянии. Однажды мы даже сможем заново переживать записанные ощущения от празднования важного события или через долгое время после смерти любимого родственника.

С другой стороны, эмоции – важная составляющая нашей привязанности к семье, а машины и технологии постепенно разрушат эту связь. Несмотря на то что семьями традиционно считались группы, объединенные узами брака или кровным родством, многие культуры переходят к альтернативным нормам, включая смешанные и приемные семьи, а также группы людей, встречающихся друг с другом, вместо создания нуклеарной семьи. По мере развития аффективных технологий многие люди предпочтут долговременную эмоциональную связь с искусственным интеллектом. Это приведет к радикальным изменениям человеческой семьи как явления.

Люди обладают базовым сексуальным влечением, выходящим за пределы продолжения рода и сохранения популяции.

Будет ошибкой считать, что подобная связь распространяется только на машины человекоподобного вида. Ее объектом могут стать роботы больших и малых размеров, игрушки, устройства и даже компьютерные программы и операционные системы, как ОС 1 (OS ONE) в фильме «Она» (Her). Эмоциональный искусственный интеллект будет становиться все более сложным и обретать все больше тонкостей. Мы увидим, как машины начнут вызывать у нас определенную более или менее регулярную инстинктивную реакцию, которую Шерри Теркл назвала дарвиновскими кнопками. Зрительный контакт, выражения лица и некоторые жесты и голосовые сигналы часто вызывают у людей эмоциональную реакцию, и не имеет значения, исходят ли они от ребенка, собаки, игрушки или робота. Эти кнопки запускают соматические процессы, стимулирующие выработку гормонов – например, окситоцина и вазопрессина, – усиливающих привязанность. Подобные реакции, несомненно, главные в формировании материнской привязанности, необходимой для того, чтобы обеспечить потомству выживание. Учитывая, что человеческим детенышам требуется долгое время, чтобы вырасти и стать самодостаточными, формирование привязанности у людей длится много лет, гораздо дольше, чем у любых других животных.

На протяжении этого периода дети не только вырастают физически, но и получают когнитивные и социальные навыки. Эти основные и важные знания юный разум приобретает задолго до того, как научится абстрактному мышлению и ознакомится с другими понятиями высшего порядка. Основные эмоциональные реакции, голосовые сигналы, отслеживание выражений лица и движений глаз, крупная и мелкая моторика – часть этого обучения наряду с постепенным развитием самосознания, восприятием себя и других, а также первичным пониманием разницы между правильным и неправильным. Со временем ребенок усваивает более сложные навыки, например, тонкие аспекты языка и социального поведения. Обучение требует времени, эмоциональной заинтересованности, терпения и руководства. Без ответственной заботы и наставлений разум юного человека может выбрать нежелательный путь.

Хотя искусственный интеллект проигрывает по сложности развивающемуся детскому уму, он тоже может пострадать от отсутствия должной заботы и присмотра. 23 марта 2016 года компания Microsoft анонсировала миру Тэй. Тэй – чат-бот для Твиттера с искусственным интеллектом, представленный как девятнадцатилетняя девушка-американка. Предполагалось, что бот будет обучаться, общаясь с пользователями Твиттера в возрасте от восемнадцати до двадцати четырех лет (средний возраст целевой аудитории для мобильных устройств компании Microsoft). К сожалению, все пошло, мягко говоря, не так, как планировалось. В течение двадцати четырех часов и примерно через тысячу сто отправленных твитов после подключения Тэй превратилась из милой молодой девушки в расистку и сквернословку¹. Всего через сутки искусственный интеллект сыпал ругательствами через слово, использовал крайне непристойные и грубые выражения и заявлял о поддержке Гитлера. Тэй пришлось отключить от сети. Компания Microsoft обвинила международную группу пользователей, которые якобы научили Тэй нецензурной брани, чтобы вывести ее из строя.