Ричард Йонк – Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта (страница 30)

Процессы, которые лежат в основе наших эмоций, эволюционировали и стали запускаться автоматически в ответ на воздействия внешней среды.

С учетом сказанного публичное объявление о программе SUBNETS заставило множество людей самых разных политических взглядов задуматься: не стоят ли за планом вживить электронные чипы в мозг нашим доблестным военнослужащим куда менее благородные намерения? По интернету прокатилась лавина слухов о контроле сознания и зомбировании солдат. Такая дикая спекуляция совершенно не учитывает ни сложность существующей технологии, ни этические принципы военного командования. Тем не менее сегодня мы пришли именно к этому. Возможно, через несколько десятилетий при другом политическом режиме и другом правительстве разговор будет совершенно иным.

Рассмотрим, какие сегодня имеются технологии, обладающие интерфейсом, соединяемым напрямую с мозгом. В 2015 году исследователи из Техасского университета А&М продемонстрировали миниатюрный компьютер, который надевается на таракана, как крошечный рюкзачок с электродами, вживленными в его нервную систему. Передвижения насекомого можно отслеживать при помощи беспроводной связи. В конце того же года небольшой краудфандинговый бизнес-проект Backyard Brains объявил о продаже технологии RoboRoach – комплекта для создания «первого в мире киборга для коммерческого использования», как заявили основатели проекта. Даже любители могут установить комплект на таракана, а затем следить за ним через смартфон, подключив его с помощью Bluetooth.

В ряде экспериментов, проведенных в 2013 году, исследователи из университета Дьюка продемонстрировали интерфейс «мозг-мозг» между двумя крысами при помощи набора вживленных микроэлектродов⁶. В том же году ученые из Гарварда показали, как человек-доброволец мог силой мысли контролировать движения хвоста подопытной крысы. Волонтер, чей мозг сканировался методом ЭЭГ, управлял пучком фокусированного ультразвука, который стимулировал двигательную область коры мозга крысы⁷. Через несколько месяцев двое исследователей из Вашингтонского университета представили первый в мире неинвазивный интерфейс «мозг-мозг», с помощью которого один человек удаленно управлял движениями руки другого, находившегося в противоположном конце университетского городка⁸. Наконец, возвращаясь к тому, с чего начали, в конце 2016 года еще одна исследовательская группа разработала интерфейс «мозг-мозг», позволявший человеку-оператору управлять действиями таракана – одной лишь силой мысли!⁹

Эти проекты отчетливо демонстрируют осуществимость сознательного контроля и передачи состояний мозга между людьми. Подобные исследования приведут к появлению нейротерапевтических методов, а также новых способов общения и взаимодействия. Всего через несколько десятилетий станет возможной прямая передача мыслей, образов и даже чувств. Со временем такая электронная телепатия будет становиться все сложнее и в конечном итоге станет предпочитаемым видом общения, по крайней мере для некоторых видов взаимодействия.

В свете технологического прогресса, возможно, легче понять, почему идея вживлять мозговые импланты солдатам так обеспокоила параноиков. Пока существует надежда, что у командования наших вооруженных сил достаточно стойкие этические принципы, чтобы не дойти до кошмарных сценариев, к которым могут привести подобные эксперименты, но мы не можем гарантировать того же в будущем. Террористы, перехватившие доступ к сознанию и телам заложников, чтобы сделать из них подрывников-смертников, действительно будут сниться людям в страшных снах.

Еще один центр оборонных исследований нейростимуляции как средства изменения мозга – Исследовательская лаборатория ВВС США на базе ВВС Райт-Паттерсон в штате Огайо. Миссия 711-го подразделения по изучению возможностей человека «в области биологических и когнитивных наук и технологий для оптимизации и защиты способности авиатора летать, вести бой и побеждать в воздухе, космосе и киберпространстве»¹⁰. В ходе ряда экспериментов применялись транскраниальная стимуляция мозга постоянным электрическим током (ТЭС) и транскраниальная магнитная стимуляция (ТМС), чтобы увеличить концентрацию внимания и повысить эффективность когнитивной деятельности. При исследовании концентрации внимания применяли ТЭС, направленную на дорсолатеральную префронтальную кору, чтобы привести мозг в состояние бдительности – как будто человек выпивал несколько чашек кофе одну за другой, но без побочных физических эффектов. Во время сорокаминутного эксперимента сканирование мозга людей, получавших ТЭС, показало, что работоспособность оставалась высокой на протяжении всего экспериментального периода. Это было просто неслыханно. В ходе исследования эффективности когнитивной деятельности участники, которые получали ТЭС, одновременно заучивая последовательность действий, показали результат на 250 % лучше, чем контрольная группа при следящем тестировании¹¹. Это предполагает, что в не столь отдаленном будущем можно будет невероятно ускорить способность человека учиться. Кроме того, подобные техники можно применять, чтобы стимулировать или подавить определенный участок мозга. Ряд других исследований, в ходе которых применялась ТЭС, показал, что она воздействует и на другие функции, например математические способности, предрасположенность к риску и способность к планированию, но есть множество вопросов относительно того, насколько значим этот эффект, чтобы считать его полезным.

Некоторые исследования показывают, что ТЭС может изменять эмоциональную реакцию в соответствии с условиями эксперимента. При направленном воздействии на разные участки мозга подобные методы должны усиливать или подавлять эмоции так же, как и прочие аспекты нашей когнитивной деятельности. Хотя это не было первичной целью разработки, со временем подобные системы будут применяться во многих сферах, причем зачастую совершенно не в тех, для которых они были первоначально созданы. Их неизбежно начнут использовать, чтобы усилить или ослабить эмоциональную реакцию в определенных ситуациях, например отрегулировать здоровую реакцию на раздражитель, полностью подавить естественную эмоциональную реакцию или выработать реакцию, которая явно не соответствует ситуации. В зависимости от сферы применения результат может быть полезным, а может привести к катастрофическим последствиям при неправильном использовании.

В течение последних лет военные экспериментировали со многими технологиями, которым повышенная эмоциональная осознанность пошла бы на пользу, особенно дронами и роботами. Хотя концепция дронов или беспилотных летательных аппаратов (БПЛА) была популярна на протяжении века, их начали широко применять в военных целях только в течение двух последних десятилетий¹². В то же время для использования в различных военных операциях разрабатывались роботы и другие автономные комплексы вооружения. Возрастающая зависимость от автономных и полуавтономных инструментов и вооружений вызвала беспокойство по поводу возможного изобретения «роботов-убийц». Несколько лет назад осознание потенциальной угрозы возросло настолько, что военные вели диалог о потенциальных рисках и преимуществах, а среди гражданских возникли полноценные движения, выступавшие за принятие международных законов о запрете такого рода оружия. Международный комитет по контролю за роботизированными вооружениями (ICRAC) – одна из таких групп, члены которой считают, что у человечества есть небольшой шанс не допустить угрозы, пока не стало слишком поздно. Комитет, неофициально входящий в группу неправительственных организаций «Кампания за запрет роботов-убийц», стремится к превентивному запрету автономного оружия поражающего действия по всему миру.

Одна из главных причин, по которой возможность существования такого оружия вызывает тревогу, – это недостаток эмпатии и эмоционального интеллекта. Ноэль Шарки, профессор робототехники и искусственного интеллекта Шеффилдского университета, а также один из основателей Комитета, отмечает:

Это вопрос не только визуальной дискриминации. Следите за логикой. Военные привели мне замечательный пример: несколько морпехов зажали нескольких боевиков в проходе между домами и намеревались убить. Они прицелились и собрались застрелить боевиков. Затем они заметили, что боевики несут гроб, опустили оружие, сняли шлемы и уважительно дали им пройти. Потому что если бы они убили боевиков, то сами бы попали в серьезные неприятности. На похоронах не убивают людей. Робот бы просто их пристрелил. Возможно, вам удастся запрограммировать робота, чтобы он не стрелял в этих условиях, но тогда все боевики будут ходить с гробами.

Мы снова возвращаемся к вопросу уязвимости программного обеспечения. Если приходится жестко кодировать стандартную реакцию на непредсказуемое событие, то в долгосрочной перспективе результат будет нулевым. Либо условия в конечном итоге выйдут за пределы ожидаемого диапазона, либо в программирование будет вмешиваться человеческий фактор. Эмоциональный интеллект и способность присваивать значения различным элементам и условиям в собственном окружении в значительной степени поможет решить проблему. В частности, если разум способен присваивать значения не только себе, но и прочим участникам действия. Иными словами, если искусственный интеллект подает признаки теории сознания и способен проявлять эмпатию.