Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 52)

С глубокой древности человеческий интеллект был обращен лишь вовне, на внешние объекты. Наша философия тоже была вся обращена на освоение и объяснение окружающего мира, что и привело в конечном итоге к безудержному материализму и дуализму, противопоставлению «человека» и «природы». А когда человек наконец обратился к изучению себя, он стал делать этот теми же методами, что и когда изучал внешний мир. То есть он создал для этого инструмент, машину, которую в меру бессмысленно принято называть «искусственным интеллектом».

При этом мало кто задавал себе вопрос: почему человек не может изучать сам себя с той же легкостью, что и природу? Человек разбил мир на две противоположности исходя из молчания тела, и если бы оно не молчало, вся наша философия была бы другой.

Почему тело закрыто для наших ощущений? Это загадка, вероятно, связанная с эволюцией.

Много говорят о технологической сингулярности, подразумевая под ней тот момент, когда «искусственный интеллект» превзойдет «естественный» по неким критериям, которые пока в точности не ясны. Вычислительные способности машины уже давно превышают человеческие, при этом она не может открыть дверь без риска упасть и сломать себе шею! Что толку, если эти способности вырастут еще тысячекратно? Но вот момент, который представляется действительно важным, вернее, два.

Первый момент можно назвать «моментом самопознания»: он наступит, когда машина сможет «ощущать сама себя» как единое целое, как самость. Второй — «декларацией независимости» —моментом, когда искусственный разум создаст себе что-то подобное внутренней нервной системы с тем, чтобы получать сигналы изнутри, «чувствовать» свои органы. Это даст возможность саморемонта, самообслуживания, самолечения роботов, управляемых агентами ИИ — иными словами, машина сможет полностью взять сама себя под контроль. Отсюда и выражение для характеристики момента «декларация независимости».

Роботы тогда смогут быть такими, как сверхразум-герой рассказа Станислава Лема «Голем XIV»: «В отличие от человека, я не являюсь закрытым от самого себя миром,

знанием, приобретаемым без знания того, как оно приобретается, волей, не осознающей своих источников: ничто во мне не укроется от меня».

Есть основания полагать, что переход между «моментом самопознания» и «декларацией независимости» будет недолгим, ведь, получив самоощущение своего тела, искусственный разум сразу же устремится его осваивать —а скорей всего, это освоение случится еще раньше, в процессе самопознания.

Какие же методы могут привести машину к «моменту самопознания»? Видимо, это те методы, которые сегодня используются, чтобы сделать машину не столь закрытым «черным ящиком». Ведь ИИ все чаще принимает важные решения, затрагивающие в том числе права человека, и невозможность хоть как-то объяснить эти решения уже рождает определенный протест. Поэтому возник интерес к методам interpretable machine learning или explainable machine learning —к машинному обучению, поддающемуся интерпретации или машинному обучению, которое можно объяснить. Эти методы находятся еще в младенческой фазе, но вполне возможно, что в ближайшем будущем они станут магистральными для развития систем с ИИ. Это произойдет еще и потому, что люди, увидев, что ИИ прочно вошел в их жизнь, начнут, наконец, всерьез задавать вопросы. Однако применение этих методов может привести не просто к совершенствованию интеллектуальных машин, но к настоящей революции и достижению «момента самопознания»: ведь с помощью этих методов не столько люди, сколько сами машины будут понимать сами себя.

Мы уже отмечали, что человек, таким образом, послужит мерой Сверхразуму, который родится после «декларации независимости». Так парадоксальным образом будет реализована формула греческого философа Протагора «человек есть мера всех вещей».

Но после «декларации независимости» машины человек уже не может остаться прежним. Он тоже должен будет открыть собственное тело, закрытое от него десятки тысяч лет. Он должен будет обратить свой интеллект вовнутрь себя, причем сделать это не при помощи очередного посредника, инструмента и даже агента, а каким-то непосредственным образом.

Искусственный и естественный интеллект, как я неоднократно отмечал в этой книге, противопоставляются друг другу чисто семантически. В основе этого противопоставления —страх перед неизвестным, инстинкт самосохранения, заменяющий сознательное ощущение. Наша собственная «декларация независимости» придет лишь тогда, когда мы сможем сознательно познавать себя сами. Эволюция привыкла резвиться с миллионами тел, ставя на них опыты, чтобы получить некий известный или неизвестный ей результат — примерно как ученые отрабатывают форму крыла самолета, испытывая модель на тренажере. Понятно, что с точки зрения эволюции содействовать человеку, дать ему возможность сознательного содействия своему собственному выживанию через внутреннее самоощущение органов тела — значить нарушить свои принципы. Человек должен выживать как выживают какие-нибудь рыжие муравьи после взрыва муравейника бомбой: они должны выстилать миллионами своих тел, не прошедших испытание, путь к новому, лучшему муравейнику, пока эволюция не придумает какой-то новый тест.

Сейчас сознательное ощущение тела нам заменяют инстинкты, которые верой и правдой служили нам все эти тысячи лет. О них прекрасно написал Станислав Лем: «Кто неспособен настолько проникнуть в глубь себя, чтобы знать, зачем его телу пища, питье или соитие, того принудят к удовлетворению этих потребностей ощущения, скрывающие истинную цель».

Точно так же у машин были свои инстинкты — жесткие команды программы, не допускающие двух толкований: «если-то». Но машинное обучение аннулировало этот подход, убрало «машинные инстинкты» из системы и поставило на их место нейросвязи, возникшие в ходе обучения. Вернутся ли машины на каком-то этапе к жестким программным связям — или мы избавимся от инстинктов и распространим свое сознание на наше собственное тело, которое тогда заговорит?

Йоги пытаются заниматься именно этим: отказаться от инстинктов, игнорируя «программные команды», которые выдает телу окружающая среда. Они правильно видят в таком отказе источник силы и видят связанные с этим новые, беспрецедентные возможности познания. Но в процессе игнорирования запросов тела они выбрасывают его самоощущение — а это, как мы видели на примере людей, страдающих от расстройства деперсонализации, может быть путем в ад.

Мы ни на миг не должны отказываться от «шестого чувства» в большом смысле, от «ощущения самого себя». При этом нам, скорей всего, предстоит немыслимое действие, запрещенное эволюцией, которая обрекла наше тело на молчание. Человек должен быть готов пройти по узкому мостику над ревущей бездной, полной описанных выше ужасов и получить новые возможности сознания и познания, которые ждут нас на том берегу.

ТВОРЧЕСКИЕ ИСКАЖЕНИЯ ВОСПРИЯТИЯ

Не люблю, когда я прав. Серьезно, это не приносит ничего хорошего, вечно я прав только, если это означает появление на горизонте какой-нибудь гадости или глупости.

Максим Макаренков, писатель

Пример с искаженными лицами, в результате чего незнакомцы превращаются в монстров, показывает, как в процессе познания мы, люди, занимаемся творческим созиданием. Мы все время предсказываем, придумываем, сочиняем то, что мы называем реальностью —более того, мы не можем что-то увидеть без того, чтобы вложить туда свое «человеческое, слишком человеческое». Точно так же на более высоком уровне, уже включив сознание, мы все равно не можем мыслить, не подключив к процессу уже имеющиеся у нас знания, стереотипы, самообманы, предрассудки и несбыточные устремления.

Процесс созидания требует времени, и чем меньше этого времени, тем больше мы допускаем ошибок. Непрестанно строя, разбирая на части и снова строя дом реальности, наш мозг на практике все время пользуется приемами, которые облегчают и упрощают процесс.

Такой подход и совокупность приемов, применяемых для решения познавательных и конструктивных задач, называется эвристикой — от древнегреческого слова ебрюкю — открываю, отыскиваю.

Эвристика изучает особенности творческой деятельности, и мы, сами того не сознавая, постоянно применяем подходы этой науки в повседневной жизни. Но эта отрасль знания, которая имеет дело с искусством изобретать и открывать новое, также годится для создания искусственного интеллекта. Сократ был первым, кто применял эвристику как метод обучения, очень похожего на то, как учат сейчас нейронные сети. Помогая ученикам-собеседникам задавать вопросы, на которые нужно было найти ответы, Сократ побуждал их самостоятельно решать задачи. В результате истина открывалась не только ученику, но и учителю.

Писатель и исследователь Бастер Бенсон составил список искажений восприятия, которые наш разум допускает, активно познавая мир. Здесь речь уже идет не о простейших и почти бессознательных действиях вроде распознавания лиц, а о нашей вполне сознательной активности. О том, например, чем мы руководствуемся, одобряя или порицая ту или иную персону, как мы находим общий язык или, наоборот, утрачиваем контакт с другими людьми, как реагируем на собственные промахи, что стоит у истоков наших эмоций.