Ричард Йонк – Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта (страница 55)

2. Феноменальное сознание – реальное переживание отдельных примеров субъективного осознанного опыта, традиционно называемых в философии «квалиа». Их можно считать необработанными единицами сенсорной информации, которую мы постоянно получаем от окружения, но все еще невозможно доказать, что опыт явления, переживаемый одним человеком, совпадает с опытом другого³.

К этим двум определениям я добавлю третью разновидность или группу разновидностей сознания: интроспективное сознание – результат постоянного взаимодействия между сознанием-доступом и феноменальным сознанием:

3. Интроспективное сознание – включая самосознание; внутреннее, прерывающееся, соотносящееся с самим собой наблюдение, в том числе распространяющееся на метакогнитивную деятельность («размышление о размышлении»). Способность наблюдать и размышлять о совокупности собственных личных внутренних состояний практически в реальном времени. Некоторые могут счесть его аспектом сознания-доступа, но я придерживаюсь мнения, что между ними достаточно различий, чтобы считать его самостоятельным явлением.

Иногда считается, что сознание-доступ, или по крайней мере его подтипы, легче всего объяснить, поскольку существует надежда в конечном итоге понять его механизмы. Способность получать доступ к информации в нашем сознании, например языку и памяти, и сообщать о ней считается абсолютно человеческой особенностью, хотя Блок считает, что сознанием-доступом обладают шимпанзе и некоторые «намного низшие животные».

Во многих отношениях не существует разумных структурных или функциональных аргументов, почему машины не смогут достичь этой разновидности сознания, по крайней мере ее базовой формы. Электронные системы способны определять состояние своего внутреннего функционирования и сообщать о нем, независимо от того, проявляют ли они другие признаки разума. То же самое они могут делать и с архивной информацией, получая доступ к памяти прошлого. Пока что это объективная информация, все еще потенциально доступная другим. Однако можно предположить, что эта способность машин станет по мере дальнейшего прогресса более совершенной и детализированной. Со временем можно будет сравнить ее с субъективными функциональными возможностями сознания-доступа у людей, но, возможно, машины будут более совершенными. Кроме того, с развитием таких технологий, как сканирование мозга и расшифровка нейронных сигналов, когда мы узнаем больше секретов сознания-доступа, мы можем обнаружить, что оно не настолько субъективно, как мы считали.

Феноменальное сознание по ряду различных причин считается более сложной проблемой психологии и когнитивной науки. Природу и основу переживания ощущения – будь то красный цвет розы или переливы смеха, или запах океанских волн – сложно объяснить и доказать. Эксперт по когнитивным наукам и философ Дэвид Чалмерс называет это «трудной проблемой сознания», пытаясь объяснить, как и почему вообще возникло феноменальное сознание⁴. В зависимости от того, как вы понимаете свое ощущение, сложно даже определить, какому виду животных принадлежит это ощущение и до какой степени. И хотя это, может быть, немного нечестно, я скажу, что считаю его нейросенсорным явлением, которое можно пережить на промежуточной стадии предварительной обработки информации в мозге (возможно, в таламусе). Это позволит осознавать квалиа[2] и явления как часть мозга до того, как они станут доступны другим, более абстрактным функциям интеллекта, включая в конечном итоге и сознание-доступ. Вероятно, давным-давно это дало некоторым видам животных эволюционное преимущество, позволив им лучше взаимодействовать с различными аспектами окружающей среды и выживать в ее условиях. Со временем это свойство развивалось и стало более сложным, в частности стало более открытым для развивающегося сознания-доступа и даже получило тесную связь с социальным взаимодействием и культурой. Это вовсе не означает, что эволюция сознания была хоть сколько-нибудь целенаправленной. Ее ничто не направляло. Я полагаю, что сознание, как аппендикс или эндокринная система, медленно развивалось на протяжении несчетного количества поколений, и наиболее ценными для популяции были особи, которым сознание помогало выживать в определенных природных условиях и справляться с трудностями.

По словам Блока, именно из-за отсутствия феноменального сознания мы обязаны «феноменальным зомби из научно-фантастических произведений и примеров философов – знакомые нам компьютеры и роботы, которые могут думать, но не могут чувствовать. Они обладают сознанием-доступом, но не феноменальным сознанием». Иными словами, сознание-доступ позволяет им рассуждать, но отсутствие феноменального сознания не позволяет им чувствовать.

С концепцией феноменального сознания связана проблема, известная под названием «проблема сознания другого». (Блок называет ее «еще более трудной проблемой сознания».) Это эпистемологическое понятие означает, что при имеющейся у нас возможности наблюдать поведение других мы никогда не сможем по-настоящему испытать, что они чувствуют, а потому никогда не сможем доказать, что сознанием обладает еще кто-то кроме нас самих. Притом что такой солипсизм проблематичен с философской точки зрения, справедливо будет отметить, что абсолютное большинство читателей этой книги подобным сознанием в той или иной степени обладают. В связи с этим возникают несколько интересных вопросов относительно будущего машинного разума. Если высказывания или действия искусственного интеллекта указывают на то, что он воспринимает мир именно в этом смысле, то как мы можем быть уверены в том, что это действительно так? И наоборот, даже если достаточно сложная система не сообщает о состояниях, которые соответствуют наличию феноменального сознания, можем ли мы быть уверены в том, что оно по определению не испытывает квалиа? Мы еще долго будем спорить, пытаясь разобраться в этой путанице, даже спустя долгое время после того, как у машин появится эта способность, если вообще появится.

В фильме, снятом под влиянием сказки о Пиноккио, деревянном человечке, который отчаянно хотел стать настоящим мальчиком, сформулированы основные вопросы развития эмоционального искусственного интеллекта у машин.

Наконец, мы подходим к тому, что я называю интроспективным сознанием. Его можно охарактеризовать как независимое свойство синтеза сознания-доступа и феноменального сознания. В известном смысле его можно рассматривать как разновидность каждого из них, но я не соглашусь, поскольку оно может возникнуть и при отсутствии каждого из этих первичных процессов, так что мы будем рассматривать их условно независимо друг от друга.

Многие люди, говоря о достижении роботом или искусственным интеллектом сознания, имеют в виду способность к самоанализу и рассуждению о собственных внутренних ментальных состояниях. Несмотря на то что для специалистов в области искусственного интеллекта это может представлять сложную проблему, для нас может быть относительно просто установить наличие феноменального сознания теми способами, которыми обычно проводится тестирование машин. Хотя систему можно «обмануть», в некоторые тесты на интеллект можно ввести элемент случайности и контролировать последствия, которые возникнут для искусственного интеллекта, а затем запросить у него отчет о собственном внутреннем состоянии в отношении этих условий⁵. Будет не так сложно распознать настоящую рефлексию и подтвердить по-настоящему субъективное состояние, подобное феноменальному сознанию.

Я считаю, все это действительно указывает нам, что нужно сделать, чтобы искусственный интеллект обрел интроспективное сознание. При этом некоторые животные демонстрируют определенную степень сознания-доступа и, по всей видимости, обладают феноменальным сознанием⁶. С учетом этого интроспективное сознание уже не кажется необязательной разновидностью сознания-доступа; самоотносимая природа интроспекции происходит из способности получать доступ к внутренним состояниям и размышлять о них. Если это действительно так, то как самосознание вообще может существовать без сознания-доступа?

Но можно ли обладать самосознанием при полном отсутствии феноменального сознания? Маловероятно. Как писал Блок, «допуская, что феноменальное сознание необходимо для наличия полноценного сознания-доступа, сознание-доступ не может существовать без феноменального сознания». Каким же образом можно реализовать интроспективное сознание, не имея средств глубинного познания мира, в том числе внутренних состояний? По такой логике для возникновения интроспективного сознания необходимы как феноменальное сознание, так и сознание-доступ.

В каком возрасте у человеческих детей появляется самосознание? На основании исследований поздних медленных волн, связанных с началом осознанного мышления, зачатки самосознания появляются у младенцев от пяти-шести месяцев. Зеркальные тесты, точнее «румяный тест», помогает исследователям определить точный возраст. При проведении «румяного теста» на нос ребенку наносят красную точку и показывают отражение в зеркале. Обычно дети в возрасте от полутора лет реагируют на точку, прикасаясь к собственному лицу. Это значит, что они узнают себя в зеркале. Этот временной интервал соответствует формированию и развитию связности веретеновидных нейронов, структур коры головного мозга, которые соединяют удаленные области мозга, особенно переднюю часть поясной извилины коры мозга и другие участки, тесно связанные с самосознанием. Формирование веретенообразных нейронов начинается в возрасте около четырех месяцев, а взаимосвязь между ними на должном уровне начинается примерно в возрасте полутора лет. Примерно к этому времени дети начинают осознавать себя, как показывает «румяный тест». Возможна ли такая реакция формирующегося разума при отсутствии сознания-доступа и феноменального сознания?