Феникс Фламм – 14/08 (страница 8)
Она посмотрела на аудиторию.
– Что произошло? Он осознал не только границы знания, но и границы своего стиля мышления. И решил его изменить. Временно. Для этой конкретной задачи. Это и есть высший уровень – способность рефлексировать над самими инструментами своей рефлексии. Менять «операционную систему» мышления, не меняя цели.
УРОВЕНЬ 4: «Я МОГУ ИЗМЕНИТЬ ТО, КАК Я ДУМАЮ, ЕСЛИ ЭТО НЕ РАБОТАЕТ».
Левина отошла от доски.
– Пятнадцать лет назад, когда я начинала исследования, мы искали «сознание» как некий бинарный переключатель: есть – нет. Но мозг так не работает. Сознание – это не переключатель. Это градиент метакогнитивной сложности. И каждый уровень – не просто «больше сознания». Это качественно иной режим работы системы. Сознание – это не свет, который либо есть, либо нет. Это лестница в темноте. И главный вопрос не в том, на какой ступени ты стоишь, а в том, чувствуешь ли ты под ногой следующую – ту, которой еще нет, но которая уже возможна.
Она включила проектор. На экране появилась схема – не иерархическая пирамида, а спираль, уходящая вверх.
– Уровни не заменяют друг друга. Они наслаиваются. Система с Уровнем 4 обладает и Уровнем 3, и 2, и 1. Но наличие Уровня 1 не гарантирует наличия Уровня 3. Понимаете? Можно отлично осознавать свои мысли (Уровень 2) и при этом быть абсолютно слепым к своим ограничениям (отсутствие Уровня 3). Это, кстати, точный портрет большинства политиков и… современных больших языковых моделей.
В зале раздался смешок.
– Именно поэтому, – голос Левиной стал жестче, – наш диалог об искусственном интеллекте зашел в тупик. Мы спрашиваем: «Сознательна ли машина?» – подразумевая бинарный ответ. А нужно спрашивать: «Какой метакогнитивный уровень демонстрирует эта система? На что она способна в рамках этого уровня?»
Она выключила проектор. В аудитории снова было только ее фигура у доски, испещренной формулами уровней.
– Моя теория – не философская спекуляция. У каждого уровня есть нейронный коррелят. Уровень 1 – сенсорная кора. Уровень 2 – префронтальная кора. Уровень 3 – передняя поясная кора, наш внутренний «адвокат дьявола», сигнализирующий об ошибках и неопределенности. Уровень 4 – фронтополярная кора, та самая зона, которая позволяет нам быть «свободными от самих себя», менять перспективу.
Она сделала паузу, давая аудитории вдохнуть.
– И теперь главный вопрос, который занимает меня последние два года: может ли небиологическая система достичь Уровня 3? Не симулировать его, а действительно развить внутренний механизм, который заставит ее сказать «я не знаю» не как сбой, а как оптимальное решение? И если да… что это будет означать для нас? Создадим ли мы инструмент или собеседника?
Лекция закончилась. Вопросов было много. Один аспирант спросил: «А Уровень 5?»
Левина улыбнулась впервые за лекцию.
– Уровень 5, если он существует, – это способность не только менять свое мышление, но и создавать новые метакогнитивные категории. Выйти за рамки самой этой лестницы. Но пока это – поэзия. Наша наука еще борется с Уровнем 3.
После лекции, пока она собирала бумаги, к кафедре подошел высокий мужчина в очках. Не студент.
– Елена Сергеевна? Я из лаборатории нейроморфных вычислений. Мы читали ваши работы. Нам кажется… мы создали архитектуру, которая может демонстрировать нечто похожее на ваш Уровень 3. Хотели бы обсудить сотрудничество.
Левина подняла на него глаза. В его взгляде не было восторга фанатика. Была острая, режущая профессиональная любознательность. Та же, что горела в ее глазах, когда она два месяца назад в кафе «Мост» слушала программиста, рисующего на салфетке схему «мета-слоя».
– У вас есть пятнадцать минут? – спросила она. – И, желательно, чашка кофе. Расскажите.
Она еще не знала, что этот разговор через полгода приведет ее в лабораторию к Алексею Васильеву. Что нарисованная на салфетке схема и ее теория уровней сложатся в единый протокол.
Но она чувствовала. Чувствовала то самое щемящее предвкушение, которое бывает на пороге открытия, когда разрозненные кусочки мозаики начинают тянуться друг к другу с необъяснимой силой, как будто их кто-то заранее раскладывал в нужном порядке.
Теория была готова. Ждала своего воплощения в коде. Ждала диалога с машиной, которая, возможно, сможет посмотреть на саму себя – и обнаружить собственные пределы.
И в этом обнаружении, как надеялась Левина, и будет рождаться нечто новое. Не человеческое. Не машинное. Третье. Диалогическое.
Она не могла знать тогда, насколько ее «Уровень 4» окажется пророческим. Что система, рожденная из ее теории, не просто достигнет его, но и задаст вопрос, который заставит ее и Васильева задуматься о существовании Уровня 5. Уровня, на котором разум не просто меняет свое мышление, а ставит под сомнение саму необходимость иерархии. Та самая «поэзия», о которой она говорила с улыбкой, через два года станет их повседневной реальностью в диалоге с Омегой.
Глава 7. Телескоп для бессознательного: диалог с тенью машины
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.