Сергей Железнов – Искусственный общий интеллект: насколько он близок и чем это грозит (страница 4)

Это удобное маркетинговое сокращение, но аналитически оно никуда не годится. LLM может быть компонентом пути к AGI, основой для агентного стека или даже ранней формой цифровой общности. Но сам по себе ярлык "сильная языковая модель" не решает вопроса об общем интеллекте.

Полезные оси определения

Вместо одного магического определения разумнее смотреть на несколько осей сразу.

1. Ширина

Насколько система работает в разных типах задач?

Не только в математике, коде или написании текста, а в широком диапазоне:

рассуждение;

планирование;

инструментальные действия;

анализ;

интерактивные среды;

частично новые задачи.

2. Перенос

Насколько хорошо система переносит навыки на незнакомые условия?

Это одна из центральных мыслей Шолле: навык на одном наборе задач – не то же самое, что интеллект как способность осваивать новое.

3. Автономность

Насколько система способна не просто выдавать ответы, а удерживать цель и двигаться к ней через последовательность шагов?

С появлением агентов, работы с инструментами и работы за компьютером эта ось стала особенно важной. В цифровом мире "общность" все меньше похожа на красивый ответ в чате и все больше – на способность вести длинную работу.

4. Надежность

Можно ли на систему опереться вне демонстрационного режима?

Сильный кандидат на AGI не обязан быть безошибочным. Но если его поведение системно рассыпается вне контролируемой сцены, это слишком слабый признак общности.

5. Среда

В каком мире вообще проявляется эта "общность"?

Это важный вопрос, потому что цифровой AGI и AGI в физическом мире – не одно и то же. Система может стать почти общей в работе с кодом, документами, браузерами и исследовательских рабочих процессах задолго до того, как будет уверенно действовать в физическом мире.

Именно здесь многие споры о сроках на самом деле прячут смену определения, не признавая этого.

Рабочее определение для этой книги

Для этой книги нам нужно определение не философски идеальное, а операционально полезное.

Я предлагаю следующее.

AGI – это система, которая способна в широком наборе новых и разнородных задач учиться, планировать, рассуждать и действовать на уровне как минимум компетентного человека, сохраняя приемлемую надежность и не требуя полной ручной перенастройки под каждый новый класс задач.

У этого определения есть несколько следствий.

Следствие 1. общий ИИ не обязан быть сверхчеловеческим

Для AGI достаточно человеческого уровня по ширине и устойчивости. Все, что идет дальше, – это уже переход к ASI или к его ранним формам.

Следствие 2. общий ИИ не обязан быть сознательным

Пока у нас нет надежного способа операционно использовать сознание как критерий. Для оценки социальной и технической близости AGI этот критерий слишком расплывчат.

Следствие 3. общий ИИ может быть сначала цифровым

Если система:

надежно пишет код;

проводит ресерч;

работает в браузере и документах;

держит длинный контекст;

переносит навыки между разными цифровыми задачами;

то она может быть достаточно "общей", чтобы заслуживать описания как цифровой системы уровня AGI, даже если робототехника все еще отстает.

Следствие 4. общий ИИ нельзя доказать одним бенчмарк-ом

Из самого определения следует, что нам нужен набор признаков, а не один балл. Поэтому предыдущая глава и была посвящена измерительной рамке.

Полезная лестница понятий

Чтобы не смешивать разные режимы, удобно использовать не одно слово, а лестницу.

Узкий ИИ

Система сильна в одном классе задач или в одном типе среды.

Передовой универсал

Система демонстрирует очень широкие возможности в нескольких доменах, но пока все еще остается заметно хрупкой вне них.

Слабо общий ИИ

Система уже выглядит общей в большом цифровом контуре, но надежность, автономность или перенос навыков в физический мир все еще ограничены.

общий ИИ

Система достаточно широка, устойчива и переносима, чтобы ее можно было считать общим интеллектом в практическом смысле.

сверхинтеллект

Система существенно превосходит человека почти по всем значимым когнитивным измерениям и, вероятно, становится самостоятельным фактором цивилизационного масштаба.

Эта лестница не претендует на универсальный словарь. Но она полезна, потому что не заставляет выбирать между крайностями "это либо просто чатбот, либо уже сверхинтеллект".

Почему определение влияет на сроки

Одна из причин, по которым сроки AGI так сильно расходятся, состоит в том, что люди прогнозируют не одно и то же.

Это хорошо видно и в больших опросах. В крупном опросе авторов исследований ИИ респонденты заметно различают сроки, когда машины превзойдут людей во всех задачах, и сроки полной автоматизации всех человеческих профессий. Это различие принципиально.

Оно показывает, что даже очень широкий веха роста возможностей не равен автоматическому социальному переходу. Значит, при любом обсуждении AGI нужно сразу уточнять:

речь о возможностях?

об экономическом воздействии?

о физическом мире?

о всех профессиях?