Евгений Волков – Когда машина отвечает (страница 2)

Если система продолжает текст настолько хорошо, что результат похож на рассуждение, человеку очень трудно не сделать следующий шаг: «Она рассуждает так же, как мы».

Из поведения этот вывод автоматически не следует.

Но и противоположное упрощение — «она всего лишь угадывает следующее слово, следовательно, ничего сложного здесь нет» — тоже мало что объясняет. Самолёт «всего лишь» создаёт аэродинамические силы, но эта фраза не описывает практическую значимость полёта. Вопрос не в том, можно ли свести процесс к физическим или математическим операциям. Любой человеческий процесс тоже имеет физическую основу. Вопрос в том, какие устойчивые способности возникают из этих операций, как они обобщаются на новые ситуации и где ломаются.

Современная языковая модель — не база заранее заготовленных реплик. Её полезность именно в том, что она способна формировать новый выход для нового контекста.

Но «новый» не значит созданный из пустоты.

Модель обучалась на данных. Её параметры настроены под закономерности этих данных. Она не извлекает каждый ответ из готовой карточки, но и не существует отдельно от культурного, научного и технического материала, на котором строилось обучение.

Это станет одним из центральных конфликтов главы об авторском праве.

Что изменил transformer

В 2017 году исследователи опубликовали работу с названием «Attention Is All You Need». В ней была предложена архитектура transformer, оказавшая огромное влияние на развитие языковых моделей.

Для понимания этой книги не нужно знать её формулы.

Нужно понять одну идею.

В языке значение элемента часто зависит от других элементов, расположенных далеко от него. В предложении местоимение может относиться к существительному несколькими строками раньше. В договоре условие в одном пункте меняет смысл другого. В программном коде объявление переменной связано с использованием ниже. В длинном вопросе ключевая оговорка может появиться в самом начале.

Механизм attention позволяет модели вычислительно учитывать отношения между элементами контекста: грубо говоря, определять, на какие части входа особенно важно опереться при обработке текущего элемента.

Transformer не является магическим «модулем понимания». Он представляет собой инженерную архитектуру, благодаря которой стало возможно эффективно обучать мощные модели на больших объёмах данных и работать с контекстом. Современные системы добавляют к базовой идее множество других компонентов: большие обучающие наборы, масштабные вычисления, последующее обучение, обратную связь, использование инструментов и дополнительные методы, позволяющие тратить больше вычислений на сложные ответы.

Поэтому попытка объяснить весь нынешний ИИ одной фразой «это transformer» столь же неполна, как попытка объяснить современный автомобиль словом «двигатель».

Архитектура важна. Система вокруг неё — не меньше.

Модель и система — не одно и то же

Это различие особенно легко потерять из-за интерфейса.

Пользователь видит одно окно и одного «собеседника». За ним может находиться не только модель.

AI-модель можно представить как вычислительное ядро. AI-система включает модель и то, что построено вокруг неё: правила, интерфейс, фильтры, базы данных, поисковые механизмы, инструменты, память, программы, которыми она может пользоваться.

Поэтому две системы на основе сходной базовой модели способны вести себя очень по-разному.

Одна получает только текст вопроса.

Другая может искать документы.

Третья — обращаться к калькулятору или среде выполнения кода.

Четвёртая — видеть изображение.

Пятая — запоминать часть предыдущего взаимодействия.

Шестая — получать разрешение выполнить действие во внешнем сервисе.

Когда мы спрашиваем «на что способен ИИ?», важно уточнять: какая модель, в какой системе, с какими инструментами, с какими данными, в каких условиях?

Без этого фраза становится почти бессодержательной.

Когда язык перестал быть единственным входом

Первые массовые разговоры о генеративном ИИ были во многом разговорами о тексте. Но сегодняшние системы всё чаще мультимодальны.

Multimodality означает способность работать с несколькими типами информации: например, получать текст и изображение, анализировать аудио, интерпретировать видео и генерировать выход в разных формах.

Для человека это выглядит естественно. Мы не живём внутри одного канала данных. Мы читаем выражение лица, слышим тон, видим предмет, понимаем подпись, сопоставляем всё это с предыдущим опытом.

Для машинной системы объединение модальностей — инженерная задача.

Но социальное последствие очевидно: чем больше способов восприятия и генерации получает система, тем больше человеческих занятий оказывается внутри одного интерфейса.

Раньше отдельное приложение распознавало речь, другое переводило, третье генерировало изображение, четвёртое отвечало на текстовый вопрос. Теперь пользователь всё чаще ожидает от одной системы: «Посмотри на эту фотографию, прочитай надпись, объясни, что происходит, найди несоответствие и расскажи голосом».

Это не означает появления единого человеческого восприятия. Но функциональная граница между специализированными инструментами становится менее заметной для пользователя.

И это напрямую связано с термином, который в ближайшие годы будет звучать всё чаще: general-purpose AI, или ИИ общего назначения.

Под этим обычно понимают системы, способные выполнять широкий набор разных задач, а не одну узкую функцию. Международный доклад по безопасности ИИ отличает такой класс от узкого ИИ, заточенного под конкретную задачу.

И здесь появляется опасность терминологического скачка.

Общий набор задач — ещё не AGI.

AGI: слово, которое обещает больше, чем определяет

Artificial general intelligence — AGI — один из самых притягательных и самых скользких терминов современной дискуссии.

Его часто переводят как «общий искусственный интеллект» или «искусственный интеллект общего назначения», но последнее выражение способно смешать AGI с уже существующими general-purpose systems. Это не одно и то же.

Международный доклад по безопасности ИИ прямо отмечает: у AGI нет универсального определения. Обычно термин используют для описания потенциальной будущей системы, которая могла бы сравняться с человеком или превзойти его во всех или почти всех когнитивных задачах. Но слова «всех», «почти всех» и даже «уровень человека» оставляют огромный простор для спора.

Какой человек является эталоном?

Средний взрослый?

Лучший специалист?

Человек, способный учиться новой профессии?

Нужно ли системе иметь тело?

Достаточно ли интеллектуальных тестов?

Должна ли она самостоятельно ставить цели?

Считается ли система общей, если для каждой новой задачи ей требуется специальный внешний инструмент?

И что делать с тем самым «неровным» профилем: если система превосходит эксперта в десяти областях, но регулярно ошибается на одиннадцатой, насколько она «общая»?

Поэтому заявления «AGI уже почти здесь» или «AGI появится через три года» нельзя подавать читателю как научно установленный факт. Это прогнозы, зависящие от определения, модели развития и допущений автора прогноза. Один исследователь может считать достаточным широкий профессиональный набор способностей. Другой потребует устойчивого обучения в новых средах. Третий включит автономность. Четвёртый — способность действовать в физическом мире.

Если критерий меняется, меняется и дата.

В этой книге AGI будет появляться ещё несколько раз — там, где речь пойдёт об автономности, сознании, безопасности сильных систем и человеческих границах решений. Но книга не будет строить сюжет вокруг обратного отсчёта до «дня AGI».

Слишком многое важное происходит уже сейчас, без согласия о том, наступил ли какой-то философский рубеж.

Генеративный ИИ не равен всему ИИ

Публичная дискуссия последних лет создала ещё одну иллюзию: будто искусственный интеллект появился тогда, когда машины начали писать тексты и рисовать картинки.

На самом деле генеративный ИИ — только один класс.

NIST определяет generative AI как класс AI-моделей, воспроизводящих структуру и характеристики входных данных для создания производного синтетического контента: текста, изображений, видео, аудио и других цифровых материалов.

Есть системы, главная задача которых не генерировать.

Они классифицируют.

Прогнозируют.