Зубков Андрей – Как понять нейросеть: секреты мышления ИИ (страница 3)

Что можно сделать в рамках понимания токенов: сократить вход (например, дать только спорные пункты) или разбить задачу на части (по разделам). Можно явно попросить формат, который экономит выход (таблица из 5–7 пунктов вместо подробного комментария на каждую строчку). И отдельно — если ответ оборвался, можно продолжить: «Продолжи с пункта 4, сохраняя тот же формат», потому что модель не «помнит», что хотела написать дальше, она просто продолжает генерацию в новом лимите.

После этой главы стоит унести три вещи. Токен — это кусочек текста, и он не обязан совпадать со словом. Лимиты и стоимость обычно завязаны на токены, поэтому длинный контекст и подробный ответ конкурируют за одно и то же место. Если счёт кажется странным или ответ обрывается, чаще всего причина в токенизации и лимитах: сокращайте вход, упрощайте формат выхода или делите задачу на части.

Глава 5. Принцип «предсказания следующего токена»

Иногда кажется, что нейросеть «знает ответ»: она пишет связно, логично, с уверенными формулировками и без пауз. Но потом вы проверяете один факт — и он неверный. Или просите то же самое другими словами, и ответ меняется. У начинающего возникает вопрос: если текст выглядит таким цельным, почему в нём встречаются ошибки и откуда берётся эта уверенность?

Ключевой принцип простой: языковая модель не ищет истину, а каждый раз выбирает следующий токен по предыдущим. Токен — это кусочек текста, чаще всего слово или часть слова (иногда знак препинания). Модель смотрит на уже написанное и продолжает так, как «чаще всего бывает» в похожих текстах.

Чтобы понять механику, достаточно представить процесс как последовательность маленьких выборов. Вы пишете запрос, и он становится началом контекста. Дальше модель делает шаг: оценивает несколько возможных продолжений и выбирает одно. Это выбранное продолжение добавляется к тексту и становится частью «предыдущих токенов». Затем делается следующий шаг: снова выбор, снова добавление. Так текст растёт по цепочке.

На каждом шаге модель опирается на два источника: на ваш запрос и на уже сгенерированный ею текст. Поэтому ответы обычно получаются последовательными. Если модель начала объяснение в одном стиле и с одной логикой, ей проще продолжать в том же стиле и поддерживать уже сказанное, чем резко менять направление. Это похоже не на проверку фактов, а на аккуратное продолжение фразы: раз уж начато, нужно довести до конца связно.

Но из этого же следует ограничение: последовательность не равна точности. Модель выбирает продолжение, которое хорошо «подходит» к контексту по форме и по типичным связям слов, а не то, которое гарантированно верно в реальном мире. Если в запросе не хватает данных, если тема редкая, если нужны свежие сведения или точные числа, модель всё равно должна продолжать. Она не останавливается, чтобы сходить и проверить источники, если вы отдельно не дали ей такие источники или данные. В результате она может собрать правдоподобную версию ответа — связную, но ошибочную.

Этот принцип также объясняет уверенный тон. Модель обучена на огромном количестве текстов, где ответы часто звучат определённо: «это означает», «причина в том, что», «вот шаги». Такие формулировки сами по себе типичны для объясняющих текстов, поэтому они легко «побеждают» в выборе следующего токена. Уверенность здесь — часть стиля, а не показатель того, что модель действительно проверила информацию. Она может звучать одинаково уверенно и в правильном, и в неправильном ответе, потому что выбирает не «истинно/ложно», а «подходит/не подходит» к контексту и к привычному шаблону речи.

Представьте сценарий: вы просите: «Кратко объясни, что такое контекстное окно в чат-боте, и дай практический совет, как не потерять важные детали». Модель начинает: «Контекстное окно — это объём текста, который модель учитывает…» Это удачное начало: оно типичное и хорошо подходит к запросу. Дальше ей нужно продолжить в том же ключе и дать совет. Она добавляет: «Если диалог длинный, модель может забывать ранние сообщения…» — это тоже типичное продолжение. Затем она предлагает совет: «Периодически делайте резюме и вставляйте его в чат». Всё выглядит гладко и полезно.

Но теперь вы уточняете: «Сколько именно символов у контекстного окна в этой модели?» Если у модели нет точных данных, она всё равно будет продолжать. Она может написать конкретное число, потому что конкретные числа часто встречаются в технических объяснениях и делают текст убедительным. При этом число может оказаться выдуманным или устаревшим. С точки зрения механики это не «обман», а следствие процесса: модель выбирает следующий токен, который делает ответ похожим на нормальную справку, даже если у неё нет надёжной опоры для точной цифры.

Из этой главы стоит унести три вещи. Во‑первых, модель отвечает шаг за шагом, выбирая следующий токен по предыдущим, поэтому контекст и формулировка запроса сильно влияют на продолжение. Во‑вторых, связность текста — ожидаемый эффект такого механизма, но она не гарантирует точность фактов. В‑третьих, уверенный тон и плавные формулировки — это часто просто «типичный стиль» продолжения, поэтому важные утверждения лучше отдельно просить обосновать данными, ограничениями или проверяемыми источниками.

Глава 6. Откуда берутся знания модели

Частая ситуация: вы спрашиваете у нейросети факт — например, «какие сейчас правила подачи на визу» или «кто победил на последней конференции», — и получаете уверенный ответ. Потом проверяете и видите, что часть деталей устарела или вообще не совпадает с реальностью. Возникает вопрос: откуда она это взяла, если «всё знает», и почему иногда попадает, а иногда нет.

Ключевой принцип такой: знания языковой модели — это не библиотека документов, а «статистическая память» о том, какие слова и мысли обычно встречаются вместе в текстах. «Статистическая память» здесь означает привычки, выученные на множестве примеров: модель не хранит страницы как в папке, а запоминает общие закономерности языка и содержания.

Эта память формируется во время обучения на больших массивах текстов. Модели показывают огромное количество фраз и учат продолжать их: какое слово, выражение или мысль чаще всего подходит дальше. Постепенно она подхватывает устойчивые связи: что обычно пишут после «причины инфляции», как выглядит структура резюме, какие аргументы часто приводят в теме «плюсы и минусы удалённой работы».

Важно, что это обучение не похоже на чтение с пометками «вот истинный факт». Модель просто настраивается так, чтобы хорошо угадывать продолжение текста. Из этого вырастает способность объяснять, пересказывать и обобщать.

Из-за этого модель не «знает» конкретный документ. Даже если в обучающих данных когда-то был нужный вам отчёт или статья, модель не открывает их по запросу и не цитирует как источник. Она воспроизводит общий рисунок: типичные формулировки, распространённые версии, стандартные шаги и выводы, которые часто встречались в похожих текстах.

Поэтому она может дать правдоподобный ответ, даже когда точных данных у неё нет. Она собирает фразу так, как это обычно пишут люди, а не так, как написано в конкретном файле.

Это объясняет два эффекта, которые новички часто путают.

Первый: модель хорошо справляется с «типовыми» задачами, где важны общие закономерности — написать письмо, предложить план, объяснить понятие, перечислить распространённые причины и последствия. Там как раз и помогают обобщения.

Второй: модель может ошибаться в деталях, которые завязаны на конкретный источник, дату, версию документа или редкий случай. Там требуется не «как обычно», а «как именно сейчас» или «как написано в этом документе».

Отсюда напрямую следует вопрос актуальности. У модели есть граница по времени: она обучена на текстах, которые были доступны до определённого момента, и сама по себе не «подтягивает» новости. Поэтому про новые события, свежие правила, недавние релизы и текущие цены она может говорить только в режиме предположений: по старым шаблонам и по тому, как обычно развиваются такие истории.

Иногда это выглядит убедительно, потому что формулировки гладкие. Но гладкость — не признак свежести. Чем ближе вопрос к «что изменилось на этой неделе» или «какая версия актуальна сегодня», тем выше риск устаревания или выдуманных деталей.

Представим сценарий. Вам нужно быстро подготовить сообщение команде: «Что известно про новый закон, который вчера обсуждали в новостях, и как он может повлиять на наш процесс?» Вы задаёте вопрос нейросети и получаете структурированный ответ: основные пункты закона, даты, штрафы, комментарии ведомств.

Текст выглядит аккуратно, но вы замечаете, что он слишком «универсальный»: много общих фраз и точные числа без ссылок. Если помнить про статистическую память, ход действий меняется. Вы переформулируете задачу так, чтобы модель работала в своей сильной зоне: просите не «сообщить факты», а помочь организовать проверку и подготовить черновик.

Например: «Составь список вопросов, которые нужно уточнить по закону (даты вступления, кого касается, исключения). Предложи шаблон сообщения команде: что мы знаем, что проверяем, какие действия возможны. Отдельно отметь, какие пункты требуют источника».