Зубков Андрей – Как понять нейросеть: секреты мышления ИИ (страница 2)

Как действовать в этом сценарии, если вы хотите управлять результатом? Вы уточняете входные данные, которые нельзя выдумывать, прямо в запросе:

1) кому пишем (роль и тон),

2) что точно произошло (перенос на 7 дней),

3) что нельзя добавлять (не придумывать причины и компенсации),

4) что нужно получить (2 варианта: короткий и развёрнутый).

После этого модель всё равно будет генерировать текст, но уже в более узких рамках. Ей проще «угадать» правильное продолжение, когда вы дали опорные факты и ограничения.

Запомнить стоит следующее:

- Нейросеть отличается от обычной программы тем, что не следует жёстким правилам, а продолжает текст по вероятности на основе выученных примеров.

- Языковая модель обучается на текстах и примерах диалогов, поэтому сильна в типовых текстовых задачах, но не гарантирует фактическую точность.

- В повседневных задачах от неё разумно ожидать хороший черновик и структуру, но факты, детали и обязательства нужно задавать явно и проверять, потому что модель может правдоподобно «достроить» недостающее.

Глава 3. Что делает языковая модель, а чего не делает

Частая ситуация у новичка такая: вы задаёте вопрос, получаете уверенный, связный ответ — и автоматически воспринимаете его как результат «размышления» или «поиска правды». А потом выясняется, что в тексте есть выдуманные факты, странные советы или модель «не понимает», что для вас важно. Из-за этого появляется ощущение непредсказуемости: то помогает, то подводит, и непонятно, как на это влиять.

Ключевой принцип простой: языковая модель не ищет истину и не «думает», она генерирует текст, подбирая наиболее вероятное продолжение по вашему запросу и контексту переписки. «Генерирует» значит: строит последовательность слов так, чтобы она была похожа на те тексты, на которых модель училась, и подходила к текущей фразе. Это не проверка фактов, а очень быстрый подбор продолжения предложения.

Чтобы этот принцип стал практичным, важно понять, как устроена логика ответа. На вход модель получает ваш текст: вопрос, уточнения, примеры, ограничения, а также предыдущие сообщения в диалоге. Всё это становится «контекстом» — набором подсказок, на которые модель опирается, когда продолжает текст.

Дальше модель по шагам выбирает следующее слово (точнее, кусочек слова) и так собирает весь ответ. Она не открывает сайты, не сверяет даты, не смотрит вашу почту и не видит реальную ситуацию вокруг вас, если вы её не описали словами.

Отсюда следует важное ограничение: модель может звучать уверенно, даже когда ошибается. Уверенный тон — это просто стиль текста, который часто встречается в обучающих данных, а не сигнал «проверено».

Если вы спросили «какой закон это регулирует» или «какая точная цифра», модель может сгенерировать правдоподобный вариант, потому что он хорошо выглядит как продолжение вопроса. Но сама по себе она не обязана отличать факт от правдоподобной выдумки, если вы не задали режим проверки (например, попросили источники и критерии) и не перепроверили результат.

Вторая часть принципа — про «личность» модели. У неё нет собственных целей, эмоций и намерений. Она не «хочет помочь», не «обижена», не «пытается вас переубедить» и не «помнит вас как человека» вне того, что написано в текущем диалоге.

Когда кажется, что модель проявляет эмпатию или упрямство, это обычно следствие того, что такой стиль ответа часто подходит к подобным запросам. Модель также не понимает контекст вашей жизни: что для вас допустимо, какие у вас ограничения по времени, бюджету, здоровью, правилам на работе. Если вы этого не указали, она будет заполнять пробелы типичными предположениями и может попасть мимо.

Из этого вытекают ожидания, которые лучше сразу отбросить, чтобы не разочаровываться. Первое: не ждать, что модель «сама догадается», что вы имели в виду, и уточнит важные детали. Иногда она задаёт вопросы, но это тоже сгенерированное поведение, а не гарантия.

Второе: не ждать, что она автоматически проверит факты, документы, ссылки и актуальность. Если вы не попросили проверки и не дали источники, ответ может быть просто правдоподобным текстом.

Третье: не ждать, что она будет «на вашей стороне» как человек и учтёт скрытые цели: например, что вам нужен короткий ответ, что вы не хотите конфликтов в письме, что вы избегаете юридических рисков. Всё это нужно проговаривать.

Представим сценарий. Вы пишете: «Составь письмо в управляющую компанию: у нас в подъезде холодно, пусть решат. Сделай убедительно». Модель выдаёт длинный текст с уверенными формулировками, может даже сослаться на «нормы» и «обязательства», а в конце добавить угрозу жалобой. Вы отправляете — и получаете конфликт, потому что тон слишком жёсткий, а упомянутые нормы не те или вообще выдуманы.

Если помнить ключевой принцип, вы действуете иначе: сначала даёте контекст, который модель сама не знает. Например: «Письмо должно быть вежливым, без угроз. Укажи, что температура в квартире 18°C, измеряли вечером, есть фото термометра. Не упоминай конкретные статьи закона, если не уверен. Сначала задай 3 вопроса, какие данные нужны».

Модель теперь генерирует текст в заданных рамках: тон, структура, ограничения. А вы дополнительно проверяете то, что всё равно не гарантируется: факты и уместность. Если нужны нормы — просите отдельно: «Перечисли возможные нормативы и пометь, где нужна проверка по источнику», а затем сверяете с официальным документом или сайтом вашей УК/города.

После этой главы стоит унести три вещи. Во‑первых, языковая модель — это генератор текста по вероятности, а не поисковик истины. Во‑вторых, у неё нет собственных целей и «понимания вашей жизни»: она опирается только на написанный контекст. В‑третьих, чтобы не разочаровываться, заранее убирайте ожидания «сама проверит» и «сама догадается» и вместо этого явно задавайте рамки: цель, тон, ограничения и то, что нужно уточнить перед ответом.

Глава 4. Как модель видит текст: токены

Иногда кажется, что вы написали короткий запрос, а модель отвечает: «слишком длинно» или внезапно обрывает ответ на полуслове. Или вы видите в сервисе счётчик «символов», «слов» или «токенов», и числа выглядят странно: вроде бы текста немного, а лимит уже близко. Из‑за этого сложно планировать: сколько контекста можно дать, поместится ли переписка, почему один и тот же объём текста в разных языках «весит» по‑разному.

Ключевая идея простая: модель работает не со словами и не с символами, а с токенами — небольшими кусочками текста, из которых она «собирает» и запрос, и ответ.

Токен — это фрагмент текста, который модель воспринимает как одну единицу. Это может быть целое короткое слово, часть длинного слова, знак препинания, пробел, кусок числа или даже сочетание букв. Поэтому «одно слово» для человека не гарантирует «один токен» для модели. Например, короткие частые слова часто становятся одним токеном, а редкие, длинные или сложные (особенно с суффиксами, дефисами, смешением языков) могут разбиваться на несколько.

Почему так сделано, вам как пользователю важно не «внутри», а по последствиям. Модель ограничена по количеству токенов, которые она может обработать за раз. Это ограничение включает и ваш запрос, и часть предыдущего диалога, и системные инструкции сервиса, и будущий ответ модели.

То есть вы всегда делите один общий «запас» токенов между входом и выходом: чем длиннее контекст, тем меньше места остаётся на ответ.

Отсюда же вытекает влияние на стоимость и лимиты. Во многих сервисах цена и ограничения считаются именно в токенах: отдельно за входные токены (то, что вы отправили) и за выходные (то, что модель сгенерировала). Если вы вставили большой текст «для справки», вы увеличили вход. Если попросили «напиши подробно на 2000 слов», вы увеличили выход.

Даже если интерфейс показывает «символы» или «слова», внутри почти всегда всё сводится к токенам. Поэтому ощущение «я же не так много написал» может не совпадать с расчётом.

Почему счётчики иногда выглядят нелогично. Во‑первых, токены не равны символам: один токен может быть одним символом (например, редкий знак) или несколькими символами. Во‑вторых, разные языки и стиль письма дают разную «плотность» токенов. Текст с большим количеством длинных слов, специальных терминов, ссылок, кода, таблиц, эмодзи, необычных кавычек и тире часто превращается в большее количество токенов, чем ожидается. В‑третьих, пробелы и пунктуация тоже «весят»: иногда пробел идёт вместе со словом, иногда отдельно — и это меняет счёт.

Третье последствие — неожиданные обрывы ответа. Если модель упирается в максимальное число выходных токенов, она прекращает генерацию, даже если мысль не закончена. Снаружи это выглядит как «оборвалось», «не дописала список», «закончила на половине предложения».

Это не обязательно ошибка логики; чаще это просто лимит по токенам на ответ или общий лимит окна, куда уже не помещается продолжение. Похожий эффект бывает, когда в диалоге накопилось много текста: сервис вынужден «урезать» старые сообщения, чтобы уложиться в предел, и модель продолжает без части контекста. Из‑за этого ответ может стать короче или менее связным.

Представьте сценарий. Вы хотите, чтобы модель помогла отредактировать договор на 6 страниц: вставляете весь текст и просите «проверь на риски и предложи правки». Модель начинает отвечать, но через пару абзацев останавливается или пропускает разделы. Вы делаете вывод «она не справилась», хотя проблема может быть в том, что вход уже занял большую часть лимита, а на выход осталось мало токенов.