Зубков Андрей – Почему ИИ важен? (страница 3)

Шаг 3: добавить обратную связь: когда модель ошиблась, вы исправляете метку, и эти исправления со временем помогают улучшить качество (не мгновенно в каждом инструменте, но как общий принцип развития системы).

Шаг 4: в ежедневной работе вы просто подаёте новое письмо на вход и получаете результат — категорию и, возможно, краткое объяснение или уверенность. Если приходит письмо в необычном формате или с новой темой, модель может ошибиться, потому что похожих примеров в данных было мало. Тогда вы не «ругаете ИИ», а понимаете причину: не хватает подходящих примеров или обратной связи, либо задача слишком неоднозначна.

После этой главы стоит унести три вещи.

Во‑первых, ИИ в задачах машинного обучения опирается на данные, примеры и обратную связь, а не на «встроенное понимание».

Во‑вторых, важно различать две стадии: модель сначала обучают на множестве примеров, а потом используют её для новых случаев.

В‑третьих, нейросеть отличается от обычной программы тем, что вместо явных правил она применяет выученные закономерности — это даёт гибкость на сложных задачах, но делает логику менее прозрачной и требует проверки результата на практике.

Глава 4. Что такое модель, данные, обучение и инференс

Вы открываете ИИ‑сервис, вводите запрос и получаете ответ. В описаниях и новостях вокруг этого постоянно встречаются слова «модель», «данные», «обучение», «инференс». Начинающему легко запутаться: кажется, что это что‑то техническое и «не для меня». Но без этих слов сложно понять, почему ИИ иногда помогает идеально, иногда ошибается, а иногда вообще не должен видеть ваш текст.

Ключевая мысль простая: у ИИ есть две разные фазы жизни. Сначала модель обучают на данных, а потом она делает ответы на ваши запросы (это и есть инференс). Если держать в голове это разделение, становится понятнее, откуда берутся сильные стороны и ограничения.

Модель — это «настроенный механизм», который умеет по входу выдавать выход. Например, для переводчика вход — фраза на одном языке, выход — фраза на другом. Для фильтра спама вход — письмо, выход — метка «спам/не спам» (иногда ещё вероятность).

Модель не является набором правил, написанных человеком строчка за строчкой. Она скорее похожа на систему с большим количеством внутренних настроек. Эти настройки подбираются так, чтобы на примерах из прошлого она давала правильные ответы.

Обучение — это процесс, когда эти внутренние настройки подбирают на данных. Данные — это примеры, на которых модель учится. Для переводчика это пары предложений «оригинал → правильный перевод». Для фильтра спама — письма, которые заранее помечены людьми или системой как «спам» и «не спам».

Во время обучения модель много раз видит примеры, делает попытку ответа и получает сигнал «правильно/неправильно». Постепенно она настраивается так, чтобы чаще угадывать верный вариант.

Почему качество данных критично? Потому что модель учится именно на том, что ей показали. Если данные шумные, противоречивые или однобокие, модель перенимает эти проблемы. Есть три типичных источника риска.

Первый — ошибки разметки. Если в наборе писем часть спама помечена как «не спам», фильтр будет путаться и пропускать нежелательные письма. Если в переводческих парах встречаются неточные переводы, модель закрепит неточности как «норму».

Второй — смещение состава данных. Если переводчик обучали в основном на новостных текстах, он может хуже справляться с разговорной речью, сленгом или узкими темами. Если фильтр спама обучали на письмах одной компании, он может хуже работать в другой, где другие шаблоны писем и другая лексика.

Третий — устаревание. Данные относятся к определённому периоду. Язык меняется, появляются новые названия, продукты, схемы мошенничества. Модель, обученная на старых примерах, может уверенно выдавать ответы «как раньше», хотя реальность уже другая. Это одна из причин, почему ИИ иногда звучит убедительно, но ошибается по фактам.

Инференс — это момент, когда обученная модель применяется к новому входу. То есть когда вы отправляете запрос в ИИ‑сервис, обучение обычно уже не идёт. Сервис берёт вашу фразу, «пропускает» её через модель и получает результат: перевод, классификацию, текстовый ответ, краткое резюме.

Это важно: ваш запрос — не «урок» для модели в прямом смысле, а задача на применение уже выученного.

Что именно происходит, когда вы нажимаете «Отправить»? В упрощённом виде — несколько шагов.

Сначала ваш текст попадает на сервер сервиса. Дальше он преобразуется во внутренний формат, удобный модели. Вам не нужно знать детали, достаточно понимать: модель не «видит» буквы как человек, она работает с представлением текста.

Потом модель на основе запроса и контекста (например, предыдущих сообщений в чате, если они есть) рассчитывает продолжение: какой ответ наиболее вероятен по её «опыту» обучения. Если это переводчик — выбирает формулировки на другом языке. Если это фильтр спама — оценивает, похоже ли письмо на спам. Если это генеративный чат — формирует текст по шагам, добавляя фрагмент за фрагментом.

В конце сервис показывает вам результат. Иногда он добавляет внешние элементы: форматирование, ссылки, предупреждения, ограничения по длине. Но ядро ответа — это инференс: применение уже обученной модели к вашему запросу.

Один практический сценарий помогает связать всё вместе. Представьте, что вы настраиваете почту и видите: важные письма иногда попадают в «Спам». Вы хотите понять, что происходит, и как аккуратно использовать автоматическую фильтрацию.

Вы смотрите на фильтр как на модель: на входе письмо, на выходе решение «спам/не спам». Дальше вы вспоминаете про данные и обучение: фильтр когда‑то обучали на большом наборе писем, где были примеры мошеннических рассылок и обычной переписки.

Если в данных было много писем с похожими словами («скидка», «срочно», «оплата»), модель могла научиться считать такие слова подозрительными. Если в данных мало примеров писем от вашего банка или от сервисов, которыми вы пользуетесь, фильтр может ошибаться именно на них.

Теперь вы переходите к инференсу: каждое новое письмо — это новый вход, и модель принимает решение прямо сейчас, не «вспоминая» вашу личную ситуацию как человек. Вы делаете простые действия, которые соответствуют этой логике: помечаете ошибочно попавшие письма как «не спам», добавляете отправителя в контакты или в список доверенных, проверяете, не слишком ли агрессивны настройки фильтра.

Эти шаги не «переписывают» всю модель под вас, но помогают системе на стороне сервиса и вашей почты корректнее применять правила и дополнительные сигналы при инференсе.

После этой главы стоит унести три вещи. Модель — это настроенный механизм, обучение — настройка на данных, инференс — применение к вашему запросу здесь и сейчас. Качество и состав данных определяют, где модель сильна и где будет ошибаться. А когда вы отправляете запрос в ИИ‑сервис, вы запускаете инференс: сервис обрабатывает ваш текст и выдаёт результат на основе того, чему модель уже научилась раньше.

Глава 5. Генеративный ИИ: чем он особенный

Вы могли уже пользоваться «умными» функциями: телефон распознаёт лицо, почта отфильтровывает спам, переводчик переводит фразу. А потом вы открываете чат с ИИ и видите другое: он пишет письмо, придумывает план, объясняет тему, генерирует картинку. Возникает путаница: это всё один и тот же ИИ или разные вещи? И почему один «узнаёт», а другой «создаёт»?

Ключевое отличие генеративного ИИ в том, что он не выбирает ответ из готового списка, а строит новый результат по вашему запросу — слово за словом, строка за строкой, пиксель за пикселем. «Генеративный» значит «создающий»: такая модель умеет производить новый текст, код или изображение, похожие по стилю и структуре на то, чему она училась, но не являющиеся простым копированием заранее заготовленного ответа.

Чтобы понять разницу, полезно разделить ИИ‑системы на два типа по их выходу.

Первый тип — распознавание и классификация. «Классифицировать» значит отнести объект к одному из вариантов. Например: «это спам или не спам», «на фото кот или собака», «в аудио есть слово “привет” или нет», «тон отзыва позитивный или негативный». Такая система получает вход (текст, картинку, звук) и возвращает метку, число или короткий ответ из ограниченного набора. Она не обязана быть разговорчивой: её задача — правильно определить, что перед ней.

Второй тип — генерация. Здесь выход не ограничен несколькими метками. Модель должна собрать результат, который раньше не существовал в готовом виде: письмо клиенту, конспект статьи, список идей для презентации, кусок кода, описание товара, изображение по текстовому описанию. Поэтому генеративный ИИ обычно выглядит как «собеседник» или «автор черновиков»: он не только отвечает «да/нет», а предлагает связный материал.

Как это работает на уровне логики, без технических деталей. У генеративной модели есть навык продолжать начатое по закономерностям языка, кода или изображений. Вы даёте ей контекст: что вы хотите получить, для кого, в каком стиле, с какими ограничениями. Дальше она по шагам выбирает следующий элемент результата так, чтобы он был правдоподобным и соответствовал запросу. В тексте это следующее слово или фраза, в коде — следующая строка, в изображении — элементы композиции и детали, которые «сходятся» с описанием.