Зубков Андрей – ИИ на пальцах: как работает нейросеть и как ее использовать (страница 3)

Шаг 3: когда вы открываете ленту, происходит инференс: модель получает ваш недавний контекст (последние просмотры, время суток, устройство) и выдаёт список кандидатов.

Шаг 4: сервис формирует итоговую ленту: часть роликов может быть добавлена по правилам (новости, подписки), часть — убрана фильтрами, порядок — переставлен. Вы видите результат и решаете, что смотреть. Ваши действия снова становятся данными — цикл замыкается.

То же самое, только с другими данными и целями, происходит в поиске, рекомендациях товаров и чат-ботах. В поиске данные — это тексты страниц и поведение пользователей, результат — ранжированный список. В магазине данные — покупки и просмотры, результат — «вам может понравиться». В чат-боте данные — тексты, на которых его обучали, инференс — генерация ответа на ваш запрос, результат — текст, который вы должны оценить и при необходимости проверить.

После этой главы стоит унести две вещи. Во‑первых, когда вы видите «умный» ответ или рекомендацию, мысленно раскладывайте её на цикл: какие данные могли быть использованы, чему модель училась, что ей дали на вход сейчас, как сформировали итоговый результат. Во‑вторых, помните про роль человека: создатели задают цели и правила, а пользователь отвечает за корректную постановку задачи и за финальное решение, особенно там, где цена ошибки высокая.

Глава 4. Данные: из чего «кормят» ИИ

Обычно знакомство с ИИ начинается с вопроса: «Откуда он вообще это знает?» Кажется, что модель «читала интернет» и теперь умеет отвечать на любые темы. Но потом вы просите что-то простое — и получаете странную ошибку, уверенный вымысел или ответ с перекосом. В этот момент полезно понять не «как устроены нейроны внутри», а из чего ИИ учится — то есть какие данные ему дают.

Ключевой принцип простой: модель учится на данных и становится похожей на них. Данные — это примеры из реального мира, которые показывают, что бывает «входом» (что мы подаём) и «выходом» (что хотим получить). Если данных мало, они однообразные или в них много мусора, модель будет ошибаться именно в этих местах. Если данные перекошены в одну сторону, модель тоже будет перекошена.

Данные бывают разными по форме, и это важно, потому что форма определяет, чему можно научить модель.

Текст — это письма, статьи, чаты, инструкции, отзывы. Большие языковые модели в основном питаются текстом: они учатся продолжать фразы и подбирать слова по контексту. Поэтому они сильны в объяснениях, черновиках, резюме, но могут «уверенно сочинять», если в данных не хватило точных примеров или если вопрос требует свежих фактов.

Картинки — это фотографии товаров, снимки документов, изображения с подписями, картинки с объектами (например, «кот», «машина»). На картинках учат распознавать, что изображено, находить объекты, улучшать качество, генерировать новые изображения по описанию.

Звук — это речь, музыка, шумы. На аудиоданных учат распознавание речи (транскрибацию), синтез речи, определение звуков (например, «звонок», «аплодисменты»). Тут важно качество записи: шум, разные микрофоны и акценты сильно влияют на результат.

Числа — это таблицы, измерения, показатели продаж, температуры, время доставки, результаты опросов. На числовых данных учат прогнозы, поиск закономерностей, выявление аномалий. Если в таблице пропуски или разные форматы (например, даты вперемешку), модель будет «спотыкаться».

Действия пользователей — это клики, просмотры, покупки, лайки, время чтения, маршруты. На таких данных учат рекомендации: «похожим людям нравится…», «после этого обычно выбирают…». Это не про «истину», а про вероятные предпочтения, поэтому рекомендации легко уводят в сторону того, что чаще выбирали раньше.

Теперь важное различие: размеченные и неразмеченные данные.

Размеченные данные — это когда к каждому примеру добавили понятный «ярлык», то есть правильный ответ. Бытовой пример: у вас есть папка с фотографиями, и на каждой подпись: «кот» или «собака». Или таблица заявок, где рядом с текстом обращения стоит метка: «срочно» / «не срочно». Разметка отвечает на вопрос: «Как правильно?» Благодаря этому модель учится делать конкретное предсказание: по входу выдавать нужную метку, число или текст.

Неразмеченные данные — это когда есть только сами примеры без готовых ярлыков. Бытовой пример: у вас просто куча отзывов клиентов без отметки «позитивный/негативный». Или набор фотографий без подписей. Тогда модель учится находить структуру сама: группировать похожее, выделять темы, замечать повторяющиеся шаблоны. Это полезно, когда вы не знаете заранее, какие категории нужны, или когда разметка слишком дорогая и долгая.

Как понять, что вы усвоили:

— Размеченные данные отвечают на «что правильно», неразмеченные — на «что похоже на что».

— Разметка — это не магия, а человеческая подпись к примеру.

Дальше — то, что сильнее всего влияет на качество ответов: качество и разнообразие данных.

Качество — это насколько данные точные, чистые и соответствуют задаче. Если в данных много ошибок, дубликатов, случайных фраз, неправильных подписей, модель выучит эти ошибки как норму. Например, если часть писем в обучающей выборке помечена «спам», хотя это обычные рассылки, фильтр начнёт выкидывать полезное. Если в картинках «кошка» иногда подписана как «собака», распознавание будет путаться.

Разнообразие — это насколько данные покрывают разные случаи, а не только «средний» вариант. Если модель училась на фотографиях товаров только при хорошем освещении, она начнёт ошибаться на снимках из квартиры вечером. Если распознавание речи училось в основном на одном акценте, оно будет хуже понимать другой. Если рекомендации обучались на поведении узкой группы людей, они будут навязывать её вкусы всем остальным.

Из качества и разнообразия вытекают две типичные проблемы: ошибки и предвзятость.

Ошибки появляются там, где данных не хватило или они «грязные». Модель не понимает редкий случай, путает похожие вещи, уверенно продолжает текст не туда. Это не «плохой характер ИИ», а следствие того, что в данных не было достаточного числа похожих примеров или правильных ответов.

Предвзятость — это устойчивый перекос в сторону одной группы, стиля или точки зрения. Она возникает, когда в данных одна сторона представлена сильнее, чем другая, или когда разметка делалась людьми с одним взглядом. В быту это видно так: модель чаще предлагает «типичные» варианты и хуже справляется с тем, что встречалось реже. Важно понимать: предвзятость может появиться даже без злого умысла — просто из-за перекоса в том, что собирали и что считали «нормой».

Как понять, что вы усвоили:

— Если модель систематически ошибается в одном типе случаев, ищите «дыру» в данных: там мало примеров или они плохие.

— Если ответы перекошены в одну сторону, скорее всего, перекошены были и данные.

Представьте простой сценарий. Вам нужно настроить ИИ-помощника для поддержки клиентов: он должен читать входящее сообщение и предлагать черновик ответа. Вы собираете данные: прошлые письма клиентов (текст) и ответы операторов (тоже текст).

Дальше вы решаете, будет ли разметка. Если вы хотите, чтобы система сначала определяла тему обращения, вы добавляете метки: «доставка», «оплата», «возврат», «техподдержка». Это размеченные данные: у каждого письма есть ярлык. Если меток нет, вы можете начать с неразмеченного подхода: сгруппировать письма по похожести и посмотреть, какие темы получаются естественно.

Потом вы проверяете качество: убираете письма с персональными данными, удаляете дубли, исправляете явные ошибки в метках (например, «возврат» помечен как «оплата»). И отдельно проверяете разнообразие: есть ли письма короткие и длинные, спокойные и раздражённые, с опечатками, с разными формулировками одной проблемы, из разных каналов (почта, чат).

Если вы обучите помощника только на «идеальных» письмах без эмоций и без опечаток, он станет теряться на реальных сообщениях. Если в данных почти нет случаев «сложного возврата», модель будет уверенно отвечать шаблоном и ошибаться именно там, где важна точность.

Что унести из этой главы:

— ИИ учится на данных и повторяет их свойства: сильные стороны и слабые места.

— Данные бывают разными (текст, картинки, звук, числа, действия), и это определяет, чему модель вообще может научиться.

— Размеченные данные — с «правильными ответами», неразмеченные — без них; качество и разнообразие данных напрямую влияют на ошибки и перекосы в ответах.

Глава 5. Как ИИ «видит» информацию

Обычно путаница начинается в момент, когда вы слышите фразу «модель обучилась на данных». Кажется, что ИИ «смотрит» на текст как человек, «видит» картинку как человек и «понимает» ваши действия в приложении как человек.

А потом вы сталкиваетесь с неожиданным: два почти одинаковых сообщения дают разные ответы, картинка с очевидным котом распознаётся странно, рекомендации в сервисе выглядят неуместно. Возникает вопрос: что именно ИИ получает на вход и почему он так реагирует?

Ключевая мысль простая: ИИ не видит мир напрямую — он работает с признаками, то есть с числами, которые описывают объект, текст или действие в удобном для модели виде. Признак — это измеримая «деталь», которую можно записать числом: длина текста, наличие слова, цвет пикселя, время клика, категория товара.