Зубков Андрей – ИИ на пальцах: как работает нейросеть и как ее использовать (страница 2)

Есть задачи, которые ИИ не решает «сам по себе», даже если выглядит убедительно. Он не может гарантировать правду без проверки, не может принимать решения за вас в ситуациях с риском, не может «узнать» то, чего нет в его данных или в предоставленных вами материалах.

ИИ не является свидетелем событий, не имеет доступа к вашей реальности, если вы явно не дали ему данные. Поэтому «проверь, правда ли это» без источников превращается в угадывание.

Как понять, что вы усвоили:

— Вы можете назвать одну задачу, где ИИ полезен как черновик, и одну, где нужен человек как финальный контролер.

— Вы понимаете, что уверенный тон ответа не равен точности.

Остается третий важный навык: отличать «маркетинговый ИИ» от реального.

«Маркетинговый ИИ» — это когда слово «ИИ» используют как украшение, но вам не объясняют, что именно делает функция и как проверить результат. Признаки обычно такие: обещают «решит все», не говорят про ограничения, не дают примеров входа и выхода, невозможно повторить результат, нет понятного способа оценить качество.

Реальный сервис с моделью обычно можно распознать по более приземленным вещам:

— Есть ясное описание задач: что именно делает функция (например, «суммирует текст до 5 пунктов», «генерирует варианты ответа в заданном стиле»), а не «повышает эффективность».

— Есть управляемость: вы можете задать контекст, формат, ограничения и получить результат, который меняется предсказуемо от ваших уточнений.

— Есть границы: указано, что возможны ошибки, что нужен контроль фактов, что есть ограничения по данным (например, длина текста, типы файлов, язык).

— Есть проверяемость: результат можно сравнить с исходными данными, попросить привести источники (если сервис их реально умеет), получить несколько вариантов и выбрать.

Важно: даже «настоящий» ИИ не обязан быть идеальным. Разница не в том, ошибается он или нет, а в том, можете ли вы понять, что он делает, и контролировать качество.

Один сценарий, который помогает собрать все вместе.

Вы выбираете инструмент для задачи: «Нужно подготовить короткое описание продукта для сайта и 5 вариантов заголовка». В рекламе сервиса написано: «ИИ сделает продающий текст за секунды».

Шаг 1. Разложите обещание по уровням. Спросите себя: это модель, сервис или просто кнопка в редакторе? Если это кнопка, что она делает конкретно: пишет с нуля или перефразирует ваш текст?

Шаг 2. Проверьте, есть ли управляемость. Вставьте минимальный контекст и требования. Готовый запрос, который можно копировать:

«Сделай черновик описания продукта для сайта. Продукт: [что это]. Для кого: [аудитория]. Главная выгода: [1–2 пункта]. Ограничения: не обещать того, чего нет; без сложных терминов; 600–800 знаков. Формат: 1 абзац + 5 вариантов заголовка.»

Шаг 3. Оцените, где ИИ силен, а где нужен контроль. ИИ быстро даст варианты формулировок — это его сильная сторона. Но вы проверяете факты: нет ли выдуманных характеристик, не нарушены ли ограничения, не появились ли «гарантии», которых вы не даете.

Шаг 4. Отделите реальность от маркетинга по результату. Если после уточнений текст становится ближе к вашим требованиям и вы можете повторить процесс на другом продукте — это похоже на реальный инструмент. Если ответы хаотичны, не держат ограничения, а «умность» сводится к красивым словам — перед вами либо слабая реализация, либо просто маркетинговая наклейка.

Как понять, что вы усвоили:

— Вы можете описать любой «AI‑инструмент» через четыре уровня: идея → модель → сервис → приложение.

— Вы умеете заранее определить, где ИИ поможет (черновик, варианты, структура), а где нужна проверка человеком (факты, ответственность, контекст).

— Вы знаете признаки, по которым «ИИ» в описании превращается из слова в проверяемую функцию.

Что унести из этой главы:

— Слово «ИИ» полезно только тогда, когда вы уточнили: какая модель, какой сервис и какая конкретная функция вам нужна.

— Оценивайте ИИ не по обещаниям, а по управляемости и проверяемости: можете ли вы задать требования и получить результат, который можно контролировать и проверять.

— Держите простое правило: ИИ хорош как помощник для черновиков и обработки информации, но не как единственный источник истины и решений.

Глава 3. От данных к решению: общий цикл работы ИИ

Обычно новичок видит ИИ как кнопку: ввёл запрос — получил ответ. Но дальше начинаются вопросы. Почему один и тот же запрос сегодня работает, а завтра — хуже? Кто «решил», что показывать в рекомендациях? И где в этом всём место человека: он просто пользователь или от него что-то зависит?

Ключевая идея простая: любой ИИ-сервис работает по одному и тому же циклу. Сначала собирают данные, потом на них обучают модель, а потом эту модель используют для получения результата в конкретной ситуации.

Этот цикл можно представить как цепочку из четырёх звеньев.

Первое звено — данные. Данные — это примеры из реального мира, на которых ИИ учится: тексты, картинки, клики, оценки, истории покупок, записи разговоров, ответы людей. Важно понимать: данные не «истина», а просто следы того, что уже происходило. Если в данных есть перекосы (например, одни темы представлены, другие почти нет), модель потом будет повторять этот перекос.

Роль человека на этом этапе обычно самая большая, хотя её не видно. Люди решают, какие данные собирать и можно ли их собирать вообще. Настраивают правила: что считать «хорошим» примером, что удалить, как обезличить (убрать привязку к конкретному человеку), как пометить ошибки. И даже если данные собираются автоматически, человек задаёт рамки: какие события логировать, какие кнопки считать «успехом», какие — «ошибкой».

Как понять, что вы усвоили:

— вы можете ответить, какие данные нужны сервису, чтобы он работал (хотя бы на уровне «клики/тексты/оценки»);

— вы понимаете, что качество результата ограничено качеством данных.

Второе звено — обучение модели. Модель — это программа, которая находит закономерности в данных и учится делать предсказание: какое слово дальше, какой товар предложить, какой результат показать выше. Обучение — это настройка внутренних параметров модели так, чтобы она чаще угадывала правильно на примерах из данных и реже ошибалась.

Роль человека здесь — выбрать цель обучения и критерий «правильно/неправильно». Например, в рекомендациях можно оптимизировать «чтобы кликали», а можно «чтобы досматривали», а можно «чтобы возвращались через неделю». Это разные цели, и они дадут разные модели даже на одних и тех же данных. Человек также решает, когда остановиться. Если модель слишком «подгоняется» под прошлые примеры, она может хуже работать на новых ситуациях. Это называют переобучением: модель запомнила частные случаи вместо общего правила.

Как понять, что вы усвоили:

— вы можете объяснить, что модель не «понимает мир», а учится по примерам;

— вы можете назвать, кто задаёт цель обучения (не модель, а люди и компания).

Третье звено — использование модели, или инференс. Инференс — это момент, когда уже обученную модель применяют к новой ситуации: к вашему запросу, вашей фотографии, вашему профилю, вашему текущему контексту. Здесь модель не «учится заново» (в базовом смысле), а быстро считает ответ на основе того, чему научилась раньше.

Роль человека на этом этапе двоякая. Со стороны сервиса люди решают, как именно применять модель: какой контекст ей дать, какие ограничения поставить, как фильтровать опасные ответы, как объединить несколько моделей в одну систему. Со стороны пользователя человек формулирует задачу и даёт входные данные: запрос, параметры, уточнения. Чем точнее вход, тем выше шанс получить полезный результат.

Как понять, что вы усвоили:

— вы различаете «модель обучают заранее» и «модель используют сейчас»;

— вы понимаете, что ваш запрос — это часть входных данных для инференса.

Четвёртое звено — результат. Это то, что вы видите: список ссылок, лента рекомендаций, ответ чат-бота, подсказка в письме, распознавание речи. Но результат почти никогда не равен «чистому ответу модели». Обычно есть слой правил вокруг: форматирование, ранжирование (порядок выдачи), фильтры, ограничения, подсказки, иногда — проверка другими алгоритмами.

Роль человека здесь снова ключевая. Создатели сервиса решают, как показывать результат и как измерять качество: по кликам, по жалобам, по времени на странице, по оценкам. Пользователь отвечает за применение: проверить важные факты, не передавать лишнее, не воспринимать ответ как гарантию. И если результат используется для решения (например, что купить, что прочитать, как ответить клиенту), ответственность за финальный выбор остаётся у человека.

Как понять, что вы усвоили:

— вы можете отделить «ответ модели» от «как сервис его показал»;

— вы помните, что решение принимает человек, даже если подсказку дал ИИ.

Теперь посмотрим, как этот цикл проявляется в привычных сервисах — одним цельным сценарием, чтобы увидеть ход событий.

Представьте, вы открыли приложение с видео и видите ленту рекомендаций.

Шаг 1: сервис собирает данные — какие ролики вы смотрели, сколько секунд, что пропустили, что лайкнули, на что подписались. Плюс данные о самих роликах: тема, длительность, язык, популярность, жалобы.

Шаг 2: на этих данных обучают модель предсказывать, что вы с большей вероятностью посмотрите дальше. Цель задают люди: например, «удержание» или «удовлетворённость», и от этого меняется поведение рекомендаций.