Евгений Волков – Когда машина отвечает (страница 1)
Когда машина отвечает
Евгений Игоревич Волков
© Евгений Игоревич Волков, 2026
ISBN 978-5-0071-2682-3
Создано в интеллектуальной издательской системе Ridero
КОГДА МАШИНА ОТВЕЧАЕТ
Об актуальности данных
Фактические сведения, законодательство, исследования и данные о возможностях ИИ-систем проверены по состоянию на 3 сентября 2026 года, если в тексте прямо не указана иная дата. Сфера искусственного интеллекта быстро меняется, поэтому отдельные показатели, возможности продуктов и правовые нормы могут быть обновлены после публикации книги.
Книга носит научно-популярный и информационный характер. Она не является медицинской, психологической, юридической или финансовой консультацией. При принятии решений в соответствующих областях следует обращаться к актуальным официальным источникам и квалифицированным специалистам.
ЧАСТЬ I
МАШИНА, КОТОРАЯ НАУЧИЛАСЬ ОТВЕЧАТЬ
Глава 1. Это действительно интеллект?
В 2025 году одна из ведущих систем искусственного интеллекта показала результат уровня золотой медали на задачах Международной математической олимпиады. Для человека это звучит почти как окончательное доказательство: если машина способна решать задачи, над которыми лучшие школьные математики мира работают часами, что ещё нужно, чтобы признать её разумной?
А затем возникает другая проверка.
На ClockBench — наборе задач, где требуется прочитать время на обычных аналоговых часах, — лучший результат, приведённый Stanford AI Index 2026, составлял 50,6 процента. Люди справлялись в 90,1 процента случаев. В другом классе испытаний современные агенты уже могли выполнять многие действия на компьютере, но на OSWorld, где нужно работать с реальными интерфейсами операционных систем и приложений, лучший результат составлял 66,3 процента. Примерно в одной трети попыток система всё ещё не доводила структурированную задачу до успеха.
Золотая медаль по математике. Ошибка на циферблате.
Сложная профессиональная задача. Нелепый провал там, где человек почти не задумывается.
Это не курьёз и не временная неловкость, которую стоит просто переждать до следующего обновления. Это одна из самых важных особенностей нынешнего искусственного интеллекта: его профиль способностей устроен не так, как человеческий. Международный доклад по безопасности ИИ 2026 года использует для этого слово jagged — «неровный», «зазубренный». Система может демонстрировать впечатляющую компетентность в одной области и внезапно проваливаться в другой, которая человеку кажется проще.
И именно поэтому вопрос «Это действительно интеллект?» оказывается гораздо труднее, чем кажется.
Мы привыкли распознавать интеллект по косвенным признакам. Человек быстро решает сложные задачи — вероятно, он хорошо понимает предмет. Свободно говорит — вероятно, владеет языком. Пишет убедительное эссе — вероятно, способен рассуждать. Объясняет шутку — вероятно, понимает контекст. Делает всё это сразу — мы почти автоматически начинаем предполагать за внешним поведением внутренний ум, похожий на наш.
С машиной этот переход может быть ошибочным.
Чтобы понять почему, сначала придётся отказаться от одной удобной иллюзии: искусственный интеллект — это не одна технология и тем более не одно цифровое существо.
Слишком большое слово
Если попросить десять человек объяснить, что такое искусственный интеллект, можно получить десять разных ответов.
Для одного это чат-бот. Для другого — беспилотный автомобиль. Для третьего — программа, которая распознаёт опухоль на снимке. Для четвёртого — система рекомендаций в видеосервисе. Для пятого — генератор изображений. Кто-то вспомнит шахматный компьютер, кто-то — робота, кто-то — алгоритм, решающий, какую рекламу показать.
Все эти примеры могут относиться к ИИ, но устроены они по-разному и решают разные задачи.
Поэтому полезнее начать не с философии, а с рабочего определения. Организация экономического сотрудничества и развития — OECD — в обновлённой формулировке описывает AI-систему как машинную систему, которая на основе получаемых входных данных делает вывод о том, как создавать прогнозы, контент, рекомендации или решения, способные влиять на физическую или виртуальную среду. Такие системы различаются по степени автономности и по способности адаптироваться после развёртывания.
В этом определении нет ни сознания, ни «электронного мозга», ни обещания мыслить как человек.
И это важно.
Термин «искусственный интеллект» исторически получился гораздо более антропоморфным, чем многие реальные технологии, которые под него попадают. Когда мы слышим «искусственная кожа», мы не предполагаем, что материал чувствует прикосновение. Когда слышим «искусственный спутник», не ожидаем, что он подобен Луне во всех свойствах. Но слово «интеллект» почти неизбежно провоцирует вопрос: если он искусственный, то насколько он похож на мой?
Иногда — совсем не похож.
Обычный алгоритм можно представить как подробную инструкцию. Если произошло А, сделай Б. Если число больше порога, выбери один вариант; если меньше — другой. Такие алгоритмы окружают нас давно, и сами по себе они не обязательно относятся к тому, что сегодня называют современным ИИ.
Машинное обучение меняет подход. Разработчик не обязан заранее перечислить все правила, по которым система должна распознавать каждую фотографию кошки, оценивать кредитный риск или продолжать текст. Вместо этого задаётся процесс обучения на данных: система настраивает большое количество внутренних параметров так, чтобы всё лучше выполнять выбранную задачу.
Проще говоря, в традиционной программе человек старается записать правила.
В машинном обучении человек во многом организует процесс, в котором правила выражаются через параметры, найденные из данных.
Это различие не означает, что машина «учится» так же, как ребёнок. Слово здесь техническое. Ребёнок может связать новое знание с личным опытом, телом, мотивацией, социальными отношениями и целями. Обучение модели — вычислительный процесс оптимизации параметров. Одинаковый глагол не делает процессы одинаковыми.
Нейронная сеть — не маленький мозг
Ещё одно название, которое легко вводит в заблуждение, — «нейронная сеть».
Современная нейросеть состоит из математических операций и настраиваемых параметров. Историческое вдохновение действительно связано с идеей нервных клеток и связей между ними, но сходство не следует понимать буквально. Биологический мозг — не просто огромная версия сегодняшней нейросети, а сегодняшняя нейросеть — не цифровая копия мозга.
Полезнее думать о ней как о системе с множеством регулируемых коэффициентов.
Во время обучения модель получает примеры. Затем вычисляется, насколько её результат отличается от требуемого. Параметры понемногу корректируются. Этот процесс повторяется огромное количество раз.
После обучения появляется модель — математическая структура, в параметрах которой закреплены закономерности, извлечённые из обучающих данных.
Здесь важно различать два слова, которые будут встречаться дальше.
Training — обучение модели. Это длительный процесс настройки параметров.
Inference — использование уже обученной модели для получения конкретного результата: ответа, изображения, прогноза, фрагмента кода.
Когда человек задаёт вопрос готовой языковой модели, она обычно не «переучивается с нуля» на этом вопросе. Она выполняет inference: использует уже сформированные параметры вместе с текущим контекстом, чтобы вычислить выход.
Для широкой дискуссии об ИИ это различие важнее, чем кажется. Экономика создания модели и экономика её повседневного использования — не одно и то же. Данные, необходимые для обучения, и данные, передаваемые при конкретном использовании, — тоже не одно и то же. Позже это станет принципиальным для разговоров об авторском праве, приватности, энергии и власти.
Но сначала нужно понять, почему нынешние системы так хорошо работают с языком.
Машина продолжает — человек видит ответ
Большие языковые модели, LLM, обучаются работать с последовательностями.
Популярное упрощение звучит так: языковая модель предсказывает следующий элемент текста.
Это верно как отправная точка и недостаточно как полное описание современной системы.
Текст сначала представляется не как слова в человеческом смысле, а как последовательность токенов — фрагментов, которыми модель оперирует вычислительно. Получив контекст, модель оценивает, какие продолжения вероятны, выбирает следующий токен, затем повторяет процесс. Но способность хорошо предсказывать продолжения на огромном количестве разнообразных данных приводит к гораздо более широким возможностям, чем автодополнение одного предложения.
Чтобы продолжить юридический анализ, нужно уловить структуру аргумента.
Чтобы продолжить программный код, нужно учитывать синтаксис и зависимости.
Чтобы ответить на вопрос по тексту, нужно связать разные части контекста.
Чтобы перевести абзац, нужно сохранить отношения между смыслами.
Чтобы решить математическую задачу, системе приходится производить последовательность промежуточных операций, хотя качество таких операций зависит от модели, задачи и способа её использования.
И вот здесь возникает когнитивная ловушка.