Евгений Волков – Когда машина отвечает (страница 3)

Ранжируют.

Обнаруживают аномалии.

Рекомендуют.

Распознают.

Оптимизируют.

Система, оценивающая вероятность мошеннической транзакции, может влиять на жизнь человека сильнее генератора стихотворений, хотя внешне выглядит гораздо менее «умной».

Это важная поправка для всей книги.

Самые заметные системы не обязательно самые влиятельные.

Разговорный интерфейс заставляет нас видеть интеллект, потому что язык — главный человеческий социальный сигнал. Но невидимый скоринг может решать, получите ли вы кредит. Алгоритм распределения может менять рабочие смены. Система анализа изображения может влиять на медицинское решение. Рекомендательный механизм определяет, какую информацию вы вообще увидите.

Поэтому вопрос о том, что считать интеллектом, нельзя решать исключительно по тому, насколько приятно система разговаривает.

От генерации к действию

Есть ещё одна ступень, особенно важная для этой книги.

Модель способна сгенерировать инструкцию.

Агент способен попытаться её выполнить.

В наиболее общем смысле AI-агент — система, которая может получать цель, планировать промежуточные шаги, использовать инструменты и взаимодействовать со средой с меньшим количеством постоянных человеческих указаний.

Разница кажется небольшой, пока действие обратимо.

Попросили модель: «Напиши письмо клиенту». Она выдаёт текст. Человек читает и решает, отправлять ли его.

Попросили агента: «Разберись с просроченными клиентами». В зависимости от данных ему полномочий система может найти контакты, подготовить разные сообщения, выбрать последовательность, отправить письма, обновить таблицу, поставить напоминание и перейти к следующему случаю.

В первом варианте ошибка лежит перед человеком на экране.

Во втором она способна стать событием.

Технический прогресс здесь заметен. Stanford AI Index 2026 приводит OSWorld — среду, проверяющую выполнение компьютерных задач в разных операционных системах. Исторически сильные модели показывали там порядка 1—12 процентов успеха; лучший приведённый в отчёте результат вырос до 66,3 процента, приблизившись к человеческому уровню в этой конкретной оценке.

Это впечатляющий рост.

И одновременно отличный пример того, как нельзя читать benchmark.

66,3 процента не означает, что «ИИ умеет делать две трети офисной работы». OSWorld включает определённый набор из 369 задач, конкретную среду, критерии успеха и собственные ограничения. Результат говорит о прогрессе в компьютерном использовании. Он не измеряет всю реальную работу, долгосрочную ответственность, коммуникацию с коллегами, понимание скрытых целей организации или способность надёжно действовать неделями.

International AI Safety Report 2026 формулирует ситуацию осторожно: агенты уже способны выполнять полезную работу, особенно в программной инженерии, но пока не могут надёжно выполнять весь диапазон сложных задач и долгосрочного планирования, необходимый для полной автоматизации многих профессий. Чем длиннее цепочка действий, тем больше возможностей для ошибки, потери контекста или неверной адаптации.

Тема агентов заслуживает отдельной следующей ступени — и получит её в третьей главе.

Сейчас важнее другое.

ИИ становится похожим на интеллект не потому, что мы нашли внутри машины маленького цифрового человека.

Он становится похожим на интеллект потому, что всё больше результатов, для которых раньше требовался человек, можно получить без воспроизведения всего человеческого способа существования.

Функция без биографии

Человек, который пишет хороший текст, пришёл к этому через жизнь.

Он слышал речь других людей. Ошибался. Читал. Испытывал стыд. Менял мнение. Помнит разговоры. Существует в теле. Имеет социальные связи. Может бояться последствий своих слов. Может отказаться отвечать не из-за фильтра безопасности, а потому что считает вопрос неправильным.

У модели нет оснований автоматически приписывать тот же внутренний путь только потому, что выход похож на человеческий.

Но это не делает выход незначимым.

И здесь сталкиваются две крайности.

Первая говорит: «Это настоящий разум; иначе она не смогла бы делать всё это».

Вторая: «Это всего лишь статистика; значит, происходящее не заслуживает серьёзного отношения».

Обе фразы обходят главный вопрос.

Практически все современные вычислительные системы в конечном счёте можно описать математически. Человеческий мозг тоже не перестаёт быть физической системой только потому, что мы говорим о смысле, памяти или решении. Сведение механизма к базовым операциям само по себе не отвечает на вопрос об уровне возникающих способностей.

Поэтому разумнее смотреть на систему сразу в нескольких измерениях.

Что она может делать?

Насколько надёжно?

Насколько хорошо переносит способность на новый контекст?

Нужны ли ей внешние инструменты?

Как она ведёт себя при необычной формулировке?

Сколько шагов способна выполнить без распада задачи?

Какие ошибки совершает?

Какой человеческий контроль необходим?

И только после этого спрашивать, какое слово удобнее использовать — интеллект, модель, система, помощник, агент.

Важнее свойства, чем ярлык.

Почему спор об интеллекте всё равно не пустой

Можно возразить: если система полезна, зачем вообще спорить о том, «интеллект» ли это? Пусть философы спорят о терминах, а обычному человеку важен результат.

Отчасти это верно.

Если программа обнаруживает опасную аномалию на медицинском изображении, пациенту важнее качество системы, чем метафизический статус её «понимания». Если перевод точен, пользователю не обязательно знать, существует ли у модели человеческая концепция языка. Если программа быстрее находит ошибку в коде, фирма измерит экономию времени.

Но язык, которым мы описываем технологию, влияет на то, как мы ей доверяем.

Назовите систему «автодополнением» — и человек склонен недооценить её возможности.

Назовите «интеллектом» — и он может начать приписывать ей свойства, которых никто не доказал.

Назовите «ассистентом» — и возникает образ подчинённого, который понимает поручение.

Назовите «агентом» — появляется оттенок самостоятельности.

Назовите «разумом» — и спор почти незаметно переходит из инженерии в философию сознания.

Это не означает, что одно слово всегда правильно, а другое всегда ложно. Это означает, что слова несут скрытые предположения.

Для массовой книги об ИИ важнее всего не заменить одно магическое слово другим, а научиться разбирать систему на проверяемые свойства.

Если модель пишет юридический текст, вопрос не «настоящий ли это юрист?», а какие юридические задачи она выполняет, с какой точностью, на каких данных, при каком контроле и кто отвечает за ошибку.

Если система поддерживает разговор, вопрос не «настоящий ли это друг?», а какие ожидания формируются у человека и что происходит с отношением к реальным людям.

Если алгоритм рекомендует увольнение, вопрос не «понимает ли он судьбу работника?», а имеет ли организация право использовать такой механизм и кто обязан объяснить решение.