Сергей Железнов – Искусственный общий интеллект: насколько он близок и чем это грозит (страница 15)
В этом эпизоде и заключена его долговечная ценность.
Лайтхилл ошибался в одном важном отношении: ИИ как направление не оказался тупиком. Но он попадал в другую, не менее важную точку: часть амбиций поля тогда действительно заметно опережала его фактическую состоятельность. Он критиковал не возможность машинного интеллекта как таковую, а разрыв между громкостью обещаний и реальной шириной достигнутых способностей.
Этот эпизод стоит помнить и сегодня. Скептик вполне может ошибаться в длинном горизонте и при этом быть прав в критике текущего завышения ожиданий. История ИИ редко делится на ясных героев и ясных ретроградов. Чаще она состоит из людей, которые по-разному ошибаются в масштабе и темпе.
Экспертные системы: второй цикл
Следующая большая волна пришлась на экспертные системы. На какой-то момент показалось, что если знания специалистов можно достаточно точно формализовать, то значительная часть сложной умственной работы окажется автоматизируемой.
И снова в основе волны лежал настоящий успех. Экспертные системы действительно решали полезные задачи:
в диагностике;
в конфигурации;
в промышленных системах на правилах;
в прикладных корпоративных внедрениях.
Но затем проявилось то, что станет знакомым для всей истории ИИ. Выяснилось, что хрупкие системы на правилах плохо переносят реальный мир. Знания тяжело извлекать, базы правил трудно поддерживать, исключения быстро разрастаются, перенос между доменами оказывается слабым, а цена сопровождения начинает съедать первоначальный энтузиазм.
Это снова был не обман и не пустышка. Это был рабочий класс систем, который слишком рано прочитали как путь к более общему интеллекту. История экспертных систем особенно полезна именно потому, что показывает: ложный рассвет может вырастать из настоящего, а не из фиктивного успеха.
Почему этот цикл повторяется так часто
У этой повторяемости есть как минимум четыре глубокие причины.
1. Интеллект фрактален
Как только машина начинает делать нечто, что раньше считалось признаком ума, вскоре выясняется, что это только один слой более глубокой задачи.
Выигрыш в шахматы не дал общего интеллекта. Экспертные правила не дали общего интеллекта. Компьютерное зрение не дало общего интеллекта. Генерация связного текста сама по себе тоже не решает вопрос. Каждый раз часть задачи поддается раньше целого, а наблюдателю это временно кажется почти завершением всей картины.
2. Узкий бенчмарк почти всегда выглядит шире, чем он есть
Победа в одном ярком домене выглядит как доказательство принципа. На деле она часто доказывает лишь то, что в данном домене нашелся сильный локальный метод. Узкий бенчмарк почти соблазняет нас к неправильному выводу: раз машина уверенно делает это, значит она уже знает, как делать и многое другое. История ИИ показывает, что этот переход часто оказывается ложным.
3. Рынок любит линейную экстраполяцию
Если модель быстро улучшалась три года подряд, рынок, медиа и часть исследовательского сообщества почти автоматически продолжают эту кривую мысленно дальше. Но технологические траектории редко остаются линейными на длинном горизонте. Сложность растет неровно. Иногда прогресс ускоряется, иногда упирается в скрытый барьер. Ложный рассвет начинается в тот момент, когда краткая серия побед выдается за устойчивый закон истории.
4. Люди систематически недооценивают остаточную сложность
Когда система уже сделала 60 процентов того, что еще недавно казалось невозможным, оставшиеся 40 процентов почти неизбежно начинают восприниматься как косметическая доводка. На деле они нередко и есть основная гора. Перенос, устойчивость, надежность, причинное понимание и длинный горизонт поведения часто оказываются не хвостом задачи, а ее самым дорогим ядром.
Вот почему ложные рассветы в ИИ выглядят такими убедительными. Они рождаются не из полного отсутствия прогресса, а из хронической ошибки масштаба.
Значит ли это, что нынешняя волна тоже иллюзия?
Нет. История ложных рассветов нужна не для ленивого цинизма.
Она не доказывает, что текущая волна закончится так же, как предыдущие. Она доказывает другое: сообщество ИИ и общество в целом систематически ошибаются в скорости и глубине экстраполяции. Это важная разница.
У нынешней волны есть черты, которых не было в прежних циклах или не было в таком масштабе.
1. Масштаб вычисления и данных
Многие прошлые волны остывали еще до того, как область получала по-настоящему промышленный уровень инфраструктуры. Сейчас за передового ИИ стоит гигантский вычислительный слой, крупные дата-центры, развитая цепочка чипов и массивы данных, которые по историческим меркам выглядят беспрецедентно.
2. Массовое внедрение
Ранние волны ИИ были важны, но часто оставались относительно узкими. Сегодня передовой ИИ уже встроен в пользовательские приложения, среды разработки, бизнес-процессы и автоматизацию интеллектуальной работы. Это значит, что нынешнюю волну сложнее "отключить" простым изменением настроения инвесторов или чиновников.
3. Широта возможностей
Раньше отдельная волна часто держалась на одной сильной парадигме. Нынешняя опирается сразу на несколько взаимно усиливающих линий:
языковое моделирование;
рассуждение;
мультимодальность;
работа с инструментами;
агенты;
диффузия моделей с открытыми весами.
Это еще не делает AGI неизбежным. Но делает траекторию движения гораздо плотнее и устойчивее.
4. Многополярность переднего края
Сегодня разговор уже нельзя свести к одной лаборатории, одной стране или одной школе. США, Google DeepMind, Anthropic, Китай, экосистема моделей с открытыми весами – все это создает намного более конкурентную и тем самым более живучую динамику.
Именно здесь историческая аналогия должна работать особенно аккуратно. Прошлые ошибки не дают права автоматически назвать нынешний момент еще одним миражом.
Тогда чему именно нас учит история
Не тому, что "все уже было и кончится ничем". И не тому, что раз сейчас есть реальные продукты, то AGI почти наверняка рядом.
История учит более трудной позиции.
Урок 1. Нельзя путать локальный прорыв с общим решением
Это главный повторяющийся сбой. Самые убедительные ошибки в ИИ всегда строились на реальном достижении, которое слишком быстро прочли как общий ответ.
Урок 2. Нельзя считать короткий прогресс линейным навсегда
Даже если кривые роста возможностей сегодня впечатляют, это не означает, что каждая следующая ступень будет столь же дешевой и столь же быстрой. История ИИ плохо сочетается с иллюзией гладкой прямой.
Урок 3. Нельзя игнорировать реальные различия текущей волны
Прошлые неудачные прогнозы полезны как тормоз самоуверенности, а не как универсальное опровержение настоящего. Иначе историческая память превращается в карикатуру на саму себя.
Урок 4. Нужен язык промежуточных состояний
Одна из причин хронической путаницы в истории ИИ в том, что люди любят только две крайности: либо машины еще глупы, либо общий интеллект почти достигнут. Реальность устроена иначе. Между этими полюсами лежит длинная цепь промежуточных режимов. Нынешние передовые системы как раз живут в одном из них: они уже достаточно сильны, чтобы менять экономику, науку и управление, но все еще недостаточно общи, чтобы честно закрыть вопрос об AGI.
Почему прогнозы по ИИ так часто ошибаются
История ИИ – это еще и история неверных предсказаний. Обзор AI Timeline Surveys от AI Impacts хорошо показывает, насколько сильно расходятся экспертные оценки и насколько они чувствительны к формулировке вопроса, составу выборки и самому определению ИИ человеческого уровня.
Это важное напоминание не только о слабости прогнозов, но и о слабости самого языка, в котором они часто формулируются. Эксперты нередко отвечают не на один и тот же вопрос. Сроки роста возможностей, сроки автоматизации, сроки социального перелома и сроки появления действительно общего интеллекта постоянно смешиваются.
Поэтому слишком уверенный прогноз по ИИ почти всегда надо читать с двойной осторожностью. Он может быть не ложным, но очень часто оказывается плохо откалиброванным.
Центральный вывод
История ИИ не учит цинизму. Она учит дисциплине.
Она показывает, что поле снова и снова переоценивает перенос, недооценивает остаточную сложность и слишком быстро превращает частичный успех в глобальный нарратив. Но она показывает и другое: иногда за волной шума все же стоит настоящий перелом.
Поэтому правильная позиция сегодня состоит не в том, чтобы отвергать разговор об AGI из-за прошлых ошибок, и не в том, чтобы поддаться новому восторгу только потому, что нынешние системы реально впечатляют. Правильная позиция строже: встроить историческую память в текущий анализ.
История не говорит нам, что нынешняя волна ложна. Она говорит, что нынешнюю волну нужно измерять строже, чем ей самой хотелось бы.
Что важно запомнить