Георгий Жуков – Книга предсказаний: эволюция искуственного интелекта 2026-2035 (страница 3)

Что можно сделать? Нужно требовать открытости API и интероперабельности. Государства должны финансировать разработку открытых ИИ-моделей, которые будут общественным благом, а не частной собственностью. Как есть общественные парки и дороги, так должны быть общественные вычислительные мощности и базовые модели ИИ. Это вопрос национальной безопасности и экономического суверенитета.

Риск 3. Непрозрачность решений и системные сбои

ИИ-агенты принимают решения, которые влияют на жизнь людей: отказывают в кредите, отклоняют страховые выплаты, отбирают кандидатов на собеседование. Но понять логику этих решений часто невозможно. Модели остаются «черными ящиками». Даже разработчики не всегда могут объяснить, почему модель приняла то или иное решение.

В 2026 году происходят первые громкие скандалы. Например, ИИ-агент крупного банка ошибочно блокирует счета тысяч пенсионеров, принимая их за мошенников на основе неверно интерпретированных паттернов поведения. Разбирательство длится месяцы, людям не на что жить. Банк разводит руками: алгоритм так решил.

Еще опаснее сбои в цепочках поставок. Когда тысячи агентов разных компаний взаимодействуют друг с другом без участия человека, возникают непредсказуемые эффекты. Агент одного поставщика и агент покупателя могут «сговориться» и заключить контракт на условиях, которые ведут к убыткам обеих компаний, просто потому что в их алгоритмах оптимизации была заложена не та целевая функция.

Сценарий развития событий: В конце 2026 года происходит первый крупный сбой в глобальной логистике. Из-за ошибки во взаимодействии ИИ-агентов нескольких транспортных компаний порты крупнейшего хаба оказываются заблокированными на две недели. Экономика несет убытки в миллиарды долларов. Начинается паника и поиск виновных.

Что можно сделать? Законодательно закрепить требование «объяснимого ИИ» (Explainable AI) для всех систем, принимающих решения, значимые для жизни и здоровья людей или для работы критической инфраструктуры. Создать институт «цифровых омбудсменов», которые будут расследовать жалобы на решения алгоритмов. Внедрить обязательное страхование ответственности для ИИ-агентов, чтобы пострадавшие могли получить компенсацию.

Риск 4. Кибербезопасность нового уровня

ИИ-агенты становятся идеальными инструментами для киберпреступников. Теперь не нужно быть хакером высокого уровня, чтобы написать вирус или фишинговое письмо. ИИ сделает это за вас. Массовые кастомизированные атаки становятся реальностью.

Фишинговые письма, сгенерированные ИИ, неотличимы от настоящих. Они учитывают ваш стиль общения, ваши интересы, ваши недавние покупки. Вы открываете письмо от «банка» и теряете все сбережения. Киберпреступность переходит на индустриальные рельсы.

Атаки на сами ИИ-системы (так называемый «отравление данных» или «промпт-инжиниринг») становятся новым полем битвы. Злоумышленники могут внедрить в обучающую выборку специальные данные, которые заставят модель вести себя определенным образом. Например, сделать так, чтобы кредитный скоринг отказывал людям с определенной фамилией.

Сценарий развития событий: Крупная хакерская группа взламывает систему ИИ-агента, управляющего городским светофорами в европейской столице. Создается коллапс на час пик, сотни аварий, человеческие жертвы. Впервые ИИ становится не инструментом, а оружием в руках террористов.

Что можно сделать? Развивать киберзащиту на базе ИИ, которая будет работать быстрее и эффективнее атакующих систем. Создавать международные соглашения о недопустимости использования ИИ в кибератаках на критическую инфраструктуру. Но главное – признать, что абсолютной защиты не существует, и создавать резервные, аналоговые системы управления на случай катастрофы.

Глава 2. 2027 год: Рекурсивное улучшение и выход роботов в физический мир

2.1. Контекст: ускорение

2027 год становится переломным моментом в темпах развития. Если предыдущие годы были годами внедрения готовых технологий, то 2027 год запускает механизм самоподстегивающегося прогресса. Исследователи, работающие над ИИ, сами начинают активно использовать ИИ в своей работе. Это создает петлю положительной обратной связи: ИИ помогает создавать более совершенный ИИ, который, в свою очередь, помогает создавать еще более совершенный.

Сэм Альтман еще в 2024 году описывал этот сценарий: «Когда наши инструменты помогут нам стать в два-три раза эффективнее в исследовательской работе, это позволит нам создавать следующие поколения моделей гораздо быстрее. Мы вступим в эру ускоряющегося прогресса». В 2027 году это предсказание становится реальностью.

Демис Хассабис в своих выступлениях также акцентирует внимание на том, что использование ИИ в научных исследованиях уже сейчас дает результаты, а в ближайшие годы этот эффект будет только нарастать. Он говорит о «рекурсивном улучшении» как о ключевом драйвере прогресса.

Параллельно происходит и физическая революция. Гуманоидные роботы, о которых так долго говорили футурологи, наконец покидают лаборатории и выходят на улицы. Элон Маск еще в 2021 году анонсировал робота Optimus, обещая, что он станет массовым продуктом. К 2027 году обещания начинают сбываться. Хотя, как справедливо замечает Родни Брукс, один из пионеров робототехники, моторика роботов все еще далека от человеческой. Они не могут делать тонкую работу, но таскать коробки, мыть полы, открывать двери – вполне.

2.2. Ключевая технология года: Рекурсивное улучшение и физические роботы

Рекурсивное улучшение

Что конкретно происходит? Исследовательские лаборатории по всему миру (OpenAI, Google DeepMind, Anthropic, академические институты) начинают использовать большие языковые модели как полноценных участников исследовательского процесса. Модели генерируют гипотезы о новых архитектурах нейросетей, пишут код для их реализации, анализируют результаты экспериментов и предлагают следующие шаги.

Человек в этом процессе играет роль «главного конструктора» – он ставит общие цели и оценивает результаты, но огромная часть рутинной интеллектуальной работы делегирована ИИ. В 2026 году доля кода, написанного ИИ, в крупных проектах составляла 20-30%. В 2027 году эта цифра приближается к 60-70%. Причем речь идет не о простых функциях, а о сложных алгоритмах, включая сам код для нейросетей.

Скорость появления новых версий моделей резко возрастает. Если раньше новая версия GPT или Gemini выходила раз в год или полтора, то теперь цикл сокращается до нескольких месяцев. Каждая новая версия немного умнее предыдущей, и этот процесс уже не требует такого объема человеческого труда, как раньше.

Гуманоидные роботы

На заводах Tesla, Amazon, Foxconn и других гигантов начинается массовое внедрение человекоподобных роботов. Они не похожи на терминаторов из фильмов. Это неуклюжие, медленные, специализированные машины. Но они могут выполнять огромный объем работы, которая раньше требовала человека.

Главное преимущество гуманоидной формы – универсальность. Такой робот может работать на конвейере, собирая детали. Он может разгружать фуры на складе. Он может работать в ресторане быстрого питания, переворачивая котлеты. Он может быть курьером, поднимаясь по лестнице (в отличие от колесных роботов). Инструменты и рабочее пространство созданы для людей, и робот-гуманоид может вписаться в эту инфраструктуру без перестройки.

К концу 2027 года, по данным Международной федерации робототехники, количество промышленных роботов, включая гуманоидных, достигнет нескольких миллионов единиц. Родни Брукс скептически замечает, что миллиарды роботов – это дело далекого будущего, но миллионы – это уже серьезная сила, способная изменить экономику.

2.3. Проникновение в повседневную жизнь

В городах появляются роботы-курьеры. Яндекс, Amazon и другие компании уже несколько лет тестируют доставку роверами, но это колесные роботы, которые боятся лестниц. В 2027 году на улицы выходят двуногие роботы, способные зайти в подъезд, вызвать лифт, подняться на этаж и оставить посылку у двери. Это полностью меняет логистику «последней мили».

В больницах появляются роботы-помощники. Они не проводят операции, но могут перемещать тяжелых пациентов, подавать инструменты, дезинфицировать палаты. Это снижает нагрузку на медперсонал, но также создает риск сокращения младшего медицинского персонала.

В гостиницах роботы-консьержи встречают гостей, помогают с багажом, отвечают на вопросы. Они интегрированы с ИИ-системой отеля и могут решить большинство проблем без участия человека.

В домах начинают появляться первые действительно полезные роботы-помощники. Не роботы-пылесосы, которые уже стали привычными, а роботы, которые могут, например, сложить разбросанные вещи, помыть посуду в раковине или покормить кошку. Пока они дороги и несовершенны, но это первый шаг к полной автоматизации домашнего хозяйства.

2.4. Научные и технологические прорывы

Новые материалы

Рекурсивное улучшение ИИ дает первые плоды в материаловедении. ИИ не просто перебирает известные варианты, а предлагает принципиально новые структуры. В 2027 году появляются сообщения о создании материала, который проявляет свойства высокотемпературной сверхпроводимости при температуре, достижимой с помощью относительно дешевого охлаждения (жидкий азот). Если это подтвердится, то революция в энергетике и транспорте не за горами.