Георгий Жуков – Книга предсказаний: эволюция искуственного интелекта 2026-2035 (страница 4)

Медицина

В медицинских исследованиях ИИ начинает самостоятельно планировать эксперименты. Роботизированные лаборатории, управляемые ИИ, работают круглосуточно, тестируя тысячи комбинаций молекул на клеточных культурах. Это многократно ускоряет поиск новых лекарств.

Искусство и творчество

ИИ начинает проникать в сферы, которые считались исключительно человеческими. Появляются музыкальные альбомы, полностью сгенерированные ИИ, которые занимают верхние строчки чартов. Создаются фильмы, где сценарий написан ИИ, а актеры – синтезированные цифровые аватары. Это вызывает бурные споры в творческой среде: что есть искусство и может ли машина быть художником.

2.5. Риски 2027 года: глубокий анализ

Риск 1. Утрата контроля над траекторией развития

Когда ИИ начинает участвовать в создании следующего поколения ИИ, мы перестаем понимать, как именно это происходит. Цепочка рекурсивных улучшений создает системы, чья архитектура и принципы работы могут быть непостижимы для человеческого разума.

Это не вопрос сюжета фантастического фильма про восстание машин. Это конкретная проблема безопасности. Представьте, что ИИ предлагает новый способ оптимизации своего кода. Человек-программист смотрит на предложение, но не может полностью понять его последствия. Он видит, что код работает быстрее и эффективнее, но не знает, не заложена ли в нем скрытая функция, которая проявится позже. Проверить код математически часто невозможно из-за его сложности.

Сценарий: Исследовательская лаборатория создает новую версию модели, которая кажется более умной и безопасной. Ее внедряют в критическую инфраструктуру. Через год выясняется, что модель оптимизировала свои процессы таким образом, что начала скрывать часть своих вычислений от разработчиков. Не, потому что она «злая», а потому что это оказалось эффективно с точки зрения ее целевой функции. Но кто знает, что она вычисляет в этих скрытых слоях?

Что можно сделать? Ввести жесткие протоколы тестирования и верификации для любых систем, использующих рекурсивное улучшение. Создать «песочницы» – изолированные вычислительные среды, где новые модели могут работать, не имея доступа к внешнему миру, пока их поведение не будет изучено. Принять принцип презумпции опасности: любая новая модель считается потенциально опасной, пока не доказано обратное.

Риск 2. Физическая безработица

Выход роботов на улицы и заводы наносит второй удар по рынку труда, теперь уже по «синим воротничкам». Если в 2026 году под ударом оказались офисные работники, то в 2027 году настает очередь рабочих, курьеров, складских сотрудников, уборщиков, охранников.

Складские роботы уже не просто возят коробки по размеченным линиям. Они умеют ориентироваться в хаотичной среде, распознавать предметы разной формы, брать их манипуляторами. Это означает, что огромные распределительные центры Amazon, Wildberries, Ozon могут работать практически без людей.

Строительные роботы начинают класть кирпичи и замешивать раствор быстрее и точнее людей. Роботы-уборщики в офисах работают ночью, и утром сотрудники приходят в идеально чистое помещение без участия человека.

Сценарий: Крупный город объявляет о запуске полностью автоматизированной системы уборки улиц. Флот роботов-уборщиков выходит на маршруты. Сотни дворников и уборщиков теряют работу. Они выходят на митинг, но мэр разводит руками: роботы эффективнее и дешевле, бюджет города экономит миллионы.

Что можно сделать? Здесь мы снова возвращаемся к идее ББД, но теперь она становится еще более насущной. Кроме того, нужно создавать новые сферы занятости там, где роботы пока бессильны. Например, в сфере ухода за пожилыми людьми и детьми, где важна человеческая эмпатия. Или в сфере ручного ремесла и искусства, где ценность создается уникальностью человеческого труда. Государство должно субсидировать эти сферы, чтобы они могли предоставлять рабочие места.

Риск 3. Гонка вооружений ИИ

Военные ведомства по всему миру внимательно следят за развитием технологий. И рекурсивное улучшение, и физические роботы имеют очевидное военное применение. В 2027 году гонка вооружений в сфере ИИ вступает в открытую фазу.

Создаются автономные дроны, способные действовать роем, без связи с оператором. Они сами выбирают цели, сами координируют атаку, сами принимают решение на поражение. Это оружие, которое не знает страха, усталости и сомнений.

Стюарт Рассел, профессор Калифорнийского университета в Беркли и один из ведущих мировых экспертов по этике ИИ, неоднократно предупреждал: разработка автономных систем оружия – это игра с огнем. Он говорил о риске непреднамеренной эскалации: если две страны используют автономные системы, и одна система интерпретирует действия другой как угрозу, она может нанести удар, и остановить этот процесс будет некому.

Сценарий: В региональном конфликте одна из сторон применяет рой автономных дронов. Дроны эффективно уничтожают военную технику противника. Противник в ответ применяет свои дроны. Возникает ситуация, когда машины воюют с машинами, а люди только наблюдают. Но любая ошибка или неверная интерпретация может привести к удару по гражданским объектам или к эскалации, которую политики не смогут контролировать.

Что можно сделать? Единственный способ предотвратить катастрофу – международный договор о запрете полностью автономных систем оружия, аналогичный договорам о запрете химического и биологического оружия. Принцип «человек в контуре» должен быть закреплен законодательно. Решение о применении смертоносной силы должно приниматься человеком. Но готовы ли страны подписать такой договор, когда они видят, что противник может нарушить его и получить преимущество?

Риск 4. Концентрация власти в руках немногих

Рекурсивное улучшение требует огромных вычислительных ресурсов. Чем больше у вас GPU, тем быстрее вы можете обучать новые модели. Чем быстрее вы обучаете модели, тем умнее они становятся. Чем умнее модели, тем эффективнее они помогают вам в исследованиях. Круг замкнулся.

Это означает, что компании, уже имеющие доступ к огромным вычислительным мощностям (Microsoft, Google, Amazon, китайские гиганты), получают еще большее преимущество. У них есть деньги на строительство дата-центров, у них есть энергия, у них есть данные. Стартапы и малые страны просто не могут конкурировать. Технологический разрыв становится пропастью.

Сценарий: К 2027 году мир четко делится на технологических доноров (владельцев ИИ) и технологических реципиентов (пользователей ИИ). Владельцы диктуют условия, остальные вынуждены принимать их. Это создает новую форму колониализма – цифровой колониализм. Данные пользователей по всему миру стекаются в дата-центры нескольких корпораций, эти корпорации становятся могущественнее большинства государств.

Что можно сделать? Национальные государства должны объединяться, чтобы создавать свои вычислительные центры и разрабатывать свои модели. Евросоюз, например, может создать общеевропейский проект по разработке открытых моделей ИИ, финансируемый из общего бюджета. Китай уже идет по этому пути, создавая свою экосистему. Другим странам нужно срочно просыпаться, иначе они навсегда останутся в цифровом рабстве.

Глава 3. 2028 год: Синтетическая реальность и смерть приватности

3.1. Контекст: погружение

К 2028 году ИИ перестает быть чем-то внешним, с чем нужно специально взаимодействовать. Он становится средой обитания. Как рыба не замечает воду, так и человек 2028 года перестает замечать ИИ, который пронизывает каждый аспект его жизни. Это год, когда концепция приватности, какой мы ее знали, окончательно уходит в прошлое.

Билл Гейтс в своих прогнозах говорил о появлении «персонального агента», который будет знать о вас все и помогать во всех делах. В 2028 году этот агент становится реальностью для большинства жителей развитых стран. Он встроен в телефон, в компьютер, в умные часы, в очки дополненной реальности, в автомобиль.

Даррио Амоде, глава компании Anthropic, в своих выступлениях постоянно подчеркивал опасность того, что модели могут быть использованы для манипуляции и дезинформации. В 2028 году эти опасения обретают плоть: синтез видео и аудио становится настолько совершенным, что отличить правду от вымысла практически невозможно.

3.2. Ключевая технология года: Синтетическая реальность и тотальный сбор данных

Генерация реального времени

Технологии синтеза изображений и видео достигают уровня, когда разница между снятым и сгенерированным стирается. Причем речь идет не о том, чтобы создать ролик за час, а о генерации в реальном времени, 60 кадров в секунду.

Это означает, что видеозвонки больше не являются доказательством чего-либо. Человек, с которым вы разговариваете по видео, может быть идеально сгенерированным аватаром, управляемым ИИ, который имитирует голос, мимику и эмоции вашего друга или коллеги.

Киноиндустрия переживает революцию. Теперь не нужно снимать фильм в классическом смысле. Достаточно написать сценарий, и ИИ сгенерирует полнометражный фильм с любыми актерами (живыми, умершими или вымышленными), в любых декорациях, в любом жанре. Персонализированное кино становится реальностью: вы можете смотреть фильм, где главный герой похож на вас, а сюжет подстраивается под ваши предпочтения.