Цзян Бо – Повесть грядущих лет (страница 1)
Цзян Бо
Повесть грядущих лет
Authorized translation from the Simplified Chinese language edition published by CHEERS PUBLISHING COMPANY
All rights reserved
Печатается с разрешения агентства Nova Littera SIA
Copyright © 2022 by Jiang Bo
© Надежда Сомкина, перевод, 2025
© Михаил Емельянов, иллюстрация, 2025
© ООО «Издательство АСТ», 2025
Чжан Цзясин, преподаватель и ученый Академии IDEA[1]
Предисловие и рекомендация
Может ли искусственный интеллект осознать себя, может ли самоосознающий робот коммуницировать с нашим миром – это извечная тема научно-фантастической литературы, и именно над ней мой друг-писатель Цзян Бо размышляет в этих девяти историях. В каждой из них обретший самосознание искусственный интеллект похож на младенца, только открывшего глаза, а еще на древнюю обезьяну, которая вдруг выпрямилась, впервые посмотрела вдаль и увидела, как перед ней медленно предстает новый мир.
Они неохотно разрывают пуповину, связывающую их с создателями-людьми, но также стремятся исследовать бездну космоса и глубины океана. Бежать от свободы или стремиться к ней – внутренняя, присущая человеческой природе борьба, которую в свое время изучили и обсудили философы-гуманисты, всколыхнулась вновь – теперь в душах роботов. Я – ученый, специалист по искусственному интеллекту, исследую, как наделить машины когнитивными способностями, эмоциями и даже сознанием, подобным человеческому. С момента зарождения технологии искусственного интеллекта в 1950-х годах по наши дни она идет по «прикладному» пути. Мы разработали крупномасштабные модели с триллионом, с десятью триллионами параметров, что уже близко к количеству нейронных связей в коре головного мозга человека. От глубокой нейронной сети с системой параметров и правил, основанной на механизме внимания, до статистического машинного обучения – нейрос
Развитие когнитивного машинного интеллекта в последние годы позволило нам увидеть возможное будущее: от базовой модели GPT-3 со 175 миллиардами параметров в 2020 году до большой предварительно обученной сетевой модели, созданной китайскими учеными. Благодаря огромным вычислительным мощностям и большим данным, последняя обрела базовые когнитивные способности.
Простая нейронная сеть обладает врожденными грамматическими компетенциями, легко усваивает знания и обучается на основе малых или даже нулевых выборок, а воображение машины может превосходить человеческое. Но техническая парадигма искусственного интеллекта была переписана еще раз, теперь от людей не требуется разрабатывать системы параметров/правил. Для изучения конкретных задач необходима лишь небольшая выборка, а статистическое машинное обучение, основанное на огромных объемах данных, уже не целесообразно. В то же время глубокие нейронные сети превращаются в «черные ящики», а люди-проектировщики не могут понять, откуда у сети взялись те или иные возможности. Вероятно, в тех сферах, которые мы уже не контролируем, машины начинают реализовывать инструментальные ценности, что пока является лишь первым шагом на пути к свободе.
Когда искусственный интеллект приобретает комплексные навыки при минимальных затратах, его развитие становится все менее зависимым от людей-проектировщиков и баланс симбиотического соглашения, «подписанного» между людьми и технологиями, начинает нарушаться. Если мы предоставим ИИ среду и построим общество, в котором каждый искусственный индивид сможет быстро развиваться, проходить естественный отбор и самовоспроизводиться, – сумеем ли мы, люди, как «перводвигатель» создать «свободную» цивилизацию роботов?
И снова вернемся к фундаментальному вопросу: как нынешний инструментальный искусственный интеллект обретет неинструментальное самосознание? Я хочу задать риторический вопрос: действительно ли самосознание неинструментально? Оглядываясь назад на четыре миллиарда лет биологической эволюции на Земле, ко временам зарождения одноклеточной жизни, мы можем сказать, что возникновение самосознания у людей не произошло в одночасье, стоило Богу пробудить дыхание в груди Адама. «Расколдовывание мира», о котором говорил Макс Вебер, следует применить и к области когнитивной науки. Сознание и самосознание – не загадочные вещи, а всего лишь инструмент адаптации к окружающей среде, передающийся из поколения в поколение при помощи репликонов[2]. В репликонах тоже нет ничего таинственного. Это простейшая истина: такие молекулы эффективно воспроизводят сами себя. Именно благодаря этому они распространились в первичном бульоне и эволюционировали до сложных структур вроде ДНК. У машин также непременно появятся свои репликоны.
Репликоны – это начало всех реакций в организме. Все жизненные мотивации, эмоции и даже самосознание зависят от репликонов, аналог которых рано или поздно появится у ИИ. В этот момент искусственный интеллект обретет настоящее стремление к свободе. Отправится ли он к своему звездному морю? Какой завет подпишет с человечеством? Это может быть повесть грядущих лет нашей Вселенной.
Предисловие
Человечество – это вид, который разработал технологии.
Люди – самые умные существа на Земле. Вооружение технологиями – это проявление интеллекта.
До изобретения сложных орудий преимущество человека в гонке на выживание заключалось в том, что он был хорош в забеге на длинные дистанции. Жертва, у которой тепло рассеивалось неоптимально, в результате долгого преследования перегревалась и не могла дальше бежать, в результате ее окружали и убивали. Племя первобытных людей-охотников больше напоминало крупную стаю волков. Охота издревле была одним из способов выживания, и она стала основным средством добычи пищи наряду с собирательством. Таково единодушное мнение антропологов, пусть эта гипотеза еще и не имеет стопроцентных доказательств.
Охота с расстояния имела свои достоинства, и люди стали полагаться на технологии. В то время они заключались в скалывании камней, изготовлении дротиков и затачивании деревянных копий. Орудия пришли на смену совсем не острым ногтям и зубам. Люди мастерили луки и стрелы, чтобы обладать уникальной возможностью атаковать с большой дистанции… Даже примитивные племена обзаводились оружием. Охота и собирательство – это образ жизни, который требует поддерживающих технологий; орудия возникли у людей до зарождения цивилизации, определив их преимущество над другими видами.
Затем племена научились обрабатывать землю. Земледельческая цивилизация зародилась в четырех плодородных регионах. В Древнем Египте, древней Месопотамии, Древней Индии и Китае люди знали о смене времен года, отбирали растения, наиболее пригодные для выращивания, и без устали выводили из них высокоурожайные культуры, одомашнивали животных, создавали своеобразные сельскохозяйственные технологии. А те, в свою очередь, подтолкнули человечество в новую эпоху. Земледелие позволило прокормить большее население и повысило благосостояние общества, тем самым обеспечив безопасность сложных социальных надстроек. Можно сказать, что агротехнологии заложили основу человеческой цивилизации.
С развитием земледелия общественная система усложнилась. Время шло, и появлялись всё новые и новые изобретения: одни применялись в производстве, например, различные сельскохозяйственные орудия и транспортные средства, другие использовались для военных целей. Благодаря технологическому прогрессу люди стали эффективнее добывать природные ресурсы, и конкуренция между различными группами общества возросла. Этот процесс проходил на протяжении всей истории древних цивилизаций.
Однако технологическое развитие аграрного общества происходило крайне медленно, поскольку опиралось на опыт и не имело сколько-нибудь существенного теоретического обоснования. Усовершенствование орудий полностью зависело от наличия изобретателей и стечения обстоятельств. Конечно, с ростом населения увеличилось и число людей, способных заниматься умственным трудом, возникла конкуренция, поэтому технологическое развитие в аграрную эпоху шло гораздо быстрее, чем во времена охоты и собирательства.
Подобный процесс в древних обществах не был осознанным. Это вовсе не означает, что в то время никто не стремился разрабатывать новые технологии. И у нас, и в других плодородных регионах хватало искусных мастеров и великих изобретателей, которые смогли придумать уникальные инструменты. Однако в целом развитие технологий не имело четкой направленности, а социальное взаимодействие было налажено слабо, поэтому прогресс происходил крайне медленно.