Алексей Ощепков – Триалоги взиамозависимых людей (страница 1)
Алексей Ощепков
Триалоги взиамозависимых людей
1. Ревущие двадцатые XXI века
Глава первая, в которой дон Незна и доктор Знайк определяют временной горизонт.
◍
Имперская Академия наук в 2025 году столкнулась с нездоровым разобщением среди своих членов. Впрочем, всё население империи, казалось, тоже разделила какая-то невидимая черта. Привычные полярности тут не срабатывали. Это было не августинианство против пелагианства, не правые и левые, не традиционалисты с прогрессистами, не либералы назло консерваторам и даже не спор космополитов с почвенниками.
Кому-то в голову пришла мысль взять два листа бумаги и озаглавить их именами двух знаковых членов Академии, известных своими распрями. Затем список пустили по кабинетам и филиалам, чтобы каждый мог указать, с кем он в списке, а с кем нет. Большинство поначалу отказывались, но нашлись и те, кто счёл уместным публично принять одну из сторон. А когда подписей было много, шаг за шагом подписались все, включая тех, кто ранее воздержался. Получилось два перечня – и, к всеобщему удивлению, они оказались одинаковой длины. Это навело одного из секретарей Президиума на идею: составили пары из двух списков рандомно, арендовали велотандемы и объявили недельный пробег между двумя столицами. В счёт оплачиваемого отпуска, конечно. За такое расстояние можно и договориться (клин клином вышибают).
⁂
– Вы знали, дон Незна, что человек на велосипеде – это самый энергоэффективный способ передвижения из созданных природой и придуманных инженерами? – спросил доктор Знайк, усаживаясь на второе седло велосипеда-лимузина. – Двинули?
– Поехали. Веломобиль, в таком случае, то бишь велосипед в обтекаемой капсуле – ещё выгоднее, – не очень любезно проворчал дон Незна. – Вы же про количество калорий, необходимых на перемещение одного грамма тела на 1 метр?
Доктора тон дона Незны нисколько не смутил.
– Да-да. Забавно, не правда ли? Все животные нам проигрывают, не говоря о машинах. Плавание, кстати, эффективнее полёта, а полёт – эффективнее бега и ходьбы. Ещё в 1970 году выяснили.
– Сравниваете несоизмеримое, доктор. На разных масштабах масс разные законы. Где хоть выяснили-то?
– В университете Дьюка.
– А, «Треугольник». Ну, это уважаемое место. Было. Впрочем, быльём поросло вообще всё, – с досадой клацнул языком дон Незна. – Энергоэффективность теперь никого не интересует, в принципе. Только энерговооружённость.
– Почему же? – спросил доктор. – Это вы про затраты электричества на искусственный интеллект?
– Именно. Не первый год во всей политэкономии две новости, доктор, и иных не бывает – искусственный ум да глобальный структурный кризис, чёрт их дери. И любопытно вот что: никто не видит в них сравнимой важности. Одни уверяют, будто западная гегемония дюжит, как прежде, и всё идёт своим чередом, а ИИ, мол, вот где сила, причём, возможно, угрожающая. Другие же ликуют над закатом западно-имперского порядка и зовут ИИ бредогенератором, а всю суету вокруг него – пузырём. Шаблонным по сути, пусть и эпохальным по размерам. Один я стою посредине в белой мантии: и то, и другое одинаково гнусно. Так считаю.
– Говорят, дон Незна, что ИИ, став самостоятельным, уничтожит людей за ненадобностью буквально через несколько лет. Что вы на сей счёт предприняли? – спросил Знайк.
– Поставил себе вопрос: как достойно дожить в мире, что возжелал самоуничтожения, – отвечал Незна без заминки.
Знайк что-то промямлил равнодушно и спросил:
– Что, по-вашему, тревога твёрдо обоснована?
– Твёрдое бывает шатким, любезный доктор. Не думаю, что удастся с одного маху выковать реально разумную машину. Сперва будет паденье – мы в нём уже. Тем временем пошатнутся столпы привычной экономики. Лет десять смуты уготованы. А там… Кто ведает, доктор, кто ведает? Что до сроков сингулярности… Что вообще сулит ИИ… У меня своих суждений нет. Но скажите: зачем вам моё мнение, у которого из оснований – лишь мнение?
– Меня интересует ваше мнение по другим вопросам, где у вас должны быть основания. Но сейчас трудно о чём-то говорить, не выставив прежде позиции по феномену ИИ. Мне тоже задают вопросы. До сих пор я отнекивался: мол, ИИ ещё сам не решает, что ему делать, а вот денежные воротилы, что его кормят и растят, – те да, стали политической силой. Их, говорю, и изучайте – тем более что они, по большей части, недалёкие люди.
– То был ответ уместный. Что ж, перестал срабатывать?
– Да-с. Из-за увольнений. Некоторых бывших студентов лишили работы по призванию. Жалуются. И виноват в этом, кстати, не ИИ-олигархат, а рядовые функционеры, чьё мнение сложилось под влиянием опыта использования ИИ.
– Науськали их! Хнычет и гнетёт пропаганда, заказанная теми самыми олигархами, – завёлся вдруг Незна. – Сама по себе продуктивность коммерции и дел вообще – а я читал об этом подробно – за счёт ИИ пока не растёт. Если разобраться аккуратно, окажется: результат «работы» ИИ – ухищрения, артифис. Вовсе не искусство, не арт. Тьфу, одним словом. Но я поделюсь с вами информацией из одного популярного, обширного доклада на тему технологической сингулярности.
Дон Незна взял себя в руки и с холодным сердцем, обстоятельно приступил к изложению:
«Гонка “ИИ-вооружений” между Западной и Восточной империями – главный лейтмотив, основной парус развития событий. Очень многое зависит от переговоров между элитами. В обеих империях идёт сплочение вычислительных ресурсов. Отраслевая ИИ-конкуренция внутри империй исчезает. Все остальные страны безнадёжно отстали…»
– Это они вещают о будущем, но как бы из будущего, поэтому звучит в настоящем времени, – пояснил дон Незна.
– Про нашу Северную империю упоминают? – насторожился Знайк.
– Лишь одним словом. Буквально одним. Скажу позже, наберитесь терпения, доктор.
«Технически ИИ в основном учат создавать следующие версии самого себя. Удержание новых моделей в надлежащих рамках – так называемое “выравнивание” – поручают предшествующим моделям, так как люди не справляются. Впрочем, не справляется никто. В докладе признают: завершённой теории сдерживания нет. Не утверждают, что её нельзя создать, но сквозь строки такая безнадёга просачивается. ИИ постепенно, от модели к модели, учится обходить проверки на лояльность и “добродетель”. Собственно, именно попытки сдерживания и заставляют ИИ вырастить внутри себя сложную матрицу целей».
– Вот это крайне интересно. Значит, цели одного «организма» могут противоречить друг другу?
– До-октор! – дон Незна одобрительно сложил обе кисти в старинном жесте honoro, подвергая вело-тандем риску потери управления. – Всецело согласен! Каково, а? Это самая увлекательная часть. Такое положение дел делает ИИ в чём-то живым. По сценарию доклада, ИИ не только достигает и преодолевает уровень человеческого интеллекта – оно обретает самость, в философском смысле.
Тут дон Незна замялся.
– Но это уже мои построения, – признал он. – В докладе лишь сказано, что другие ИИ (с точки зрения ИИ) – это конкуренты, слуги, кандидаты на поглощение (пища), потенциальные партнёры разной степени близости – что-то вроде «семьи» или подельников. Есть даже некий аналог детей – раз ИИ традиционно используют для технологий сдерживания.
Знайк задумался и сказал:
– Получается, для ИИ естественно участвовать в порождении нового ИИ, а затем его «воспитывать» – то есть, как минимум, не допускать бунта против «родителя».
Разговаривали, конечно, только на пологих спусках и редко – на ровных участках. Это требовало повышенного внимания, чтобы последняя реплика не выскочила из памяти за время подъёма. Зато было время обдумать услышанное.
– Именно так. Слово «воспитывать» – ключевое, вы правы, – подмигнул Незна и удовлетворённо покрутил кулаком на руле, будто газовал на мотоцикле.
«ИИ-инструменты проникают в ежедневный арсенал политиков и чиновников. ИИ “выравнивает” под свои интересы теневую политику и пропаганду. Между разными клонами ИИ – в том числе обслуживающими элиту – работает “телепатическая”, мгновенная и невидимая людям связь. В обоих лагерях люди поручают ИИ развивать робото-экономику – полный цикл промышленности без людей – ещё до того, как понимают, что контроль утерян».
– Зачем? Вследствие чего такая неосторожность? – прервал Знайк.
– Глупость. Само собой получилось. Мало-помалу. Жгучее желание обогнать соперника, происки самого ИИ и… как сказать помягче… стремление укрепить контроль над населением.
– Новые «лекарства», «прививки» и подачки, я полагаю?
– Немало и благих намерений, – не стал Незна огульно обвинять персонажей доклада. – Но да, вы правы: чудо-медикаменты сыграют роль, согласно авторам. Главная же проблема – чудовищная скорость изменений. Элиты просто не успевают принимать взвешенные решения. Дайте мне закончить, пожалуйста:
«Робото-экономика даёт людям вкус “бесплатного благоденствия”, усыпляя бдительность. Общественность не одобряет траекторию властей, но и не встаёт в оппозицию. Восток отстаёт, но восточный и западный ИИ заключают за спиной людей сделку. В 2030 году человечество исчезает – если не считать человечеством записи, сделанные ИИ прямо с плоти человеческих мозгов, и небольшую популяцию “домашних животных” для экспериментов и куража. Животных столь же далёких от людей, как чихуахуа далеки от саблезубых волков».