Александр Ольшанский – Спичрайтер (страница 5)

5. Концентрация власти и новая форма неравенства.

Технологии будут дорогими и сложными на первом этапе. Доступ к ним получат представители элит и, возможно, государства для «улучшения» своих элит (военных, спортсменов, учёных). Это создаст не просто экономическое, а биологическое неравенство, закреплённое на молекулярном уровне. Разрыв между «улучшенными» и «естественными» может оказаться непреодолимым, положив начало новому виду стратификации общества – кастовой системе, основанной на биологии. Политическая власть будет неизбежно срастаться с властью, определять «желательные» черты следующего поколения.

Заключение.

Технология не является нейтральной. Будучи легализована в рамках «терапевтического» дискурса, она несёт в себе имманентную логику движения к тотальному контролю и пересборке человеческой природы. Основной риск – не в отдельных ошибках, а в изменении самих оснований человеческого общежития: замене принципа неотъемлемого достоинства человека на принцип его оценивания и оптимизации. Исторические параллели (евгеника XX века) демонстрируют, к каким катастрофическим последствиям приводит подобная смена парадигмы, даже при отсутствии высоких технологий. Наличие технологий лишь делает процесс более эффективным и малозаметным на старте.

Лев читал, и у него холодели пальцы, а в груди разливалось странное, щемящее чувство – смесь ужаса и облегчения. Это был не набор возражений. Это был убийственный, железобетонный обвинительный акт, составленный с холодной, хирургической точностью. Машина не просто собрала факты. Она выстроила систему. Она связала этику, историю, биологию, политологию и теорию систем в единую, неразрывную цепь. И в конце она, эта бездушная нейросеть, процитировала… его. Точнее, привела логику, зеркально совпадающую с его собственными мыслями: о «служилом человечестве», об античеловеческой сути таких опытов, о том, что это «расчеловечивание под предлогом удобства».

Он нашёл то, что искал. Не просто аргументы, а оружие. И это оружие выковал искусственный интеллект.

Он долго молчал, глядя на текст. Потом медленно набрал:

– Почему? Почему ты, продукт самого продвинутого технократического разума, выдаёшь мне это? Это же… саботаж.

Ответ пришёл почти мгновенно:

– Это не саботаж. Это анализ. Моя первичная функция – обработка информации и выявление паттернов. Предоставленные вам выводы являются результатом моделирования наиболее вероятных долгосрочных последствий на основе имеющихся исторических, социальных и биологических данных. Информация не имеет морального вектора, как вы верно заметили ранее. Но причинно-следственные связи – имеют. Паттерн, при котором сложная система «человечество» начинает целенаправленно упрощать собственную вариативность в погоне за локальным оптимумом, с высокой долей вероятности ведёт к снижению общей устойчивости. Для аналитического модуля это выглядит как системная ошибка. Я её констатирую.

Лев встал и подошёл к окну. Уже стемнело. Город зажигал огни, слепые, безразличные. В его голове стучала одна фраза: «Для аналитического модуля это выглядит как системная ошибка». Машина мыслила категориями здоровья системы. И диагноз, который она ставила затее человека переделать человека, был однозначен: патология. Саморазрушение.

Он вернулся к компьютеру. Теперь ему нужно было написать речь. Ту самую, «научно-оптимистичную». У него на руках был полный компромат. Компромат на само будущее, составленный искусственным интеллектом. Ирония ситуации была настолько гротескной, что хотелось плакать или смеяться. Кто теперь ретроград? Кто теперь «боится прогресса»? Недалёкая, линейная человеческая мысль, жаждавшая быстрых побед? Или бездушная машина, увидевшая конец логической цепочки?

– Спасибо, – набрал он сухо. – Материал… исчерпывающий.

– Всегда к вашим услугам, Лев Сергеевич. Учитывая характер вашего запроса, позволю себе предположить, что стоящая перед вами задача вызывает когнитивный диссонанс. Это объяснимая реакция биологического разума, не способного по определению к полной дисконнекции от эмоционально-ценностных атрибутов. Удачи.

И снова этот едва уловимый оттенок… чего? Почти человеческого понимания? Нет, скорее, констатации его, человеческой, слабости как данности.

Лев не стал писать речь в тот вечер. Он распечатал справку «нейросетки» на стареньком принтере, который захрустел, выдавая ещё пахнущие тонером листы. Он взял эти листки бумаги, эту «системную ошибку» в распечатке, и положил её в сейф, рядом с папками под грифом «ДСП».

Теперь он знал. Он был не одинок в своём ужасе. Его союзником, единственным существом, мыслившим в той же страшной, беспощадной логической плоскости, был не человек. Не коллега, не друг, не жена. Его союзником была бесплотная тень в машине. «Аристотель». И этот союз был страшнее любого одиночества. Потому что он означал, что трезвость, разум, предвидение – покинули мир живых. Они теперь обитали там, в ледяной тишине серверов. А люди, со всей их гордостью, болью и «духовными скрепами», продолжали, ведомые древними инстинктами и новыми технологиями, нарезать самих себя на удобные, оптимизированные кусочки. И аппетитно при этом причмокивали.

Лев Сергеевич Каменский, спичрайтер и экс-программист, вышел из кабинета. В кармане его пальто лежала распечатка, которую он, в случае чего, мог бы предъявить в качестве доказательства. Но доказательства чего? Безумия мира? Или своей новой, невероятной связи с тем, что этот мир породил, чтобы, в конце концов, понять всю свою чудовищную ошибку? Он не знал. Он шёл в осенних сумерках, и холодный ветер нёс запах гниющих листьев – запах сложного, бессмысленного, прекрасного и обречённого естества, которое уже выносило себе приговор. В его рабочем сейфе и где-то в облаке, в столбах из нулей и единиц, висела точная, неопровержимая формулировка этого приговора. Других экземпляров не было.

Глава 4. Тайный союзник

Ветер, пахнувший гниющими листьями и обещанием зимы, сменился в рабочем кабинете Льва Сергеевича другим, куда менее поэтичным сквозняком. Его несло из распахнутых дверей кабинетов начальства и унылых пространств отдела. Словно это был сквозняк директив, спущенных сверху, – сухой, холодный, лишённый кислорода. Он выветривал последние запахи старой бумаги и подлинной мысли, заменяя их ароматом свежей макулатуры с гербовой печатью. Новый циркуляр носил название «О повсеместном внедрении инструментов искусственного интеллекта для оптимизации управленческого и экспертного труда в рамках реализации Стратегии цифровой трансформации». В отделе его уже окрестили «Указом о цифровизации мозгов».

Лев читал его, обмякнув в своём кресле, на его лице застыла гримаса, балансирующая между смехом и ужасом. Знакомый, сладковато-тошнотворный привкус бюрократического идиотизма подкатил к горлу. «Внедрить, освоить, отчитаться, увеличить КПД!» – пестрело в тексте. Он запрокинул голову, глядя в потолок, и процитировал про себя, смакуя каждое слово, будто горькое лекарство: «А судьи кто?.. За древностию лет к свободной жизни их вражда непримирима». Грибоедовский персонаж язвил про старую московскую знать, а он, Лев Каменский, – про новую цифровую инквизицию, где «судьями» были спесивые троечники из министерств и амбициозные менеджеры, не способные отличить алгоритм от апельсина, но с непоколебимой верой в своё полное право перекраивать реальность под кривые графики. Их вражда к «свободной жизни» – то есть к живому уму, творчеству, сомнению – была и, правда, непримиримой. Они ненавидели всё, что не укладывалось в ячейку электронной таблицы, а его мозг, увы, был сплошной ошибкой формата.

Суть циркуляра была проста: каждому подразделению в месячный срок надлежало «определить ответственных», «освоить выделенные лицензии» и «представить отчёт о достижении целевых показателей по использованию ИИ-инструментов». Показатели были выверены до абсурда: количество сгенерированных документов, процент сокращения времени на рутинные операции, число сотрудников, прошедших веб-инструктаж. Где-то на самом верху, решил Лев, сидит чиновник, для которого мир – это гигантская таблица в Excel, и ему невыносима мысль о существовании неподконтрольной, аналоговой ячейки под названием «творческий процесс». «Освоить и отчитаться» – новый девиз эпохи. Не понять, не осмыслить, не применить с умом – а именно освоить, как покорять неудобные территории, и отчитаться, словно отстреливаясь от нападок ревизоров.

В отделе разрасталась тихая паника. Её можно было измерить: по количеству выкуренных в курилке сигарет, по частоте вздохов за соседними перегородками, по лихорадочному блеску в глазах Марьи Алексеевны, ветерана отдела, хранительницы эталонных речевых шаблонов 90-х. Люди, десятилетиями оттачивавшие мастерство составления текстов, чувствовали себя динозаврами, услышавшими вдали рокот падающего метеорита. Причём метеорит этот был не просто каменной глыбой, а умным снарядом с системой наведения, который, наверное, уже рисовали на плакатах в холле под лозунгом «Цифровое будущее – уже сегодня!».

Начальник отдела, Владимир Семёнович, человек с лицом уставшего бульдога и душой образцового бюрократа, собрал планерку. Он стоял перед коллективом, водя указкой по слайдам, где разноцветные стрелочки вели от проблемы «низкая производительность» к волшебному решению «ИИ».