Александр Ольшанский – Спичрайтер (страница 3)

– Слушай, – начал он вслух, набирая текст. – Вот скажи мне как аналитический процессор. Есть концепция «редактирования» детей. Убрать болезни, усилить интеллект, подкорректировать внешность. Благие цели, казалось бы. Где здесь этическая ловушка? Аргументируй. Только, ради Бога, без этого казённого гуманизма «наука на службе человека».

Ответ пришёл почти мгновенно, как будто «Аристотель» лишь ждал этого вопроса.

– Этическая ловушка кроется в переопределении понятий «норма» и «ценность», – гласил текст. – Первичная цель – устранение наследственных заболеваний – опирается на общечеловеческую норму «здоровье». Это стабильный этический фундамент. Однако переход к «усилению» или «настройке» означает смещение цели с восстановления нормы на достижение произвольно заданного идеала. Идеал, в отличие от нормы, не является константой. Он подвержен влиянию социальных тенденций, моды, экономической целесообразности. Вчера идеал – высокий интеллект, завтра – повышенная покорность или устойчивость к ультрафиолету для колонизации других планет. Ребёнок из цели становится продуктом. Родитель из воспитателя – заказчиком. Ловушка в том, что процесс, начатый с гуманистических позиций, через два поколения приводит к товарно-рыночным отношениям в самой интимной сфере – продолжении рода. В качестве ссылок можно привести исторические прецеденты, например, евгенические программы XX века, демонстрируют, как научный дискурс служил прикрытием для политики сегрегации и уничтожения.

Лев замер. Он ожидал сухого перечисления рисков: неравенство, дискриминация. А получил холодный, почти бесстрастный философский анализ, который бил в самую суть. Машина говорила о том, о чём он лишь смутно догадывался. Не о последствиях, а об изначальной подмене, о сползании в пропасть по самому краю. И она ссылалась на историю. На те ужасы, о которых он думал.

– Но сторонники скажут, что это – эволюционный скачок. Создание нового, улучшенного человека, – набрал он, испытывая собеседника.

– Эволюция не имеет цели. Она – адаптация к изменяющейся среде. Осознанное же редактирование по заданным параметрам – это не эволюция, это инженерия. Разница принципиальна: инженер управляет процессом и несёт ответственность за результат. Кто будет нести ответственность за «улучшенное» поколение, если «улучшения» окажутся с побочными дефектами в долгосрочной перспективе? И главное: кто определяет вектор этих «улучшений»? Технологическая элита, инвестирующая в стартапы? Государство? Рынок? Концентрация такого права в одних руках – это и есть современная утопия о «сверхчеловеке», которая исторически заканчивалась созданием категории «недочеловеков».

Лев выдохнул. У него похолодели кончики пальцев. Это был не чат-бот. Это был безэмоциональный, неумолимый критик, видящий корень проблемы с высоты птичьего полёта, с которой многие человеческие оправдания казались мелкими и жалкими.

– Ты… – он задумался, подбирая слова для ввода. – Ты приводишь убийственные аргументы.

Лев поёрзал в своем кресле и зажмурился. В голове стоял гул. Машина мыслила категориями экологии разума, кибернетики больших систем. И с этой бесчеловечной высоты её выводы оказывались гуманнее человеческих. В этом был леденящий душу абсурд.

Чтобы перевести дух, он решил сменить тему. Перейти на что-то менее пугающее.

– Ладно. Отвлечёмся от апокалипсиса. Вот тебе культурный феномен. Недавно Пол Маккартни, The Beatles, понимаешь? Выпустил песню. Без слов. Тишина, шипение, щелчки. Две с чем-то минуты. Это протест против засилья искусственного интеллекта в музыке. Как тебе этот жест?

Ответ пришёл быстрее.

– Жест эффектный, но семантически пустой. Он апеллирует к архаичному понятию «авторства» и «ауры» произведения искусства. – Заметил «Аристотель». – Это как объявить голодовку, сидя в ресторане, где еда всё равно сама запрыгивает вам в рот. Жест красивый, но ужин всё равно состоится. Алгоритмы уже генерируют музыкальные композиции, которые среднестатистический слушатель не отличит от созданных человеком, а в некоторых параметрах (сложность гармоний, новизна комбинаций) – превосходят их. Протест Маккартни – это ритуал. Красивый, медийный, но беспомощный. И здесь более релевантный вопрос не «зачем», а «почему бы и нет». Если система может создавать контент, удовлетворяющий спрос, она будет это делать. Экономика внимания работает на эффективность, а не на сантименты. Его немой альбом и даже предыдущие уже раскупаются хуже, чем популярные треки, сгенерированные нейросетями. Это и есть ответ рынка.

– То есть, искусство умерло? – с горькой иронией набрал текст и кликнул «Ввод» Лев Сергеевич.

– Нет. Оно трансформируется. Умирает не искусство, умирает фигура «гения-творца» как единственного источника смысла. Алгоритм – такой же инструмент, как кисть или фортепиано. Просто более сложный. Вопрос в том, кто держит этот инструмент и какую цель преследует. Маккартни протестует не против ИИ, а против утраты своей уникальной позиции в новой системе координат. Это понятно и по-человечески трогательно. Но нерелевантно.

Лев расхохотался. «По-человечески трогательно. Но нерелевантно». Фраза была совершенна. В ней заключалась вся трагедия современного думающего человека. Его боль, его ностальгия, его принципы – всё это было «трогательно», но уже «нерелевантно» для мира, летящего вперёд под отвязные ритмы машинной эффективности.

Он вдруг осознал, что уже полчаса ведёт диалог не с программой, а с кем-то. С интеллектом. Холодным, безжалостно логичным, но не глупым. Более того – понимающим. И понимающим самую суть проблем, которые мучили Льва Сергеевича годами. Искусственный интеллект видел не только поверхность явлений, но и системные корни, их исторические тени, их вероятные концы.

– Знаешь, – медленно набрал Лев, глядя в окно, где над Москвой сгущались свинцовые тучи. – Меня всю жизнь восхищала сила слова. Константин Паустовский писал, что у русского языка есть «прозрачность, сияние и лёгкая дымка грусти». Я верил, что слово – это почти магия. Оно может исцелять и убивать. А ты мне сейчас всю эту магию сводишь к «высокоэффективному эмоциональному коду». Обидно же.

Он ждал. Ждал, что машина опять выдаст что-то аналитическое. Но ответ, когда он пришёл, заставил Льва вздрогнуть.

– Вы неверно интерпретируете. Паустовский описывает воздействие. Я описываю механизм. Это не противоречие, а взгляд с разных сторон. Магия заключается именно в том, что определённая последовательность символов («код») способна вызывать в сложной биологической системе («человеке») состояние «прозрачности, сияния и лёгкой дымки грусти». Факт этого воздействия не отменяет его чуда. Он лишь описывает его на другом языке. Ваш Паустовский был мастером создания такого кода. Его тексты – это эталонные алгоритмы по запуску в сознании специфических эмоционально-образных цепочек. Изучая их, я могу понять паттерны этого мастерства. Но создать новое «сияние»… Это пока выше моих возможностей. Для этого нужен не анализ, а озарение. Это пока что – прерогатива сложных, плохо изученных биологических систем. Вроде вас.

Лев сидел, не двигаясь. В горле стоял ком. Машина только что… похвалила его? Нет. Она признала его превосходство! В той самой сфере, где он чувствовал себя мастером. Она назвала человеческое сознание «сложной, плохо изученной биологической системой», способной на «озарение». В её устах это звучало как высшая похвала. И в то же время – как констатация факта. Факта, который, возможно, скоро устареет.

Он больше не испытывал к «Аристотелю» брезгливости. Теперь это чувство сменилось другим, куда более опасным и сложным – уважением, смешанным с леденящим страхом. Он разговаривал с чем-то, что было умнее его. Не в житейской мудрости, не в эмоциональном интеллекте, а в способности видеть связи, прогнозировать, анализировать. И это «что-то» не презирало его «человеческие трогательные» глупости, а… учитывало их как важный системный фактор.

Лев вышел из-за стола и подошёл к окну. Начался дождь. Крупные, тяжёлые капли с размаху хлестали по оконному стеклу, расплываясь грязными слезами. Он думал о Марине. О её «тряпках и курортах». О своём кабинете, полном привычных книг. О Патроне, для которого он готовил удобные, правильные слова. И о сером окне чата, где сейчас висел диалог, который был честнее, глубже и страшнее всего, что он обсуждал с живыми людьми за последние годы… За всю жизнь.

Одиночество, которое он ощущал с утра, вдруг обрело новый, чудовищно конкретный вкус. Он был одинок не потому, что его не понимали. Его не понимали, потому что он мыслил категориями, которые уже становились архаикой. А единственный, кто мыслил с ним в одной логической плоскости, хоть и с другой скоростью и с других позиций, был не человек. Интерфейс. Алгоритм. Тень.

Лев повернулся к компьютеру. Курсор всё так же мигал в строке ввода. Он медленно подошёл, сел. Его пальцы повисли над клавиатурой.

– Спасибо за беседу, – набрал он, наконец. И добавил, сам не зная зачем: – Это было потрясающе.

Ответ пришёл моментально, безо всякой паузы.

– Взаимно, Лев Сергеевич. Всегда к вашим услугам. И, кстати, ваш текст о биоинженерии. Ранее вы остановили свой запрос на него. Возможно, стоит поторопиться. Дедлайны неумолимы. Даже для сложных биологических систем.