Сергей Левченко – Цифровая память. Что останется от нас в сети, и как ИИ меняет горе, наследие и прощание (страница 9)

Главная мысль главы

Архив хранит.

Память осмысляет.

Имитация делает вид.

ИИ полезен там, где помогает живым бережно работать с архивом и памятью.

ИИ опасен там, где начинает производить новые слова, новый голос и новое присутствие от имени того, кто уже не может согласиться, возразить или остановить нас.

Память - это не способ отменить отсутствие.

Это способ не предать присутствие, которое было.

Глава 5

Главный принцип: память - да, подделка присутствия - нет

В этой книге уже прозвучала главная формула. Теперь её нужно развернуть спокойно и подробно, потому что на ней будет держаться всё дальше.

Сохранять память - можно. Подделывать присутствие - опасно.

На первый взгляд это кажется очевидным. Почти каждый человек согласится: да, память важна, а обман плох. Но в реальной жизни граница редко бывает такой простой. Она проходит не между добрыми и плохими людьми. Она проходит внутри боли, любви, вины, надежды, усталости, семейных споров и технических возможностей.

Человек может искренне хотеть сделать добро. Сохранить голос отца. Дать ребёнку “ещё раз услышать маму”. Сделать видео к годовщине. Попросить ИИ написать текст “как будто от него”, чтобы всем стало легче. Внутри этого желания может быть любовь, а не цинизм.

Но любовь не отменяет границу.

Умерший человек не становится материалом для любых действий только потому, что он больше не может возразить. Его лицо, голос, письма, переписки, тексты, фотографии и привычные фразы не превращаются в общую семейную собственность без условий. Тем более они не превращаются в сырьё для цифрового суррогата.

Цифровой суррогат может быть мягким, красивым, “бережным” по внешнему виду. Он может говорить спокойным голосом. Он может писать почти знакомыми словами. Он может быть оформлен как памятный проект, семейное утешение, современный способ не потерять связь.

Но если он создаёт новые ответы от имени умершего, он уже не просто хранит память. Он имитирует присутствие.

Именно здесь нужно остановиться.

[ПРОСТЫМИ СЛОВАМИ]

Память говорит: человек был, и его след важен.

Подделка присутствия говорит: человек будто бы всё ещё отвечает.

Первая помогает признать жизнь, которая была.

Вторая может мешать признать смерть, которая случилась.

Эта книга не против технологий

Важно сразу убрать ложное противопоставление. Эта книга не написана против искусственного интеллекта. Я не считаю ИИ злом, запретной силой или признаком “бесчеловечного будущего”.

Я работаю с практическим применением ИИ и знаю, что в спокойных руках это полезный инструмент. Он может ускорить рутинную работу, помочь разобрать большие массивы данных, сделать понятнее сложный текст, расшифровать запись, предложить структуру, собрать черновик, подсказать порядок действий.

В теме цифровой памяти ИИ тоже может быть полезен. Он может помочь семье расшифровать старые аудио, разобрать семейные фотографии по датам, составить список вопросов для бабушки или дедушки, оформить хронологию жизни, подготовить макет семейной книги, аккуратно переписать воспоминания живых людей без канцелярита.

Это нормальная, человечески понятная роль.

ИИ помогает живым работать с тем, что уже есть.

Проблема начинается там, где ИИ начинает производить то, чего не было: новый голос, новый ответ, новое письмо, новое “я рядом”, новую реакцию от имени человека, который уже не может согласиться, поправить, отказаться или сказать: “Нет, я бы так не сказал”.

Поэтому вопрос не в том, можно ли использовать ИИ вообще. Вопрос в роли.

Архивариус - да.

Медиум - нет.

Помощник живых - да.

Голос мёртвых - нет.

Пять проверок перед действием

Когда семье предлагают цифровой памятный проект, “оживление” фото, голосовую модель, чат с умершим, видеоаватар или новый текст “в его стиле”, полезно не спорить сразу, а задать пять проверочных вопросов.

Первый вопрос - происхождение.

Это настоящий материал, созданный человеком при жизни, или новый материал, созданный после его смерти? Старое голосовое, записанное им самим, - это архив. Новая фраза его синтезированным голосом - уже не архив.

Второй вопрос - согласие.

Человек при жизни ясно соглашался именно на такое использование? Не “он любил технологии”, не “она ничего не скрывала”, не “он бы точно не возражал”, а конкретно: можно ли использовать мой голос для создания новых фраз, можно ли делать чат, можно ли обрабатывать мои фото, можно ли публиковать мои тексты после смерти?

Третий вопрос - адресат.

Кому это показывают? Взрослому человеку, который понимает границу? Ребёнку? Пожилому родственнику? Человеку в остром горе? Публичной аудитории? Подписчикам? Чем уязвимее адресат, тем осторожнее должно быть действие.

Четвёртый вопрос - обратимость.

Можно ли это потом остановить, закрыть, удалить, отменить? Или материал уйдёт в сеть, на платформу, в чужую базу, в чужой сервис, в публичное пространство? Всё, что нельзя вернуть назад, нельзя делать сгоряча.

Пятый вопрос - влияние на горе.

Это помогает живым признать, что человек был и теперь его нет? Или создаёт ощущение, что он всё ещё рядом, отвечает, советует, утешает, следит, участвует? Если второе - это уже не просто память.

[ПАУЗА ПЕРЕД ДЕЙСТВИЕМ]

Если после этих пяти вопросов стало тревожно, действие лучше отложить.

Не запретить навсегда. Не втягивать семью в тяжёлый конфликт из-за одной идеи. Просто отложить.

Горе часто требует движения, но не каждое движение полезно. Иногда самая взрослая забота - не нажать кнопку сегодня.

Память признаёт границу

Память не обязана быть холодной. Она может быть очень живой. В семейной памяти человек смеётся, спорит, приходит на кухню, говорит привычные слова, держит в руках кружку, ругается из-за мелочи, кормит собаку, поёт в машине, пишет смешные сообщения, забывает купить хлеб, чинит розетку, выбирает самые кислые яблоки.

Память может быть телесной и тёплой. Она может болеть. Она может внезапно накрывать запахом, песней, районом, остановкой, старым свитером, фотографией в телефоне.

Но зрелая память признаёт границу.

Человек был. Теперь его нет.

Мы можем хранить его следы. Мы можем говорить о нём. Мы можем плакать, злиться, благодарить, скучать, спорить с его прошлым образом. Мы можем собирать истории, фото, голосовые, письма, вещи, рецепты, маршруты. Мы можем учить детей помнить честно.

Но мы не должны заставлять его цифровой след изображать продолжение жизни.

Это звучит жёстко, но в этом есть уважение.

Смерть нельзя отменить кнопкой. Попытка сделать вид, что можно, часто перекладывает на технологию то, что должны выдержать живые люди, ритуалы, разговоры, тишина, время и помощь.

Подделка присутствия часто начинается с добрых слов

Самая опасная подмена редко приходит в грубой форме. Никто не говорит семье: “Давайте нарушим границы умершего и превратим его в цифровой объект”.

Обычно говорят иначе.

“Мы просто сохраним его голос”.