Сергей Левченко – Цифровая память. Что останется от нас в сети, и как ИИ меняет горе, наследие и прощание (страница 6)

Имитация - когда система показывает нам новое движение лица и создаёт ощущение: это происходит сейчас.

Память - это когда мы слушаем старое голосовое.

Имитация - когда программа делает новым голосом фразу, которую человек не говорил.

Память - это когда мы читаем письмо, написанное при жизни.

Имитация - когда ИИ пишет “последнее письмо” от имени умершего.

Память - это когда семья собирает книгу из реальных историй.

Имитация - когда бот отвечает детям, супругу, родителям или подписчикам так, будто умерший всё ещё участвует в жизни.

Память признаёт отсутствие.

Имитация может делать вид, что отсутствие отменено.

Это и есть главный риск. Не технологический. Человеческий.

Цифровой суррогат

В этой книге я буду использовать выражение “цифровой суррогат”.

Это не юридический термин и не научная классификация. Это практическое слово для важного явления.

Цифровой суррогат - это система, которая занимает место отсутствующего человека и создаёт ощущение ответа.

Она может быть сделана из старых переписок, голосовых, фотографий, видео, публикаций, текстов. Она может быть похожей. Она может быть утешительной. Она может быть красиво оформленной.

Но она не становится человеком.

Она не знает, что умерший действительно думал бы сегодня. Она не знает, дал бы он согласие. Она не знает, хотел бы он говорить с ребёнком после своей смерти голосом программы. Она не знает, хотел бы он, чтобы его личные сообщения стали сырьём для модели. Она не знает, где память, а где вторжение.

Цифровой суррогат не возвращает человека.

Он создаёт объект, с которым живые начинают взаимодействовать вместо того, чтобы иметь дело с отсутствием.

Иногда это кажется поддержкой.

Но поддержка, которая строится на подмене, может становиться ловушкой.

“Он бы так сказал”

Есть фраза, с которой нужно быть особенно осторожными: “Он бы так сказал”.

В живой памяти эта фраза иногда естественна. Родные вспоминают человека, его манеру, привычки, голос. Кто-то говорит: “Мама бы сейчас рассмеялась”. Или: “Отец бы сказал: не суетись”. Это часть человеческой памяти.

Но когда в эту фразу входит ИИ, она меняет смысл.

Потому что система может не просто напомнить, а выдать готовый текст.

Уверенный. Гладкий. Похожий.

И тогда “он бы так сказал” начинает выглядеть как “он сказал”.

Это опасно.

Не потому что семья плохая.

А потому что память пластична.

Мы и без ИИ со временем немного переписываем прошлое. Смещаем акценты. Забываем детали. Усиливаем важное. Смягчаем боль. Иногда защищаемся.

ИИ может ускорить эту подмену.

Он может создавать новые фразы, которых не было. Новые воспоминания, которых не было. Новые ответы, которых человек не давал.

И через какое-то время семье станет трудно отделить реальное от сгенерированного.

Особенно детям. Особенно пожилым людям. Особенно тем, кто находится в остром горе.

[ЭТИЧЕСКАЯ ГРАНИЦА]

ИИ может помочь оформить воспоминания живых людей.

Но он не должен производить новые слова от имени умершего.

Технология любит кнопку

У технологий есть одно опасное свойство.

Они делают сложное простым внешне.

Нажмите - и фото оживёт. Загрузите - и голос заговорит. Выберите тариф - и сможете общаться. Разрешите доступ - и мы соберём личность. Попробуйте бесплатно. Продолжите подписку.

Всё выглядит как сервис.

Но горе не сервис.

Память не подписка.

Человеческое достоинство не должно зависеть от тарифа.

Если доступ к образу умершего можно отключить за неуплату, это не память. Это услуга на боли.

Здесь особенно важно не путать техническую возможность с человеческим разрешением.

Не всё, что можно сделать, нужно делать. Не всё, что похоже на утешение, помогает. Не всё, что берёт данные, имеет право брать человека.

ИИ не свидетель

Ещё одна граница: ИИ не свидетель.

Он может помочь разобрать материалы, но он не знает волю умершего. Он не знает, что человек “на самом деле хотел сказать”. Он не понимает семейную историю. Он не может заменить нотариуса, суд, врача, психолога, духовного наставника или разговор между живыми людьми.

ИИ может составить хронологию по данным, которые ему дали. Но если данные неполны, хронология будет неполной. Если в данных ошибка, он может её усилить. Если семья хочет получить удобный ответ, он может дать удобную формулировку.

Нельзя писать: “ИИ восстановил его настоящую волю”. Нельзя писать: “ИИ понял, что она хотела”. Нельзя писать: “ИИ доказал, что он бы согласился”.

Нейросеть не знает умершего человека. Она работает с материалами и вероятностями.

Это не мало. Но это не право говорить за того, кто молчит.

Где ИИ действительно полезен

Важно сказать честно: эта книга не против ИИ.

Я занимаюсь практическим применением искусственного интеллекта и хорошо понимаю, что это не магия и не демон. Это инструмент.

Инструмент может быть полезным.

ИИ может помочь расшифровать старые аудиозаписи. Разобрать фотографии по датам. Составить список людей на снимках, если семья сама их узнаёт и проверяет. Оформить семейную хронологию. Помочь написать вопросы для разговора со старшими родственниками. Собрать черновик семейной книги памяти. Подсказать, какие цифровые дела стоит обсудить заранее. Объяснить простыми словами, как подойти к архиву. Помочь сделать список: что сохранить, что закрыть, что решить позже.

Это хорошая роль ИИ.

Роль архивариуса.

Помощника по порядку.