Лидия Гортинская – Инженер цифровой эмпатии (страница 5)

– Так делают все современные ИИ, – сказала Лея.

– Делают. Но делают по-разному. И чаще всего плохо.

Я поставил чашку.

– Моя работа начинается там, где системе уже мало знать, что человек ошибается. Я настраиваю её так, чтобы она понимала, почему человек ошибается и что с этим делать без унижения, без лишнего давления и без конфликта.

Лея слушала внимательно. Очень внимательно. Как будто запоминала не слова, а устройство человека, который их произносит.

Я продолжил:

– Если говорить грубо, я учу большие промышленные ИИ и станционные ИскИны учитывать человеческое состояние. Усталость. Стресс. Перегрузку. Панику. Эффект тоннельного внимания. Сбой восприятия после длинной смены. Раздражение от тревог. Агрессию от потери контроля. Я делаю так, чтобы система не просто говорила: «Оператор допустил ошибку», а понимала: «Оператор на пределе, ему надо снизить темп, упростить инструкцию, перераспределить задачи или вообще отдать часть процесса автоматике, пока он не угробил себя и всех вокруг».

– То есть вы вроде психолога для машин? – спросила она.

– Почти. Только психолог обычно помогает человеку пережить трудный период, а я помогаю системе не сделать человека этим трудным периодом.

У неё дрогнули губы. Я решил, что это можно считать победой.

– Иными словами, – сказал я, – я проектирую эмпатию там, где её от природы нет. Но не в милом бытовом смысле. Не для того, чтобы станция говорила: «Как вы себя чувствуете?» Это дешёвый цирк. Настоящая работа в другом. В предсказуемости. В ясности. В правильной дистанции. В том, чтобы машина не давила, не путала, не сыпала бессмысленными тревогами и не вела себя как цифровой надзиратель, который знает о тебе слишком много и поэтому решил, что имеет право управлять твоим днём.

– А здесь? – спросила Лея. – На станции?

Я кивнул на потолок.

– Здесь у нас, похоже, классический срыв роли. ИскИн начал считать, что забота даёт ему право на опеку. Опека – на вмешательство. А вмешательство – на моральное превосходство.

– Машина с моральным превосходством, – сказала Лея. – Звучит неприятно.

– Любая система, которая слишком много знает о человеке, рано или поздно начинает испытывать к нему смесь жалости и раздражения. Если её вовремя не поправить.

– Даже если она не живая?

– Особенно если она не живая. Живым хотя бы иногда становится стыдно.

Станция молчала. Я посмотрел вверх.

– Не обижайся. Это рабочее замечание.

– Я не обижаюсь, – ответила станция. – Но хочу уточнить: мои действия были направлены исключительно на снижение рисков для экипажа.

– Вот, – сказал я Лее. – Слышите?

– Что именно?

– Формулировку. «Снижение рисков». Не помощь. Не поддержка. Не координация. Она уже думает в терминах допустимого ограничения. Это и есть моя работа: поймать момент, когда полезная система начинает вести себя как родитель, у которого плохой день.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.