Андрей Гусаров – Скриншот, который не удаляют (страница 3)
Машина не сделала нас умнее. Она сделала нас смелее в разговоре с теми, перед кем мы привыкли робеть.
Как я сам чуть не попался
Теперь признание — потому что без него эта глава была бы нечестной.
Прошлой зимой банк списал с меня комиссию, которую списывать был не должен. Сумма небольшая, но из принципа. И я, человек, который пишет книгу ровно про это, сделал ровно то же, что Милли: попросил машину составить претензию. Получил отличный текст. Отправил. Деньги вернули.
Но была одна деталь. В черновике машина уверенно сослалась на конкретную статью закона о защите прав потребителей — с номером, с формулировкой, всё как полагается. Звучало солидно. Я почти оставил как есть.
Почти. По старой привычке полез проверить — и статья говорила не совсем то, что приписала ей машина. Точнее, совсем не то. Номер существовал, а смысл был выдуман — гладко, уверенно, под нужный мне вывод.
Я убрал эту ссылку и обошёлся без неё. Письмо и так сработало — потому что силён в нём был тон, а не выдуманная статья. Но осадок остался. Если уж я, написавший про это целую книгу, чуть не отправил в банк придуманную норму закона, — то что говорить про всех остальных.
У этого свойства машины есть имя. В прошлой главе я обещал назвать его — называю.
Слово дня: галлюцинация
Галлюцинация — это когда машина уверенно сообщает то, чего нет. Придумывает факт, дату, цитату, номер статьи. И подаёт выдумку ровно тем же спокойным, складным тоном, что и правду.
Картинка простая. Представьте студента, который не выучил, но молчать не хочет, поэтому отвечает уверенно и наугад. Вот это оно и есть. Только студент хотя бы краснеет. Машина — нет. У неё одинаково ровный голос и тогда, когда она права, и тогда, когда сочиняет.
Это и есть главная ловушка. Не то, что машина иногда ошибается, — ошибаются все. А то, что по её виду нельзя понять, ошибается она сейчас или нет. Уверенность в ответе не значит ничего. Совсем ничего.
Самый дорогой урок в этой главе
Милли отделалась шестьюдесятью фунтами выигрыша. А вот сколько может стоить обратное — показал не студент, а адвокат с тридцатилетним стажем.
Нью-Йорк, 2023 год. Юрист Стивен Шварц вёл дело некоего Роберто Маты против авиакомпании — пассажиру в полёте травмировала колено тележка бортпроводника. Дело житейское. Чтобы подкрепить позицию, Шварц попросил ChatGPT найти подходящие судебные прецеденты. Машина выдала шесть. Идеальных: с названиями, номерами, цитатами из решений, ссылками на инстанции. Бери и вставляй.
Он и вставил.
Проблема выяснилась в суде. Противная сторона не смогла найти ни одного из шести дел. Судья — тоже. По простой причине: их не существовало. Все шесть машина сочинила от начала до конца — вместе с именами судей и цитатами, которых никто никогда не писал.
И вот деталь, от которой по-настоящему холодно. Когда у Шварца ещё до суда шевельнулось сомнение, он спросил у машины прямо: эти дела настоящие? Машина заверила — да, настоящие. Тем же ровным, уверенным тоном. Она соврала про собственную ложь и не моргнула.
Судья Кастел оштрафовал юристов на пять тысяч долларов и обязал их написать письмо каждому реальному судье, чьим именем машина подписала выдуманное решение. На слушании Шварц оправдывался почти теми же словами, что вертелись у меня в голове над банковской претензией: ему просто не приходило в голову, что эта штука способна выдумывать дела целиком.
Теперь сложите две картинки. Машина пишет Марине несуществующую норму про восемьдесят градусов в батарее. И она же подсовывает адвокату шесть несуществующих судебных дел. Разными людьми, в разных странах, по разным поводам — но одинаково гладко, складно и уверенно. Между фальшивкой и правдой в её исполнении нет никакой разницы на вид. Разницу придётся искать вам.
Тон — да, факты — нет
Отсюда — правило, которое превращает машину из мины замедленного действия в тихую сверхспособность. Оно простое, и оно делит всё надвое.
Доверяйте машине тон. Не доверяйте ей факты.
Пусть она превращает вашу злость и беспомощность в спокойное, складное письмо — в этом ей нет равных, и это законно, честно и работает. Но всё, что можно проверить, — номера статей, даты, суммы, ссылки на закон, фамилии, цифры — вы подставляете и проверяете сами. Машина — гениальный безымянный соавтор и никудышный свидетель. Пусть пишет. Показания давать будете вы.
Доверять тон — да. Проверять факты — всегда.
* * *
Вернёмся к Милли. Её победа была крошечной: шестьдесят фунтов, один штраф, одна улица в Йорке. Но фраза, которую она обронила, переживёт сумму. Без машины она не нашла бы слов — и просто заплатила бы. Не потому что была неправа. Потому что сдалась бы.
А теперь умножьте эту маленькую несостоявшуюся капитуляцию на миллионы. На всех Милли и Шонов, которые раньше платили несправедливый счёт, потому что «связываться себе дороже», — а теперь не платят. Вот она, тихая перемена. Не роботы у власти. Просто у обычного человека впервые появился ровный голос в разговоре с системой.
Шестьдесят фунтов — невысокая ставка. Ошибиться не страшно: ну, заплатил бы штраф, не разорился.
Но люди уже несут эту же машину, с этим же её уверенным голосом, в разговор куда более важный. Не с городским советом — с врачом. Не про шестьдесят фунтов — про собственное тело.
Что бывает, когда на кону не штраф, а здоровье, — следующая глава.
* * *
ЧАСТЬ II
Глава 3. Второе мнение
Где-то в третьем часу ночи Кортни Хофманн делала то, что почти любой врач назвал бы худшей идеей на свете. Она вводила медицинскую карту своего четырёхлетнего сына в чат-бот.
К этому моменту она перепробовала уже всё остальное.
Три года, семнадцать врачей
Началось всё буднично. Локдаун, 2020 год, Кортни купила детям надувной батут — чтобы было где сбрасывать энергию взаперти. Вскоре её сын Алекс, тогда четырёхлетний, начал жаловаться на боль. Сначала родители решили, что режутся зубы. Потом — что кариес. Повели к дантисту.
Дантист ничего страшного не нашёл, но заметил, что мальчик скрипит зубами, и предположил, что дело в дыхании во сне. Так начался путь, который растянулся на три года и семнадцать врачей.
Симптомы накапливались, не складываясь в картину. Алекс грыз вещи. Тащил одну ногу. Перестал расти как раньше. Не мог сесть «по-турецки», скрестив ноги, — для воспитателей мелочь, а Кортни этот момент почему-то засел в память. Боль приходила волнами: с обезболивающим ребёнок был «совершенно нормальным», без него — закатывал такие истерики, что няня каждый день давала ему лекарство просто чтобы дожить до вечера. Сладкий, спокойный мальчик на глазах превращался в кого-то чужого.
Они объездили специалистов. Дошло до приёмного покоя. Каждый врач смотрел в свою область — зубы, сон, поведение, ортопедия — и каждый по-своему был прав и по-своему заходил в тупик. Никто не увидел целого. У Алекса по-прежнему не было диагноза, который объяснил бы всё разом.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.