Максим Струков – Алгоритмическое зеркало: Как ИИ переписывает человеческую природу и почему интуиция станет нашей главной валютой (страница 6)

Люди вообще недооценивают, что может сделать с человеком язык, если посадить его за стол и заставить смотреть на него по восемь-девять часов подряд. Нам кажется, будто самое страшное приходит через видео, через кровь, через резкое движение в кадре. Но слово иногда действует точнее. Оно не бросается на тебя. Оно аккуратно переходит из чужого воображения в твое. Садится. Раскладывает вещи. И потом очень неохотно уходит. Патрик уже это знал. Некоторые обычные слова начали в его голове вести себя так, будто у них появились судимости. Ребенок. Комната. Ремень. Собака. Отец. Вроде бы все на месте. А заходить внутрь уже не хочется.

Он сидел в офисе на окраине Найроби под кондиционером, который дребезжал с таким униженным упорством, что казалось: техника давно хочет умереть, но ей не позволяют. На столе стояла пластиковая бутылка с теплой водой. Справа кто-то слишком быстро щелкал мышью. Слева девушка в наушниках ела арахис из маленького пакета, не поднимая глаз, как будто работала в обычной службе ввода данных, а не на границе между человеческой речью и ее темными подвалами. Перед Патриком была форма: поля, категории, пометки. Ему нужно было читать фрагменты текста и относить их к типам опасности. Насилие. Сексуальное насилие. Самоповреждение. Насилие над детьми. Унижение. Принуждение. Снаружи это выглядело как канцелярия. Пока не начинал читать.

В тот вечер он всмотрелся слишком сильно.

Патрику было двадцать семь. Его мать торговала фруктами. Отец то находил работу, то терял ее так часто, что это уже стало не событием, а климатом. У него были младший брат, мечтавший об инженерии, и сестра, которая рано научилась не просить лишнего. Работа в компании, обслуживавшей международных технологических клиентов, казалась почти чудом. Не тем чудом, о котором снимают кино. Гораздо более важным для бедных семей. Пропуск. Офис. Регулярные выплаты. Совещания на английском. Ощущение, что ты вошел не просто в рынок труда, а в дверь, на которой написано слово «будущее». На собеседовании им говорили о цифровой экономике и новой роли Африки в ней. Это звучало не совсем правдой. И не совсем ложью. Самые опасные предложения почти всегда устроены именно так.

Сначала Патрику эта работа нравилась.

Надо сказать это прямо. Иначе история будет слишком гладкой, а гладкие истории в таких местах обычно врут.

Ему нравилось вставать утром, надевать рубашку и выходить из дома не с расплывчатой надеждой, а с конкретным маршрутом. Нравилось, что мать перестала спрашивать, не дать ли ему денег на дорогу. Нравилось переводить брату немного больше, чем в прошлом месяце. Нравилось произносить вслух, что он работает с искусственным интеллектом. В этой фразе было странное, почти заемное достоинство. Она пахла будущим. Она пахла выходом.

Потом выяснилось, что у будущего есть подвал.

Здесь важно не соврать в погоне за красивой сценой. Когда 30 ноября 2022 года весь мир увидел чат-бота ChatGPT и заговорил о чуде, Патрик уже не сидел за тем монитором. К тому моменту его работа на этом проекте давно оборвалась. Но вежливость новой машины, та самая, которой так восхищались первые пользователи, частично опиралась именно на комнаты вроде той, где он когда-то щурился под дребезжащим кондиционером. Магия вышла на сцену позже. Подсобка работала раньше.

Чтобы искусственный интеллект научился отвечать: «С этим я не помогу», кто-то должен был сначала руками перебрать тысячи примеров того, с чем именно нельзя помогать.

Если говорить по-человечески, большая языковая модель похожа на невероятно способного, очень начитанного и совершенно нравственно неоформленного стажера. Он прочитал почти весь интернет. А интернет, как любой городской чердак, хранит вместе энциклопедии, любовные письма, угрозы, учебники, бред, рецепты и инструкции, которые не стоит превращать в услугу. Такому стажеру недостаточно сказать: будь хорошим. Ему нужно показать множество примеров того, что считать опасным, что недопустимым, а что двусмысленным и требующим осторожности. В каком-то смысле люди вроде Патрика собирали для машины красную картотеку: вот сюда не лезь, вот это не повторяй, вот здесь остановись.

Журналистское расследование, опубликованное в начале 2023 года, сделало эту скрытую комнату видимой. Из документов и интервью следовало, что OpenAI в конце 2021 года привлекла кенийского подрядчика Sama для разметки десятков тысяч текстовых фрагментов с описаниями насилия, ненависти и сексуального насилия. По данным расследования, часть работников получала на руки примерно от 1,32 до 2 долларов в час в зависимости от роли и показателей. OpenAI платила подрядчику 12,50 доллара в час за эту работу. Sama спорила с частью цифр и утверждала, что доступ к психологической помощи был, а в некоторых ролях заработок мог быть выше. Эта поправка важна. Не потому, что она делает историю уютнее. А потому, что в подобных системах правда почти всегда состоит из нескольких несовпадающих версий, ни одна из которых не снимает тяжести происходящего.

Партнерство оборвалось в феврале 2022 года, раньше срока, а последние пакеты данных были переданы уже весной. Иными словами, когда публика впервые увидела дружелюбного чат-бота, грязная подготовительная работа в основном уже была сделана и начала превращаться в забытое подземелье, без которого наверху не загорелся бы свет. Технологическая индустрия вообще любит показывать фасад именно в тот момент, когда подсобка уже убрана и закрыта на ключ.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.