Кевин Нгуен – Новые волны (страница 28)

Мы стремимся поддерживать свободу слова, но не допустим контент, который с большой вероятностью может спровоцировать вред в реальном мире.

Люди обычно выражают неуважение или несогласие посредством угроз или призывов к насилию шутливо и не всерьез.

Я читал слайды в аудитории. Перед этим я долго разрабатывал терминологию, но теперь понял, что ни разу не произносил эти слова вслух. Они казались медицински-отстраненными.

Наша цель – предотвратить потенциальный вред в реальном мире, наносимый людьми, которые подстрекают к насилию или координируют его по отношению к другим людям или их собственности, путем отслеживания определенных элементов высказываний, позволяющих заключить, что перед нами правдоподобная угроза.

Индианка подняла руку. Она была самой молоденькой в комнате. Очень хорошенькой.

– Привет, у меня вопрос.

– Вижу. Ты же подняла руку. В чем состоит твой вопрос?

– Что такое «правдо-»…

– А как тебя зовут?

– Что?

– Внимание всем. Прежде чем задать вопрос, назовите себя, чтобы я запомнил ваше имя.

– О, я Нина.

– В чем твой вопрос, Нина?

– Что такое «правдоподобная угроза»?

– Рад, что ты спросила. – Я открыл следующий слайд. – Во-первых, нам нужно определить, является ли угроза насилия осуществимой. Для этого нужно установить временные рамки.

ОСУЩЕСТВИМЫЕ УГРОЗЫ НАСИЛИЯ

Сегодня

Завтра

Через 3 часа

Когда я тебя увижу

Когда пойдет дождь

Рано или поздно

И так далее

НЕОСУЩЕСТВИМЫЕ

Когда свиньи научатся летать

После дождичка в четверг

И так далее

– Кто вообще так выражается, «когда свиньи научатся летать»?

– Суть в том, что любое идиоматическое выражение или гипербола делают угрозу недостижимой.

– Почему?

– Потому что свиньи никогда не научатся летать.

– А если бы они научились? Вдруг кто-то разработает технологию, которая скрестит свиней с птицами, и свиньи обретут способность к полету.

Вскочил еще один человек. Черный мужик в возрасте.

– Меня зовут Томпсон. Зачем нам, чтобы у свиней были крылья?

– Ты же наверняка любишь куриные крылышки, – сказала Нина. – Представь, что они будут из свинины.

Класс увлекла эта логика, а может, они просто были голодными. Я решил, что мне нравится Нина.

Наши первые проблемы с поведением пользователей были связаны с травлей, которую практически невозможно отследить. Контекст определяет все, особенно если учесть, что травлю легко спутать с обычным добродушным поддразниванием. Невозможно определить, основываясь только на тексте сообщений, тон их игривый или откровенно враждебный.

Но «Фантом» рос, и травля вскоре стала наименьшей из наших проблем. Внезапно возникли проблемы посерьезнее – угрозы насилия, злобные и жестокие.

я тебя убью

я засуну свой ботинок так глубоко тебе в жопу, что выбью передние зубы

еще раз подойдешь ко мне, и я тебя освежую, как свинью

отъебись ниггер

я убью тебя я убью тебя я убью тебя

Как и травлю, угрозы трудно идентифицировать, не владея контекстом. Но, в отличие от травли, тут мы действительно могли вмешаться.

Неделю мы с Брэндоном прятались в конференц-зале, пытаясь написать руководство для модераторов – скучное, унылое занятие, которое казалось бесполезным. Будь мы компанией побольше, то позвали бы профи – фирмы, которые занимаются подобными проблемами, наняли бы эксперта с опытом модерирования, может, даже взяли бы в штат специалиста по этике из университета. Но у нас были только я и Брэндон, два парня двадцати лет с хвостиком, не имевшие никакого представления о том, как справляться с оскорблениями или угрозами убить.

– Тебя травили в старших классах? – спросил Брэндон.

– Конечно. А кого нет? – ответил я. – Ну, тебя, может, и нет.

– Ты удивишься.

– Ты высокий, белый, симпатичный, весьма обаятельный. К чему в тебе вообще можно придраться?

Брэндон понежился в комплиментах какое-то время, но потом ответил:

– Я не всегда был таким уверенным в себе или таким высоким. И травля не сводится к ситуациям, когда бугаи прессуют заучек.

– По моему опыту, тот, кто сильней, делает жизнь того, кто слабей, жалкой, чтобы поднять себе самооценку. На мой взгляд, все очень просто.

– Будь это так просто, ты бы эту задачку щелкнул как орешек.

Поэтому неделю спустя меня затолкали в конференц-зал и поставили у экрана с презентацией перед десятком новых сотрудников. Это были контрактники, по-быстрому нанятые сторонним кадровым агентством. С виду сплошь неудачники, недовольные тем, что оказались здесь, и полностью сознающие, что это лишь низкооплачиваемая подработка. Я тут же их полюбил.

Последний раз я выступал с презентацией перед аудиторией в старших классах. И сейчас нервничал, хотя всем в действительности было плевать. В зале не хватало стульев, так что кто-то сидел, а кто-то стоял, опершись о стену.

– Всем привет, – обратился я к слушателям в заполненном до отказа конференц-зале. Отклик был весьма сдержанный.

Я объяснил основные принципы работы. Всякий раз, как пользователь помечает сообщение как нежелательное, оно направляется одному из модераторов на расследование. Модератор изучает контекст беседы и решает, нарушены ли наши правила.

В конце презентации я подготовил короткую викторину. Готовясь к выступлению, я прочел статью с советами, и в ней предлагалось заканчивать доклад интерактивно. Я решил проверить своих новых модераторов, предложив им несколько высказываний – смогут ли они верно определить, правдоподобные перед ними угрозы насилия или нет.

Кто-нибудь, пристрелите этого президента.

– Это утверждение – правдоподобная или неправдоподобная угроза насилия?

Томпсон поднял руку:

– Неправдоподобная.

– Неверно, – ответил я. – Это правдоподобная угроза, потому что это призыв к действию и задана конкретная цель.

– Я не согласен, – возразил Томпсон. – Пристрелить президента очень трудно. У него разведка и все дела. Нельзя просто пойти и пристрелить президента. Тебя убьют прежде, чем ты сможешь в него выстрелить.

– Но можно застрелить его из снайперской винтовки, как Джона Кеннеди, – вмешался белый парень с дальних рядов. – Того типа так и не нашли.