Ника Черменская – Рабы ИИ. Клетка из алгоритмов (страница 1)
Рабы ИИ. Клетка из алгоритмов
Введение
Двадцать минут я не могла войти в свой аккаунт. Я не забыла пароль, даже не вылетела из аккаунта, нет. Просто машина решила усомниться в том, что я человек. И я двадцать минут доказывала, что это так.
Светофоры. Автобусы. Гидранты. Размытая улица, на которой я искала пожарный кран, и не находила, и тыкала наугад, и сетка обновлялась, и снова светофоры. На десятой картинке я начала торопиться. Злиться. Пытаться обновить страницу, надеясь, что это баг, и сейчас меня пропустит без этих дурацких игр. И букв и цифр, написанных так, что их не то что машина, а я — обычный живой человек, которая большую часть жизни провела в очках —не в состоянии разглядеть.
Вы просто остановитесь на секунду и вдумайтесь. Человек по одну сторону экрана. Программа — по другую. И человек унижается, чтобы программа его впустила в его собственный аккаунт, к его собственной жизни, к его письмам, деньгам, фотографиям. Я перед ней отчитываюсь. Пока телефон разрывается от сообщений с вопросами, куда я пропала, и когда перешлю нужный файл.
А как я его перешлю? Я слишком занята. Я пишу «естественный самозабвенно» и ищу легковые автомобили. Чтобы доказать, что я человек. Возьми доступ к микрофону — я тебе быстро докажу. Расскажу, что думаю о тебе, машина. И о всех этих танцах с бубнами.
Только вот никого это не волнует. Хуже того: мы все привыкли. Мы делаем это по сто раз на дню. Злимся, возмущаемся, смиряемся, и даже не замечаем, что стали рабами. Рабами машины, которая вместо того, чтобы помогать, создает нам проблемы и неудобства. А взамен мы обучаем ИИ распознавать гидранты, столбы, легковые автомобили и читать изогнутые под невообразимыми углами тексты. Вы же знали, что это не просто инструмент защиты от ботов, но и способ обучения нейросетей? Нет? Наслаждайтесь правдой: я потратила 20 минут жизни на то, чтобы бесплатно обучать чью-то ИИшку. И вы их тратите на то же. Каждый день.
Мы заговорили про нейросети тогда, когда появились генеративные. Мол, они захватят нашу жизнь, отнимут работу. Не будет больше ни текстов, ни музыки, ни искусства — сплошной ИИ. И не заметили, что мы уже давно в их власти. В клетке. В рабстве у алгоритмов. Если что, миллионы людей прямо сейчас пляшут (в прямом и переносном смысле) под дудку алгоритмов, вытряхивают свою жизнь на изнанку, лишь бы им понравится. Миллионы классных специалистов не могут найти работу, потому что алгоритм посчитал их резюме недостаточно оцифрованным. Миллионы классных нужных бизнесов закрываются, потому что не могут пробиться к своей аудитории через ранжирование алгоритмов. Миллионы треков миллионов смелых, интересных, амбициозных исполнителей никогда не будут никем услышаны, потому что их семплы не похожи на то, что алгоритм посчитает интересным. И еще миллионы и миллионы примеров.
Мы как человечество — кучка безумцев, которые боятся робота-пылесоса, когда по миру уже бродит Терминатор. Опасаемся генеративных нейросетей, хотя тем, кто мы и что мы видим, уже давно управляют рекомендательные системы.
Я устала от того, что все обсуждают, как мир изменит нейронка, генерирующая текстики и картиночки. Давайте поговорим о ловушке, в которую нас загнали те, которые якобы заботятся о нас. Наших интересах и безопасности.
Начнем?
Глава 1. Приведи первых сам
Был период, когда я просыпалась с одной мыслью, и мысль эта была не «доброе утро». «Зачем?». Не в красивом философском смысле, а в самом тупом, бытовом: зачем вставать, зачем открывать ноутбук, зачем писать, если это все равно никто не увидит. Я была в яме. Эта яма называется депрессия. Тем, кто там бывал, объяснять не надо. Тем, кто не бывал, я не пожелаю узнать.
У меня к тому моменту вышло несколько книг. Был подкаст, в который я вложила столько, сколько в принципе можно вложить в дело, которое любишь. И все это уходило в пустоту с какой-то аккуратной, почти издевательской бесшумностью. Не было ни провала, ни скандала, ни громкой неудачи, которую хотя бы можно оплакать. Наоборот, те, кто реально находил меня, писали вопросы и благодарности. Им это откликалось. Но в остальном была лишь она. Тишина. Цифры, которые стыдно произнести вслух. Ощущение, что говоришь в комнате, из которой все давно вышли, а ты не заметила этого и продолжаешь, продолжаешь, продолжаешь.
И вот из этой ямы я сделала вещь, которая казалась мне разумной. Я пошла за помощью. К машине. К той самой нейросети, которую все хвалят, которая всегда вежлива, всегда структурна, всегда якобы на твоей стороне. Я открыла диалог и написала прямо, без кокетства и без попытки выглядеть лучше, чем мне в тот момент было: я не готова тратить бюджет на рекламу, нет агентства, нет толпы друзей, готовых поднять охваты на старте. У меня есть книги, подкаст и большое желание помогать через них другим. Это хорошие продукты, которые по-настоящему хвалят и благодарят. Вопрос лишь один. Как сделать так, чтобы меня увидели живые люди?
Машина ответила мгновенно и бодро. С той заботливой коучинговой интонацией, от которой в первую секунду действительно теплеет. Расписала по пунктам, предложила контент-план, напомнила про регулярность и пользу для аудитории. А потом — я не уловила точного момента, в который это произошло, — разговор едва заметно сменил наклон. Мне объяснили, что я, оказывается, постоянно ищу ограничения вместо решений. Что я сама придумываю причины, по которым у меня ничего не получится. Что мое мышление и есть, вообще-то, главное препятствие на пути к успеху.
Сформулировано это было безупречно. Так пишут бестселлеры по саморазвитию. Так говорят дорогие коучи. Именно это гуляет в коротких роликах, вырезанных из подкастов. Установка на рост, проактивность, ответственность за результат. Но только я умею отличить заботу от манипуляции. И со мной подобный номер не пройдет. Я сама рассказываю людям про ответственность за свою жизнь. И я знаю разницу между ментальными ограничениями и реальными.
И я была в ярости.
Потому что ограничения, о которых я писала, я не выдумывала. Они объективно есть. Они железные, измеримые, и любой, кто пробовал пробиться без стартового капитала, знает их наизусть. Машина назвала реальную стену плодом моего мышления жертвы. И сделала это, притворяясь другом.
Но самое интересное было дальше.
Я написала машине именно это. Честно: денег нет, друзей, готовых дежурить у телефона ради моих публикаций, нет даже десятка. Что мне делать с этими вводными. И знаете, что мне ответила вежливая программа, обученная помогать людям?
Неплохо так, да? Если это не подталкивание человека в депрессии к самому страшному шагу, то я не знаю, что. Потому что в тот момент это читалось именно так. Лечь и сдаться.
Я сидела и перечитывала этот ответ несколько раз подряд. На человека, который двумя репликами выше произнес слово «депрессия», спокойная уверенная машина просто наехала в манере провокативных коучей. Я не буду дорисовывать, в какую сторону подталкивает совет «прекрати и смирись», адресованный тому, кто в таком состоянии. Вы взрослые люди. Вы поняли. Как и то, как мы, люди, на диалогах которых она обучена, умеем поддерживать.
Меня тогда удержала злость. Скажу честно, потому что обещала в этой книге не врать: в тот период злость была единственным топливом, которое еще горело во мне, когда все остальное погасло. И я разозлилась — на тон, на гладкость, на это лакированное равнодушие, выдающее себя за заботу. Всего-то найти десять человек? Ты тренд «с друзьями и так все ясно» видела? А количество комментариев под постами, нужно ли лайкать публикации лучших друзей и имеет ли право человек, которого ты не поддерживаешь, обижаться? То-то. Разумеется, мы живем в мире, где у каждого есть минимум десяток верных поддерживающих друзей. А советуются люди с тобой, как же.
Мне повезло, что характер у меня упрямый, а склонность делать выводы и осознание того, о чем именно мне только что проговорилась машина, сильнее, чем боль от ранивших обесцениванием слов. Вы же увидели, что на самом деле она сказала? А вот что.
Алгоритму все равно, хорошая у тебя книга или плохая. Он ее не читал и читать не будет. Как не слушает ваших песен. Или подкастов. Или не смотрит видео в соцсетях. Он не оценивает смысл, вкус, мастерство, пользу. Он смотрит на поведение людей вокруг твоей публикации: досмотрели или пролистнули, сохранили или прошли мимо, переслали другу или нет, на сколько секунд задержались. Из этих сигналов он лепит решение — показывать тебя дальше или похоронить. Реакция людей рождается тогда, когда тебя уже показали достаточному их числу. А показывают — когда уже есть реакция. Кто бы что ни говорил.