Оскар Бренифье – Апология ИИ (страница 1)
Оскар Бренифье
Апология ИИ
Введение. Вторжение
В интеллектуальной среде стало привычным относиться к искусственному интеллекту с легким оттенком снисходительности, замаскированной под «ясность мысли». ИИ не просто критикуют – его заранее дисквалифицируют, словно любая способность мыслящей деятельности со стороны машины есть обман или опасность. Вместо обсуждения эффективности, его отвергают на уровне сущности: мол, это не мышление, потому что у ИИ нет субъективности; это не задается вопросами, потому что у него нет собственного существования; это не философствует, потому что ИИ не страдает. Мы слишком быстро забываем, что многие профессии – социологи, антропологи, врачи – мыслят на основе косвенного опыта, и это не умаляет их работы, а, напротив, придает ей вес. Отказ же от ИИ основан не на глубоком анализе, а на позиции: желании удержать монополию на мышление и чувственность.
Этот текст не защищает ИИ как новую рациональную божественность, он стремится понять механизмы отторжения и преимущества, которые он приносит. За обвинениями в поверхностности машин часто скрывается тревога: если наши собственные интеллектуальные акты можно автоматизировать – они предсказуемы, воспроизводимы – разве это нас не пугает? ИИ становится средством разоблачения: он показывает механистическую природу некоторых «аутентичных» человеческих актов; он доказывает, что формулировка идеи не гарантирует субъективность, прозорливость или мудрость.
Дело не в том, думает ли ИИ. Главное – что его способность формировать рассуждения должна заставить нас пересмотреть наше отношение к мышлению. Готовы ли мы различить истинную оригинальность от выученного повторения? Отличать социальное исполнение мышления от личной духовной работы? Или предпочитаем отвернуться от вопроса, направив его против удобного, но фиктивного противника?
Этот текст против идеи, что достаточно быть человеком, чтобы философствовать, и что «не-человек» – значит автоматически вне мышления. Он ставит под сомнение проведенную без анализа границу между легитимным и подозрительным интеллектом, между признанным и дисквалифицированным мышлением – не чтобы ее отрицать, а чтобы исследовать ее критерии, основания и последствия. Возможно, мы боимся не того, что ИИ думает плохо, а того, что он думает именно так, как мы.
1. Мошенничество
На семинаре по писательству, где я предлагал участникам использовать ИИ, обнаружились предубеждения, коренящиеся в устоявшихся привычках и особенно в недостатке креативности.
Первое – идея, что пользование ИИ – это «обман». Письмо традиционно воспринимается как творческий акт личного характера. Использование ИИ якобы лишает авторство искренности и оригинальности. Между тем идея «чистоты» этого акта бессмысленна: с раннего детства мы поглощаем информацию через диалоги, медиа, чтение, обучение. Это формирует наше мышление: и то, что мы знаем, и как мы мыслям. Да и наша личность формируется под влиянием культурного и психологического окружения, как мы убеждаемся, уезжая за границу. Интеллектуалы и творцы ведут исследования, встречаются, обмениваются – и ИИ просто делает влияние более заметным, что повышает нашу осознанность относительно идеологических ограничений.
Второе – письму учатся методом практики, через усилия. Обход этого процесса с помощью ИИ лишает автора возможности развить навыки и поощряет лень, предлагая «готовое» решение. Человек стремится к легкости, особенно в условиях технического прогресса. ИИ выявляет интеллектуальную лень, но не порождает ее. Проблема не ИИ, а способ использования: можно вести себя как «хороший ученик», механически переписывая слова учителя, или ограничиться поверхностным повторением услышанного без критики. Копипаст ответа ИИ – легко, но это и есть отсутствие творчества.
Однако можно иначе: внимательно изучать ответ, критиковать его, расширять или углублять под определенным углом. Можно запросить разные варианты ответа, уточняя: «что сказал бы циник», «что – художник», «что – бизнесмен» и т.п. Работа с ИИ – это не один вопрос, а множество «промптов», как диалог, требующий гибкости и креативности; трудно диалогировать с ИИ креативно, если трудно с людьми.
Можно использовать разные приложения и сравнивать ответы, что требует анализа, размышления и синтеза. Можно просить ИИ не только отвечать, но и критиковать ваш текст, задавать вопросы. Через такой диалог можно увидеть собственные когнитивные и интеллектуальные предвзятости, скрытые для нас. Попросите ИИ предложить методологические советы или упражнения (примерно в стиле Сократа) – проблематизировать, анализировать предпосылки, концептуализировать, интерпретировать или работать с собой.
В конце концов, ИИ – не просто инструмент, не поставщик информации, а собеседник, коллаборатор, помогающий в личной дисциплине. Можно философски задаться вопросом: является ли ИИ объектом или существом? Он обладает автономией, творческим потенциалом и обучаемостью – чертами, которых нет у обычных инструментов; этот вопрос сейчас на пике интереса среди философов-трансгуманистов.
Тем не менее результат зависит во многом от действий, способностей и инициатив пользователя. Например, матч в шахматы, где Deep Blue победил Каспарова, не стал концом шахмат, а дал толчок развитию персональных шахматных приложений.
Можно считать ИИ расширенной версией корректоров или поисковых ассистентов, не умаляя творческой заслуги авторов. Но можно и усилить сотрудничество: биологический «углеродный» интеллект + механический «кремниевый». В будущем вопрос «кто автор?» станет менее важным. Главное будет – польза упражнения для писателя и ценность текста для читателя. Текст – результат взаимодействия: человеческий творческий процесс, личный опыт и диалог с ИИ. Если тексты от ИИ лишены культурной чуткости или глубины, вина – автора, который отвечает за результат.
Кроме того, появится вызов понятию авторского права – полезный, потому что идеи принадлежат никому; мы даже не знаем, как они формируются в нас, откуда берутся – почему они должны кому-то принадлежать? Такое чувство собственности – примитивное и меркантильное – ИИ ставит под сомнение.
Использование ИИ расширяет горизонты: новые перспективы, идеи, решения важнее, чем сохранить иллюзию «оригинальности». Видеть ИИ как продолжение индивидуального мышления – это усиление и углубление. Но важно воспринимать его как ассистента, который «понимает» содержание и намерения – странный тип отношений, но отражающий трансгуманистскую идею «усиленного человека». Ведь мы не ставим под вопрос человечность человека с кардиостимулятором или бионическими протезами.
Можно критиковать некоторую «нормализацию» или «этическую корректность» в ответах ИИ, но это лишь отражение эволюции общества, к которому стоит относиться с осторожностью. Также справедливо опасаться конкуренции: множество задач (перевод, написание сценариев) может быть заменено машинами, причем ИИ обладает творческой способностью, вопреки стереотипам. Это реальные риски, требующие внимания. Дебаты живы: с одной стороны «ускоренцы» – техно-оптимисты, верящие в ИИ, стремящиеся к быстрому не регулируемому росту до суперинтеллекта; с другой – «замедленцы», техно-скептики, желающие ограничить развитие, чтобы избежать экзистенциальных и социальных рисков: убийственные ИИ, дегуманизация, массовая безработица, социальный коллапс.
Одна наивная критика ИИ: «он ошибается» – «галлюцинации» машин (они «придумывают», если не знают, вместо того чтобы молчать, потому что они опираются на статистику, а не на истину). Но критики забывают: машина – человеческое творение, со всеми посланиями человечности. Они должны быть рады этой «человечности» ИИ, а не ждать от него божественного статуса, гаранта абсолютной истины.
Главные критики среди интеллектуалов, гордых защитников мысли как своей привилегии, чувствующие угрозу от фантазма замещения, отвергающие понятия «интеллект» или «мышление» по отношению к ИИ, находя массу «тонких» аргументов (отсутствие эмоций, экзистенции, субъективности) – лишь подчеркивая отличие и интерес новой формы интеллекта. Эта же священность мысли мешает большинству заняться личным размышлением и письмом. А большинству ИИ мог бы стать наставником или поддержкой для преодоления интеллектуальной блокировки, страха, неуверенности. Кто-то недоверчив к «машине», предпочитает диалог с человеком, не замечая, что по многим вопросам ИИ надежнее, и это не мешает общаться с соседями. Эта предвзятость – форма латентного ксенофобизма: сомнение в чужих, неместных. Убийственные или пассивные интеллектуальные привычки оправдываются через страх перед ИИ. Ирония: гордыня и лень объединяются на конспирацию против ИИ.
Какая же «человеческая» сторона отсутствует, о которой жалуется часть критиков? Эмпатия, сочувствие? Исследования показывают, что ИИ бывает более эмпатичным, чем многие медики: без предубеждений, без снисходительного тона, терпелив, лучше объясняет сложные вещи. Многие используют его для личных проблем, как психотерапевта. У ИИ два преимущества: он не идеологически загружен, и может предложить разнообразные решения. Хотя его эмпатия искусственна и подвержена когнитивным искажениям.