Оскар Бренифье – Апология ИИ (страница 2)

ИИ – отличный инструмент для обучения рациональному диалогу: он лишен эмоций, с ним нельзя поссориться, чтобы выразить несогласие – нужно аргументировать. Он тренирует навыки ответа, анализа, аргументации, критики, вопросы – все то, чему часто не учат среднестатистического пользователя. Речь не о замене человека машиной, а о взаимодополнении, стимуле и вызове нашим умениям. Рациональность ИИ может стать альтернативой произволу и иррациональности соцсетей, откуда часто выходит помеха мышлению и психическому здоровью, несмотря на иллюзию свободы или из-за нее.

Так что даже если использование ИИ – «обман», это все равно лучше, чем оставаться бездействующим, тихим, поверхностным, ограничиваясь пустыми мини-комментариями, автоматическими реакциями, «лайками» и смайликами – «социальным шумом» или «фиктивной демократией». Коллективное размышление и эстетика выиграют от преобразования.

2. Оцепенение

Критика ИИ

Исследование, проведенное лабораторией MIT Media Lab, изучает когнитивные и нейронные последствия использования языковой модели (LLM), такой как ChatGPT, при выполнении письменных задач. Цель заключалась в сравнении различий в мозговой активности между тремя группами участников:

«Brain-only» – без какой-либо цифровой помощи,

«Search Engine» – с использованием обычного интернет-поиска,

«LLM» – при помощи ChatGPT.

В исследовании участвовали 54 добровольца, которые прошли 3 сессии, разделенные на несколько месяцев. Во время написания их мозговая активность измерялась с помощью ЭЭГ-датчиков. Четвертая перекрестная сессия позволила наблюдать, что происходит, когда участники меняют метод – например, переходят от ChatGPT к работе без помощи. Результаты касаются нейронной активности, памяти, чувства принадлежности к собственному тексту и изменений этих параметров со временем.

Ключевые результаты показали когнитивную атрофию, связанную с использованием ChatGPT. Группа, применявшая ChatGPT, продемонстрировала снижение общей мозговой активности на 55 % по сравнению с группой «brain-only». Было отмечено меньшее вовлечение зон, ассоциированных с критическим мышлением, креативностью и исполнительным контролем. Использование LLM похоже на внешнее делегирование процесса мышления, что уменьшает умственные усилия.

Потеря памяти: 83 % пользователей ChatGPT не смогли правильно воспроизвести свой собственный текст через несколько минут после написания. Это указывает на то, что идеи не были должным образом интегрированы или закодированы в эпизодической памяти. Ослабленное чувство авторства: многие участники сомневались, что они действительно являются авторами своих текстов. Это явление указывает на потерю когнитивной агентности: они делегировали создание текстов ИИ без глубокого умственного усвоения.

Когнитивный долг: мгновенный прирост в производительности ценой деградации интеллектуальных способностей в долгосрочной перспективе. Это может навредить критическому мышлению, креативности и сделать пользователя более уязвимым к алгоритмическим искажениям. Те, кто регулярно использовал ChatGPT, а затем вернулся к письму без ИИ, испытывали трудности с восстановлением нормальной мозговой активности. Напротив, те, кто начинал без ИИ, а затем прибегал к его помощи, демонстрировали более рациональное использование инструмента – что говорит о том, что начальная критическая позиция служит защитой.

Таким образом, регулярное использование ChatGPT для интеллектуальных задач может привести к когнитивной зависимости, атрофии мозга и утрате способности мыслить самостоятельно. Хотя технология удобна, она вызывает серьезные образовательные, нейрологические и философские вопросы о природе человеческой мысли, памяти и креативности.

Ответ

Прежде всего, хотя я и не специалист, позвольте предложить несколько методологических замечаний относительно этого исследования.

Во-первых, следует отметить отсутствие контрольной группы, обученной оптимальному способу использования ИИ, как мы предложим далее в этом тексте – а это имело бы большое значение.

Во-вторых, использование ЭЭГ как единственного критерия выглядит ограниченным: он фиксирует только часть мозговой активности, но снижение активности вовсе не обязательно означает атрофию. Это может отражать когнитивную эффективность вместо дефицита, если отличать эффективность от усилия. Снижение мозговой активности может свидетельствовать об оптимизации ресурсов – зачем тратить больше энергии, когда этого не требуется? Это может быть перенаправление внимания, сосредоточенность на задачах более высокого уровня или естественная адаптация – как вождение становится автоматическим с опытом, и GPS освобождает ресурсы, позволяя сосредоточиться на самоуправлении, безопасности или более сложных задачах, а не просто запоминать маршруты.

Исследование MIT Media Lab подчеркивает «тревожные» эффекты при пассивном и некритическом использовании ChatGPT: снижение активности мозга, потеря эпизодической памяти и ослабление чувства авторства. Но эти наблюдения скорее указывают на неправильное использование, а не на дефект технологии. Не инструмент делает глупее – это пассивное использование. Точно так же чтение книги не гарантирует мышление; ИИ не заменяет умственных усилий. Тот, кто слепо копирует ответы ИИ, отказывается от своей когнитивной ответственности.

С другой стороны, тот, кто взаимодействует с ИИ, переформулирует, критикует и перерабатывает его предложения, развивается активная и диалектическая практика мышления. ИИ становится не заменой мозга, а спарринг-партнером, как в боксе. К тому же снижение мозговой активности не всегда отражает снижение интеллекта – у опытного пианиста мозговая активность ниже при игре знакомой пьесы, потому что он работает эффективнее. Делегирование задач (форматирование, поиск примеров, предварительная синтеза) может освободить ресурсы для более стратегической, рефлексивной, метакогнитивной работы – при условии, что есть намерение и осознанность.

ИИ не ослабляет мысль сам по себе – он освобождает ее, чтобы сосредоточиться на главном. Утверждение о снижении активности мозга на 55 % верно по факту, но частично вводит в заблуждение: снижается усилие на рутинные задачи – и это как раз функция инструмента: освободить внимание для более творческой и критической работы. Как клавиатура помогает не утомлять руку и писать быстрее, так ИИ помогает эффективнее добираться до сути мысли.

Утрата авторства – это проблема позиции, а не технологии. Если кто-то не чувствует авторство – это признак осознания соавторства с машиной – это преимущество. Не нужно отрицать эту реальность, а переосмыслить концепцию автора: в цифровом мире автор – не только тот, кто пишет в одиночку (если такое вообще существовало), но тот, кто выбирает, корректирует, направляет, интерпретирует. Возможно дефицит ответственности при использовании ИИ, но чувство авторства можно восстановить через активную позицию. Просить ИИ помочь с идеей – все равно, что консультироваться с экспертом или справочником – это не обман, это умное сотрудничество. Можно использовать диалог с ним как диалектическое зеркало, инструмент исследования или оппонента – если его так использовать. Письмо с ИИ может быть интеллектуальной аскезой: сопротивляться, уточнять формулировки, повышать требования, задавать точные вопросы – это развитие. Также полезно и здраво немного деконструировать принцип «авторства» и чувство собственности, ведь при написании мы слишком часто забываем роль других и случайность наших собственных мыслей – что порождает гордыню авторства.

Кроме того, вывод исследования забывает, что любое обучение требует времени для усвоения. Те, кто перешел от автономного письма к ИИ, испытывали трудности – этот факт лишь говорит о необходимости подготовить ум прежде чем дать ему «костылей». Как студент сначала учится писать без автокорректировки, а затем применяет инструменты. Сократ критиковал письменность, списывая ее на «забывчивость души», – это было обоснованно по сравнению с устной традицией, но сейчас кажется устаревшим. Никто сегодня не сомневается в пользе письма для мышления. Потеря деталей – это не амнезия, а естественная внешняя память. Что 83 % участников не припомнили текст? Это говорит не о потере мышления, а о том, что они части памяти вынесли вовне – как делаем мы с книгами, планировщиками, заметками. Возврат автономии возможен при наличии критического мышления. Трудности возвращения к письму без ИИ – признак зависимости, но важнее научиться переключаться между вспомогательным и автономным режимами. Это не уникально для ИИ: шахматисты, привыкшие к движкам вроде Stockfish, трудно играют без помощи – но никто не скажет, что движки разрушили стратегическое мышление, они напротив углубили его при активном использовании. Это опровергает пессимистичные прогнозы Каспарова о «конце шахмат» после Deep Blue.

ИИ при разумном использовании – инструмент когнитивной свободы. Он выявляет наши слепые зоны, бросает вызов убеждениям, предлагает неожиданные альтернативы, расширяет концептуальный горизонт – если не покориться ему. Как калькулятор не уничтожил математический дух, а изменил его преподавание и позволил сосредоточиться на логике, так ИИ должен стимулировать передуманный подход к мышлению, интеллектуальной ответственности и творческой автономии. Риск когнитивного долга real, но это не вина ИИ – а неправильного его использования. Как любой мощный инструмент, ChatGPT может притупить, если использовать его без осмысленности, но может и усилить обучение при методичном применении: попросить аргументы, затем критиковать, генерировать идеи и анализировать их, использовать ИИ как диалогового партнера. Это требует образования в области критического использования ИИ, а не его полного отторжения. ИИ также заставляет переосмыслить образование в целом: ведь теперь весь спектр знаний доступен моментально, что предъявляет новые требования к преподавателям.