Владимир Тарасов – Дневник писателя – Продолжение. Выпуск 2: Чему искусственный интеллект может научиться у Достоевского? (страница 1)

Владимир Тарасов

Дневник писателя – Продолжение. Выпуск 2: Чему искусственный интеллект может научиться у Достоевского?

Введение

Если бы Достоевский жил в наши дни, он наверняка не обошел бы вниманием вопрос об искусственном интеллекте, который играет все большую роль в жизни людей.

Достоевский попробовал бы применить свой метод рассуждения, который, характеризовался несколькими особенностями: писатель стремился проникнуть вглубь явлений, найти их первопричины, описать те факторы и процессы, которые остаются без наблюдения со стороны общества в целом, и рассматривать явления вместе со способами рассуждений о них.

Достоевский не оставил четко сформулированную систему правил мышления, но их можно выделить из его произведений. В первом выпуске Продолжения Дневника писателя за 2026 год «О чем бы писал Достоевский в современной России?» описаны семь таких правил, а также указаны семь областей жизни общества, на которые в нем не принято обращать внимание. Это правила мышления, которые позволяют не только делать правильные выводы в процессе рассуждений, но и излагать их в форме понятной и убедительной для обычных людей.

Точно такие же требования предъявляются и к современному искусственному интеллекту, который пока далеко не всегда делает правильные выводы, ему свойственны предвзятость, необъяснимость, а то и простое вранье, которое принято дипломатично называть «галлюцинациями».

Перечисленные недостатки мышления свойственны не только ИИ, но и многим людям, и именно такие особенности мышления пытался устранить Достоевский. И он наверняка заметил бы, что существуют одинаковые требования и для естественного, и для искусственного интеллектов. И задал бы вопрос: в какой степени его метод рассуждений может использовать ИИ, и как научить нейросети правильно рассуждать?

Попробуем ответить на него.

Выпуск 2. Апрель, 2026 год: Чему искусственный интеллект может научиться у Достоевского?

Глава 1. Как Достоевский решал проблему предвзятости

Илон Маск в своем выступлении на Всемирном экономическом форуме в начале 2026 года сказал, что не позже следующего года может появиться искусственный интеллект, который будет умнее любого человека. Пока нейросети явно глупее: в последнее время все большее беспокойство вызывает проблема предоставления ими ложной и необъективной информации (в дельнейшем будем использовать термины ИИ, чат-боты и нейросети как синонимы, что неточно, но в рамках поставленной цели допустимо). В связи с этим в некоторых странах вводят требования к ИИ обеспечить достоверность, точность, правдивость, объективность и т. п.

1.1 Разумность ИИ ограничена способностями его учителей

Однако это не решает проблему, так как требования достоверности, правдивости и объективности сами люди во многих сферах деятельности не соблюдают. Ученый Дэвид Розадо из Политехнического института Отаго в Новой Зеландии в 2023 году опубликовал результаты исследования, согласно которому популярные нейросети, которые позиционируются как нейтральные и объективные, в своих ответах на вопросы людей проявляют политические пристрастия.

Оказалось, что люди, которые задают вопросы по спорным темам на платформах ChatGPT и Google, часто сталкиваются с избытком левых точек зрения при ограниченном представлении альтернативных точек зрения. А, например, разработка OpenAI придерживается центристских взглядов.

Розадо отнес подобную политизированность ИИ к виду «алгоритмических предубеждений» – систематических ошибок, которые совершают машины в своих рассуждениях, и которые ведут к несправедливым результатам. Он отметил, что подобная предвзятость несет угрозу установления общественного контроля, распространения дезинформации и манипулирования демократическими институтами и процессами.

Он указал на две причины возникновения предвзятости. Первая – это выбор источников, на базе которых обучался чат-бот. В частности, «левые» боты обучались на информации, размещенной в различных англоязычных СМИ, социальных сетях и сайтах университетов и научных учреждений, авторы которых склонны к левым идеям. Вторая причина – это пристрастность специалистов, которые осуществляют дообучение ИИ. Специалисты делают это, руководствуясь идеологическими предпочтениями.

Дэвид Розадо попытался решить данную проблему, дообучив бот Davinci GPT-3 на текстах различных классических консервативных деятелей и мыслителей ХХ века: Томаса Соуэлла, Милтона Фримана и Уильяма Бакли. Свой «правый» ИИ он назвал RightWingGPT.

Но считать этот способ решением проблемы достоверности знания и непредвзятости вряд ли можно, так как ведь противоположные мнения не могут быть правдой одновременно. Таким образом, получается, что отличить истинное знание от заблуждений в ряде случаев ИИ не в состоянии, а специалисты, которые осуществляют обучение ИИ, даже не пытаются их этому обучить.

То есть разумность ИИ ограничена способностями его учителей. Мысль довольно очевидная, но она позволяет понять, где искать ключ к совершенствованию разума нейросетей, так как разумность людей – это явление, которое изучается уже давно, поэтому известны и некоторые способы преодоления их предвзятости и необъективности.

1.2 Проблема расхожей мудрости мешает объективности и человека, и ИИ

Одна из известных особенностей мышления человека, ограничивающих его способность отличать истину от лжи, объективное знание от необъективного, это расхожая мудрость. Данный термин был введен американским экономистом Джоном Кеннетом Гэлбрейтом в книге «Общество изобилия», опубликованной еще в 1958 году. Им ученый обозначил экономические, политические и социальные принципы, которые почитаются в обществе по причине их приемлемости, даже если они являются ложными. Он отметил, что «… во всем, что касается описания общественных явлений, наблюдается непрекращающееся, нестихающее противоборство между тем, что является истинным, и тем, что считается всего лишь приемлемым».

Такое явление, по мнению Гэлбрейта, объясняется тем, что «Поскольку экономические и социальные явления описать не так-то просто (ну или нам так кажется), а установить в ходе основательной проверки их истинность или ложность, по большому счету, не удается, они предоставляют человеку прекрасную возможность, которой он лишен при изучении физических явлений: он в достаточно широких пределах может считать истиной всё, что ему нравится. То есть человек вправе придерживаться таких взглядов на окружающий мир, которые ему больше всего по душе и по вкусу».

Указанное противоборство истинного и приемлемого имеет непосредственное отношение к искусственному интеллекту и его ошибкам. В настоящее время многие представления об экономике, политике, социологии и даже медицине принадлежат к расхожей мудрости, и иногда не соответствуют истине, и отражают не объективное знание, а вкусы и желания различных групп людей. Нейросети, как и их разработчики, об этом факте не знают, поэтому в ответах на вопросы в данных сферах знания они часто выдают не истинные знания, а заблуждения, которые пришлись по вкусу различным группам населения, поэтому считаются ими истинными. Объективность ИИ в настоящее время состоит в том, что он представляет истину и ложь как разные мнения, на равных правах.

Ситуация похожа на ту, которая имеет место с политизированностью нейросетей. Но если политическую ангажированность эксперты замечают, то преобладание в рассуждениях ИИ в разных сферах гуманитарного знания расхожей мудрости, а не научных знаний, не осознается.

В реальной жизни кроме борьбы науки и расхожей мудрости, имеется еще и противодействие различных расхожих мудростей, то есть представлений, которые нравятся различным влиятельным группам населения. В частности, Гэлбрейт отметил, что «есть расхожая мудрость консерваторов и расхожая мудрость либералов». К тому же, в расхожей мудрости имеется и значительная часть вполне научного объективного знания.

Явление расхожей мудрости современные нейросети не учитывают, хотя оно проявляется, как написал Гэлбрейт, во всем, что касается описания общественных явлений. И происходит это потому, что данное различие не учитывают и их разработчики. В частности, Дэвид Розадо обнаружил наличие левых и правых ИИ, но не понял, что надо было бы исследовать различие между научным (истинным) знанием и тем, что Гэлбрейт назвал расхожей мудростью консерваторов и расхожей мудростью либералов.

1.3 Достоевский умел мыслить непредвзято

О расхожей мудрости пишут мало, хотя Джон Гэлбрейт весьма известный ученый и даже претендует на статус одного из лучших американских экономистов 20 века. Причина такой невнимательности общества к указанной проблеме очевидна: людям хочется придерживаться таких взглядов на окружающий мир, которые им больше всего по душе и по вкусу, и совсем не улыбается заниматься самокопанием, в результате которого может оказаться, что их взгляды ошибочны, причем с очень большой вероятностью. И консерваторы, и либералы, и центристы не хотят признавать свои взгляды расхожей мудростью, так как придется признать, что в чем-то они могут быть неправы. То есть, говоря проще, самокритикой заниматься никто не любит, а для политиков и ученых самокритика крайне нежелательна, так как она может уменьшить их популярность и финансирование.