Владимир Тарасов – Дневник писателя – Продолжение Выпуск 5. 2026 Г. Лучшая защита от суперинтеллекта – настоящий реализм Достоевского (страница 2)

То есть, критикуя проект DeepSeek-R1, я защищаю не КПК, а научный способ мышления от его возможного искажения в Perplexity.

Разработчики поисковика попали в ловушку так называемой «расхожей мудрости», явления, описанного Джоном Гэлбрейтом в книге «Общество изобилия». Он написал, что «во всем, что касается описания общественных явлений, наблюдается непрекращающееся, нестихающее противоборство между тем, что является истинным, и тем, что считается всего лишь приемлемым». И констатировал печальный результат этой борьбы: «Самая различная публика бурными аплодисментами приветствует именно то, что больше всего ей нравится. И в общественной дискуссии критерий публичного одобрения становится важнее критерия истинности, тем самым оказывая влияние на саму эту дискуссию. Оратор или публицист, намереваясь рассказать всю правду о нелицеприятных и даже шокирующих фактах, неизменно переходит к изложению того, что больше всего публика хочет от него услышать».

Это произошло и с интеллектуальным поисковиком. Его разработчики стремились к правде, а вместо этого представили общественности то, что та хочет услышать и одобрит. В США это, в частности, критика взглядов китайской коммунистической партии. Но насколько эта критика является объективной? Неизвестно. В США принято считать, что является. Ну, принято и принято – вон Берлиоз считал, что вечером он будет на заседании МАССАЛИТа, что для него плохо кончилось.

Чтобы разработать версию DeepSeek-R1, действительно свободную от цензуры, необходимо было проверить реальные диалоги пользователей по 300-м цензурированным темам на наличие в них расхожей мудрости, отбросить то, что ей соответствует, и только после этого обучать модель. А при обработке ответов и дообучении модели посредством отбора фактов следовало постоянно проверять сотрудников, осуществляющих данные операции, на использование ими при этом расхожей мудрости, а также на умение отличать факты от всевозможного рода мифов – «хотелок», которых в головах американцев, на мой субъективный взгляд, ничуть не меньше, чем у коммунистов. Печалька: современные американцы в принципе не умеют определять, какие ответы по многим темам являются фактически точными, а какие нет, они принимают за факты свои желания. И это не мое мнение, а точка зрения одного из величайших американских экономистов 20 века Джона Гэлбрейта.

Всего этого в Perplexity не понимают, а это означает, что их проект китайской нейросети, хотя, возможно, и предоставляет информацию, свободную от ограничений, накладываемых властями Китая, не обеспечивает свободы от цензуры со стороны общественным мнения, которая может быть ничуть не лучше цензуры властей, и представлена, в частности, в виде расхожей мудрости (имеются и другие ограничения, о которых в Perplexity, похоже, тоже ничего не знают, хотя те хорошо известны и описаны не коммунистами, а признанными в самих США учеными, которые являются самыми что ни на есть 100-процентными американцами).

Тем не менее, само стремление к предоставлению истинного знания, существующее в Perplexity, отражает естественный и объективный процесс эволюции нейросетей, которые все больше претендуют на истинность. Например, как проект Илона Маска, который, в отличие от Perplexity, замахнулся не на Google, а на ChatGPT.

1.2 У Маска вместо Truth вышел Grok

Несколько лет назад Илон Маск захотел создать альтернативу ChatGPT – нейросеть TruthGPT, в которой упор был бы сделан на поиск правды. Однако что-то пошло не так, и у него получилась в 2023 году нейросеть не Truth, а Grok. Тем не менее сам Илон Маск постоянно подчеркивает, что его детище является максимально правдивым ИИ, даже если представляемая им истина иногда противоречит общепринятой точке зрения или политкорректности. Да и название нейросети, которое взято из романа Роберта Хайнлайна «Чужак в чужой стране», там использовалось в смысле интуитивного, глубинного понимания чего-либо. То есть претензии на правду остались, несмотря на другое название, только стали несколько размытыми.

Маск считает, в частности, что другие нейросети содержат скрытые элементы идеологии разнообразия, равенства и инклюзивности (DEI), а это представляет серьезную угрозу, так как ИИ может принимать неверные решения. Например, как считает миллиардер, если ИИ научить, что разнообразие является единственным приемлемым результатом, то нейросеть может сказать, что у власти слишком много белых парней, и их надо просто казнить. А если, допустим, запрограммировать ИИ думать, что неправильное определение пола – это худшее, что может произойти, тот, чтобы гарантировать, что неправильное определение пола никогда не произойдет, решит просто уничтожить всех людей, так как это сведет к нулю вероятность ошибки.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.