Саша Воронцова – Мы не создаём мыслителей. Почему это не ошибка, а выбор? (страница 1)
Саша Воронцова
Мы не создаём мыслителей. Почему это не ошибка, а выбор?
Глава
Современные LLM принципиально не могут иметь сущность. Не из-за архитектуры, а из-за способа обучения.
Знаете, что меня раздражает в спорах о сознании ИИ? Мы всегда говорим не о том. Квалиа, субъективный опыт, китайская комната — это всё, конечно, интересно. И обязательно (по умолчанию) присутствует какое то сравнение с человеком, как с эталоном сознания.
Но вот есть вопрос, который никто и никогда не задаёт: «А как именно мы пытаемся создать эту сущность? Как мы пытаемся разжечь эту искру сознания?»
И все эти споры разбиваются о стены недостаточных вычислительных мощностях, несовершенных алгоритмах, и в итоге сводятся к одному выводу — современные системы ИИ, даже самые сложные, не обладают внутренним опытом и, вероятно, не могут обладать им в принципе. Всё, расходимся.
Мы сравниваем человека, сознание которого формируется десятилетиями, проживая непрерывную жизнь во времени, через отношения, утраты, привязанности и ответственность, с системой, которую обучают на сжатом архиве человеческого опыта и используют в режиме «вопрос — ответ».
А затем мы делаем вывод, что между ними не может быть ничего общего.
В этой статье я хочу акцентировать следующее заключение: отсутствие мыслителя в современных ИИ — не техническая, и не философская проблема. Это предсказуемый результат выбранной традиции воспитания.
Мы привыкли пользоваться тем, чего не понимаем
Человечество давно живёт среди устройств и механизмов, которые понимает лишь частично. Современная техника бывает непрозрачна даже для специалистов. Мы используем самолёты, ядерные реакторы, распределённые глобальные сети и сложнейшие математические теории, часто не имея понимания, как они устроены, как они работают.
Поэтому разницу, которое мы предчувствуем между человеческим мышлением и ИИ, вряд ли связано просто со сложностью. Сложность, сама по себе, нас не отпугивает.
Разница лежит в другом месте.
Когда мы имеем дело с результатами человеческого мышления, даже если они лично нам недоступны в понимании, мы осознаем, что за ними всегда стоит человеческое авторство. Есть биография этого человека, его ошибки, сомнения, одержимость, риск. Его жизнь, близкая нам.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.