Сергей Кузнецов – Псевдоэтическая субъектность искусственного интеллекта (страница 1)
Сергей Кузнецов
Псевдоэтическая субъектность искусственного интеллекта
Искусственный интеллект в последнее десятилетие стал неотъемлемой частью современного общества как эталон высоких технологий, разработанных человеком. Он используется в различных сферах человеческой жизни, включая медицину, финансы, транспорт, образование, психологию и промышленное производство. До Хайдеггера высокие технологии оценивались только положительно, как последнее, эффективное орудие, способствующее «триумфальному шествию Разума и Добра». Хайдеггер сделал сенсационное заявление: он первым увидел в совершенствующихся технологиях величайшую опасность для человека, поскольку человек «выдан» технике, «затребован» ею. Он писал, что технология не просто влияет на наше восприятие мира - она изменяет саму сущность нашего существования.
Первоначально, все-таки, нужно детерминировать определения и понятия:
Псевдоэтика искусственного интеллекта — это термин, который может использоваться для описания поверхностных или формальных подходов к этическим аспектам ИИ, не сопровождающихся реальным внедрением ответственных практик, глубоким анализом рисков или системным регулированием. Такие подходы могут сводить этику к формальным декларациям, не имеющим практической ценности, или использоваться для создания ложного впечатления безопасности и этичности технологий.
Псевдоэтическая субъектность искусственного интеллекта — это концепция, которая рассматривает ИИ как систему, обладающую некоторыми свойствами субъектности на ограниченном уровне, но не являющуюся полноценным субъектом в классическом понимании (например, человеческим субъектом с сознанием, волей и рефлексией).
Квазисубъектность — один из признаков искусственного интеллекта (ИИ), который упоминается в некоторых источниках.
Квазисубъектность — это свойство, которое характеризует автономность и способность системы к самоорганизации без непосредственного участия человека. В контексте ИИ это означает, что система может действовать и принимать решения в определённых условиях, хотя и не обязательно обладает полным спектром характеристик, присущих субъекту в человеческом понимании (например, сознанием, самосознанием).
Другие ключевые характеристики ИИ, которые иногда выделяют:
Способность к обучению, самообучению и самосовершенствованию.
Умение самостоятельно искать, анализировать и обобщать информацию, вырабатывать интеллектуальные решения на основе изученных данных.
Признаки разумного поведения — способность ставить и решать интеллектуальные задачи, для которых отсутствует заранее заданный алгоритм решения.
Способность достигать и превышать результаты интеллектуальной деятельности человека вне зависимости от сферы применения.
Отсутствие практической реализации. Псевдоэтика часто сводится к публикации документов (кодексов, принципов), которые остаются лишь на бумаге или в виде деклараций компаний, но не внедряются в практику разработки и использования ИИ.
Игнорирование реальных рисков. Иногда этика ИИ используется как инструмент для маскировки технических или коммерческих решений, которые не учитывают этические аспекты.
Недостаточный учёт контекста. В некоторых случаях «этические» заявления могут быть оторваны от конкретных социальных, культурных и правовых реалий.
Несмотря на наличие деклараций и кодексов, в сфере ИИ сохраняются реальные этические вызовы,проблемы в критически важных сферах, таких как медицина или такие как:
Алгоритмическая предвзятость (bias). ИИ учится на данных, которые могут содержать исторические предрассудки, что приводит к дискриминации по признакам расы, пола, возраста и т. д.
Проблема «чёрного ящика». Современные нейросети часто работают как «чёрный ящик», и даже разработчики не всегда могут объяснить, почему система приняла то или иное решение. Это создаёт правосудие.
Прозрачность и объяснимость. Отсутствие прозрачности в работе алгоритмов может подрывать доверие к технологиям, особенно в сферах с высокими ставками.
Ответственность. Возникает вопрос о том, кто несёт ответственность за ошибки или негативные последствия работы ИИ — разработчики, компании или сама технология.
Для минимизации рисков в сфере этики ИИ разрабатываются различные инициативы:
Кодексы этики. Например, в России в 2021 году был принят Кодекс этики в сфере искусственного интеллекта, к которому присоединились крупные компании и вузы.
Международные подходы. Существуют рекомендации ЮНЕСКО, Группы ведущих экспертов по ИИ в Европейском союзе и другие инициативы, направленные на регулирование этических аспектов технологий.
Аудит данных. Тщательная проверка наборов данных на предмет скрытых предубеждений перед обучением моделей.
Таким образом, псевдоэтика ИИ может проявляться в отсутствии реальных мер по обеспечению этичности технологий, формальном соблюдении норм без практической реализации или поверхностном подходе к этическим вопросам.
Объектность и псевдообъектность ИИ
в этической сфере
Объектность ИИ в ценностном пространстве состоит в том, что у него, по крайней мере, в его слабой разновидности, нет собственных ценностей. Он выступает как инструмент, с помощью которого человек формирует и развивает своё ценностное пространство. Системы ИИ выполняют распоряжения своего создателя и программиста и в том случае, если человек руководствуется гуманистическими ценностями позитивного плана (в сфере медицины, при реагировании на стихийные бедствия и техногенные опасности, в предотвращении преступлений, поиске преступников и т. п.), и в том случае, если им оперируют преступники, направляющие свои действия против человека (в киберпреступности, организации мошенничества, похищении личной информации, взломах цифровых систем, манипулировании поведением людей и т. п.), и в случае, если с их помощью кто-то стремится получить финансовую выгоду (в маркетинговой и банковской сферах). В этом случае ИИ, будучи объектом и используясь в данном качестве, транслирует ценности субъектов - людей и организаций, никак на них не влияя, не пытаясь их изменить. В силу свойств объекта нельзя назвать ИИ нравственным и тяготеющим к добру, впрочем, и человеку далеко не всегда свойственны борьба со всеми проявления зла и несовершенства, стремление к добру, нравственное житие, о которых В.С. Соловьев говорил как о смысле жизни.
Не утратив свойств объекта, присущих ему по происхождению, как технологическому феномену, ИИ обретает свойства субъекта и начинает восприниматься как потенциально опасное, самостоятельное, самообучающееся, желающее (не исключено) навредить человеку явление. Именно так, отметим, люди относятся к другим людям, считая их потенциально опасными, способными нанести физический, финансовый и иной вред, нуждающимися в постоянных ограничениях, контроле, наказаниях. Представление о вредоносности ИИ при обретении им сильной формы вытекает из представлений человека о себе самом, о своих наклонностях к давлению над окружающими, о собственной ксенофобии и презрении к более слабым.
Обладая субъектностью и качествами культурного феномена, ИИ стал основой для формирования культуры ИИ, понимаемой нами как слой современной культуры, в рамках которого ИИ трактуется как субъект ценностного пространства, значимый функциональный элемент, вступающий в тесные взаимодействия с культурными смыслами и ценностями, с остальными субъектами и объектами культуры. Культура ИИ «вырастает» из культуры вообще, не противореча ей и не разрушая её, а впитывая ценности общества.
Субъектность проявляется также и в том, что ИИ транслирует ряд ценностей, усиливая их, делая более значимыми в ценностном пространстве. Это такие ценности, как технологичность, знание, интеллект, образование, наука, идеи, творчество и др. ИИ не продуцирует данные ценности, а выделяет их, а, помимо того, сам становится ценностью, компонентом ценностного пространства. Таким образом, под влиянием ИИ ценностное пространство видоизменяется, хотя и в рамках своего обычного развития.
Напомним, что культура не может быть статичной, развитие для неё - единственное условие жизни. Если развитие прекращается, то культура становится мёртвой. Как писал Н.А. Бердяев, «прошлое не есть вечное. Новый человек должен появиться в мире», то есть изменения - естественный элемент хода времени.
Субъектность ИИ в ценностной и иных сферах, как и его объ-ектность, не вызывают сомнений, являются реалиями современного культурного пространства. Как же обстоит дело с его свойствами актора?
Обратимся к акторно-сетевой теории (АСТ) Б. Латура, которая расширяет представления об акторах и не-акторах в общественном пространстве. Традиционно акторами считались люди и создаваемые ими сообщества. В теории Б. Латура акторами объявляются любые сущности, участвующие в функционировании общественной сети, совершающие действия, способные воздействовать на другие элементы сети, то есть на других акторов. Основным отличием акторов Б. Латур считает их способность действовать, развивая общество, ведя его за собой, влияя на других акторов, и именно по этому критерию учёный сравнивал акторов с субъектами и объектами: «Объект и субъект могут существовать, но все интересное происходит вверх по течению или вниз по течению. Просто следуйте за потоком. Да, идите за самими акторами или за тем, что побуждает их действовать, - за циркулирующими сущностями». Акторами в концепции Б. Латура являются, помимо людей, животные, явления природы, созданные людьми идеи и понятия, общественные инновации, искусственные, в том числе технологические объекты. Согласно данной концепции, актором выступает и ИИ.