Александр Карачаров – Цифровой разум: Инструкция по выживанию в мире технологий (страница 3)
Мы создали системы, способные предсказывать наши желания, принимать решения за нас и даже влиять на наши убеждения. Но если мы позволяем алгоритму принимать решения за нас, то где наша свобода воли? Мы не перестаем быть субъектами, но становимся пассивными участниками, а не активными творцами своей жизни.
Мы создали машины, чтобы они служили нам. Но теперь они становятся нашими собеседниками. И в этом – начало новой философии. Эта глава – не приговор. Это приглашение к размышлению. Мы прошли путь от кремния к мышлению. Но впереди – путь от мышления к пониманию. И вопрос не в том, могут ли машины стать разумными. А в том, готовы ли мы признать разум в том, что не похоже на нас.
Интерактивный вопрос:
Если мы взаимодействуем с ИИ как с личностью – может быть, он уже ею стал?
Часть II. Философия цифрового сознания
Глава 5. Этика и мораль машин: Когда алгоритм решает, кому жить
Представьте себе беспилотный автомобиль, который едет по дороге. Вдруг на проезжую часть неожиданно выбегает ребенок. Справа – стена. Слева – пожилой человек на тротуаре. У машины есть всего две опции: либо сбить ребенка, либо резко свернуть и сбить пожилого человека. Времени на раздумья нет. Должен ли ИИ решить, кто важнее? И как он должен это сделать?
Этот сценарий, известный как «дилемма вагонетки» в цифровом мире, – уже не гипотетическая задача из учебника по философии. Это реальная проблема, с которой сталкиваются инженеры. И в ней кроется самый главный вопрос: могут ли машины быть моральными?
Этика и мораль: От философии к коду
Этика – это система принципов, которыми мы руководствуемся. Мораль – это наши личные суждения о том, что хорошо, а что плохо. На протяжении истории люди создавали моральные кодексы, основанные на религии, культуре, сопереживании. Но как научить этому машину?
Интересный факт: В Массачусетском технологическом институте был проведен эксперимент «Моральная машина». Участникам показывали разные сценарии с беспилотными автомобилями и просили выбрать, как должен поступить ИИ. Результаты показали, что моральные предпочтения сильно зависят от культурных особенностей. Например, в одних странах люди считают, что машина должна спасать как можно больше жизней, в других – что она должна защищать пешеходов, даже если это причинит вред пассажирам.
Принципы морального алгоритма: Что заложить в код?
Как создать этический алгоритм? Это одна из самых сложных задач. Вот несколько подходов, которые предлагают исследователи.
– Принцип утилитаризма: «Большее благо для большего числа людей». В нашем сценарии с автомобилем, алгоритм, основанный на утилитаризме, спасёт больше жизней, независимо от их «ценности». Это математический подход.
– Принцип деонтологии: «Следовать правилу». Этот подход основан на жестких правилах, а не на последствиях. Например, правило «не убивай» должно соблюдаться всегда. В таком случае машина просто не сможет принять решение, если любое действие приведёт к гибели. Это очень сложно реализовать.
– Принцип добродетели: «Поступать как хороший человек». Но что значит «хороший»? Это слишком субъективно. Тем не менее, этот подход предполагает, что ИИ должен обучаться на примерах «добрых» поступков, совершенных людьми, чтобы развить в себе «цифровую добродетель».
Сравнение этических подходов
Ответственность в эпоху AI
ИИ не может быть моральным в нашем понимании, потому что у него нет сознания, нет сопереживания, нет страха и боли. Но это не снимает с нас ответственность. Алгоритмы, которые принимают решения, создаём мы. И выбор, какие этические принципы в них заложить, – это наш выбор.
Мы стоим на пороге новой эры, где машины будут не просто выполнять наши команды, но и помогать нам в самых сложных моральных дилеммах. Это не только технологический, но и, прежде всего, философский вызов.
Интерактивный вопрос: Если ИИ принимает решение, которое спасает одну жизнь ценой другой, кто несёт за это ответственность: программист, владелец компании или сам алгоритм?
Мораль без сознания?
ИИ всё чаще принимает решения, которые раньше были прерогативой человека: кого лечить, кого нанимать, кого штрафовать. Но если система ошибается – кто несёт ответственность? Разработчик? Пользователь? Или сама машина?
Этика машин – это не вопрос будущего. Это вызов настоящего. И он требует не только технических решений, но и философского взгляда.
Интерактивный вопрос:
Если ИИ не осознаёт свои действия, но они влияют на жизни людей – можно ли считать его моральным агентом?
Машина как моральный агент
Философские категории
ИИ не обладает сознанием, но его действия оцениваются с точки зрения морали. Это делает его моральным пациентом – даже если он не понимает, что делает.
Алгоритм и ответственность
Каждое решение ИИ – результат данных, архитектуры и обучения. Но эти компоненты создаются людьми. Возникает цепочка ответственности:
– Разработчик – задаёт структуру.
– Общество – формирует нормы.
– Пользователь – применяет систему.
Проблема: алгоритмы часто непрозрачны. Даже их создатели не всегда могут объяснить, почему ИИ выбрал то или иное решение.
Интерактивный вопрос:
Должны ли машины объяснять свои решения – или достаточно, чтобы они были «эффективны»?
Этические модели для ИИ
ИИ может быть обучен на любой из этих моделей. Но выбор – за человеком. И этот выбор определяет, каким будет цифровой мир.
Цифровая тень: этика алгоритмов и приватность данных
Каждый наш клик, лайк и поисковый запрос оставляет след. Это не просто цифры в бинарном коде – это фрагменты нашей личности, из которых алгоритмы создают наш портрет. И эта цифровая тень – не просто пассивное отражение. Она активно формирует то, что мы видим, о чём думаем и как взаимодействуем с миром.
Эхо-камеры и фильтр-бабблы
Представьте, что вы попадаете в комнату, где все говорят только то, что вы хотите услышать. Это и есть эхо-камера. Алгоритмы социальных сетей и новостных лент анализируют ваши предпочтения и показывают вам контент, который соответствует вашим взглядам. В результате, вы видите только одну сторону медали, а ваше мнение постоянно подкрепляется и усиливается. Это создаёт ощущение, что «все думают так же, как и я», что делает диалог с теми, кто имеет иную точку зрения, почти невозможным.
Родственное этому явлению – фильтр-баббл («информационный пузырь»). Он возникает, когда алгоритмы персонализируют контент настолько, что вы перестаёте видеть что-либо, что находится за пределами ваших интересов. В итоге, вы не просто избегаете чужого мнения, вы о нём даже не подозреваете. Это делает нас уязвимыми для манипуляций и лишает возможности объективно оценивать информацию.
Манипуляция данными и её последствия
Кейс Cambridge Analytica. В 2018 году стало известно, что компания Cambridge Analytica незаконно получила доступ к данным миллионов пользователей популярной международной социальной сети запрещенной на территории РФ. Используя эти данные, они создавали персонализированную политическую рекламу, которая была направлена на изменение общественного мнения и влияние на результаты выборов. Этот случай стал мощным напоминанием о том, что наши данные – это не просто абстрактная информация, а мощный инструмент воздействия.
В современном мире манипуляция данными – это не всегда громкие скандалы. Она происходит каждый день. Например, когда алгоритм показывает вам более дорогие товары, потому что знает, что у вас высокий доход, или когда реклама определённой диеты появляется после того, как вы загуглили «как похудеть к лету».
Как защитить свою цифровую тень
Невозможно полностью исчезнуть из интернета, но можно взять контроль над своей цифровой тенью. Вот несколько практических советов.
Проверьте свои данные
– Google. Зайдите в аккаунт Google и найдите раздел «Данные и конфиденциальность». Здесь вы можете увидеть, какую информацию о вас собирает Google (историю поиска, местоположения, данные о просмотренных видео на YouTube) и при необходимости удалить её.
– На популярной запрещенной в России соц. сети. В настройках аккаунта перейдите в раздел «Ваша информация на международных и популярных но запрещенные в РФ мессенджерах и соцсетях ». Тут можно скачать копию своих данных, посмотреть, какие приложения имеют к ним доступ, и удалить их.
Советы по приватности
– Двухфакторная аутентификация (2FA). Это один из самых простых и эффективных способов защиты. Даже если кто-то узнает ваш пароль, без второго фактора (например, кода из SMS) он не сможет войти в ваш аккаунт.
– Используйте VPN. VPN (виртуальная частная сеть) шифрует ваш интернет-трафик, делая его нечитаемым для провайдеров, рекламных компаний и хакеров. Это особенно важно при использовании общедоступного Wi-Fi.
– Осознанная подписка. Перед тем, как поставить галочку «Я согласен с условиями», прочитайте, на что вы соглашаетесь. Многие приложения запрашивают доступ к данным, которые им не нужны для работы.
– Следите за разрешением на доступ. Регулярно проверяйте, каким приложениям вы дали доступ к своему аккаунту Google или Другой популярной соцсети, и удаляйте те, которыми не пользуетесь.