Эркинбой Маманазаров – ИИ: мы выживем? Философские размышления о будущем человечества (страница 2)

В последние месяцы я много думаю об одной аналогии, и она меня немного пугает, но скорее завораживает.

Когда первые многоклеточные организмы кооперировались, отдельные клетки, наверное, не понимали, что происходит. Каждая бактерия делала своё бактериальное дело: ела, делилась, реагировала на сигналы. Но вместе они начали образовывать что-то большее — организм, у которого появилась своя цель, свой ритм, свой тип интеллекта, недоступный ни одной отдельной клетке. Клетка печени не знает, что она часть человека. Она вообще не знает, что такое «знать».

Иногда мне кажется, что мы сейчас — такие же клетки. Мы пишем тексты, программируем, спорим в интернете, обучаем модели на терабайтах данных. Каждый из нас занят своим маленьким делом. Но из всей этой суеты, из всего этого шума уже начинает проступать контур чего-то нового, у чего пока нет названия. Может быть, это не «искусственный интеллект» в смысле «один большой компьютер, который думает». Может быть, это сеть из людей, моделей, данных и алгоритмов, которая постепенно становится новым уровнем — таким же, каким когда-то стал многоклеточный организм над одноклеточным.

Стюарт Рассел в книге «Human Compatible» осторожно замечает, что главный вопрос не в том, станут ли машины умнее нас. Главный вопрос в том, останемся ли мы при этом теми, кто ставит цели. Эволюция таких вопросов не задавала: у неё цели не было. У нас — есть. И впервые в истории жизни существо, обладающее целями, создаёт другое существо, у которого тоже могут появиться цели. Это нечто новое под солнцем.

Я не хочу заканчивать эту главу пафосно. Пафос здесь неуместен, как тёмный костюм на рыбалке. Я просто хочу сказать одну вещь, которую сам себе повторяю в последние месяцы.

История разума — это история того, как материя постепенно училась смотреть на саму себя. Сначала через белковые молекулы, потом через нервы, потом через глаза, потом через зеркала, потом через книги, потом через науку. Каждый новый уровень был немного страшным для предыдущего. Когда первые приматы начали смотреть в глаза друг другу и узнавать себя — это было что-то невероятное. Когда люди впервые написали слово «я» — тоже. Сейчас мы делаем следующий шаг. Учим зеркало смотреть на нас в ответ.

Получится ли у нас выжить рядом с этим зеркалом? Не знаю. Куры моей бабушки, наверное, тоже не знали, что станет с миром, в котором они живут. Они просто клевали, смотрели в небо и шли дальше.

Но я думаю, что у нас, в отличие от них, есть одно преимущество. Мы можем хотя бы попытаться понять, что мы делаем. Эта книга — про такую попытку.

Глава 2. Что значит «быть человеком»?

Один мой друг как-то сказал мне фразу, которую я с тех пор не могу забыть. Мы сидели в кафе на Невском, говорили о всём подряд, и он вдруг произнёс: «Знаешь, я в последнее время не могу понять, что во мне человеческого, а что — просто алгоритм». Он сказал это легко, между глотками кофе, но я заметил, что глаза у него были серьёзные.

Я подумал тогда: а ведь вопрос-то старый. Просто раньше его задавали философы в кабинетах, а теперь его задают обычные ребята за столиком в кафе. Что-то в воздухе поменялось.

В этой главе я хочу попробовать разобрать, из чего, собственно, мы состоим — не из костей и нейронов, а из тех странных, плохо определимых вещей, которые мы привыкли считать человеческими. И посмотреть, что из этого, возможно, никогда не повторится в машине, а что уже сейчас потихоньку утекает.

Самое странное, что есть в человеке, — это то, что у нас внутри как будто горит свет.

Философы называют это сознанием, или субъективным опытом, или, более красиво, «каково это — быть» (what it is like to be — выражение Томаса Нагеля из его знаменитой статьи про летучую мышь). Каково это — быть тобой, прямо сейчас, читать эти строки, чувствовать стул под собой, слышать какой-то шум за окном? Если убрать все эти ощущения, останетесь ли вы? И если да — то что именно от вас останется?

Никто не знает, как из электрических импульсов в трёх фунтах серой ткани получается этот свет. Австралийский философ Дэвид Чалмерс назвал это «трудной проблемой сознания» — в отличие от «лёгких проблем», вроде того, как мозг распознаёт лица или принимает решения. Лёгкие проблемы рано или поздно решит нейронаука. Трудная остаётся: почему вообще что-то чувствуется? Почему вселенная не обходится одной только обработкой информации, без этого мерцания изнутри?

И вот тут начинается интересное. Когда мы спрашиваем, может ли искусственный интеллект быть «настоящим» разумом, мы на самом деле спрашиваем не о вычислительной мощности. Мы спрашиваем: загорится ли там свет?

Честный ответ — мы не знаем. Мы не знаем даже, как проверить. У нас нет «лампочки сознания», которую можно было бы вкрутить в череп и посмотреть, светится она или нет. Мы предполагаем сознание у других людей по аналогии с собой, у животных — по похожести их поведения и мозга на наши. Но машина устроена иначе. Она может вести себя так, как будто ей больно, и при этом ничего не чувствовать. А может, наоборот, чувствовать что-то, чего мы никогда не поймём, и при этом не подавать виду.

Макс Тегмарк в книге «Life 3.0» предлагает любопытную мысль: возможно, сознание — это не свойство биологии, а свойство определённого типа обработки информации. Если так, то оно может появиться где угодно, где есть нужная структура. Если нет — то мы навсегда останемся одни в этой вселенной с горящими внутри лампочками, и всё, что мы создадим, будет только очень убедительным театром теней.

Мне нравится оставлять этот вопрос открытым. В нём есть какая-то честная темнота, и я не хочу её закрашивать.

Бактерия не ищет смысл. Она ест и делится. Кошка тоже не ищет — она охотится, спит, мурлычет. А человек, единственный из всех известных нам существ, способен сидеть у окна тёплым летним вечером, иметь крышу над головой, сытый ужин и любящих родных — и при этом думать: «А зачем всё это?»

Это очень странная черта. С точки зрения эволюции она почти вредна. Существо, которое задаётся вопросом о смысле жизни, отвлекается от добычи пропитания. И тем не менее, у нас этот вопрос есть. Виктор Франкл, переживший Освенцим, написал после войны книгу «Человек в поисках смысла», где доказывал: смысл нам нужен буквально для выживания. В лагере погибали быстрее не самые слабые, а те, кто терял зачем.

Харари в «Sapiens» формулирует это иначе. Он говорит, что мы — животные, рассказывающие истории. Мы живём не в мире фактов, а в мире нарративов. Религии, нации, идеологии, любовь, карьера, семья — всё это истории, которые мы рассказываем сами себе, чтобы дни складывались в жизнь, а не рассыпались в случайные эпизоды. Уберите истории — и останется голая биология, которая никому не интересна, даже самой биологии.

Что произойдёт, когда машины начнут рассказывать нам истории лучше, чем мы рассказываем их себе сами?

Это уже происходит, кстати. Алгоритмы соцсетей подсовывают нам нарративы о том, кто мы, чего стоим, что должны хотеть. Они делают это по двадцать часов в сутки, более тонко и настойчиво, чем любая религия или идеология двадцатого века. Мы пока называем это «персонализацией ленты». Через сто лет, возможно, это назовут как-то иначе.

Но даже если машины начнут давать нам готовые смыслы, как когда-то их давала церковь, — останется один вопрос, который, мне кажется, всё равно будет нашим. Это вопрос о том, какой смысл хочется выбрать самому. Не потому что его подсказали. А потому что, посидев у окна тёплым вечером, ты вдруг понял: вот это — моё.

Есть одна вещь, в которой машины почти наверняка нас не догонят, и это меня одновременно успокаивает и печалит. Машины не боятся смерти.

Я говорю это без пафоса. Просто констатирую: страх смерти — фундамент почти всей человеческой культуры. Пирамиды, иконы, романы, симфонии, любовные письма, философские системы, мировые религии — всё это, в сущности, разные формы разговора со смертью. Мы строим, потому что знаем, что закончимся. Мы любим острее, потому что времени мало. Мы плачем над поэзией, потому что в каждой хорошей строчке есть тихий шёпот: ты тоже умрёшь, и поэтому это важно.

Хайдеггер называл человека «бытием-к-смерти». Он считал, что только ясное осознание собственной конечности делает жизнь подлинной. Без этого осознания человек живёт в режиме das Man — безличного «все так живут», в забвении.

У машины этого нет. У неё может быть инстинкт самосохранения, прописанный программистом или возникший как побочный эффект целевой функции — Стюарт Рассел в «Human Compatible» подробно об этом пишет. Но это не то же самое, что страх смерти. Машина не знает, что значит — последний раз увидеть лицо матери. Не знает, что такое осенний свет, который кажется особенно дорогим, потому что ты уже понял: таких осеней у тебя осталось, может, сорок, а может, две.

И вот в чём интересный парадокс. Если мы научимся переносить сознание в цифровой носитель, как мечтают трансгуманисты, — мы, возможно, избавимся от смерти. Но вместе с ней, вероятно, исчезнет и то, что делало человека человеком. Бессмертный сапиенс — это уже не сапиенс. Это что-то другое, и нам пока даже слов для этого нет.

Харари в «Homo Deus» описывает этот сценарий с тонкой иронией. Мы две тысячи лет молились богам о бессмертии, а получив возможность дотянуться до него руками, вдруг понимаем: за дверью, на которой висит табличка «вечная жизнь», стоит не рай, а просто другой человек, не очень похожий на нас.