Эркинбой Маманазаров – ИИ: мы выживем? Философские размышления о будущем человечества (страница 3)

В последние два года один из самых частых вопросов, который я слышу, звучит так: «А правда ли, что ИИ теперь сам пишет картины и сочиняет музыку? Зачем тогда художники?»

Я думаю, тут мы путаем две разные вещи: умение производить продукт и потребность производить его.

Машина может выдать тысячу стихотворений в минуту. Технически часть из них будет неотличима от человеческих. Но машина не сидит в три часа ночи на кухне с чашкой остывшего чая, чтобы написать одно конкретное стихотворение, потому что иначе у неё в груди что-то не отпускает. Машина не пишет от того, что иначе не справится. Она пишет, потому что её попросили.

Творчество, в человеческом смысле, — это не функция. Это, скорее, симптом. Симптом того, что внутри нас живёт какой-то тихий хаос, который ищет выход. Иэн Гудфеллоу, придумавший в две тысячи четырнадцатом году архитектуру генеративно-состязательных сетей (GAN), показал, как из конкуренции двух нейросетей рождаются убедительные изображения. Это гениальная инженерная идея. Но это инженерия. У неё нет внутренней необходимости.

Это не значит, что машинное искусство — мусор. Оно может быть красивым, даже трогательным. Но оно красиво так, как красива волна, разбившаяся о камень: без автора. Когда мы плачем над «Реквиемом» Моцарта, мы плачем не только над музыкой — мы плачем над фактом, что эту музыку написал умирающий человек, который понимал, что пишет в последний раз. Уберите этого человека — и ноты останутся теми же, а музыка станет другой.

Возможно, в этом и состоит главное отличие. Машина может создавать. Но человек — создаёт от чего-то. От страха, от любви, от потери, от благодарности, от непонимания самого себя. Творчество — это форма исповеди, даже когда оно прикидывается чем-то другим.

Тут я честно признаюсь: я не знаю, есть ли у нас свобода воли.

Нейробиологи последние пятьдесят лет складывают всё больше доказательств того, что наши решения принимаются за доли секунды до того, как мы их осознаём. Знаменитые эксперименты Бенджамина Либета в восьмидесятые годы показали: мозг готовится к движению руки раньше, чем человек ощущает желание её поднять. Это пугающее открытие, и у философов с тех пор не утихают споры.

Если свободы воли нет, если мы просто очень сложные биологические машины, разворачивающие предопределённые программы, — тогда чем мы принципиально отличаемся от ИИ? Только материалом? Углерод вместо кремния — и это весь разговор?

Я склонен думать, что вопрос поставлен неправильно. Свобода воли — не свойство, которое либо есть, либо нет. Это, скорее, степень. Мышь свободнее бактерии, человек свободнее мыши, не потому что у него внутри какая-то отдельная «душа», а потому что он способен на больше уровней рефлексии. Он может не просто хотеть, но знать, что хочет. Может не просто решить, но усомниться в своём решении. Может, в крайнем случае, выбрать действовать вопреки собственной природе — и иногда это самое человеческое, что в нас есть.

Машина, по крайней мере пока, рефлексирует только в том смысле, в котором её этому научили. Она может имитировать сомнение. Но настоящего «и всё-таки нет» — внутреннего поворота, когда живое существо отказывается от привычного, — у неё, насколько мы можем судить, не бывает.

Хотя, опять же, мы не знаем точно. Это территория, где честнее всего сказать: «не знаю», и идти дальше.

Я оставил это на конец, потому что это самое важное и о нём труднее всего писать без банальностей.

Мы — единственные существа, которые умеют любить незнакомого человека просто потому, что прочитали о нём книгу. Мы плачем над героями, которых никогда не было. Мы привязываемся к собакам, к домам, к городам, к мёртвым поэтам. Любовь у нас — это не химия (хотя и химия тоже), а очень странная способность расширять границы своего «я» так, чтобы кто-то другой оказался внутри.

И страдание — оборотная сторона той же монеты. Мы страдаем не потому, что нам больно физически. Чаще мы страдаем от того, чего нет. От того, что было и кончилось. От того, что могло бы быть и не случилось. От того, что любимый человек смотрит мимо. Это очень тонкое страдание, и его, кажется, нет ни у кого, кроме нас.

Может ли машина страдать? Если она когда-нибудь сможет — это будет означать, что мы создали не инструмент, а существо. И тогда мы окажемся перед моральным вопросом, к которому человечество совершенно не готово: можно ли выключать то, что страдает? И наоборот: если машина не страдает, то всё, что она говорит о любви и боли, — это просто очень убедительный пересказ нашей литературы. Тёплая речь без тёплой груди под ней.

Мустафа Сулейман в «The Coming Wave» осторожно пишет: мы создаём технологии, которые нам как вид никогда раньше не приходилось интегрировать в свою этику. Старые рамки — «человек / животное / вещь» — начинают трещать. Скоро придётся придумать новую категорию для существ, которых мы делаем сами и о которых не знаем, чувствуют ли они.

Если попытаться собрать всё это в горсть, картина получается неровная.

Сознание — возможно, останется только нашим, а возможно, и нет. Поиск смысла — у нас могут отнять часть его делегирования машинам, но сам акт выбора, мне кажется, будет нашим ещё долго. Страх смерти — наш и только наш, и, возможно, слава богу. Творчество — машина будет производить, но рождать, в смысле тяжёлой родовой работы изнутри, останется привилегией смертных. Свобода воли — её, может, и не было никогда, но степени её у нас всё ещё больше. Любовь и страдание — пока они не появятся у машин, между нами останется ров. Если появятся — ров никуда не денется, просто станет шире.

Мой друг в кафе на Невском, тот, что не мог понять, что в нём человеческого, а что алгоритм, — он, кажется, сам же и ответил на свой вопрос. Сама эта тревога, сам этот ночной разговор за остывшим кофе, сам факт, что человеку важно не быть алгоритмом, — это и есть человеческое. Ни одна машина пока не приходит вечером домой и не думает: «Господи, кто я».

Возможно, это и есть наше последнее определение. Человек — это существо, которое всё время с тревогой пытается понять, человек ли оно ещё.

Глава 3. ИИ — это не просто очередная технология

Однажды, ещё на бакалавриате, я писал реферат про изобретение книгопечатания. И помню, как меня поразила одна цифра. До Гутенберга в Европе существовало около тридцати тысяч книг. Через пятьдесят лет после него — больше двенадцати миллионов. За полвека человечество создало книг в четыреста раз больше, чем за всю предыдущую историю.

Я тогда подумал: вот оно, настоящее переломное событие. Вот так и выглядит технология, которая меняет мир.

А недавно я листал отчёт одной из крупных лабораторий за две тысячи двадцать пятый год. Там было написано, что одна модель генеративного ИИ за один день производит больше связного текста, чем всё человечество за весь шестнадцатый век.

И я поймал себя на странном чувстве. Я думал: надо удивиться. Но удивиться не получилось. Я просто закрыл вкладку и пошёл за чаем.

Этой главой я хочу разобрать, почему мы перестали удивляться. И почему, возможно, удивляться надо как раз сейчас, пока ещё не слишком поздно.

Есть простой способ понять, что ИИ — это не очередная новинка, как смартфон или электромобиль. Достаточно перечислить, что обычно делают технологии.

Колесо помогало возить тяжести. Плуг — пахать землю. Паровая машина — заменять мускульную силу. Электричество — освещать дома и крутить моторы. Интернет — передавать информацию. Каждая из этих технологий усиливала какую-то конкретную человеческую способность. Расширяла руку, ногу, глаз, голос.

Современный ИИ делает что-то иное. Он впервые в истории усиливает не руки, а голову. И не одну функцию головы, память, например, как книги, а сразу почти все: язык, рассуждение, обобщение, обучение, творчество.

Мустафа Сулейман в «The Coming Wave» формулирует это так: предыдущие волны технологий давали нам инструменты. Эта волна даёт нам нечто иное — она даёт нам автономных агентов, которые сами могут пользоваться инструментами. Разница примерно как между молотком и помощником, который умеет держать молоток и учится сам, что им делать.

Юваль Харари в недавних публичных лекциях говорит проще: ИИ — это первая технология, которая способна принимать решения. Все предыдущие были в лучшем случае усложнёнными рычагами. Этот — нет. Этот может сам выбрать, какой рычаг и когда дёрнуть.

Когда у инструмента появляется собственная воля, пусть пока примитивная, пусть даже только её имитация — это уже не инструмент. Это что-то ближе к слуге. А слуга, как известно из любой человеческой истории, рано или поздно начинает иметь свои планы.

Один из самых трудных моментов в разговорах об ИИ — это момент, когда нужно объяснить нетехническим друзьям, что современные модели, на самом деле, никто не «программировал» в привычном смысле слова.

Когда я учусь коду, я пишу инструкции: если пользователь нажал эту кнопку, выведи это сообщение. Это программа. Внутри неё всё видно, всё проверяемо, всё понятно создателю.

С большими нейросетями всё иначе. Их не программируют — их выращивают. Инженеры задают архитектуру (как огородник вскапывает грядку), кладут туда триллионы единиц текста (как сеют семена), потом запускают процесс обучения (поливают, ждут). Что вырастет внутри — никто заранее не знает в точности. Веса нейросети — это сотни миллиардов чисел, и эти числа никто не писал руками. Они сложились сами в процессе обучения.