Эркинбой Маманазаров – ИИ: мы выживем? Философские размышления о будущем человечества (страница 1)
Эркинбой Маманазаров
ИИ: мы выживем? Философские размышления о будущем человечества
Глава 1. Краткая история разума
Когда я был маленьким, бабушка в Андижане держала во дворе кур. Они ходили кругами вокруг тутового дерева, что-то клевали, иногда вдруг застывали, наклонив голову, и смотрели в небо, как будто на секунду вспоминали что-то очень важное, а потом забывали и шли клевать дальше. Я думал тогда, что куры глупые. Сейчас я думаю иначе. Каждая из этих кур носила в голове четыреста миллионов лет работы, настолько долгой, кропотливой и упрямой, что человеческая цивилизация рядом с ней выглядит как вспышка спички в темноте сарая.
Эта глава про вспышку. Но чтобы понять, почему она такая яркая, нужно сначала зайти в темноту.
Если очень коротко рассказать историю разума, то она начинается без разума вовсе. Около четырёх миллиардов лет назад в каких-то тёплых лужах, или у подводных чёрных курильщиков, или ещё бог знает где (учёные до сих пор спорят) появились молекулы, которые научились копировать сами себя. Это ещё не была жизнь в полном смысле — это была химия, у которой случайно получилось замкнуть петлю. Но именно с этой петли всё и начинается.
Бактерия самое старое живое существо на Земле, и она же, в каком-то смысле, первая обладательница интеллекта. Звучит странно: какой интеллект у одноклеточного? Но если присмотреться, бактерия умеет довольно много. Она чувствует градиент сахара в воде и плывёт в его сторону. Она обменивается химическими сигналами с соседками и принимает коллективные решения, учёные называют это quorum sensing, чувство кворума. Она запоминает врагов через систему CRISPR и передаёт это знание дочерним клеткам. Если бы бактерия была размером с собаку, мы бы говорили о ней с уважением.
Главное, что у неё нет: централизованного «я». Бактерия — это распределённая обработка информации без штаб-квартиры. Решения принимаются на уровне молекул, и никто внутри клетки не сидит и не думает «куда бы мне сегодня поплыть». Она просто плывёт.
С появлением многоклеточности, около шестисот миллионов лет назад, природа делает следующий ход. Когда клеток становится много, между ними нужно как-то координироваться, и часть клеток специализируется на передаче сигналов. Так появляются нервы. Сначала это просто сетка и у медузы, например, нервная система выглядит как рыболовная сеть, наброшенная на колокол. У неё нет центра, нет мозга, нет глаз в нашем понимании. Но она охотится, размножается, спасается от хищников. Медуза старше динозавров примерно на четыреста миллионов лет и, скорее всего, переживёт нас.
Потом рыбы, рептилии, млекопитающие. У каждого нового уровня свой тип интеллекта, и природа не выбрасывает старое: она надстраивает новое поверх. Человеческий мозг до сих пор хранит внутри себя рептилию (та часть, что отвечает за страх и базовые рефлексы), а поверх неё — древнего млекопитающего (эмоции, привязанность, забота о потомстве), а уже сверху всего этого — относительно тонкую корку, неокортекс, в котором живёт всё, что мы привыкли считать собой. Когда вы паникуете перед экзаменом, это рептилия отнимает микрофон у философа. Эволюция работает как старая квартира, в которой никогда не делали капитальный ремонт: новый слой обоев поверх старых, и под штукатуркой можно найти газету тысяча девятьсот шестидесятого года.
Здесь стоит остановиться и задать неприятный вопрос: зачем эволюция вообще тратилась на мозг? Мозг — это безумно дорогой орган. Человеческий мозг весит около двух процентов массы тела, но потребляет двадцать процентов энергии. Это как держать в квартире сервер: гудит, греется, требует электричества. С точки зрения экономии калорий, мозг — катастрофа.
Биологи отвечают на этот вопрос примерно так: мозг — это страховка от непредсказуемости. Если ты живёшь в очень стабильной среде (как, скажем, дрожжевой грибок в булке), тебе не нужны мысли. Тебе нужно делиться. Но если среда меняется, если еда сегодня здесь, а завтра там, если хищник появляется внезапно, если погода непредсказуема — тогда выгоднее иметь устройство, которое умеет быстро строить модели мира и принимать решения на лету. Мозг — это, по сути, симулятор реальности внутри головы. Ты прокручиваешь варианты будущего в воображении, чтобы не пробовать их в живой реальности, где за ошибку платят жизнью.
Учёные утверутверждают, что когнитивная революция случилась с нашим видом примерно семьдесят тысяч лет назад. До этого Homo sapiens был одним из шести видов человека, ходивших по Земле, и далеко не самым впечатляющим. Неандертальцы были крупнее, сильнее и, по последним данным, не глупее. Денисовцы умели делать сложные орудия. Homo erectus к тому моменту жил на планете уже почти два миллиона лет — дольше, чем мы вообще существуем. И вот среди всех этих двоюродных братьев именно сапиенсы взяли и захватили планету.
Почему?
Харари даёт ответ, который мне кажется одновременно простым и завораживающим: сапиенсы научились верить в то, чего нет.
Все животные общаются. Многие млекопитающие даже умеют обманывать: обезьяна может скрыть найденный фрукт от соплеменников. Но только сапиенс способен договориться с тысячей других сапиенсов о том, что вот этот невидимый дух живёт на той горе, и ему нужно приносить жертвы. Только сапиенс может сказать: «Эта бумажка стоит сто долларов», — и тысячи людей будут с ним согласны, и за эту бумажку можно будет купить хлеб. Деньги, государства, корпорации, права человека, нации, боги — всё это, по выражению Харари, «интерсубъективные реальности». Они существуют только потому, что много людей одновременно верят в их существование. Уберите людей — и они растворятся, как утренний туман.
Эта способность — массовое воображение, согласованное между незнакомцами — и есть, по Харари, секретное оружие сапиенса. Шимпанзе не могут собрать стотысячную армию. Они слишком хорошо знают друг друга, и доверие у них работает на уровне личных отношений. А мы способны доверять человеку, которого никогда не видели, только потому, что у него такая же справка, такой же погон или такой же бог, как у нас.
Это не значит, что мы умнее в каком-то абсолютном смысле. Один сапиенс на необитаемом острове проигрывает шимпанзе по большинству параметров. Но тысяча сапиенсов, объединённых общим мифом, способны построить пирамиду, отправить человека на Луну или, наоборот, устроить геноцид. Наша сила — не в индивидуальном мозге, а в том, что эти мозги научились синхронизироваться через истории.
Мне это напоминает старую китайскую пословицу про прутики: один прутик ломается легко, а связку прутьев не сломать. Только связывает нас не верёвка, а общая выдумка.
Если сжать всю историю жизни на Земле в одни сутки, получится примерно так. Полночь — появление первых клеток. К пяти утра — фотосинтез. К двум часам дня — многоклеточные. К одиннадцати вечера — динозавры, которые правят планетой почти до полуночи и вымирают за двадцать минут до конца суток. Млекопитающие тихо сидят в норках, ждут своей очереди. Род Homo появляется в последние две минуты. Сапиенсы — в последние двадцать секунд. Вся записанная история, от шумерских табличек до этой главы, умещается в последнюю секунду этих гипотетических суток.
И вот в этой последней секунде, в самом её конце, происходит ещё одно странное событие. Существо, которое только что научилось писать, читать, считать и строить машины, начинает создавать другое существо — не из плоти, а из кремния и математики, — и наделяет его чем-то похожим на разум.
Если эволюция от бактерии до сапиенса заняла четыре миллиарда лет, то путь от первой ламповой ЭВМ до системы, которая складно отвечает на философские вопросы, занял меньше восьмидесяти лет. Это не плавная кривая. Это вертикальный обрыв.
Главная иллюзия, в которой человечество жило тысячи лет, состоит в том, что мы — финал истории. Венец творения. Высшая ступень. У этой иллюзии есть религиозная версия (человек создан по образу Бога) и светская (человек — вершина эволюции). Обе они, если вдуматься, довольно нескромные.
Эволюция не имеет цели. У неё нет финала, нет вершины, нет «проекта». Это слепой алгоритм, который перебирает варианты и оставляет те, что лучше копируются. Динозавры сто пятьдесят миллионов лет были вершиной. Потом прилетел астероид, и вершиной стала маленькая мохнатая зверюшка размером с крысу, которая ела насекомых и пряталась в норе. Сегодня вершина — мы. Завтра — кто знает.
Харари в «Homo Deus» пишет, что мы, возможно, последнее поколение настоящих сапиенсов. Не потому, что нас уничтожат, а потому, что мы сами себя перестроим — биологически или через слияние с машинами — и наши потомки будут от нас отличаться сильнее, чем мы от неандертальцев. Это не пророчество, это наблюдение за траекторией. Технология, которую мы создали в последние несколько десятилетий, впервые в истории планеты способна влиять на эволюцию быстрее, чем сама эволюция.
И вот мы сидим на этой странной точке. За спиной — четыре миллиарда лет химии, нервов, мозгов, языков и мифов. Перед нами — ясное, почти осязаемое ощущение, что мы создаём что-то новое. Не инструмент. Не двигатель внутреннего сгорания. Не интернет. Что-то, что само начинает вести себя как форма разума.