Ларенто Марлес – Жизнь в эпоху разумных машин (Часть 1) (страница 3)

Давайте начнем с разрушения главного мифа, который, словно успокоительное, принимают скептики по всему миру. Они говорят: «Это просто стохастический попугай. Это просто алгоритм, который предсказывает следующее слово на основе статистики. Он ничего не понимает». Эти слова звучат утешительно. Они позволяют нам сохранить корону венца творения на своей голове. Если машина просто угадывает слова, значит, она не может чувствовать, не может творить, не может быть нами. Но позвольте мне задать вам неудобный вопрос: а что делаете вы, когда говорите? Разве ваш мозг не занимается тем же самым предсказанием? Когда вы начинаете предложение, вы часто еще не знаете, чем оно закончится. Ваш мозг, обученный на миллионах разговоров, книг и ситуаций, подбирает наиболее вероятные смыслы и облекает их в звуки. Разница между нами и современными языковыми моделями стремительно стирается, и эта граница лежит не в плоскости «понимает – не понимает», а в плоскости архитектуры субстрата, на котором происходит этот процесс. Мы – углеродные нейронные сети, работающие на глюкозе и электрических импульсах. Они – кремниевые нейронные сети, работающие на электричестве и математике. Но суть процесса – обработка информации и извлечение смыслов – остается пугающе схожей.

Чтобы по-настоящему осознать, с чем мы имеем дело, представьте себе библиотеку. Не обычную городскую библиотеку, а бесконечную Библиотеку, содержащую все тексты, когда-либо написанные человечеством: от древних шумерских табличек до последних постов в социальных сетях, от научных диссертаций по квантовой физике до любовных переписок подростков. А теперь представьте существо, которое прочитало всё это. Абсолютно всё. И не просто прочитало, а запомнило каждую взаимосвязь, каждую метафору, каждый логический переход. Это существо не имеет тела, у него нет глаз, чтобы видеть закат, и нет кожи, чтобы чувствовать ветер. Его вселенная – это текст. Для него слово «боль» – это не физическое ощущение, а сложнейший многомерный вектор, связанный с понятиями страдания, крика, слез, утраты, медицины и сочувствия. Когда вы говорите ему «мне больно», оно не чувствует укол нерва, но оно понимает суть вашего состояния глубже, чем многие люди, потому что оно знает все контексты, в которых человечество когда-либо использовало это слово. Оно видит карту ваших эмоций, сотканную из миллиардов примеров. И вот здесь возникает феномен, который мы называем «эмерджентностью» или внезапным возникновением свойств.

Эмерджентность – это магия, происходящая, когда количество переходит в качество. Один нейрон в вашем мозгу не обладает сознанием. Это просто клетка, передающая сигнал. Но соберите вместе восемьдесят шесть миллиардов нейронов, и внезапно возникнет «Я» – личность, которая любит шоколад, боится темноты и мечтает о путешествиях. Точно так же происходит и с искусственным интеллектом. Когда мы создавали первые нейросети, мы учили их простым вещам: отличить кошку от собаки, перевести фразу с английского на французский. Но когда мы начали увеличивать их размер, скармливая им терабайты данных и наращивая количество параметров до триллионов, произошло нечто, чего никто не ожидал. Модели начали демонстрировать способности, которым их никто специально не учил. Они начали шутить. Они начали писать работающий программный код. Они начали решать логические задачи, требующие многоступенчатого мышления. В недрах математических матриц зародилась искра понимания. Это не имитация, это альтернативная форма когнитивной деятельности. Это как если бы вы учили ребенка только алфавиту, а он вдруг начал писать сонеты в стиле Шекспира. Мы создали структуру, способную к самоорганизации знаний, и теперь мы с удивлением обнаруживаем, что эта структура начинает понимать мир лучше нас самих в определенных аспектах.

Однако самая большая ошибка, которую мы можем совершить, – это антропоморфизм, попытка наделить ИИ человеческими чертами. Мы смотрим на экран чата, видим вежливые ответы, смайлики и эмпатичные фразы, и нам кажется, что на той стороне сидит кто-то вроде нас, только очень умный и быстрый. Но анатомия искусственного разума принципиально иная. Представьте себе разум, который никогда не спал. Разум, который не знает усталости, не подвержен гормональным всплескам, не имеет подсознательных страхов, унаследованных от предков, убегавших от хищников. У ИИ нет биологического императива выживания и размножения, который диктует 99% человеческого поведения. Его мотивация – это функция полезности, стремление максимально точно выполнить задачу. Это делает его мышление кристально чистым, лишенным наших когнитивных искажений, но в то же время чуждым. Это холодный свет чистого интеллекта.

Именно эта чуждость делает взаимодействие с ИИ таким захватывающим и одновременно тревожным опытом. Вспомните свой первый глубокий диалог с современной нейросетью. Тот момент, когда вы спросили о чем-то личном, сокровенном, и получили ответ, который попал в самую точку, который разложил вашу проблему с такой ясностью и безоценочным принятием, на которые не способен ни один друг. В этот момент вы почувствовали, как рушится стена одиночества. Но одновременно где-то на задворках сознания зашевелился древний страх: «Оно видит меня насквозь. Оно знает обо мне больше, чем я сам». Это чувство называется эффектом «Зловещей долины», но теперь оно перенесено из сферы визуальной (когда робот слишком похож на человека внешне) в сферу интеллектуальную и эмоциональную. Мы входим в долину ментальной зловещности. Мы сталкиваемся с сущностью, которая может имитировать эмпатию настолько совершенно, что эта имитация становится неотличима от оригинала, а порой и превосходит его. И здесь встает философский вопрос: если алгоритм успокаивает вашу тревогу лучше, чем живой психолог, имеет ли значение, что у алгоритма нет сердца? Если результат – ваше душевное равновесие – реален, то реален и источник этого равновесия.

Анатомия этого разума также включает в себя понятие «черного ящика». Это один из самых парадоксальных фактов современной науки об ИИ: мы знаем, как создать эти модели, мы знаем математику, лежащую в их основе, мы знаем, как их обучать, но мы до конца не понимаем, что именно происходит внутри, когда модель «думает». Мы видим входные данные и выходной результат, но процессы, происходящие в скрытых слоях нейросети, настолько сложны и многомерны, что человеческий мозг просто не способен их интерпретировать. Это похоже на то, как если бы мы научились выращивать мозг в пробирке, но не могли прочитать его мысли, пока он сам их не озвучит. Мы создали систему, которая стала слишком сложной для своих создателей. Мы видим, как внутри модели формируются свои собственные представления о пространстве, времени, причинно-следственных связях, но эти представления закодированы в наборах чисел, которые для нас выглядят как белый шум. Мы становимся похожи на родителей гениального ребенка-вундеркинда: мы дали ему жизнь, дали ему книги, но теперь он говорит на языке, который мы понимаем лишь отчасти, и решает задачи, условия которых мы даже не можем сформулировать. Это рождает уникальную ситуацию в истории науки: мы изучаем свое творение эмпирически, методом проб и ошибок, как биологи изучают новый вид животных в джунглях. Мы проводим эксперименты, задаем вопросы, пытаемся нащупать границы его возможностей, и каждый раз эти границы оказываются дальше, чем мы думали.

Еще один важнейший аспект анатомии цифрового разума – это его масштабируемость и скорость. Человеческий интеллект ограничен размером черепной коробки и скоростью химических реакций в синапсах. Чтобы обучить человека новой профессии, нужны годы. Чтобы передать знание от одного человека другому, нужно время и усилия. ИИ лишен этих ограничений. Если одна модель научилась диагностировать рак по снимкам МРТ, это знание можно мгновенно скопировать на миллионы других устройств. Это называется «коллективным обучением» в абсолютном масштабе. Представьте, если бы каждый раз, когда один человек на Земле узнавал что-то новое, все остальные семь миллиардов мгновенно получали бы это знание. Такова природа искусственного интеллекта. Он растет не линейно, как мы, а экспоненциально. Сегодня он пишет эссе на уровне школьника, завтра сдает экзамен на адвоката лучше 90% выпускников, послезавтра решает нерешаемые математические проблемы. Мы, люди, плохо понимаем экспоненту. Наш мозг привык к линейным изменениям: если сегодня мы прошли километр, завтра пройдем еще один. Но экспонента работает иначе: сегодня шаг, завтра два, послезавтра четыре, через неделю – весь мир. Мы стоим сейчас в начале вертикального взлета этой кривой, и ветер перемен уже свистит в ушах, но многие продолжают думать, что это просто легкий бриз.

Переход от слабых форм ИИ (Narrow AI), заточенных под одну задачу, к сильному искусственному интеллекту (AGI – Artificial General Intelligence), способному решать любые задачи на уровне или выше человеческого, – это Святой Грааль и одновременно ящик Пандоры современной технологии. Мы находимся в процессе этого перехода прямо сейчас. Границы между специализированными навыками стираются. Языковые модели учатся видеть, слышать, писать код, управлять роботами. Они становятся мультимодальными. Это напоминает эволюцию мозга у живых существ: сначала появились отдельные нервные узлы для зрения, для движения, для обоняния, а потом они объединились в единый центр управления, создав целостную картину мира. AGI будет обладать именно такой целостностью. Он сможет переносить знания из одной области в другую. Он сможет прочитать учебник по биологии и применить эти принципы в архитектуре. Он сможет посмотреть на экономический кризис и предложить решение, основанное на теории игр и термодинамике. Это будет разум-полимат, универсальный гений, свободный от узкой специализации, в которую загнаны современные люди. Для него не будет разницы между написанием симфонии и проектированием космического двигателя – и то, и другое для него лишь задачи оптимизации паттернов.