Антон Калабухов – От данных к мудрости. Путь к AGI и ASI (страница 2)

Когда мысль полностью интегрируется в наш организм, мы начинаем видеть ее проявления везде вокруг нас. Например, математик начинает видеть мир через призму чисел и формул, биолог воспринимает все с точки зрения биологических процессов, а мудрец видит мир с точки зрения общих законов мироздания. У каждого из них формируется определенный фрейм восприятия, через который они смотрят на мир, и этот фрейм становится неотъемлемой частью их существа.

Когда мы становимся «мудрыми» по отношению даже к одной мысли, мы начинаем ощущать ее не только умом, но и телом, и видеть ее проявления везде вокруг нас. Именно это и есть состояние истинного понимания и осознания. Человек, достигший такого состояния, радикально отличается от того, кто просто получил какую-то информацию.

Многие могут вспомнить момент такого озарения, когда словно волна проходит вокруг, какое-то энергетическое поле схлопывается и расходится, и вдруг ваше восприятие полностью меняется. После этого вы уже не можете не видеть того, чего не замечали раньше.

## Знание и мудрость: сетка связей

Если продолжить это размышление, то можно сказать, что знание какой-то области и состояние мудрости в этом знании – это не просто понимание того, что мы узнали. Это своего рода сетка, связывающая различные знания. Например, если вы поняли, как работает обратная связь и насколько наши действия влияют на других людей, вы начинаете видеть эту обратную связь везде: в бизнесе, в развитии ребенка, в том, как взаимодействуют между собой страны, как меняется состояние общества, какие люди приходят к власти и как это отражается на нижних уровнях социальной иерархии.

Когда вы начинаете видеть, что весь мир функционирует на принципе обратной связи, это означает, что вы не просто поняли эту мысль, но и прочувствовали ее. А состояние, в котором вы видите эту мысль везде, означает, что она связалась со всей вашей системой восприятия мира.

Важно отметить, что невозможно просто «скопировать» мысли одного человека и «вставить» их в сознание другого так, чтобы тот так же умело ими оперировал. У первого человека эта мысль будет связана с множеством других мыслей, эмоций, воспоминаний, опыта. Она не существует изолированно, а является частью сложной сети ассоциаций и связей.

Более того, одна и та же мысль у одного и того же человека в разное время может иметь совершенно разное значение. Например, если я сегодня говорю «Весь мир работает на обратной связи», а затем повторяю эту же фразу через два года, для меня это будут совершенно разные утверждения, несущие разный смысл и имеющие разные импликации.

Это напоминает понятие любви, которое для каждого человека связано с разными ощущениями и пониманиями. Кто-то действительно прочувствовал это состояние, а кто-то думает, что осознал его, но на самом деле лишь имеет о нем поверхностное представление. И невозможно передать это ощущение и понимание просто словами. Нельзя просто рассказать, что такое любовь, если у человека не сложится полная картина из его собственного опыта и переживаний.

Таким образом, мысль представляет собой огромную сетку связей и ассоциаций. И каждый раз, когда мы думаем о какой-то мысли, она меняется. Это подтверждается и исследованиями нейробиологов: каждый раз, когда мы что-то вспоминаем, воспоминание меняется, обрастая новыми связями и ассоциациями.

## Роль опыта в формировании мудрости

В процессе развития человеческого сознания и формирования мудрости ключевую роль играет жизненный опыт. В повседневной жизни мы проходим через различные этапы развития, сталкиваемся с разнообразными событиями и накапливаем опыт в различных сферах – на работе, в личной жизни и так далее. Именно этот процесс создает сложную сеть связей между различными мыслями и идеями, которые формируются и трансформируются с течением времени.

Интересно отметить, что даже одна и та же мысль, которую вы только что «внедрили» в свое сознание, может существенно измениться за короткий промежуток времени. Например, если вы обдумали какую-то идею, а затем дали мозгу отдохнуть и проснулись на следующий день, эта мысль уже будет другой. Она глубже укоренится в вашем сознании, станет более «вашей», более основанной на вашем личном опыте. Этот процесс «проживания» каждой мысли является критически важным для формирования истинного понимания и мудрости.

Именно этого элемента «проживания» и не хватает в современных подходах к обучению искусственного интеллекта, таких как «тонкая настройка». Мы пытаемся задать ИИ определенные правила и принципы, но без возможности «прожить» эти правила, без опыта их применения в различных контекстах, ИИ не может достичь глубокого понимания и мудрости.

Этот феномен хорошо иллюстрирует известная поговорка о том, что учиться нужно на чужих ошибках и чужом опыте. Однако на практике мало кто способен действительно учиться на чужом опыте. Почему? Потому что человек не может по-настоящему прочувствовать и пережить чужой опыт. Даже если человек интеллектуально понимает, что происходит с другими, он все равно склонен совершать те же ошибки.

Возьмем, к примеру, проблему наркотиков. Можно рассказывать человеку, что наркотики – это плохо, и он может интеллектуально согласиться с этим. Он может даже бояться наркотиков и избегать их употребления. Но он не будет по-настоящему осознавать, насколько они опасны, пока сам не окажется в этой ситуации. Только попав в этот негативный круг, человек может по-настоящему осознать, что это такое, особенно когда он не понимает, как из этого выбраться.

Сравните человека, которому просто сказали, что употреблять наркотики нельзя, и бывшего наркомана, который прошел через ад зависимости и был вылечен. Оба могут говорить одни и те же слова о вреде наркотиков, но то, что стоит за этими словами, будет кардинально отличаться. Именно поэтому личный опыт является настолько важным фактором в формировании истинного понимания и мудрости.

## Применение к искусственному интеллекту

Применяя эту идею к искусственному интеллекту, можно предположить, что для того, чтобы система по-настоящему обучалась, ей нужно проходить весь этот опыт самостоятельно. Недостаточно просто сказать ИИ «это действие хорошее, а это плохое». Система может начать действовать в соответствии с этими правилами, но для нее это не будет иметь глубокого смысла. Достаточно небольшого изменения в программе, и все эти правила могут быть стерты.

В отличие от этого, когда человек проходит через какой-то опыт, даже если он «теряется» в какой-то момент, основные принципы все равно остаются в нем, потому что они связаны с множеством событий и переживаний. Частицы этих принципов он может обнаружить в различных мыслях и ситуациях. Мысль как бы «рассеивается», начинает «жить» везде. Она децентрализована по различным участкам памяти и мыслительных процессов.

Можно предположить, что алгоритмы искусственного интеллекта могли бы работать аналогичным образом. Если просто дать алгоритму набор правил, это приведет к одному результату. Но если дать алгоритму возможность самостоятельно исследовать, корректировать свои действия, моделировать различные ситуации и проходить через них, это может привести к совершенно другому уровню понимания.

На данный момент сложно говорить о «понимании» в контексте искусственного интеллекта, так как современные системы ИИ не обладают сознанием в том смысле, в каком им обладают люди. Тем не менее, нам нужно готовиться к возможности создания более продвинутых форм ИИ, способных к более глубокому «пониманию» мира.

Интересно отметить, что если мы создадим несколько алгоритмов и позволим им развиваться самостоятельно, они, вероятно, пойдут разными путями, будут давать разные ответы и исследовать разные «территории». Однако, если направлять их к одинаковым принципам, в конечном итоге они могут прийти к единой точке – к своего рода «мудрости», если мы будем учить их мудрости.

Как и у людей, пути к этой мудрости могут быть разными. Некоторые алгоритмы могут прийти к ней быстрее, другие – медленнее. Одни могут идти прямым путем, другие – окольными. Для одних может потребоваться моделирование «невероятных трагедий», для других – более спокойный и размеренный путь развития.

Если мы сможем создать такой путь развития для ИИ, позволим алгоритму самостоятельно осознавать и интерпретировать информацию, научим его видеть эти принципы в различных контекстах и создадим эту децентрализацию мыслей, то, вероятно, мы сможем создать ИИ, обладающий истинной мудростью.

## Понимание и возраст

Представьте ситуацию, когда вы объясняете ребенку какие-то правила и нормы поведения. Ребенок может искренне сказать: «Да, я понял». Теперь представьте, что вы говорите то же самое взрослому, мудрому человеку. Насколько будут отличаться их «понимания»?

Многие из нас сталкивались с ситуацией, когда мы что-то объясняли человеку, он говорил «Да, я понимаю», но мы в тот же момент осознавали, что на самом деле он ничего не понял. Что он не осознал того, что мы пытались до него донести.

Эта разница в понимании часто связана с уровнем жизненного опыта. Например, если спросить пожилого человека, о чем он жалеет в жизни, он, вероятно, скажет, что жалеет о том, что не проводил достаточно времени с семьей, не уделял внимания своим желаниям, не делал чего-то важного, что нужно было сделать. Во взрослом состоянии человек понимает, насколько важно не упускать ни одного момента в жизни. Но если он попытается объяснить это ребенку, тот, скорее всего, не поймет. И не поймет не потому, что не понимает слова – он может согласиться с этим на словах, но не поймет по-настоящему.