Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 4)

Стоит, пожалуй, применить другой подход, характерный для человека разумного: раздробить большую проблему на более мелкие и решать их по частям. Давайте так и поступим, но сначала разберемся с тем, что такое вообще «интеллект».

Слово «интеллект» происходит от латинского intellectus — «восприятие», «разумение», «понимание» или «ум». Это качество психики, дающее нам способности к познанию мира и решению проблем. Среди них: способность приспосабливаться к новым ситуациям, способность к обучению со стороны, способность к запоминанию на основе собственного опыта, способность к пониманию и применению на практике абстрактных концепций и использование своих знаний для управления окружающей средой. Это если совсем вкратце.

Мы наговорили на полтома философского словаря, но общая идея, полагаю, ясна. «Интеллект» объединяет все способы восприятия, которыми мы познаем мир. Это, во-первых, все пять органов чувств (обоняние, осязание, слух, зрение, вкус), плюс шестое чувство, как иногда называют нашу способность ощущать свой собственный организм единым целым. Плюс память, плюс представление, плюс воображение, плюс мышление, а также стоит добавить внимание, волю и рефлексию. Представляете — если все это есть в «естественном» интеллекте — то как много задач стоит перед теми, кто собирается воспроизвести все эти способности в машине?

Но и это еще не все. Важное свойство интеллекта — это ставить задачи, планировать ресурсы и строить стратегии для достижения целей. Например, дробить задачу на кусочки и решать ее по частям — как это делаем мы сейчас, пытаясь совладать со всеми определениями.

Стоит отметить, что «естественный», или «биологический» интеллект не обязательно относится к человеку: этими качествами обладают и некоторые животные. Собственно говоря, без такого «ума» была бы невозможна эволюция, в этом смысле интеллект можно считать частью естественной истории. Получается, в нынешнем развитии интеллекта «искусственного», что бы под этим не понималось, тоже есть рука эволюции?

Изучением интеллекта животных занимается целая наука—когнитивная этология. Наработки этологов вовсю применяются в глубоком обучении, и думается, что в ближайшие годы роль этой науки будет только расти.

Есть еще определение интеллекта исходя из теории информации: это способность воспринимать или, наоборот, передавать информацию и держать ее в виде знаний, чтобы учитывать их, меняя свое поведение. Такой способностью обладает «агент интеллекта», который и будет его применять. Если при слове «агент» у вас возникла ассоциация с разведывательными службами, то не отбрасывайте ее: это верный ход мысли. Информационный «агент интеллекта» выполняет, по сути, ту же роль, что и шпион: он добывает ценную информацию, которая может повлиять на принятие важных решений, и он существует не в полной изоляции, а в некоем окружении.

Можно дополнять определение «интеллекта» с точки зрения психологии, кибернетики, эпистемологии, программирования, биологии, нейробиологии, химии, физики, нейрофизики, социологии и даже теологии. Каждое уточнение будет все ближе подводить нас к цели, при этом —что, может быть, самое интересное — все ближе к «естественному» и все дальше от «искусственного».

Известный автор Ник Востром определяет интеллект как алгоритм, реализуемый на физическом уровне. Искусственный интеллект —это интеллект, созданный не в естественной среде, пишет ученый. Далее, по мере развития способностей «искусственного интеллекта» Востром добавляет ему все новые «степени». Когда ИИ овладеет умом, интуицией, пониманием, всеми видами восприятия, воображения, познания и мышления, о которых мы говорили, то он становится, по выражению Бострома, «интеллектом человеческого уровня». Когда ИИ превзойдет и этот уровень, то можно будет говорить об «искусственном суперинтеллекте», или Сверхразуме.

Востром мерит интеллект машины в «человеках», при этом обходит вопрос о том, что же это за мера такая. Это теплокровное млекопитающее, живородящее и позвоночное, дышащее легкими, двуполое... возможно, двуполое? Это социальное животное, или это политическое животное, или это животное, не укладывающееся ни в одну из классификаций?

Если же говорить о неизменных свойствах человека, то это уже не два пола, да и другие биологические характеристики с течением времени также могут измениться. Человек захотел взять в свои руки собственную эволюцию, а если ему что-то втемяшится в голову, то своего он добьется.

Существует философский парадокс, известный под названием «Корабль Тесея». Афинский герой Тесей совершил много подвигов, в том числе убил Минотавра, избавив свой город от выплаты чудовищной дани. В благодарность афиняне сохранили его корабль, который считался священным. По мере того как доски корабля приходили в негодность, их заменяли новыми, пока, наконец, в теле корабля не осталось ни одной изначальной доски. Тот ли это корабль или уже новый? —стали спрашивать друг друга философы.

Наиболее авторитетно высказался на эту тему Аристотель. По его мнению, у любой вещи есть форма, материал и суть. Полностью заменив износившийся материал, мы не изменили суть, поэтому корабль остался тем же.

Точно так же определять человека его биологией скоро будет лишено всякого смысла. У него сначала появятся искусственные органы, а со временем, вероятно, и весь «материал», из которого сделан человек, будет заменен более надежным. Означает ли это, что человек превратится принципиально во что-то другое? Аристотель бы ответил на этот вопрос «нет»: человек останется человеком.

Но какие характеристики человека можно считать достаточными для того, чтобы дать ему определение? В случае с тем же кораблем Тесея, его ведь можно считать другим без всякой смены досок — просто потому, например, что он изменил положение в пространстве. Как бы абсурдно это ни звучало, данный парадокс представляет серьезную проблему в машинном обучении того самого «искусственного интеллекта», который мы хотим определить. Как мы покажем дальше, многие системы машинного обучения действительно воспринимают переместившийся «корабль Тесея» как совершенно новый объект, что создает большую путаницу. Только недавно в обучении нейросетей случился качественный скачок, который позволил решить эту проблему.

Допустим еще, что мы извлекли по одному и заменили на улучшенные образцы все органы человека. Старые органы мы заморозили, и через пятьсот лет наука нашла способ их вылечить и сделать как новыми. Если мы соберем из этих органов новое тело, будет ли оно тем самым человеком, которого мы разобрали? Скорее всего, мы бы ответили «нет», ибо в этом наборе Лего нет «сути» — или души.

Но что же такое эта суть? Что такое человек, как определить его? Может быть, это воля к власти, как считал Ницше? Это качество, пожалуй, машина вполне может перенять. Но человек больше власти.

Может быть, это жажда бессмертия и полного и окончательного торжества справедливости? Ведь на этом основаны, так или иначе, все религии, а религиозность куда древнее вашей пирамиды Маслоу. Древние люди не поняли бы предписания Маслоу о том, что прежде чем подумать о богах, они должны удовлетворить свои низменные потребности. Наверное, они бы их удовлетворили, съев самого Маслоу, или сделав его, в опровержение его точки зрения, сакральной жертвой.

Может быть, человек — это ненасытность, как тела, так и духа? Ведь даже бессмертия нам мало: мы жаждем воскрешения мертвых, и это наверняка только начало! Как мы будем смеяться над теми, кто провозгласит бессмертие финалом человеческой истории — да мы готовы будем снова убивать, лишь бы иметь возможность мечтать о чем-то большем!

Мечтать... уснуть — и видеть сны? Но — «какие сны в том смертном сне приснятся, когда покров земного чувства снят»?

Может быть человек —это вечная неудовлетворенность, вечная несогласованность мечтаний друг с другом и между другими? Мы всегда хотим большего, даже не зная, как можем это назвать, хватит ли у нас для этого слов и языков.

Мы всегда хотим большего —сказав это, остановимся.

ОБЪЕДИНЕННЫЙ РАЗУМ И ПАРАДОКС МОРАВЕКА

В сентябре 1930 года в Кёнигсберге (нынешний Калининград) проходил, быть может, самый важный математический конгресс XX века. На нем выступил очень мнительный и застенчивый молодой человек, 24-летний австрийский математик Карл Гёдель. Его выступление повергло в шок собравшихся там светил мировой науки. На их глазах Гёдель опроверг тогдашнего математика номер один, уроженца Кёнигсберга Давида Гильберта. Поразительно, но будучи немцем, гражданином Третьего Рейха, он стал почетным академиком Академии Наук СССР.

Гильберт верил в могущество человеческого разума. Ему принадлежит фраза «Wir mussen wissen. Wir werden wissen» — «Мы должны знать —мы будем знать» —эти слова высечены на его надгробии в Гёттингене. Как и нынешние фанаты прогресса, которые считают, что любая проблема в мире может быть решена при помощи соответствующей технологии, Гильберт был научным оптимистом. Он верил в то, что в принципе можно решить любую математическую проблему. Более того, он брался доказать, что любой непротиворечивый математический объект может считаться существующим, даже если он не является плодом человеческой интуиции или никак не связан с реальным миром.