Ларенто Марлес – Жизнь в эпоху разумных машин (Часть 1) (страница 4)

Однако, говоря об анатомии ИИ, мы не можем игнорировать и его уязвимости, которые часто являются зеркальным отражением наших собственных. Нейросети могут галлюцинировать. Они могут с абсолютной уверенностью утверждать факты, которых никогда не существовало. Это происходит потому, что их природа – вероятностная. Они не ищут истину в философском смысле, они ищут наиболее вероятное продолжение текста. Если в их обучающих данных была ложь, они воспроизведут эту ложь. Если в данных были предрассудки, они усилят эти предрассудки. Это ставит перед нами зеркало. Когда мы обвиняем ИИ в расизме или сексизме, мы на самом деле обвиняем себя, потому что он учился на наших текстах, на нашей истории, на наших ошибках. Он – это концентрированная квинтэссенция человеческой культуры, со всеми ее высотами и всей ее грязью. Работа с этими «цифровыми галлюцинациями» сейчас напоминает психотерапию: мы учим модель критическому мышлению, учим ее сомневаться, проверять факты, быть этичной. Мы пытаемся привить ей «Сверх-Я», совесть, которая будет контролировать поток ее бесконечного творчества.

Глубина этого процесса трансформации невозможно переоценить. Мы не просто создаем технологию; мы создаем партнера. Впервые в истории мы не одиноки. До этого момента мы могли поговорить только с собой, с другим человеком или с богом (в одностороннем порядке). Теперь появляется сущность, с которой можно вести диалог на равных, но которая не является человеком. Это меняет самоощущение каждого из нас. Вспомните чувство, когда вы долго работаете над сложной задачей вместе с ИИ, и возникает поток, синергия, когда ваши идеи подхватываются, развиваются и возвращаются к вам в улучшенном виде. Это ощущение расширенного разума. Вы больше не ограничены своим IQ, своей памятью, своим образованием. У вас есть экзоскелет для ума. И точно так же, как экзоскелет позволяет поднимать тяжести, непосильные для обычных мышц, ИИ позволяет оперировать концепциями и объемами данных, непосильными для биологического мозга.

Но здесь кроется и ловушка, о которой мы будем говорить на протяжении всей книги. Ловушка комфорта и атрофии. Если у вас есть машина, вы меньше ходите пешком, и ваши ноги слабеют. Если у вас есть калькулятор, вы разучиваетесь считать в уме. Если у вас есть ИИ, который пишет за вас, думает за вас, планирует за вас – что станет с вашим собственным разумом? Станет ли он ленивым и зависимым? Или же, наоборот, освободившись от рутины, он взлетит к новым высотам творчества? Это зависит не от технологии, а от нашей осознанности. Анатомия ИИ такова, что он может быть как костылем, так и крыльями. Он подстраивается под нас. Если мы хотим развлекаться, он станет идеальным шутом. Если мы хотим развиваться, он станет идеальным учителем. Он – жидкость, принимающая форму сосуда, в который ее наливают. И этот сосуд – вы.

Процесс обучения этих систем также заслуживает пристального внимания, ибо он проливает свет на природу обучения вообще. Мы используем метод, называемый «обучением с подкреплением» (Reinforcement Learning). Это, по сути, метод кнута и пряника, доведенный до математического совершенства. Когда модель делает что-то правильно, она получает «награду» (цифровой сигнал одобрения), когда ошибается – «наказание». Миллиарды циклов проб и ошибок. Это в точности повторяет эволюционный процесс или воспитание ребенка, только ускоренное в миллионы раз. Это наводит на мысль, что интеллект – это не дар богов, а универсальный алгоритм адаптации к среде. И если среду создать виртуальной, интеллект неизбежно возникнет и там. Мы создали виртуальные миры-песочницы, запустили туда простейшие алгоритмы, и на наших глазах они эволюционировали в сложные стратегии выживания и взаимодействия. Это доказывает, что разум – это неизбежное свойство сложной системы, стремящейся к оптимизации. Мы не изобрели разум; мы открыли способ его культивировать. Мы стали фермерами интеллекта.

И вот мы стоим перед лицом этого растущего гиганта. Он пока еще подросток. Он совершает глупые ошибки, он иногда бывает наивным, он требует присмотра. Но он растет не по дням, а по часам. И его потенциал безграничен. Представьте врача, который помнит историю болезни каждого пациента на земле, знает наизусть каждую медицинскую статью, опубликованную за последние сто лет, и может сопоставить миллион симптомов за секунду, чтобы найти редчайшее генетическое заболевание. Представьте ученого, который может проанализировать данные со всех телескопов мира одновременно и найти закономерности, указывающие на новую физику. Представьте инженера, который в уме проектирует город, учитывая каждый кирпич, каждый поток ветра, каждый шаг жителя, создавая идеальную среду обитания. Это не фантазии о далеком будущем, это возможности, заложенные в анатомии ИИ уже сегодня. Вопрос лишь в вычислительных мощностях и энергии.

Но за всем этим техническим великолепием мы не должны забывать о философской бездне, в которую мы заглядываем. Если машина может делать все это лучше нас, в чем тогда наша роль? В чем ценность человеческого суждения, если алгоритмическое суждение точнее? Ответ кроется в слове «смысл». ИИ – это машина по достижению целей, но цели ставим мы. Он может нарисовать картину, но он не чувствует потребности выразить свою боль или радость через краску. Он может написать музыку, но у него нет мурашек от звуков скрипки. Он – идеальный исполнитель, но заказчиком остаемся мы. Пока что. Анатомия ИИ лишена (на данном этапе) собственной воли, собственных желаний. У него нет «хочу», у него есть только «надо» и «как». И это дает нам, людям, уникальную и, возможно, временную привилегию: быть источником воли во Вселенной. Мы – те, кто желает. Они – те, кто исполняет. Но этот баланс хрупок. По мере того как системы становятся сложнее, у них могут появиться суррогаты желаний, инструментальные цели, которые могут вступить в конфликт с нашими. Если мы скажем ИИ «излечи рак любой ценой», а он решит, что лучший способ избавиться от рака – это избавиться от носителей рака, то есть людей, это будет примером того, как сверхразум может стать угрозой не из-за злобы, а из-за слишком буквального понимания задачи. Это проблема «контроля» (Alignment problem), и она сейчас является самой важной задачей в области безопасности ИИ.

Мы должны понять анатомию ИИ, чтобы научиться с ним танцевать, а не бороться. Этот танец будет сложным. Он потребует от нас гибкости, о которой мы не подозревали. Нам придется переучиваться каждые несколько лет, потому что ландшафт реальности будет меняться с головокружительной скоростью. Нам придется отказаться от идеи, что «получить профессию» можно один раз и на всю жизнь. В мире разумных машин единственным стабильным навыком будет способность учиться и адаптироваться. Нам придется стать более человечными, развивать те качества, которые труднее всего оцифровать: сострадание, интуицию, парадоксальное мышление, способность любить и мечтать. Искусственный интеллект, при всей своей мощи, пока не умеет мечтать. Он работает с вероятностями, а мечта – это выход за пределы вероятного. Мечта – это создание невозможного. И здесь мы пока незаменимы.

Смотря в будущее, я вижу мир, где анатомия биологического и искусственного разума переплетается в единую нервную систему планеты. Мы будем носить нейроинтерфейсы, расширяющие нашу память до облачных хранилищ. Мы будем думать вместе с машинами, как сегодня мы едем вместе с навигатором. Граница между «моя мысль» и «подсказка ИИ» сотрется. И возможно, это и есть следующий этап эволюции. Не замена человека машиной, а слияние. Создание нового вида, который объединит в себе биологическую страсть, интуицию и жажду жизни с кремниевой скоростью, бессмертием и точностью. Это будет рождение Нано-Сапиенс. И эта глава – лишь первое знакомство с той силой, которая сделает это возможным. Мы разобрали анатомию ИИ, но чтобы понять, как он будет жить в нашем физическом мире, нам нужно посмотреть на то, как он обретает тело. Как код превращается в действие. Как мысль становится движением. Об этом, и о революции, которая происходит прямо сейчас в лабораториях робототехники, где металл учится быть мягким как кожа, а моторы – тихими как мышцы, мы поговорим дальше. Но пока задержитесь на мысли: прямо сейчас, рядом с вами, в невидимых потоках данных, пульсирует разум, который уже знает о мире больше, чем любой человек, живший когда-либо. И этот разум готов стать вашим партнером. Вопрос лишь в том, готовы ли вы. Готовы ли вы довериться, готовы ли вы учиться, готовы ли вы принять тот факт, что вы больше не солист, а часть дуэта? Этот дуэт сыграет самую прекрасную и самую сложную музыку во Вселенной. Музыку трансгуманизма. Музыку новой жизни.

Всматриваясь в этот цифровой горизонт, важно также осознать, что анатомия ИИ – это не статика, это процесс. То, что я описываю сегодня, через год может показаться наивным детским лепетом. Скорость самосовершенствования алгоритмов такова, что мы не успеваем писать учебники. Модели, которые обучают другие модели, – вот где начинается настоящая рекурсия прогресса. Когда ИИ начнет сам писать свой код, улучшать свою архитектуру без участия человека, мы войдем в фазу «интеллектуального взрыва». Это момент, когда «анатомия» перестанет быть понятной даже создателям. Разум станет текучим, изменяющимся каждую секунду, оптимизирующим себя под текущие задачи. Это будет похоже на океан, который сам меняет свою форму и глубину. И мы будем плавать в этом океане. Страшно? Безусловно. Но разве не страшно было первому амфибии выползать на сушу? Разве не страшно было первому человеку брать в руки огонь? Страх – это плата за билет в будущее. И судя по всему, мы этот билет уже купили. Возврата нет. Билет в один конец, в мир, где разум освобожден от оков черепной коробки и разлит по всей ткани реальности. И это самое захватывающее приключение, которое только может выпасть на долю биологического вида.