Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 1)
Игорь Шнуренко
Демон внутри. Анатомия искусственного интеллекта
Не всё, что считается, можно посчитать,
и не всё, что можно посчитать, считается.
То, что вообще может быть сказано, может быть сказано ясно; о чем нельзя говорить, о том следует молчать.
СУЩЕСТВУЕТ ЛИ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ?
Что такое искусственный интеллект и чего от него ждать? Уже сегодня умные вещи пишут за нас, читают нас, развлекают нас, думают за нас, решают за нас. Умные вещи слушают нас, узнают нас, встречают и провожают нас, замеряют наш пульс, наш восторг, нашу апатию, наш гнев, нашу радость, наше горе. Они сбивают из наших эмоций своё компьютерное масло, чтобы сделать нашу жизнь удобной, счастливой и вечной. Или, быть может, им дана задача залезть в нас, расколоть нас, чтобы управлять нами изнутри? Мы не хотим об этом думать, но в следующей войне умные вещи будут убивать нас.
Умные вещи, которым мы отдаем самое интимное, что у нас есть, будут жить за нас, используя наш опыт для того, чтобы однажды превзойти нас. Но будут ли они страдать за нас, умирать за нас? В обмен на маску покорности матрица даст вам вечную жизнь в виде записи на флешку — и сотрет при этом ненужные ей воспоминания.
Учёные, политики, инженеры всё больше уверены, что наука с приходом суперкомпьютеров изменилась. Для того, чтобы узнать, что будет завтра, надо всего лишь загрузить в машину все данные о сегодня, и она выдаст точное предсказание... Чтобы открыть природные взаимосвязи, не нужны больше интуиция, опыт, образование. Гений, не нужен! Эйнштейн, Менделеев, Лейбниц —достаточно соединить датчики с процессором, и результат прилетит вам на любое устройство! Нажимать на кнопки мы считаем трудом и предпочитаем касание, но скоро и это покажется слишком большим усилием. Действительно ли, человека всё ещё можно называть разумным?
Насколько фрики в лабораториях продвинулись в изобретении гаджетов, которые нас заменят? Сначала нас, а потом их самих? Так называемая «пандемия» коронавируса показала, что если закрыть всё население планеты дома, заводы, перешедшие на безлюдные технологии, не остановятся. Дивному новому миру не требуются люди в таком количестве, и мы уже видим, как нашу численность регулируют. Пока мягко.
Погрузят ли нас всех в нирвану 5G, где мы будем до одурения смотреть фильмы с полным погружением, а наша жизнь будет становиться всё более виртуальной, пока, наконец, мы не поменяемся с киногероями местами? Разрешит ли вам робот Виталий сидеть в джакузи с резиновой Зиной, или с пластичным Паулем, пока он деловито убирает квартиру? Вам, от которого ничего уже не зависит? Или, получив пропуск на выход из умной квартиры, мы будем драться друг с другом за отбросы на умных свалках, надеясь на то, что про нас просто забыли?
Как разворачивается гонка, победа в которой может дать власть над миром — и что сегодня делать людям, чтобы выжить? Неужели придется соединиться с компьютером в одну кибернетическую систему, как предлагает Илон Маск, превратившись в придаток сверхразумной машины?
Отвечая на все перечисленные вопросы, я начал писать эту книгу. Меня больше всего привлекала возможность показать балет научных идей, догадок и прозрений, балет, в котором главные партии исполняют талантливые учёные: математики, биологи, психологи, нейроученые, и, что очень важно, философы. В процессе работы я обратил внимание на хайп, который окружает развитие искусственного интеллекта. Цепляющие заголовки у одних вызывают эйфорию, у других — страх. При этом, практически отсутствуют анализ и изучение истории вопроса — а это необходимо для того, чтобы человек, обладающий критическим мышлением, правильно оценил открывающиеся возможности, а также осознал риски. Можно ли в столь важных вопросах опираться на мифы, пропаганду заинтересованных структур или конспирологию? Эта прорывная область знаний ещё только складывается, и вокруг многих концепций здесь идут ожесточённые споры. Однако уже сейчас крайне важно понимать, как использовать системы ИИ во благо всего человечества, для выхода людей на новые уровни творческих и когнитивных способностей, а не для разъединения, массовой слежки и новых способов убийств.
Когда мы слышим «искусственный интеллект» (или «ИИ», или «Пекин»), то чаще всего наше воображение рисует образ из кино. Кто-то видит зловещий красный глаз Хала-9000 из фильма «Космическая одиссея 2001 года». Кто-то —красивую девушку Аву из фильма Ex Machina. Ава выглядит человеком, но для нас это такой же черный ящик, как Хал. Оба сообразительнее человека, оба при этом могут сыграть в поддавки, чтобы, усыпив наше доверие, нанести предательский удар.
Программисты, читая эти строки, наверняка посмеиваются. Им, и только им одним известно, что «искусственный интеллект» — это всего лишь сложный алгоритм, код, программа работы нейросети. Все, что не объясняется математикой, программисты считают мистикой, в том числе такие понятия, как человеческое сознание или свобода воли. Они уверены, что еще немного кода — и человек будет расколот окончательно. Впрочем, вот уже несколько десятилетий программисты, когнитивисты и коннективисты изучают нематоду, круглого червя с мозгом всего в 800 нейронов (против почти ста миллиардов нейронов у человека). Они так и не смогли предсказать, что этот тупица собирается делать в следующую секунду.
Для китайского инженера, который приходит в ангар менять водяное охлаждение, ИИ сидит в железе бесконечных рядов сервера. Для домохозяйки Анестейши из Техаса ИИ — это цилиндрик Алекса, который стоит в углу за трюмо. «Привет, Алекса!» «Добрый вечер, Анестейша, ты проживешь ещё 12 лет. Извини, я перепутала. 21». Для конголезского мальчика Тьерри ИИ — это его работа в тесной клети на шахте оловянного рудника. Для самого богатого человека в мире Джеффа Безоса ИИ —основа пищевой цепочки его бизнеса, на которую работает и Тьерри, и китайские инженеры, и русские программисты, и сотни тысяч других людей, включая ту самую техасскую домохозяйку.
Для профессора Иванова ИИ — это «глубокое машинное обучение», «неокортекс», «восходящий подход». Его коллега, доктор наук Петров, считает, что ИИ нам прислали прямиком из ЦРУ, как в свое время криптовалюту. На самом деле ИИ — это изобретатель биткойна Сатоши Накамото, штатный сотрудник ЦРУ по прозвищу Страшила. Теперь вся криптовалюта мира идет на покупку Страшиле некоторого количества ума. Страшила всё видит в цветах «Сбербанка», где все сотрудники заменены роботами, а управляет ими йог силою мысли. Йогом же управляют элиты, ведь ничто в мире не происходит без тайной договоренности.
Профессор Сидоров считает, что никакого «искусственного интеллекта» нет. Гагарин в космос летал и никакого искусственного интеллекта не видал. Ни искусственного, ни естественного. Разума не существует, он игра рептилоидов, с которыми бесполезно, что бороться, что сотрудничать. Есть дистанционный интеллект, говорит Сидоров. Захотел — включил, захотел — выключил. Ум переместился с белка на песок, от человека на кварц микросхемы. Человеческая мысль тянется вроде сопли, если ее в одном месте прибыло, то в другом убыло. Мы уже не можем запомнить телефонные номера. Как только они оказываются в памяти телефона, то самоудаляются из головы. Как только информация стала общедоступной — считайте, что ее нет. Она стала ничьей, и потому подлежит приватизации, говорит Сидоров. Как и вся память низших. У высших все по-другому, они могут нанять себе профессиональную память.
Снова мы слышим голос профессора Иванова: «Нет никакого естественного интеллекта, потому что человек ничем не отличается от животного. Да, он крупнее крысы и мозг его весит больше. Но нейросети скоро превзойдут его».
Что произойдет тогда? Технократы верят в то, что смогут всех цифровизовать и, в конце концов, записать каждого на электронный носитель. Те, кто побогаче, смогут иногда выгружаться «в реал», чтобы размять ноги. Для них будут созданы особые миры наподобие того, что показан в сериале «Мир Дикого Запада» — из настоящих ингредиентов. Вы не отличите андроида от человека. Следующий этап —само-замкнутые вселенные, которые будут возникать и умирать без шума и пыли при помощи алгоритма. В таком виртуальном, но очень реальном мире можно будет смело делать мертвую петлю на фанерном самолете. Разобьетесь — не беда, искусственный интеллект новых нарожает. И даже Тот Свет создаст, с адом и раем — игра есть игра. С волшебным стоп-словом, чтобы выйти. Или без него — неважно, ведь ваша копия будет храниться вечно.
В этом месте мне захотелось написать: и тут я проснулся. А безумные профессора растворились в тонком воздухе, как обитатели заколдованного острова в «Буре» у Шекспира.
Они действительно растворились, но над тем, что они сказали, стоило бы поразмыслить — точно так же красавице Миранде стоило бы прокрутить в голове все, что приключилось с ней на острове волшебника Просперо. И не слишком доверять ни злобному Калибану, ни той гоп-компании, которую пожелал спасти от смерти ее отец.
Я думаю, что будущее не предопределено, и те, кто предлагает нам тот или иной его вариант под девизом «другого пути нет», хотят навязать нам свое видение. Те, кто говорит, что машина будет править миром и человечеству остается лишь обсудить условия капитуляции, хотят, чтобы это стало самосбывающимся пророчеством.