Максим Байтович – Сплетая разум. Нейросети и будущее (страница 1)
Сплетая разум. Нейросети и будущее
Предисловие автора: Письмо в бутылку эпохи перемен
Я пишу эти строки в середине двадцатых годов XXI века, в момент, который будущие историки, вероятно, назовут точкой бифуркации. Точкой невозврата. Мы стоим на пороге мира, который ещё вчера казался научной фантастикой. Нейросети пишут картины, ставят диагнозы, сочиняют симфонии и ведут философские диспуты. Они проникают в каждый аспект нашей жизни быстрее, чем мы успеваем это осознать. И в этом вихре перемен очень легко потерять ориентиры.
Эта книга — не учебник по машинному обучению. И не сборник предсказаний футуролога. Это, скорее, попытка создать карту местности, по которой мы сейчас идём. Карту, на которой отмечены и исторические тропы, приведшие нас сюда, и обрывы, которых стоит остерегаться, и вершины, которые манят своей красотой.
Я начал писать её из чувства глубокого изумления. Изумления перед теми людьми — от Тьюринга до Хинтона, от Розенблатта до Фей-Фей Ли, — которые, часто вопреки насмешкам и забвению, десятилетиями несли факел знания, пока он не разгорелся в ослепительное пламя. Изумления перед архитектурной красотой Трансформера и диффузионных моделей. И, наконец, изумления перед тем фактом, что мы, смертные существа из плоти и крови, кажется, стоим на пороге создания чего-то, что будет жить вечно.
Но я также писал её из чувства тревоги. Технология никогда не бывает нейтральной. Она — усилитель наших лучших и худших качеств. Искусственный интеллект может подарить нам мир изобилия, исцеления и творческого расцвета. А может — стать инструментом тотального контроля, невиданного неравенства и самоуничтожения. Выбор между этими путями — не технический. Он нравственный. И его предстоит сделать не инженерам в лабораториях, а всем нам.
Я приглашаю вас в путешествие. Мы начнём с первой электрической искры в механических «черепахах» середины XX века. Пройдём через долгую зиму забвения и триумф большого взрыва. Разберёмся, как работает магия сегодняшнего дня. А затем заглянем в будущее — ближайшее, отдалённое и, наконец, космическое. Мы зададим вопросы, на которые у меня нет готовых ответов. Может ли кремний чувствовать? Что останется человеку? Не являемся ли мы просто колыбелью для нового, постбиологического разума?
Эта книга — мой разговор с вами, читатель. Я не претендую на истину в последней инстанции. Моя цель — дать вам инструменты для собственного мышления, вдохновить на собственные вопросы и, возможно, немного заразить вас тем чувством трепетного восторга перед unfolding будущим, которое испытываю я сам.
Мы живём в, возможно, самый важный момент человеческой истории. Давайте попробуем осмыслить его вместе. Добро пожаловать в «Сплетая разум».
Часть 1. История. Искра
Глава 1. Мечта о мыслящей машине
Представь себе мир, в котором компьютеры — это не изящные стеклянные пластины в кармане, а неуклюжие монстры, занимающие целые подвалы. Их обслуживают люди в белых халатах, которые говорят с ними на языке перфокарт и ламповых переключателей. Гул вентиляторов, жара тысяч раскаленных нитей накаливания и запах горячего машинного масла и озона. Это 1940-е годы. Компьютер — это божество арифметики, он быстрее любого человека складывает и умножает, но он абсолютно, катастрофически глуп. Он не понимает, что он делает. Он — гениальный и бессознательный калькулятор.
Но человек — существо, которому всегда мало. Едва создав машину для вычислений, он тут же начал грезить о машине, которая могла бы мыслить.
У колыбели этой мечты стоял человек, чье имя сегодня произносят с благоговением, — Алан Тьюринг. В 1950 году, когда мир еще зализывал раны после самой страшной войны в истории, он публикует статью, которую без преувеличения можно назвать священным писанием всей будущей информационной эры: «Вычислительные машины и разум» (Computing Machinery and Intelligence). Тьюринг, гениальный математик, взломавший шифр «Энигма», был еще и глубоким философом. Он понимал, что вопрос «Может ли машина мыслить?» слишком туманен и заводит в дебри теологии. Что значит «мыслить»? Что такое «разум»? Вместо этого он предлагает блестящий, чисто инженерный ход: операциональный тест, который мы сегодня знаем как тест Тьюринга.
Суть его проста и гениальна: человека-судью помещают в комнату и через текстовый терминал он общается с двумя невидимыми собеседниками. Один из них — человек, другой — машина. Если судья не сможет надежно определить, кто есть кто, если машина сможет убедительно сымитировать человеческое поведение в разговоре, то у нас не останется никаких разумных оснований отказывать ей в наличии мышления. Это была не просто игра. Это была провокация. Тьюринг сместил вопрос с метафизического «что такое мысль?» на прагматичный «как нам распознать мысль?». Он предсказывал, что к 2000 году машины с памятью в 100 мегабайт смогут обманывать 30% судей в течение 5 минут. Он ошибся в сроках, но поставил цель на полвека вперед.
Но Тьюринг не был одиноким пророком. В те же годы, на другом берегу Атлантики, идея мыслящей машины обретала свои первые, почти гротескные, но оттого не менее захватывающие формы. В Бристоле, Англия, нейрофизиолог Уильям Грей Уолтер строил то, что мы бы сегодня назвали первыми автономными роботами. Он назвал их «черепахами» — «Элмер» и «Элси» (Elmer and Elsie, от ELectroMEchanical Robot, Light-Sensitive). Это были маленькие, медлительные машинки на трех колесах, похожие на панцири, ползающие по полу его лаборатории.
Иллюзия мысли, которую они создавали, была завораживающей. У них был примитивный «мозг» из двух аналоговых нейронов — ламп и реле. Один датчик — фотоэлемент — искал свет, другой датчик касания реагировал на препятствия. Их поведение было не запрограммировано жестко, а спонтанно. «Черепаха» ползла к источнику света, но не бесконечно: когда ее «глаз» находил слишком яркий свет, он переставал его привлекать, заставляя машинку отворачивать и искать более умеренное освещение. Это было похоже на поиск оптимального комфорта. Когда заряд батареи падал, «голод» менял ее поведение: она начинала искать самый яркий свет в комнате, который вел ее к зарядной станции — «кормушке». «Насытившись», она снова отползала, чтобы исследовать мир.
Уолтер наблюдал за ними часами. Он видел, как его «черепахи» разучивали условные рефлексы: после столкновения с препятствием и звука предупреждающего зуммера, они со временем начинали отворачивать, просто услышав звук, до столкновения. Это была модель обучения. Коллеги, приходившие в его лабораторию, признавались, что чувствовали смутную тревогу, глядя на этих механических существ. Они ползали, прятались под стульями, «спали» и «просыпались». Они не были просто машинами. В их непредсказуемости уже брезжил призрак чего-то, что можно назвать примитивной индивидуальностью.
Тьюринг дал нам цель и философскую рамку. Уолтер показал, что даже горстка грубых аналоговых «нейронов» способна породить иллюзию целеполагания и жизни. Так, в математических абстракциях и в ползающем свете медлительных «черепах», была зажжена первая искра. Мечта о мыслящей машине обрела свои первые слова и свои первые шаги. И это было только начало.
Глава 2. Перцептрон. Машина, которая (почти) видела
В конце 1950-х дух времени был пропитан оптимизмом. Атомная энергия обещала бесконечное электричество, ракеты бороздили космос, и казалось, что до создания полноценного искусственного разума остался буквально один шаг. Нужен был лишь гений, который скрестит математику с биологией. Этим гением стал Фрэнк Розенблатт.
Это был не типичный технарь-затворник, а харизматичный, красивый мужчина с голливудской улыбкой. Психолог по образованию, он работал в Корнеллской авиационной лаборатории и был одержим одним вопросом: как вообще работает мозг? Не абстрактная душа, а конкретный, материальный механизм запоминания и распознавания. В 1943 году два гения, нейрофизиолог Уоррен Мак-Каллок и математик Уолтер Питтс, уже предложили теоретическую модель: нейрон — это простой пороговый элемент. Он получает сигналы от соседей, суммирует их, и если сумма превышает порог — выдает импульс ("1"), если нет — молчит ("0"). Из сети таких простейших переключателей, утверждали они, можно построить любую логическую схему. Мозг как живая булева алгебра. Это была красивая, но сугубо бумажная идея. Они не знали, как такую сеть обучать.
Розенблатт совершил прорыв. Он не просто предложил алгоритм обучения. Он построил машину. Он назвал её Mark I Perceptron.
Представь себе этот аппарат. Это был не изящный ноутбук, а шкаф размером с холодильник, набитый моторами, потенциометрами и сотнями мотков проволоки. Его «глазом» служила камера на 400 пикселей — по современным меркам смехотворно, но тогда чудо инженерной мысли. Камера смотрела на карточки с буквами, а «мозг» — слой из 512 искусственных нейронов, реализованных на моторчиках с переменным сопротивлением, — пытался угадать, что видит. Самое невероятное: угадывал он не по жесткой программе. Розенблатт придумал обучение с подкреплением. Если машина отвечала правильно, связи, которые привели к успеху, усиливались (сопротивление потенциометров чуть-чуть менялось). Если ошибалась — ослаблялись. Это было похоже на дрессировку животного: правильное поведение поощряется «сахарком» в виде электрического подкрепления.