Джулиан Кейн – Агенты. Книга про людей и цену мечты (страница 1)
Джулиан Кейн
Агенты. Книга про людей и цену мечты
Цитата
Алан Тьюринг, 1950
ПРОЛОГ
«Bro, did you just build BabyAGI?»
В 2:47 ночи по тихоокеанскому времени Йоэй Накадзима нажал кнопку «Tweet» и пошёл спать.
Это была его семидесятая попытка. Семьдесят экспериментов за несколько месяцев — и ни один не взлетел. Семьдесят раз он что-то собирал, публиковал, ждал реакции и получал тишину. Он привык к тишине. Она не пугала его, просто была частью процесса — как похмелье после вечеринки, которую никто не заметил.
За спиной у него было всё, что обычно называют успехом. Тридцать с лишним лет, трое детей, красивый дом в Сиэтле, венчурный фонд Untapped Capital, который он основал вместе с партнёром. Люди приходили к нему за деньгами и советом. Он был человеком, которому доверяют. Которого слушают. Которого уважают.
Но по ночам он превращался в кого-то другого.
По ночам он был билдером — человеком, который строит что-то руками, потому что не может не строить. Не потому что это принесёт деньги или признание. Просто потому что интересно. Потому что в голове крутится вопрос, и единственный способ заглушить его — написать код и посмотреть, что получится.
В ту ночь вопрос звучал так: а что, если убрать человека из цепочки полностью?
* * *
Идея была проста до неприличия.
Большие языковые модели — GPT-4, только что выпущенный OpenAI, — умели отвечать на вопросы. Блестяще отвечать. Но они были реактивными: человек спрашивал — машина отвечала. Человек снова спрашивал — машина снова отвечала. Диалог. Пинг-понг. Инструмент в руках.
А что, если дать машине цель — и уйти?
Что, если она сама будет разбивать цель на задачи? Сама выполнять их одну за другой? Сама оценивать результат и порождать новые задачи? Бесконечно. Без человека. Автономно.
Накадзима не был программистом в классическом смысле. Он изучал экономику в Калифорнии, работал в венчуре, думал категориями рынков и инвесторов. Python освоил только в последние месяцы — с помощью тех же языковых моделей, которые теперь пытался запрячь в новую упряжку. Он писал код так, как учится ходить ребёнок: неловко, часто падая, но упрямо двигаясь вперёд.
105 строк. Вот сколько занял его эксперимент номер семьдесят.
Программа называлась Task-Driven Autonomous Agent — «Автономный агент, управляемый задачами». Пользователь давал одну цель. Агент создавал список задач, выполнял первую, анализировал результат, добавлял новые задачи, снова выполнял — и так по кругу, пока цель не будет достигнута или пока человек не остановит процесс.
Накадзима записал демонстрацию на видео. Написал короткое описание. Нажал «Tweet». Уснул.
* * *
Он проснулся от телефона.
Сообщения приходили одно за другим, не давая экрану погаснуть. Twitter, GitHub, email. Имена, которых он не знал. Вопросы, которых он не ждал. И где-то среди этого потока — сообщение от Дженни, подруги, которая иногда смотрела на его эксперименты со смесью снисходительности и любопытства.
Он перечитал её сообщение дважды. Потом посмотрел на статистику репозитория.
За ночь — пока он спал — его код получил больше трёх тысяч звёзд на GitHub. К вечеру их было восемь тысяч. Через двое суток — пятнадцать с половиной тысяч.
Для сравнения: крупнейшие open-source проекты годами набирают столько же.
Название прилипло мгновенно. BabyAGI. Ребёнок общего искусственного интеллекта — AGI, Artificial General Intelligence, той самой мечты, ради которой учёные бились семьдесят лет. Маленький, несовершенный, сделанный из 105 строк кода венчурным капиталистом без профессионального образования в области CS. Но — автономный. Но — действующий.
Люди форкали репозиторий и строили на нём свои проекты. Кто-то создавал агента для автоматизации маркетинга. Кто-то — для исследования рынка. Кто-то просто запускал его, смотрел, как он работает, и не мог остановиться — как смотрят на огонь.
Накадзима сидел за ноутбуком и читал комментарии. Большинство из них начинались одинаково: «Это меняет всё».
* * *
В то же самое время, в девять часовых поясах восточнее, в небольшом городке в Великобритании, другой человек заканчивал другой проект.
Торан Брюс Ричардс не спал уже вторые сутки.
Ему было тридцать с чем-то, за плечами — карьера в геймдеве, несколько лет в разных стартапах, детская мечта стать астрофизиком, которую пришлось отложить ради более практичных вещей. Он не был похож на типичного героя технологической революции — не дропаут из Стэнфорда, не вундеркинд из Кремниевой долины. Просто человек, который умел смотреть на системы и видеть, как они работают.
А языковые модели, как он понял к началу 2023 года, работали неправильно.
Точнее, они не работали вовсе — в том смысле, который он считал важным. Они отвечали на вопросы. Писали тексты. Объясняли концепции. Но они не делали. Не действовали. Не брали задачу и не доводили её до конца. Каждый промпт был изолированным событием, после которого модель забывала всё и начинала с нуля.
«Одна мысль», — так он это формулировал для себя. — «LLM — это одна мысль. А разум — это цепочка мыслей».
Он назвал свой проект AutoGPT. Автономный GPT. И написал в описании то, что думал без всяких украшений: «Святой Грааль — ИИ, который может не просто говорить, а делать».
AutoGPT был сложнее BabyAGI — больше функций, больше возможностей, больше кода. Он мог browsing в интернете, писать и запускать скрипты, сохранять информацию в долговременную память. Он был не ребёнком, а, пожалуй, подростком — уже чем-то большим, но ещё не взрослым.
Ричардс выложил его в открытый доступ.
За несколько недель AutoGPT набрал сто пятьдесят шесть тысяч звёзд на GitHub — больше, чем любой другой репозиторий в истории платформы за сопоставимое время. Его имя стало синонимом новой эпохи. Технологические издания писали о нём как о «моменте iPhone для ИИ». Венчурные капиталисты звонили с предложениями, от которых трудно отказаться.
Ричардс отказывал. Он хотел, чтобы это осталось открытым. Для всех. Потому что — и это была не поза, а убеждение — технология, которая меняет мир, не должна принадлежать одной компании.
* * *
Март 2023 года войдёт в историю как момент, когда идея автономного агента вышла из академических статей и конференц-залов и стала массовой.
Но это был не взрыв из ниоткуда.
Это было эхо.
Эхо голосов, которые звучали семьдесят лет. Голосов людей, которые думали об этом раньше всех — и платили за это. Кто-то платил жизнью. Кто-то — репутацией. Кто-то — смыслом, который вкладывал в свою работу и однажды обнаружил, что работа зажила собственной жизнью, о которой он не просил.
Все они задавали один и тот же вопрос, просто разными словами.
Алан Тьюринг, бледный аспирант в кембриджском кафе, рисовавший бесконечную ленту на салфетке, спрашивал: может ли машина мыслить?
Джозеф Вейценбаум, создавший первого говорящего бота и в ужасе отвернувшийся от него, спрашивал: должна ли она?
Патти Мэйс, бельгийская исследовательница в коридорах MIT, спрашивала: а не лучше ли, чтобы она помогала — а не заменяла?
Родни Брукс, разрабатывавший роботов без внутренней модели мира, спрашивал: а нужна ли ей вообще «мысль» в нашем понимании?
Накадзима и Ричардс, не зная об этих вопросах в полной мере, в марте 2023-го дали на них практический ответ. Не словами — кодом. Не теорией — действием.
Машина может делать.
И вот что важно: никто из тех, кто шёл к этому моменту, не получил того, чего ожидал.
* * *
Эта книга — не история технологий.
Точнее, не только она.
Это история о том, что происходит с человеком, когда его мечта начинает жить без него. Когда идея, которую ты вынашивал годами, выскальзывает из рук и уходит туда, куда ты не звал. Когда то, что ты создал из одиночества или страха, или любви, или любопытства — превращается во что-то, чего ты не предвидел и, возможно, не хотел.
Тьюринг хотел понять природу мышления. Он получил уголовное преследование и химическую кастрацию.
Вейценбаум хотел показать ограниченность машин. Он получил первый массовый психотерапевтический чат-бот и кризис совести, из которого не вышел до конца жизни.
Мэйс хотела дополнить человека, а не заменить его. Она продала свой проект Microsoft за сорок миллионов долларов и наблюдала, как идея растворяется в корпоративном продукте.