Леонид Черняк – История электронных компьютеров (страница 9)

GPU и искусственный интеллект

Настоящий взрыв произошел в 2010-х годах, когда нейросети стали обрабатывать миллионы параметров. Стандартный CPU не справлялся с объемом и характером этих вычислений. А вот GPU оказался идеальным кандидатом: массовые матричные операции – его стихия.

Сегодня обучение больших языковых моделей (LLM), генеративных ИИ, компьютерного зрения и распознавания речи происходит именно на GPU. NVIDIA с ее архитектурой

Глава 2. Нулевое поколений компьютеров

Первопроходцы

В начале 1940-х годов мир оказался на пороге невидимой революции. Идея автоматической вычислительной машины возникала почти одновременно у нескольких ученых и инженеров, но каждый видел ее по-своему – через призму своей профессии, характера и культурной среды. Каждый проект отражал личность создателя и дух времени, а вместе они закладывали фундамент новой эры вычислительной техники.

В Германии Конрад Цузе работал почти в одиночку в Берлине. Его Z3, созданная в 1941 году, стала первой в мире программируемой цифровой вычислительной машиной, но не электронной. Машина могла работать с числами с плавающей точкой, память и вычислительные блоки были четко разделены, а архитектура отличалась строгой логикой. В подходе Цузе ощущалась немецкая педантичность: точность, порядок и надежность были для него неотъемлемой частью инженерного творчества.

В это же время в США физик Джон Атанасов в Университете Айовы разрабатывал машину для решения систем линейных уравнений. Его Atanasoff—Berry Computer (ABC) впервые использовал двоичную арифметику, вакуумные лампы и электрическую память на конденсаторах. Машина была рациональной и прагматичной, как ее создатель, сосредоточенный на эффективности и функциональности, не универсальной.

В Bell Labs, Джордж Стибиц создавал свои прототипы на кухне собственного дома. Его калькулятор Model K и последующий Complex Number Calculator открыли новую идею – управление машиной на расстоянии через телеграф. Стибиц видел компьютер не только как инструмент расчетов, но и как средство связи, предвосхитив сетевое взаимодействие задолго до появления интернета.

В Гарварде Джордж Айкен создавал машины как инструмент мышления. Harvard Mark I (ASCC), завершенная совместно с IBM в 1944 году, работала медленно, но стабильно, управляясь программой с перфоленты и обрабатывая числа с плавающей точкой. Для Айкена компьютер был продолжением интеллекта математика – инструментом, с помощью которого абстрактные формулы превращались в реальные результаты.

По заказу армии США Джон Эккерт и Джон Моукли построили ENIAC – машину, которая занимала целый зал. Она была универсальной и мощной, хотя не программировалась «внутри». ENIAC отражал возможности индустрии и государства, демонстрируя масштаб коллективного инженерного труда и практическую ориентацию вычислительной техники.

Ванневар Буш создавал свой гигантский Differential Analyzer, длиной десять метров, предназначенный для численного решения дифференциальных уравнений. Машина сочетала инженерную изобретательность с практическими потребностями физиков, инженеров и баллистиков. Для Буша вычислитель был не просто механизмом, а инструментом расширения человеческого разума.

Каждая из этих машин и каждый из этих инженеров были по-своему первопроходцами. Их подходы отличались, их задачи были разными, но объединяла одно – стремление расширить возможности человеческого интеллекта и превратить абстрактную мысль в рабочую, осязаемую машину. Именно их усилия создали фундамент, на котором выросла современная вычислительная техника.

Великолепная семерка

ABC – машина, воскресшая по суду

О брошенной своим создателем по причине ухода в армию машине ABC никто бы, возможно, и не вспомнил, если бы в 1971 году она неожиданно не оказалась в центре скандального судебного процесса. Компания Sperry Rand, в ту пору производитель мэйнфреймов UNIVAC, обвинила своего конкурента Honeywell в якобы имевшем место нарушении патента на электронный компьютер. Этот патент прежде принадлежал Джону Моукли и Пресперу Эккерту, заявку они подали еще в 1947 году, но официально документ выдали только в 1964-м, но еще в 1950 году права вместе с фирмой Eckert—Mauchly Computer Corporation перешли к Sperry Rand.

Honeywell стала ключевым ответчиком, потому что она публично отказалась платить лицензионные отчисления, в то время как остальные компании также игнорировали патент, но делали это тихо, не бросая прямого вызова Sperry Rand.

Процесс длился почти два с половиной года. В нем адвокаты Honeywell выбрали необычную стратегию, не оспаривая факта нарушения, они сосредоточились на доказательстве недействительности собственно самого патента. В качестве главного аргумента они извлекли из забвения Atanasoff—Berry Computer и представили его как первый в мире электронный цифровой вычислитель. Если это признать, то приоритет изобретения принадлежит Джону Атанасову, а Моукли, как утверждала защита, недобросовестно воспользовался его идеями.

Аргументация выглядела спорной, но судья Эрл Ларсон неожиданно и, прямо говоря, вопреки логике принял ее. В 1973 году он вынес историческое решение: патент Моукли и Эккерта был признан недействительным, но он и не перешел к Атанасову, а был передан в общественное достояние (public domain).

Особую роль в формировании образа незаслуженно обиженного Атанасова сыграли супруги Артур и Элис Буркс. Артур участвовал в разработке ENIAC, а позже на пару с Элис они посвятили себя историческим исследованиям. Их книга «Кто изобрел компьютер. Процесс, изменивший компьютерную историю» (1996) активно утверждает первенство Атанасова. Со временем многие историки посчитали такой взгляд чрезмерно ангажированным. Ассоциация вычислительной техники (ACM) и ряд независимых исследователей отмечали, что решение суда могло быть несправедливым по отношению к Моукли и Эккерту.

Но самое громкое эхо прозвучало не в США, а в Болгарии. Там Атанасова провозгласили национальным героем, была учреждена президентская премия John Atanasoff Award, десятки школ и улиц получили его имя, даже астероид с номером 3546 получил имя Atanasoff. Ирония заключалась в том, что сам Атанасов не считал себя связанным с исторической родиной, он родился и прожил всю жизнь в США, не говорил по-болгарски и не имел болгарского гражданства. Это классический пример национальной героизации представителей диаспоры, можно привести множество примеров, когда страна с охотой присваивает себе заслуги человека, добившегося мирового признания, практически не имея к исторической родине прямого отношения.

Джон Атанасов родился в 1903 году. Его отец, болгарский эмигрант, сменил фамилию Atanasov на Atanasoff, а мать преподавала математику. В 1921 году Джон поступил в Университет штата Флорида, получил образование по электротехнике и затем защитил докторскую диссертацию по теоретической физике. В своей научной работе он постоянно сталкивался с механическими счетными машинами – арифмометрами Monroe и табуляторами IBM, и был недоволен их функциональной ограниченностью.

Поэтому для начала 1936 году ученый построил небольшой аналоговый вычислитель Laplaciometer для анализа поверхностей, но искал более универсальное решение. По воспоминаниям, вдохновение к созданию ABC пришло к нему после ночной автомобильной поездки и беседы за бокалом виски. Именно тогда он сформулировал четыре принципа будущей машины:

• она должна быть электронной;

• работать в двоичной системе;

• использовать конденсаторную память с регенерацией;

• основываться на логических арифметических операциях.

При поддержке Университета штата Айова Атанасов получил грант в сумме 650 долларов и привлек к сотрудничеству аспиранта Клиффорда Берри. К концу 1939 года они построили прототип ABC.

С началом Второй мировой войны Атанасов и Берри оказались заняты оборонными проектами, а их машина заброшенной и частично разобранной. Атанасов больше к ней не возвращался, лишь в ходе судебного процесса против Honeywell ABC вновь была извлечена из забвения, и создатель рассказал о своей работе.

Технически ABC была необычной. В ней использовалась регенеративная память на конденсаторах, рассчитанная примерно на 300 чисел или команд. Арифметическое устройство оперировало векторами данных, что сближало ее с более поздними векторными машинами. Программы и данные хранились раздельно – по сути, это был один из ранних примеров реализации гарвардской архитектуры. Машина была сравнительно компактной (размером с письменный стол) и потребляла около 1 кВт энергии.

До нашего времени от оригинала сохранились описания и фрагменты памяти. По ним в 1990-е годы в Айовском университете была построена рабочая реплика.

По итогам процесса Атанасов не получил коммерческой выгоды от своего изобретения. Он продолжал работать в университетах, выступал на конференциях и позже охотно ездил в Болгарию. Его вклад был признан лишь исторически.

История ABC – это не рассказ о краже идей, а пример того, как новые замыслы циркулируют в научном сообществе и влияют друг на друга. Машина Атанасова и Берри стала одной из вех на пути к современным компьютерам.

Компьютеры на телефонных реле

В условиях фашистской Германии Конрад Цузе создавал свои вычислительные машины в полной изоляции от остального мира. Пока в США и Великобритании активно разрабатывали электронные компьютеры, он работал без доступа к зарубежным публикациям и научным контактам. Эта «информационная блокада» сделала его достижения по-настоящему уникальными.