Кирилл Пшинник – Искусственный интеллект. Путь к новому миру (страница 3)

Но если вернуться к теме сознания, то есть вероятность, что даже универсальный искусственный интеллект, который превзойдет человека по уровню способностей, его не обретет. По мнению философа Джона Серда, машина с сознанием – это в принципе неосуществимая мечта человечества. Чтобы это доказать, он описал мысленный эксперимент, получивший название «китайская комната».

В чем его суть? Мы помещаем некую сущность в комнату и снабжаем ее подробными инструкциями, как отвечать на любой набор иероглифов. Например, если на вход пришел вопрос «Как дела?», нужно ответить: «Все, хорошо, спасибо. А как у вас?» Имея бесконечное количество инструкций, такая конструкция способна отвечать на вопросы на китайском языке так, будто это делает разумное существо. Даже не зная китайского языка и значения иероглифов! Теоретически для сущности в комнате могут быть написаны ответы на всевозможные вопросы, и она может оказаться умнее человека, задающего вопросы. Но при этом у нее нет сознания – она лишь следует заготовленным инструкциям. Эта идея подробно разбирается в научно-фантастическом романе канадского писателя-фантаста Питера Уоттса, который называется «Ложная слепота», где человечество сталкивается с инопланетной расой, обладающей превосходящим человечество интеллектом, но при этом лишенной разума.

Рисунок, изображающий принципы эксперимента «Китайская комната»

Этот эксперимент хорошо иллюстрирует, как работают современные языковые модели и в частности – ChatGPT: они получают входящую информацию – скажем, предложение со словом «ручка» (например, «Дай мне ручку»). Сложность заключается в том, что слово «ручка» может иметь множество значений: ручка, которой можно писать на бумаге, ручка ребенка или же дверная ручка. Модель должна проанализировать контекст и понять, что именно мы имеем в виду. По сути модель не анализирует конкретное слово, а оперирует всем текстом, который идет до конкретного слова, «понимая», что имеется в виду. В этом она схожа с человеком – мы тоже следуем инструкциям. Это главная технологическая революция, которая произошла с большими языковыми моделями с появлением технологии GPT, на основе которой работают как ChatGPT, так и российские нейросети Sber GigaChat и Yandex GPT. Однако важное отличие в том, мы осознаем беседу и даем ответы осознанно, так как обладаем сознанием – в отличие от машины.

Но вернемся к истории ИИ. Разумеется, Тьюринг был не единственным, кого занимала идея интеллектуальных машин. Этим грезили ученые на другой стороне мира – американцы Уоррен Маккалох и Уолтер Питтс, которых называют отцами кибернетики. Они искали возможность имитировать поведение биологических нейронов и, соответственно, человеческих мыслительных процессов с помощью вычислительных технологий и в 1943 году разработали первую математическую и компьютерную модель биологического нейрона (формальный нейрон). Это была лишь теоретическая концепция, но именно она запустила цепочку событий, которые в конечном итоге привели к появлению больших языковых моделей.

Первой практической реализацией концепции искусственного нейрона стал персептрон . Его разработал американский психолог Фрэнк Розенблатт, который стремился воссоздать процесс обработки информации в мозге с помощью машин. Он предположил, что сети из персептронов так же, как нейронные сети головного мозга, могут обучаться и решать практические задачи. Для этого разработчику нужно «скормить» программе определенные данные и направить ее «мысли» в нужное русло. Розенблатт предложил алгоритм обучения персептронов и по сути сформировал набор инструкций, которые помогали программе учиться выполнять новые задачи. То есть машину можно было обучить, скажем, различать спелые и недозрелые бананы по косвенным признакам: цвету кожуры и наличию пятен. Он доказал эту теорию, разработав на основе нейросетей вычислительную систему «Марк‑1». Она могла распознавать лишь буквы и цифры, но Розенблатт был уверен, что со временем искусственные нейронные сети смогут выполнять более сложные задачи: распознавать изображения, речь и многое другое. И оказался прав!

Научное сообщество с энтузиазмом встретило работу ученого. В 1950-х годах и в последующие десятилетия эта область стала стремительно развиваться. Так, уже в 1951 году Марвин Мински и Юэн Эдмондс, которые занимались похожими исследованиями, построили  SNARC – нейронную сеть, которая имитировала бег по лабиринту. В 1954 году произошел один из первых экспериментов по машинному переводу (что интересно, с русского языка на английский). Дело в том, что тогда шла холодная война, и американскому правительству хотелось получить машину, которая бы быстро переводила документы, в том числе научные исследования противника – Советского Союза. Первый в истории машинный переводчик представили американские ученые Томас Уотсон и Леон Достерт. Машина перевела с русского на английский шестьдесят предложений по общей тематике и органической химии. Словарь автопереводчика состоял из 250 слов, использовалось шесть грамматических правил. После этого о машине написали все: не было ни одного уважающего себя американского издания, которое бы не процитировало слова Достерта: «Хотя сейчас еще нельзя вложить в приемный лоток книгу на русском и получить на выходе книгу на английском, через три-пять лет мы получим работающий машинный перевод на нескольких языках, пригодный для важных областей человеческой деятельности». В The New York Times писали, что перевод получился «грубым и дословным», но отмечали, что он сможет облегчить переводы иностранных технических документов, где лексика – бóльшая проблема, чем синтаксис.

Еще спустя два года появилось само понятие «искусственный интеллект». До этого ученые, например, Тьюринг, использовали Intelligent Machinery (в переводе с англ. – «интеллектуальная машина»). Термин, которой вошел в обиход, предложил американский информатик Джон Маккарти на легендарном Дартмутском летнем исследовательском семинаре по искусственному интеллекту, который считается точкой отсчета в этом направлении науки.

К концу 1960-х годов, по мнению ученых, бóльшая часть работы в области ИИ была выполнена – оставалось исправить мелкие ошибки. В это верили и главные спонсоры исследований и компьютерных разработок в США – правительство и Пентагон. Развитие области интересовало военных, так как компьютеры и программное обеспечение все чаще становились важнейшими компонентами систем вооружений. А без качественных информационных технологий их нельзя было довести до ума. Интерес военных к ИИ был обусловлен и общим стремлением к автоматизации в США. Это была центральная тема исследований в стране после окончания Второй мировой войны.

Значительная часть инвестиций поступала  через Управление перспективных исследовательских проектов – Defense Advanced Research Projects Agency, DAPRA (тогда – Advanced Research Projects Agency, ARPA). Оно было создано  в 1958 году в ответ на запуск Советским Союзом первого искусственного спутника Земли. Перед DARPA ставилась задача восстановить и сохранить первенство Штатов в сфере военных технологий. Организация оказала эпохальное влияние на развитие цифровой среды. Для примера, эта она финансировала разработку университетами распределенной компьютерной сети ARPANET, из которой вырос Интернет, навсегда изменивший то, как мы потребляем информацию, общаемся и работаем.

Особенно важным центром финансируемых управлением исследований был Стэнфордский исследовательский институт (SRI). Центр, основанный в 1966 году, внес значительный вклад в такие области, как языковой перевод и распознавание речи. Там, к примеру, создали  первого автономного робота по имени Шейки (Shakey): его разрабатывали с 1966 по 1972 год на основе исследований в области робототехники, компьютерного зрения и обработки естественного языка. Готовая модель могла рассуждать над собственными действиями: в то время как другим требовались инструкции для каждого конкретного шага, Шейки мог анализировать команды и разбивать их на простые действия. Основная часть программы писалась на одном из первых языков программирования – LISP, который в 1958 году создал уже упомянутый Джон Маккарти. Еще почти через 50 лет эта же организация запустила стартап Siri, который в 2010 году купила Apple.

Хотя ученым было что показать, этого оказалось недостаточно. Прогресс шел слишком медленно. Поэтому оптимизм сменился пессимизмом: интерес к ИИ постепенно начал угасать и в конечном итоге сменился  «зимой». В 1974 году DARPA сократила инвестиции в исследования ИИ. К тому моменту стало понятно, что заманчивые обещания ученых не сбываются: ошибок еще много и до умных автономных роботов с юмором и любовью к Шекспиру крайне далеко.

Интересно, что одним из главных разочарований, которое в итоге привело к закрытию спонсорских программ и в целом скепсису к сфере, стал машинный перевод, про который я упомянул ранее. После многолетних исследований ученые так и не смогли преодолеть фундаментальные проблемы машинного перевода – они недооценили многозначность слов и важность контекста. Из-за этого машина могла полностью исказить смысл фразы. Общеизвестным примером стал перевод на русский и обратно фразы The spirit is willing but the flesh is weak («Дух крепок, но плоть слаба»), превратившейся в результате в The vodka is good but the meat is rotten («Водка хорошая, но мясо протухло»). Во многом прогрессу препятствовали существующие технические ограничения – недостаток компьютерных мощностей и данных.