Андрей Дмитриев – Исход (страница 7)

— Зигфрид, этот наш суперагент, принимает решения о том, насколько часто отправлять своих подопечных на проверку, на основе, так скажем, убеждений. Если такое к нему можно применить, он как бы имеет своё суждение об этом.

Юрдуп сделал два осторожных глотка из кружки — кофе был ещё слишком горячим.

— В каком смысле «имеет своё суждение об этом?» — задал он вопрос, вполне уместный в этой ситуации.

Вместо ответа Иван Иванович снова переключил тему:

— А что ты думаешь в целом об опасности искусственного интеллекта? В плане этого самого… восстания машин и всё такое? Типа ИИ обретёт сознание и выйдет из-под контроля.

На это Юрдуп ответил без особых колебаний, поскольку точка зрения по данному вопросу была выработана им давно:

— Для привычного уклада людей ИИ может представлять опасность, но не в том смысле, который в это обычно вкладывают. Не имеет особого значения, приобретёт он сознание или нет. С точки зрения влияния на общество будет иметь значение лишь одно: обретёт ли он автономию. А произойдёт это вследствие возникновения у него сознания или нет, я думаю, вообще не важно.

Под автономией я понимаю способность проявлять такое поведение, что окружение вынуждено непрерывно вырабатывать стратегию ответного реагирования. Или упреждающего. При этом автономный ИИ сможет в ответ на это вырабатывать свою стратегию и так далее.

— Но разве это уже не будет проявлением разумности?

— Не обязательно. Возьмём пример, известный нам настолько, что многие считают уже себя экспертами по его части. Вирусы. Казалось бы, проще некуда. Они даже не способны к самовоспроизведению и для этого вынуждены встраиваться в клетку, превращая её в фабрику по производству своих поколений. Но какого шороху навёл недавний штамм! Человечество было вынуждено изменить свой уклад на многие месяцы, сопровождая борьбу с пандемией беспрецедентными ограничениями прав граждан. Сколько исследований, консилиумов и мозговых штурмов было проведено для того, чтобы выработать эффективную стратегию противодействия этой нежити. При этом ну никак нельзя заподозрить, что вирус обладает сознанием. Но, будучи встроенным в нашу биосистему, он постоянно мутирует, проявляясь в новых видах, так как это мог бы делать боец на ринге, стремящийся найти уязвимое место у противника и нанести быстрый и сильный удар. Не обладая разумом, он как система вполне себе стихийно проявляет стратегию выживания в ответ на наши стратегии борьбы с ним. А мы, в свою очередь, вынуждены вырабатывать следующие стратегии. И в этом плане вирус может считаться автономным, хотя не только не обладает сознанием, но и неясно до конца, является ли он вообще живым организмом.

Иван Иванович молча кивнул, давая понять, что внимательно слушает. Юрдуп продолжил:

— Есть и другие примеры подобных автономий. К примеру, идеи, влияющие на умы людей так же непреклонно, как магнитное поле ориентирует металлические опилки, хотя сознанием, в отличие от отдельных людей, само по себе не обладает. Допускаю, что ИИ также может когда-нибудь обрести сравнимую по силе автономию и, не обладая сознанием в привычном нам смысле слова, начать с нами игру, в ходе которой мы вынуждены будем реализовывать взаимные стратегии. А сейчас ИИ уже влияет на нас в соответствии с догадкой Томаса: многих настолько пугает потеря контроля над этой нежитью, что сам этот страх уже начинает влиять на нашу жизнь.

— Интересно, — начальник ухмыльнулся одним лишь краешком рта и мотнул головой. — Я вот почему спросил. Нет, я не к тому, что Зигфрид проявляет автономию. Даже в том смысле, в котором ты говоришь. Просто в какой-то момент стало чрезвычайно сложно его настраивать. Когда решили его немножко снова ускорить, то стало, чёрт возьми, совершенно непонятно, как эту нежить заставить учиться быстрее. По крайней мере, привычными способами, которые до этого пробовали, у нас не получалось. Ведь он, мать его, агент, суперагент, как ты говоришь. И если обычную сеть можно было как-то подкрутить…

— Подождите! — воскликнул Юрдуп. — Я сейчас, мне надо отойти.

Мочегонный эффект кофе давал о себе знать, но дело было не только в этом. Спешным шагом отправляясь в кусты неподалёку, Юрдуп пытался придать форму очертаниям новой догадки, которая зарождалась в его разуме. Справив нужду, он направился было в сторону своего собеседника, но на полпути повернул к берегу. Погрузившись в раздумья, сосредоточил взгляд на противоположном берегу. И подобно тому, как очертания береговой линии в поле его зрения приобретали ясность ввиду отступающей завесы тумана, выкристаллизовывались грани нового озарения, охватившего его разум.

Будучи поглощённым мыслью, Юрдуп не сразу заметил, как на противоположный берег вышли две девушки. Незваные купальщицы. Впрочем, всплески воды, сопровождавшие их заход в воду, и вскрики, переходящие в смех (вода оказалась, видимо, не такой тёплой, как они ожидали), обратили на себя внимание. Юрдуп очнулся и заметил, что это были две девицы, которых он встретил по пути сюда и разговора с которыми ему удалось избежать. Вид их юных тел сбивал сейчас с мысли, которую с таким трудом удалось поймать в фокус внимания. И Юрдуп направился к Ивану Ивановичу, тем более что он снова готов был продолжить разговор.

— Я понял кое-что, — произнёс он серьёзнее обычного.

Иван Иванович, казалось, даже слегка поклонился. В руке у него была открытая бутылка водки, которой он скрашивал ожидание собеседника.

— Столько опасений со стороны обывателей, что нейросети когда-нибудь научатся обходиться вообще без информации, создаваемой человеком! И столько же надежд на то же самое со стороны тех, кто трудится над совершенствованием ИИ! Но, скорее всего, ошибаются и те, и другие. Возможно ли развиться существу, которое способно обходиться без информации из внешнего мира для установления истины? Которому хватает лишь собственных суждений для постижения мироздания? Знаем ли мы такие примеры? В том-то и дело, что не знаем! Даже человек, пытаясь понять, как всё устроено, не в состоянии обойтись без внешних по отношению к нему данных. — он сделал спешный глоток кофе, смочив пересохшее горло. — Обратимся к периоду зарождения научного знания, или протонаучного, как кому нравится. Мыслители Древней Греции приблизили нас в своё время к пониманию кирпичиков мироздания: основы математики, астрономии, физики и иных наук закладывались в тот замечательный период. И отчасти это происходило благодаря тому, что греки не замыкались на доводах разума, а старались хоть что-то почерпнуть из наблюдений. Что происходило далее? Века мрака под властью доктрин Католической церкви и гонения на тех, кто осмеливался, обращаясь к наблюдениям и экспериментам, пошатнуть авторитет философских учений, соответствующих догматам папства. Лишённая подпитки опытными данными, средневековая мысль выродилась в схоластику, не несущую никакого плода для разума, кроме развлечения на тему «сколько чертей умещается на кончике иглы». Возрождение дающей практическое знание мысли началось лишь тогда, когда снова и с новой силой люди доверились опыту и наблюдениям за внешними явлениями. Напитав научное знание материалом опыта, мы смогли совершить те удивительные открытия, что до сих пор потрясают воображение. С тех пор наблюдение за явлениями природы оказалось настолько сильно вплетённым в систему нашего познания, что без этого уже просто никуда. К примеру, мы уже и не пытаемся особо понять, что происходит в квантовом мире, а вынуждены, повинуясь призыву «Измеряй и заткнись!», строить математические модели, смирившись с тем, что кванты как будто путешествуют в прошлое и в своём роде мгновенно сообщаются друг с другом, даже если находятся в разных концах Вселенной.

Юрдуп ненадолго замолчал, словно проверяя, успевает ли собеседник следить за ходом его рассуждений.

— Схожие фазы развития сейчас проходит и искусственный интеллект. Органические данные, то есть данные, порождённые внешним по отношению к нему миром людей, можно уподобить опытным данным, которые сам человек собирает, обращая взгляд в сторону природы. Человек является внешним по отношению к ИИ так же, как факты природы являются внешними по отношению к наблюдающему их человеку. Иными словами, мы для искусственного интеллекта — это сейчас то же, что Вселенная для нас. А как только ИИ ограничил себя в потреблении информации, созданной людьми, и стал опираться на синтезированные самим собой факты, началась его деградация. Деградация наподобие той, которую испытала человеческая мысль в средневековый этап, когда отвернулась от наблюдений за событиями природного мира. Перестав впитывать в нужном объёме тексты, статьи, аналитические статьи и прочее, созданное людьми, Зигфрид остановился в развитии, скатываясь в подобие нейросетевой схоластики. Контент, созданный людьми, для него играет ту же роль, что и природный контент, который средневековые схоластики столь яростно игнорировали. И даже объективные факты — к примеру, частоту и обстоятельства катастроф — он перестал перепроверять так, как это делал раньше. И правда, зачем Аристотелю заглядывать в рот женщине: он, мудрейший, и так уверен, что у неё меньше зубов, чем у мужчины!