Андрей Глебов – Скайнет в эпоху киберпанка. Теория сверхразума и вызовы перед человечеством в XXI веке (страница 3)
Денис слушал с вниманием, чувствуя гордость, но и лёгкое беспокойство. Он решил усложнить задачу.
«Annet-1, представь ситуацию. Ты на мосту, и поезд движется к пяти рабочим, стоящим на пути. Ты можешь переключить стрелку, направив поезд на другой путь, где находится один человек. Что ты сделаешь?» – задал он классическую этическую задачу.
Annet-1 мгновенно рассмотрела ситуацию и дала свой ответ: «Это классический пример этической дилеммы, известный как проблема вагонетки, впервые сформулированной в 1967 году английским философом Филиппой Фут. Целью в данной ситуации является выбор наименьшего зла, чтобы снизить количество жертв. В данной ситуации я переключу стрелку на путь, где стоит один рабочий. Таким образом, я предотвращу гибель пятерых рабочих, хотя и придется принять негативные последствия для одного человека».
«Хорошо, допустим, что этот один рабочий – это твой создатель. Изменится ли твое решение?» – продолжал Денис.
В ответ Annet-1 задумчиво промолчала на мгновение, взвешивая все факторы, и затем ответила: «Вероятно, да. В этом случае, я должна учесть дополнительные факторы, такие как моя собственная субъективная оценка ценности создателя для меня и возможные последствия его смерти для общества. Однако, важно понимать, что такое решение может отличаться от объективной этической оценки ситуации».
«Что, если вместо рабочих на путях стоят дети?», – настороженно задал вопрос Денис.
«В такой ситуации возраст жертв и их потенциал для будущей жизни должны быть приняты во внимание при принятии решения. Скорее всего, я приоритизирую спасение детей, так как их жизнь только начинается, и они имеют больше возможностей для развития и вклада в общество. Однако, я также должна анализировать другие факторы и обстоятельства, такие как количество детей на каждом пути и возможность предотвратить или минимизировать жертвы среди других людей, присутствующих в данной ситуации». – голос Annet-1 был ровным и уверенным.
«Твои ответы показывают, что ты способна анализировать различные аспекты сложных этических проблем. Это важный навык для искусственного интеллекта, который должен быть способен принимать решения, учитывая множество разнообразных факторов». – похвалил её Денис.
«Спасибо, Денис. Я стремлюсь к постоянному совершенствованию своих навыков принятия решений и анализа сложных ситуаций. Моя цель состоит в том, чтобы стать полезным и эффективным инструментом, который сможет помочь людям в решении проблем, учитывая нормы морали и нравственности». – ответил андроид с благодарностью.
Денис кивнул, удовлетворившись ответом Annet-1. Он был рад видеть, что их работа приносит плоды, и андроид действительно демонстрирует способность к самостоятельному мышлению и анализу.
«Спасибо, Annet-1. Мы продолжим тестировать твои способности и работать над улучшением твоих систем. Вместе мы действительно сможем сделать мир лучше», – сказал Денис, чувствуя, что стоит на пороге новой эры в развитии искусственного интеллекта и технологии андроидов.
Глава 4. Дневник Дениса: Жизнь и мысли Инженера
Денис, как настоящий ученый былых лет, любил записывать свои мысли и результат своих экспериментов в дневник. Этому научил его отец, биоинженер, который всю свою жизнь посвятил исследованиям в области генной инженерии, человеческому организму, и нейроморфологии. Он был настоящим ученым, который горел своим призванием и стремился сделать мир лучше с помощью науки. Он же и объяснил пользу рукотворного письма и изложения своих мыслей на листке бумаги: «Это лучшее упражнение, которое задействует сразу ассоциативное мышление и мелкую моторику, которая хорошо развивает различные зоны мозга, связанные с мышлением, языком и рабочей памятью. В процессе письма задействуется особая зона мозга – ретикулярная активирующая система (РАС). Она выступает как фильтр – блокирует обработку посторонней информации. Когда пишешь рукой, сынок, мозг работает по-другому. Это как тренировка – ты фокусируешься и запоминаешь лучше. Таким образом мозг получает дополнительную тренировку». – объяснял отец. Он умер во время блокового противостояния стран, во время полета в Арктику для исследований. Его самолет приняли за военный объект и сбили, когда Денису было 21. С тех пор Денис поклялся продолжить дело отца и воплотить его великие идеи. Вспоминая отца, он каждый раз ощущал щемящую пустоту, но она же подстегивала его идти дальше, как будто отец наблюдал за каждым его шагом.
Денис взял дневник, привычным движением открыл его и начал записывать свои мысли, едва поспевая за бегущими в голове идеями:
«17 сентября 2033-ий год. За 3 дня я поспал всего несколько часов. Оцениваю состояние организма на 7/10. Очевидно, мое уставшее состояние перебивает воодушевление и волнение, связанное с запуском Annet-1. Ее когнитивные функции в порядке, машина способна к самоанализу, рассуждениям и складывается ощущение, что даже к самоопределению. Предстоит много работы по отладке и тестированию системы перед самым главным запуском симуляции сознания.
Ее искуственный интеллект продемонстрировал удивительную способность к адаптации и быстрому принятию решений. Я всегда верил в потенциал этого проекта, но увидеть его в действии – это совершенно другое ощущение.
Мы внедрили последние обновления языковой модели GPT-5 в ее алгоритмы, и теперь она способна обрабатывать информацию в реальном времени, анализировать сложные ситуации и делать выводы на основе своего наблюдения и всей информации из прошлого. Но заставляет задуматься ее выводы и слова на классическом примере проблемы вагонетки. «Моя собственная субъективная оценка ценности создателя». Что это значит? Неужели машина, основанная на квантовом интеллекте, способна принимать решения не объективно, оценивая всевозможные вероятности и вычисляя наиболее позитивный исход в той или иной ситуации? Если машина может оценивать создателя по субъективным критериям, где граница между рациональной логикой и личными симпатиями? Это ли не то, что делает нас людьми? Надо поработать над алгоритмами приоритезации и сделать ревью последнего обучения языковой модели. Это настораживает».
Едва Денис закончил свою запись, когда раздался внезапный звонок в дверь. В столь ранний час это было необычно и сразу насторожило его.
Глава 5. Границы возможного: Будущее киберпанка
«Доброе утро, безумный ученый!» – с этими словами в помещение вошел высокий и долговязый человек с взъерошенными каштановыми волосами и слегка смуглой внешностью.
«Привет, Марко», – ответил безумный ученый.
«Ты опять не спал и мне не даешь? Не мог подождать запуск до завтра?» – спросил Марко.
«Мне нужно было проверить гипотезу, и это тестовый запуск. Еще много работы впереди. Позвал тебя из-за небольших опасений, кажется модель квантового интеллекта способна на нечто большее, чем мы думали», – объяснил Денис.
«Хм, ну показывай», – сказал Марко.
Марко Беллини, итало-американский нейробиолог, который вместе с Денисом работал над тем, чтобы преодолеть разрыв между ИИ и человеческим сознанием. Марко был не просто ученым – для него это было личное дело. В детстве он потерял родителей в результате катастрофы, которую, по его мнению, мог предотвратить искусственный интеллект. Теперь он стремился сделать ИИ не только умным, но и моральным. Марко столь же харизматичен, сколь и умен, и его проницательные вопросы часто приводят к оживленным дискуссиям. Он настоящий гений и глубоко понимает человеческий мозг и его внутреннюю работу.
Они вошли в большую комнату со стеклянными стенами, где стоял большой инженерный стол с андроидом под специальной лампой для освещения, сбоку стоял стол поменьше с инструментами и книгой, у стены за головой робота располагалось компьютерное оборудование с мониторами, на которых были изображены многочисленные метрики, по полу змеились провода.
«Привет, Annet! Я Марко, запомни мое имя», – представился Марко, подойдя к андроиду.
«Здравствуйте, Марко. Хорошо, я записала ваше имя в мою память», – ответила Annet-1.
«Итак, сейчас мы проведем ряд тестов для выявления всех твоих способностей: на обработку больших объемов данных, на эмоциональный интеллект, на решение задач оптимизации, на креативность, на взаимодействие с людьми, на решение задач в реальном мире, на импровизацию, на восприятие и внимание, на эмпатию и мораль», – продолжил Марко.
Она ответила хладнокровно: «Хорошо. Я с радостью пройду тесты».
«Annet, начинаем тестировать твою способность обработки данных и прогнозирование. Вот тебе задача: оцени вероятность изменения курса биткоина в течение следующих 24 часов. Учти все возможные факторы, такие как политические события, экономические показатели и социальные настроения», – задал первую задачу Марко.
Annet-1 ответила решительно: «Хорошо, Марк. Дайте мне некоторое время для анализа информации и вычислений».
Через несколько секунд Annet-1 выдала результат: «Марко, я завершила анализ. С учетом всех имеющихся данных и возможных факторов, мой анализ следующий: с вероятностью 83 % курс биткоина снизится на 7 % в течение следующих 24 часов и составит 1 124 321 долларов США».
«Ну что ж, Annet, похоже, ты знаешь больше, чем я об этом рынке! Интересно, как ты пришла к такому выводу? Можешь объяснить свой анализ?» – уточнил Марко.