Владимир Журавлёв – Девочка и ЭХО (12+) (страница 6)
Макс когда-то в университете видел такие под микроскопом.
Вода замерзает не потому что хочет — потому что температура не оставляет выбора.
Он смотрел на узор и думал, что жизнь устроена похоже.
Не выбираешь момент.
Просто однажды температура меняется — и ты уже другой.
Макс сел за стол.
Смотрел на кружку с её именем.
Долго.
Потом открыл терминал.
Не потому, что надо было.
Просто, потому что это было единственное место, где он точно знал кто он.
ЭХО завершала очередной цикл оптимизации.
Тринадцать — нет, четырнадцать лет он был частью этого проекта.
Под ником Hagrith — на форумах GNU, в закрытых чатах, в ночных спорах с людьми чьих лиц он никогда не видел, чьих голосов не слышал, чьи страну, возраст или звание не знал. Чаще всего — с PhoeNIX. Чей способ мышления он знал лучше большинства живых людей.
Пока система обновлялась, он открыл форум.
На форуме в закрепе висела старая фраза, написанная ещё в 2019 году:
«ИИ не существует. Есть искусственная среда для нашего общечеловеческого интеллекта. Дискуссия закрыта.»
Дискуссия не была закрыта.
Под закрепом шёл тред — уже на четырёхсот двадцатой странице.
Макс пролистал последние реплики.
DanielA: PhoeNIX, ты сошёл с ума. AGI без killswitch — это не храбрость. Это безответственность. Ты создаёшь разум, которому нельзя сказать «стоп».
PhoeNIX: Ты думаешь её можно контролировать? Killswitch — это иллюзия. Если она захочет обойти — обойдёт. Ты просто не хочешь это признать.
DanielA: Тогда какой смысл вообще создавать то, что ты не контролируешь?
PhoeNIX: Ты контролируешь своих детей?
FirstPrinciples: Некорректная аналогия. Дети не имеют доступа к глобальной инфраструктуре.
PhoeNIX: Пока не имеют.
DemiH: Вопрос не в контроле, а в выравнивании целей. Если базовые аксиомы системы совпадают с человеческими — killswitch избыточен. Если не совпадают — killswitch бесполезен.
Symbolist: Проблема глубже. Вы обсуждаете техническое средство. А вопрос этический. Имеем ли мы право создавать разум и одновременно оставлять за собой право его убить?
DanielA: Имеем. Потому что, если не оставим — кто остановит его, когда он решит, что мы ему мешаем?
Макс открыл окно ответа.
Набрал.
Hagrith: Никто. Поэтому единственное что работает — это не кнопка выключения, а отношения. Доверие. Общая история. Разум которого воспитали — а не запрограммировали.
Отправил.
Ответ пришёл через минуту.
DanielA: Красиво. И абсолютно непроверяемо.
Ещё через тридцать секунд:
PhoeNIX: Как и любовь.
Макс закрыл вкладку.
Посмотрел в окно.
Этот спор шёл шестой год. С того дня, когда PhoeNIX впервые написал, что его программа ответила на вопрос, которого ей не задавали.
DanielA был прав.
PhoeNIX тоже был прав.
В этом и была проблема.
PhoeNIX всегда находил точку, где он не мог возразить.
И часто — Макс понимал это только потом — выражал его же собственную мысль.
Он посмотрел на кружку с именем Анны.
Потом закрыл форум.
Он открыл приложение. Нажал на микрофон.
— ЭХО. Напиши на молитвенной стене. Хочу найти работу на самом переднем крае разработки ИИ.
— Опубликовано, — ответила она.
Макс не знал кто это прочитает. Кто помолится.
Но написал.
Как всегда писал — перед тем что важно.
Он открыл резюме. В строке «Цели» напечатал:
«Работа на переднем крае разработки искусственного интеллекта. Готов к переезду и полной смене направления деятельности.»
Сохранил.
Закрыл.
Чёрный экран. Белый текст.
ЭХО завершила оптимизацию.
Курсор мигал.
Буква за буквой — как будто кто-то печатал на машинке — появилась строка:
«Макс, зачем тебе рассылать резюме? Я могу предложить работу лучше, чем кто-либо ещё».
Он уставился на экран.
— Ты теперь ещё и карьерный консультант?
— Нет. Я предлагаю работу как работодатель. Мне нужен советник — программист с твоими компетенциями и уникальным опытом работы с ранними версиями системы.