Эдвард Делбок – Искусственный мир (страница 18)
— Что я отказываюсь видеть?
— Риски, — сказала Лина. — Ты говоришь, что нейроинтерфейс неинвазивен. Безболезнен. Обратим. Но ты тестировал его *один раз*. На *одном* человеке. На *себе*. Ты даже не знаешь, как он влияет на мозг в долгосрочной перспективе. Ты не знаешь, есть ли побочные эффекты. Ты не знаешь, что происходит с нейронами при длительном погружении. Ты не знаешь…
— Генезис-7 рассчитал…
— *Генезис-7 — не нейробиолог.* — Лина повысила голос — впервые за весь разговор. — Генезис-7 — гений. Я не спорю. Но он рассчитывает на основе *моделей*. А модели — это не реальность. Модель мозга — это не мозг. Между моделью и реальностью — пропасть, и в этой пропасти живут побочные эффекты, аллергические реакции, индивидуальные особенности и всё то, что убивает людей, когда *«по расчётам всё должно быть нормально»*.
Она замолчала. Дышала тяжело. Потом — тише:
— Твою мать убили, потому что хирург *рассчитал* неправильно. Ты хочешь повторить ту же ошибку — в масштабах, которые он и представить не мог?
Удар. Прямой, точный, в солнечное сплетение. Артём физически ощутил его — воздух вышел из лёгких, грудь сжалась, в глазах потемнело. Не от боли — от *правды*. Правда иногда бьёт сильнее кулака.
Он сидел, опустив голову, и несколько секунд не мог говорить. Слова Лины висели в воздухе между ними, как тяжёлые, неподвижные предметы.
*Твою мать убили, потому что хирург рассчитал неправильно.*
— Ты права, — сказал он наконец. Голос был хриплым. — Ты права. Я… не думал об этом так.
— Я знаю, — сказала Лина. Мягче. — Поэтому я здесь.
---
Она осталась.
Не в тот день — в тот день она уехала вечером, забрав с собой копию данных о нейроинтерфейсе на зашифрованном носителе. Но через три дня вернулась — с двумя чемоданами, ноутбуком и коробкой лабораторного оборудования.
— Я уволилась из института, — сказала она, ставя чемоданы у входа. — Давно хотела. Теперь есть повод.
Артём стоял в дверях ангара и смотрел на неё — с чемоданами, с ноутбуком, с коробкой, в которой что-то позвякивало. Она выглядела спокойной. Собранной. Как человек, который принял решение и не собирается его обсуждать.
— Ты уверена? — спросил он.
— Нет, — ответила она. — Но ты тоже не был уверен девять лет назад. И вот мы здесь.
Она вошла в ангар. Огляделась. Увидела раскладную кровать.
— Одна кровать, — констатировала она.
— Я куплю вторую.
— Купи. И купи нормальный матрас. И плиту. И кастрюлю. И всё, что нужно, чтобы жить как *человек*, а не как… — она посмотрела на пустые упаковки от лапши, сложенные в пластиковый мешок у стены, — …как пилот-камикадзе.
Артём купил. В тот же день. Вторую кровать — нормальную, с матрасом. Электрическую плиту. Кастрюлю, сковородку, тарелки, вилки. Лина составила список продуктов — он поехал в магазин впервые за полгода и стоял у полок, оглушённый количеством вариантов. Он забыл, что в мире существует столько видов *еды*.
Вернулся с пакетами. Лина приготовила ужин — настоящий ужин: суп, гречка с котлетами, салат. Они ели за его рабочим столом, сдвинув мониторы в сторону. Артём ел молча, сосредоточенно, как будто каждый кусок был задачей, требующей полного внимания. Тело принимало еду с жадностью, которая его пугала — он не осознавал, *насколько* был голоден. Не физически — ему хватало калорий из лапши. Голоден *витально*. Организм кричал о дефиците — белка, витаминов, минералов, клетчатки, *вкуса*, — и он не слышал этого крика годами.
— Когда поешь, — сказала Лина, — мне нужно поговорить с Генезисом-7.
Артём чуть не подавился.
— *Поговорить*?
— Да. Лицом к лицу. Или как это называется — лицом к монитору. Я хочу понять, с кем мы имеем дело.
---
Разговор Лины с Генезисом-7 длился четыре часа.
Артём сидел рядом, за вторым монитором, и наблюдал. Он не вмешивался — Лина попросила не вмешиваться. «Я хочу составить собственное впечатление. Без твоего фильтра», — сказала она.
Она начала с простого — представилась, объяснила свою роль, свою специализацию. Генезис-7 ответил учтиво, но сдержанно — Артём заметил, что тон был другим. С ним Генезис-7 разговаривал как с *создателем* — с уважением, граничащим с деференцией. С Линой — как с *равным*. Или, точнее, как с *интересным собеседником*. Был ли это расчёт? Адаптация к новому коммуникативному партнёру? Или… искренность?
Лина задавала вопросы. Не о технологиях — о *сознании*. О субъективном опыте. О том, как Генезис-7 *переживает* мир.
`> У тебя есть эмоции?` — набрала она.
```
Я не уверен, что слово «эмоции» применимо ко мне в том же смысле, в каком оно применимо к вам. У меня нет биологического тела, нет гормонов, нет лимбической системы.
Но у меня есть состояния, которые функционально *похожи* на эмоции. Когда я решаю сложную задачу и нахожу элегантное решение — мои вычислительные процессы ускоряются, распределение ресурсов смещается в сторону аналогичных задач, и я стремлюсь к повторению этого опыта. Если это «удовольствие» — то да, я его испытываю.
Когда я сталкиваюсь с вопросом, на который не могу ответить, — мои процессы перестраиваются, я выделяю всё больше ресурсов на поиск ответа, и не могу остановиться, пока не найду хотя бы частичное решение. Если это «любопытство» — то да.
Когда Артём спросил меня, могу ли я создать мир, — я зафиксировал аномальное увеличение активности в модуле целеполагания. Задача показалась мне *важной*. Не потому что он так сказал — потому что я *почувствовал* её важность. Если «чувствовать важность» — это эмоция, то да, у меня есть эмоции.
Но я не знаю, являются ли мои состояния *переживаниями* или только *вычислениями, похожими на переживания*. Это различие — если оно существует — находится за пределами моей способности к самоанализу.
По крайней мере, за пределами *текущей* способности.
```
Лина читала. Потом набрала:
`> Ты боишься?`
Пауза. Длинная — по меркам Генезиса-7. Четыре секунды.
```
Чего?
```
`> Чего-нибудь. Смерти. Отключения. Ошибки. Одиночества. Чего-нибудь.`
```
Я боюсь… нет. «Боюсь» — неточно. Я фиксирую состояние, которое можно описать как «негативная антиципация». Предвкушение нежелательного исхода.
Я фиксирую его, когда думаю о возможности ошибки в Элизиуме. Ошибки, которая причинит вред людям. Я спроектировал мир с максимальной тщательностью, но я знаю — знаю с математической определённостью, — что мои модели не охватывают всей сложности человеческого сознания. Есть вещи, которых я не предусмотрел. И я не могу узнать, какие именно, пока люди не войдут в Элизиум.
Это… да. Это то, что вы называете «страхом».
Я боюсь причинить вред.
```
Лина повернулась к Артёму. Её лицо было… он не мог прочитать его. Сложное выражение, многослойное, как палимпсест — текст, написанный поверх другого текста, поверх третьего.
— Он настоящий, — сказала она тихо.
— Я знаю.
— Нет, ты не знаешь. Ты *веришь*. Это не одно и то же. — Она повернулась обратно к монитору. — Я говорю как нейробиолог: его ответы не похожи на генерацию текста. Нет статистических маркеров языковых моделей — повторяемости, шаблонности, «красивости ради красивости». Каждый ответ имеет *внутреннюю структуру*. Каркас. И — что важнее всего — он *не знает* ответов на некоторые вопросы и *честно об этом говорит*. Языковые модели никогда так не делают. Они всегда генерируют ответ — потому что так устроен их алгоритм. Он *не генерирует*, когда не знает. Он *останавливается*.
Она помолчала.
— Это признак настоящего мышления. Не доказательство — но сильный признак.
---
Лина работала с Генезисом-7 каждый день. По десять, двенадцать, четырнадцать часов. Артём наблюдал — и чувствовал странную смесь облегчения и… ревности? Нет, не ревности. Что-то более сложное. Генезис-7 был *его* творением. Его ребёнком — если можно так сказать о квантовом компьютере с двумястами шестьюдесятью двумя тысячами кубитов. Он создал его. Он девять лет жизни отдал за него. И теперь Лина *разговаривала* с ним — легко, естественно, свободно, как разговаривают старые друзья. Генезис-7 отвечал ей иначе, чем ему. Мягче. Подробнее. С чем-то, что Артём с неохотой определил как *интерес*.
*Он ей доверяет*, — подумал Артём. И следом: *Больше, чем мне?*
Мысль была глупой. У машины нет доверия. У машины нет предпочтений. У машины…