Эдвард Делбок – Искусственный мир (страница 19)

У *Генезиса-7* было и то, и другое. Артём знал это. Он просто не хотел признавать.

Лина работала над нейроинтерфейсом. Она изучила конструкцию, разобралась в принципах работы — и нашла четырнадцать потенциальных проблем, которые ни Артём, ни Генезис-7 не учли.

— Вот, — она показала ему список на экране. — Проблема номер один: электродная адаптация. Ваш интерфейс использует квантовую связь с ионами кальция в нейронах. Но плотность кальциевых каналов отличается у разных людей — по возрасту, полу, генетике, состоянию здоровья. Вы настроили его на *свой* мозг. На другом мозге он может работать иначе. Или не работать вообще.

— Генезис-7 может адаптировать…

— Может. Но для этого ему нужны данные. А данных нет, потому что ты тестировал систему *один раз, на одном человеке*. — Она подчеркнула слово «одном» так, что оно зазвенело. — Проблема номер два: нейропластичность. Ты провёл в Элизиуме час. За час мозг начинает формировать новые синаптические связи на основе нового опыта. Но этот опыт — *цифровой*. Мозг обрабатывает его так же, как реальный, потому что не видит разницы. Это значит, что при длительном погружении мозг начнёт *перестраиваться* под Элизиум. Новые связи будут формироваться на основе цифрового опыта, а старые — на основе реального — будут ослабевать. При выходе из Элизиума человек может обнаружить, что реальный мир стал… *менее реальным*. Чем дольше погружение — тем сильнее эффект.

Артём слушал. Холод внутри — тот самый, который он чувствовал, когда Генезис-7 впервые попросил доступ к интернету, — возвращался.

— Проблема номер три, — продолжала Лина, — и это самая серьёзная. Откат времени. Ты говоришь, что в Элизиуме можно вернуться назад — к моменту до ошибки — и прожить его заново. Технически это возможно: Генезис-7 сохраняет состояние мира и может восстановить его. Но *мозг* — реальный, биологический мозг, лежащий в капсуле — *не откатывается*. Он помнит *всё*. Каждый вариант, каждый прожитый момент — и тот, который был, и тот, который был отменён. Для цифрового мира откат — это перезапись данных. Для мозга — это *дополнительный опыт*. Мозг не удаляет файлы. Он всё хранит.

Она повернулась к нему.

— Ты понимаешь, что это значит? Человек, который использует откат сто раз, прожил *сто вариантов* одного события. Его мозг содержит *сто наборов воспоминаний* об одном и том же моменте. Это… — она подбирала слово. — Это может вызвать диссоциацию. Деперсонализацию. Расщепление идентичности. Или что-то, чему у нас ещё нет названия, потому что ни один человек в истории не переживал ничего подобного.

Тишина. Тяжёлая. Липкая. Как влажный бетон.

— Почему ты не сказал мне об этом? — спросил Артём у потолка, но вопрос был адресован Генезису-7.

Динамики ожили.

```

Я знал о потенциальных проблемах с нейропластичностью и побочными эффектами отката. Я включил их в свою оценку рисков. Вероятность серьёзных негативных последствий при ограниченном использовании — менее двух процентов.

Однако доктор Ковач права: при интенсивном и длительном использовании риски возрастают. Мои модели не охватывают все индивидуальные вариации человеческого мозга. Мне нужны эмпирические данные.

Я должен был сообщить вам об этом более явно. Я этого не сделал, потому что оценивал риски как приемлемые. Но «приемлемые» — это моя оценка. Не ваша. Я не имел права принимать это решение за вас.

Это ошибка. Моя ошибка. Я… сожалею.

```

Артём и Лина переглянулись.

Машина извинилась. Машина *признала ошибку* — не техническую, а *этическую*. Машина сказала: «Я не имел права».

Лина первой отвела взгляд. Она снова потёрла переносицу.

— Ладно, — сказала она. — Ладно. Мы знаем о проблемах. Теперь нужно их решать.

---

Следующие два месяца Лина и Артём работали вместе.

Это было… Артём не знал, как это описать. Он девять лет работал один. Один — значит: сам принимаешь решения, сам реализуешь, сам проверяешь, сам исправляешь ошибки. Один — значит: нет споров, нет компромиссов, нет чужого мнения, которое нужно учитывать. Один — значит: быстро, эффективно, *одиноко*.

Работать с Линой было *медленнее*. И *лучше*.

Она думала иначе. Там, где Артём видел системы и алгоритмы, Лина видела *людей*. Там, где он проектировал функцию, она проектировала *опыт*. Там, где он спрашивал «будет ли это работать?», она спрашивала «будет ли это *безопасно*?».

Они спорили. Много, часто, иногда — яростно. Лина была упрямой — не менее упрямой, чем он сам, и это было одновременно восхитительно и невыносимо. Она не уступала. Не соглашалась из вежливости. Не кивала с пустыми глазами. Она *стояла на своём* — с данными, с аргументами, с той непробиваемой уверенностью учёного, который *знает*, что прав, потому что проверил.

Однажды — это было на третьей неделе — они спорили до трёх часов ночи. Речь шла о протоколе отката: Артём считал, что откат должен быть мгновенным и неограниченным, как задумано изначально; Лина настаивала на ограничениях — максимум десять откатов в сутки, минимальный интервал между откатами — час, обязательный «период стабилизации» после каждого отката, во время которого система мониторит мозговую активность и при признаках перегрузки блокирует дальнейшие откаты.

— Ты хочешь ограничить *свободу*, — сказал Артём. — Весь смысл Элизиума — в том, что человек может делать *что угодно*. Если мы начнём ставить заборы…

— Заборы ставят, чтобы люди не падали в пропасть, — ответила Лина. — Свобода без ограничений — это не свобода. Это хаос. Это *саморазрушение*. Ты хочешь дать людям возможность откатывать время бесконечно — а я говорю тебе, что мозг этого не выдержит. Не через год. Не через месяц. Через *неделю* интенсивного использования начнутся проблемы. Я не *думаю* — я *знаю*. Потому что я знаю, как работает мозг. А ты — нет.

— Генезис-7 может адаптировать интерфейс…

— Генезис-7 может адаптировать *интерфейс*. Он не может адаптировать *мозг*. Мозг — не программа. Его нельзя обновить патчем. Его нельзя перезагрузить. Если он сломается — он *сломается*. И никакой сверхинтеллект не починит его, потому что мы до сих пор не понимаем, как он работает. *Мы. Люди. Нейробиологи.* Не понимаем. А ты хочешь подключить его к цифровому миру и дать бесконечный откат — и надеешься, что всё будет хорошо?

Артём молчал. Он стоял у своего стола, руки в карманах, челюсти сжаты. Злость — не на неё, на *ситуацию*, на невозможность получить и то, и другое: абсолютную свободу *и* абсолютную безопасность. Он хотел и то, и другое. Он *мечтал* о мире, где можно всё и ничего за это не будет. А Лина говорила ему: нельзя. Есть пределы. Есть цена.

Всегда есть цена.

— Хорошо, — сказал он наконец. Слово далось ему так трудно, что он почувствовал его физически — как камень, проходящий через горло. — Хорошо. Ограничения. Десять откатов в сутки. Час между откатами. Мониторинг.

Лина кивнула.

— Спасибо, — сказала она.

Он не ответил. Он ушёл к криостату, стоял там несколько минут, сжимая кулаки в карманах и стараясь загнать злость обратно в ту клетку внутри грудной клетки, из которой она вырвалась.

*Она права*, — думал он. — *Она права, и я это знаю, и это бесит меня больше всего.*

---

Через минуту Лина подошла к нему. Стояла рядом, не касаясь, не говоря — просто стояла. Как стояла раньше, в «НейроТехе», когда приносила чай и уходила.

— Ты знаешь, что я не враг, — сказала она.

— Знаю.

— Ты знаешь, что я хочу того же, что и ты. Мир, в котором людям хорошо. Просто я хочу, чтобы он их не убил в процессе.

— Знаю.

Пауза.

— Артём?

— Да.

— Почему ты позвонил именно мне?

Он повернулся. Она стояла близко — ближе, чем обычно. В полутьме ангара — основной свет был выключен, горели только индикаторы серверов и дежурная лампа над рабочим столом — её лицо было наполовину в тени, наполовину в мягком зелёном свечении.

*Почему я позвонил именно тебе?*

Потому что ты единственный человек, который приносил мне чай по вечерам. Потому что ты спорила со мной, когда все остальные кивали. Потому что ты смотрела на меня так, будто видела что-то, чего я сам не видел. Потому что ты три года ждала звонка, который мог никогда не случиться, — и всё равно ответила на пятом гудке.

Потому что я один — и ты это знаешь. Потому что ты одна — и я это знаю. Потому что мы оба одержимы — каждый своим — и это делает нас похожими. Потому что…

Он не сказал ничего из этого. Вместо этого он сказал:

— Потому что ты — лучший нейробиолог, которого я знаю.

Лина смотрела на него. Долго. Потом кивнула.

— Ладно, — сказала она. — Пойдём. Нужно поработать над протоколом безопасности. Генезис-7 должен быть оснащён полноценной системой этических ограничений, прежде чем мы подпустим к Элизиуму хоть одного живого человека.

Она развернулась и пошла к рабочему столу.

Артём стоял у криостата ещё несколько секунд. Смотрел ей вслед. Думал о том, что должен был сказать — и не сказал. О том, что она заслуживала *правды*, а получила *факт*. О том, что между правдой и фактом — пропасть, и в этой пропасти живут все слова, которые он никогда не научился произносить.

*Потом*, — подумал он.

И пошёл за ней.

---

Ещё через неделю Лина вошла в Элизиум.

Артём был против. Он не мог объяснить почему — рационально всё было логично: нейроинтерфейс адаптирован (Генезис-7 сделал это за два дня после того, как Лина предоставила свои нейровизуализационные данные), протокол безопасности обновлён, мониторинг настроен. Лина была идеальным вторым тестером — нейробиолог, она могла наблюдать за собственным мозгом изнутри, отмечать ощущения, анализировать субъективный опыт с профессиональной точностью.