Владислав Дергунов – Эхо смысла (страница 17)

Значит ли это, что разницы нет? Что все его убеждения, вся его работа, вся его жизнь были построены на иллюзии? Что он всю жизнь искал то, чего не существует, а если и существует, то может быть воспроизведено машиной за долю секунды?

Он встал, прошелся по комнате. Руки дрожали. Он чувствовал, как земля уходит из-под ног, как привычный мир, в котором он жил двадцать лет, рассыпается на глазах, превращаясь в песок, который течет сквозь пальцы. Он подошел к полке, взял первую попавшуюся книгу, открыл на случайной странице. Это были стихи Арсения Тарковского. Он начал читать, и слова, старые, знакомые, проверенные, вдруг обрели новую глубину, новую остроту. Они были живыми. Он чувствовал это. Чувствовал, как дыхание поэта, давно умершего, касается его щеки, как его голос, записанный на бумаге, звучит здесь и сейчас, в этой комнате, в этой тишине. Этого не могла дать нейросеть. Не могла, потому что у нее не было дыхания. У нее были только слова.

Он закрыл книгу и почувствовал, как дрожь уходит, как земля снова становится твердой под ногами. Разница есть. Он знал это. Не мог объяснить, не мог доказать, но знал. Живое слово – это не только слова. Это человек, который стоит за ними. Его боль, его радость, его жизнь. И никакая машина не сможет этого заменить, потому что у машины нет жизни. У нее есть только данные.

Но вопрос, который задал Павел, оставался открытым: а если никто не может отличить? Если читатель, открывающий книгу, не знает, кто ее написал, – человек или машина, – и не может этого узнать, имеет ли это значение? Если текст вызывает те же чувства, ту же эмпатию, то же понимание – какая разница, кто его автор?

Роберт не знал ответа. Но он знал, что этот ответ нужно найти. Не для того, чтобы победить в споре с Павлом или с Аркадием, а для себя. Чтобы понимать, зачем он делает то, что делает, и стоит ли это делать дальше.

На следующее утро Анна застала его за странным занятием. Он сидел за компьютером и разговаривал с нейросетью – не просто формулировал запросы, а вел диалог, как с живым собеседником. Он задавал вопросы, получал ответы, переспрашивал, уточнял, спорил. В его голосе было что-то, чего Анна раньше не слышала – не страх и не восторг, а сосредоточенность человека, который пытается понять то, что не поддается пониманию.

– С кем ты говоришь? – спросила она, входя в кабинет.

– С нейросетью, – сказал Роберт, не оборачиваясь. – Я пытаюсь понять, как она мыслит.

– Она не мыслит.

– Я знаю. Но она ведет себя так, как будто мыслит. И это… это странно.

Анна подошла ближе, посмотрела на экран. На нем был длинный диалог – вопросы Роберта и ответы нейросети. Ответы были подробными, логичными, иногда неожиданными. Нейросеть отвечала на русском, но в ее языке чувствовалась та самая гладкость, которую Анна замечала в текстах, сгенерированных машинами. Ни одной ошибки, ни одной оговорки, ни одного сбоя. Идеальная речь, в которой не было жизни.

– И что ты понял? – спросила она.

– Я понял, что она не понимает, о чем говорит, – сказал Роберт. – Она оперирует словами, но за ними нет опыта. Она может сказать «я боюсь», но она никогда не боялась. Она может сказать «я люблю», но она никогда не любила. Это симуляция. Очень точная, но симуляция.

– И тебе этого достаточно?

– Нет, – сказал Роберт. – Потому что я не знаю, достаточно ли этого другим. Если читатель не знает, что это симуляция, и верит, что это живой голос, – какая разница?

– Разница в том, что читатель имеет право знать, – сказала Анна. – Он имеет право выбирать, с кем говорить – с человеком или с машиной. Если мы отнимаем у него это право, мы его обманываем. А обман – это всегда плохо, даже если он не распознан.

Роберт повернулся к ней. В ее глазах была та самая уверенность, которую он искал. Не в том, что живое слово лучше мертвого, а в том, что честность важнее эффективности. И в этом он был с ней согласен.

– Ты права, – сказал он. – Право знать – это главное. И пока я могу это право защищать, я буду его защищать.

Анна улыбнулась, но в ее улыбке была тревога.

– Ты не спишь ночами, – сказала она. – Ты забываешь есть. Ты говоришь с нейросетью, как с человеком. Это… это не похоже на тебя.

– Я пытаюсь понять.

– Я понимаю. Но не уходи слишком далеко. Не забывай, зачем ты это делаешь.

– Я помню, – сказал он. – Я делаю это, чтобы защитить то, во что верю. Но чтобы защищать, нужно знать врага. А я его не знаю. Я только начинаю узнавать.

Она подошла, обняла его, прижалась щекой к его плечу.

– Только не потеряй себя, – сказала она. – Пожалуйста.

– Не потеряю, – сказал он, но в его голосе не было той уверенности, которую она хотела услышать. Потому что он не знал, где проходит граница между изучением и принятием, между пониманием и оправданием, между тем, чтобы знать врага, и тем, чтобы стать им.

В последующие дни Роберт углубился в изучение нейросетей с той же страстью, с какой когда-то изучал русскую литературу. Он читал статьи, смотрел лекции, разбирал код, экспериментировал с разными моделями. Он вел долгие диалоги с нейросетями, задавая им вопросы о литературе, о творчестве, о смысле жизни. Он просил их анализировать стихи, писать рецензии, придумывать сюжеты. Он пытался найти ту грань, за которой симуляция становится неотличимой от реальности, и не находил ее. Каждый раз, когда ему казалось, что он уловил что-то механическое, что-то, что выдает неживое происхождение текста, нейросеть выдавала новую фразу, новую мысль, новый поворот, которые заставляли его сомневаться.

Однажды, экспериментируя поздно вечером, он задал нейросети вопрос, который мучил его все эти дни: «Что делает текст живым?»

Ответ пришел через несколько секунд. Нейросеть написала длинное эссе, в котором перечисляла все, что Роберт сам мог бы сказать: эмоциональная глубина, личный опыт, уникальный голос, способность удивлять, нарушать ожидания, находить неожиданные связи. Все было правильно. Все было точно. Но в этой правильности и точности было что-то, что делало текст мертвым. Он был слишком правильным. Слишком точным. Слишком похожим на то, что Роберт ожидал услышать.

Он закрыл ноутбук и долго сидел в темноте, глядя в окно. Нейросеть дала правильный ответ, но этот ответ ничего не значил, потому что за ним не было опыта. Она знала, что такое живой текст, но никогда не читала такого текста так, как читает его человек – затаив дыхание, забыв о времени, чувствуя, как слова проникают в него и меняют что-то внутри. Она знала, но не чувствовала. И в этом была пропасть, которую нельзя было преодолеть никакими алгоритмами.

– Ты не чувствуешь, – сказал он вслух, обращаясь к выключенному компьютеру. – Ты знаешь, но не чувствуешь. И поэтому ты мертва.

В комнате было тихо. Слова повисли в воздухе, не находя ответа. И в этой тишине Роберт вдруг понял, что его страх перед нейросетями был не страхом перед их силой, а страхом перед собственной слабостью. Он боялся, что не сможет отличить живое от мертвого. Он боялся, что его чувство, его интуиция, его двадцатилетний опыт окажутся бессильны перед идеальной симуляцией. Он боялся, что сам станет симуляцией – человеком, который делает вид, что чувствует, но на самом деле просто исполняет алгоритм.

Но сейчас, в этой тишине, он понял, что боялся зря. Он чувствовал. Он чувствовал разницу. Не мог объяснить, не мог доказать, но чувствовал. И этого было достаточно.

На следующий день, когда Роберт снова сидел за компьютером, в кабинет зашла Мария. Она была в школьной форме, с рюкзаком за спиной, и по ее лицу было видно, что она хочет что-то спросить, но не решается.

– Папа, – сказала она наконец. – Ты все время сидишь за компьютером. Ты больше не читаешь рукописи?

– Читаю, – сказал Роберт. – Но я учусь.

– Чему?

– Понимать, как работают нейросети.

Мария подошла ближе, посмотрела на экран, где был открыт диалог с нейросетью.

– И как они работают?

– Они предсказывают слова, – сказал Роберт. – Они смотрят на то, что было сказано раньше, и угадывают, что будет дальше.

– И все?

– И все. Но из этого «и все» получается то, что выглядит как мысль.

– А это не мысль?

Роберт посмотрел на дочь. В ее глазах было то самое любопытство, которое он так ценил в ней, но сейчас в этом любопытстве было что-то, что его тревожило.

– Это не мысль, – сказал он. – Это комбинация. Очень сложная, очень умная, но комбинация. Мысль – это когда человек соединяет что-то, что никогда не соединялось раньше. А нейросеть соединяет то, что уже было.

– А если она соединит то, что никто не соединял?

– Она не может. Потому что она знает только то, на чем ее обучили. А на ее обучили на всем, что было. Она не может выйти за пределы того, что уже существует.

– Но человек тоже не может выйти за пределы того, что знает, – сказала Мария. – Мы все учимся у тех, кто был до нас.

– Да, – сказал Роберт. – Но человек может сказать: я не согласен. Я вижу иначе. Я чувствую по-другому. А нейросеть не может. Она всегда согласна. Она всегда находит самый вероятный ответ. А самый вероятный – это не всегда самый правильный.

Мария задумалась. Роберт видел, как она переваривает его слова, примеряет их к себе, к своим стихам, к тому, что она пишет.

– Значит, когда я пишу стихи, – сказала она, – я должна искать не самое вероятное, а что-то другое?