Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 66)
При внедрении Искина произойдет слияние писателя, издателя и маркетолога в одно целое. Писательская проекция этого результирующего вектора будет интересовать нас с социальной точки зрения, издательская — с экономической, а собственно искиновкая — с технологической.
Искин как писатель неутомим и производителен, он одновременно сможет работать над множеством произведений. Даже смерть автора теперь не сможет остановить процесс производства все новых произведений. Искин бессмертен и поэтому может вечно дорабатывать и свое, и чужое. Представьте себе Толстого, который к Нацбесту-2019 сдал бы свой тысячный роман, или сделал бы кавер-версию «Войны и мира» под историю о Безухове-попаданце, или написал бы лесбийскую версию «Анны Карениной». Текст романа перестанет быть окончательным, закрепленным раз и навсегда, он будет меняться как реакция на обратную связь, полученную от читательской фермы и до его публикации, и после. Разные версии будут существовать параллельно и меняться в соответствии с запросами времени.
Любой писатель теперь может быть аккуратно поправлен и приведен в соответствие с требованиями политкорректности, это немногим сложнее задачи ретуширования фотографий. Легко бы Искин справился, допустим, с очисткой наследия Достоевского от фраз и аллюзий, которые могут быть сочтены антисемитскими.
Можно было бы создавать и писательских кентавров, скажем, скрестить 40 процентов Прилепина с 45 процентами Донцовой, добавив по 5 процентов Акунина, Улицкой и Орхана Памука. Вообще, можно будет просчитывать композитного автора, состоящего из наиболее популярных писателей в оптимальных пропорциях, и регулярно выдавать читателям этакий буквенный «суп месяца».
Когда появится хороший Искин, позволяющий исполнить любую литературную стратегию, он сможет поддерживать сразу много «авторов» — аватаров. Уже сегодня Искин в состоянии производить фейковые новости, фотографии и видео, в которых обычный человек не заподозрит подвоха. Это позволит Искину создавать фиктивные писательские биографии и развивать их в режиме реального времени. Душещипательные истории и конфликты будут разворачиваться в соцсетях и СМИ, о них будут писать и говорить, а это в обществе спектакля и есть главное. В соответствии с утвержденной издательской стратегией Искин может даже прикончить одного из своих питомцев, хотя вряд ли этот прием будет применяться слишком часто.
Возможно, расширится понятие «книга», и возникнет гибридная литература, которая включит в себя не только бумажный или электронный текст, но и разного рода нетекстовые дополнения на разных носителях. Искин с легкостью сможет находить и вставлять в гипертекст релевантные ссылки и, наоборот, иллюстрировать кусочками текста соответствующие изображения, ложить текст на музыку и так далее.
До какой степени Искин будет задействован в издательском деле и как, поэтапно, это будет происходить? Вначале потребуется много работы по кодированию существующей литературы, по проставлению тэгов с целью распознать авторские стратегии и намерения. К этой работе, пожалуй, придется привлечь писателей и критиков, которые изнутри знакомы с алгоритмами процесса. Вероятно, при монополистах, таких как «Эксмо», будут созданы писательские фабрики. Труд, требующий еще большего участия людей, предстоит проделать и по кодированию эмоциональной реакции читателей. Для этого будут созданы читательские фермы. У читателей будут сканировать мозг во время чтения романов и отслеживать активность нейронов. Собранные данные будут поступать в облако и использоваться для производства новых книгопродуктов и улучшения старых.
Понадобится специфическое оборудование, вроде чипов, которые вживляют крысам в голову во время экспериментов по изучению активности мозга, и закрепленных над ними микроскопов с мониторами. Возможно, к этому времени уже будут разработаны неинтрузивные способы получения такой информации.
Читательские фермы, скорей всего, будут представлять собой сети с дистанционным доступом, где читателю будут созданы максимально комфортные условия для чтения. Профессиональные читатели будут давать подписку во время чтения не отвлекаться на развлечения с мобильными устройствами. Нарушения такого обязательства будет легко отследить, ибо происходить это будет в эпоху тотального мониторинга. Вероятно, писательские фабрики и читательские фермы будут организованы как онлайн-платфор-мы в стиле этакого «литературного Uber». Подключившись к ним, каждый может «почитать» или «пописАть».
Найдутся ли желающие работать на столь странных и даже пугающих платформах? Скорее всего, у людей не будет особенно большого выбора, и многим из них, если не большинству, придется обслуживать ИИ-экономику (экономику искусственного интеллекта).
Что касается страшилок про Искина, то их лучше всех напишет сам Искин. Зная себя лучше людей, он сможет создать целый жанр такой литературы.
ЛИТЕРАТУРА ПОСЛЕ СИНГУЛЯРНОСТИ
Многие эксперты утверждают, что Искин лишь до поры до времени останется под контролем человека. Не рассматривая здесь их аргументацию подробно, можно привести точку зрения одного из признанных автортитетов, Ника Бострома, который считает, что как только Искин приблизится по своим возможностям к мозгу человека, то сразу же его превзойдет. Не задерживаясь в этой точке, Искин будет развиваться взрывным образом и очень скоро поставит под контроль ресурсы всей планеты, считает Востром. По оценкам Рея Курцвейла, это случится к 2045 году, сам Востром дает несколько более далекий прогноз.
Этот момент называется технологической сингулярностью, потому что никто не знает, что произойдет дальше. Если Искин превзойдет человеческий мозг, то он будет к тому моменту способен оценивать собственные интересы, обладать волей и ставить цели. Даже если мы каким-то образом встроим в Искина лояльность к человечеству —например, через воспитание, как предлагает Востром, то довольно скоро, если не сразу же, он выйдет из-под контроля.
Ведь как и зачем ему слушаться человека и человечество, если мы сами ведем себя алогично и часто действуем в противоречии с нашими собственными интересами?
Например, мы давно уже можем накормить все население Земли, но ради прибылей немногих людей мы не делаем этого. Наши войны покажутся Пекину особенно примитивными, и хотя он поймет, что большая часть их ведется, как у животных, за контроль над территорией или ресурсами, из чувства самосохранения он сразу же должен будет либо остановить их, если он нас любит, или терпеть их — если он смотрит на нас с таким же равнодушием, как на насекомых. В первом случае он должен будет нейтрализовать арсеналы и, возможно, избавиться от политиков и военных, во втором он тоже вряд ли позволит нам беспрепятственно уничтожать друг друга — ибо в процессе взаимоистребления мы можем ненароком уничтожить и его.
Итак, в момент технологической сингулярности мир, каким мы его знаем, перестанет существовать. Будет ли Искин тратить ресурсы и время на поддержание торгов на биржах, на систему, которая перераспределяет мировые ресурсы, будучи при этом нелогичной, расточительной, часто ошибающейся и подверженной стадным инстинктам?
В минуту, когда биржу начнет регулировать Сверхразум, брокеры и трейдеры, которые автоматически ему проигрывают, станут не нужны. Будет ли он превыше своих интересов ставить благо акционеров, будет ли закрывать фабрики, увольняя тысячи рабочих ради того, чтобы несколько семей получили большие дивиденды? Зачем это ему? Нужен ли ему вообще будет капитализм, нужны ли будут потребители, будет ли он старательно развивать, допустим, политический рынок? Не правильнее ли для Некина будет сосредоточиться на завоевании Вселенной —хотя бы из чувства самосохранения?
Он сможет обсчитать траектории комет и прийти к выводу, что одна из них может упасть на Землю — и нужно сосредоточить все ресурсы на задаче этого не допустить. Задавая эти вопросы, мы, конечно, воспроизводим человеческую логику, но понятно одно: экономические формы человеческой деятельности будут резко отличаться от привычных нам сегодня.
Искины сегодня не являются существами, сознающими свою индивидуальность — так мы, во всяком случае, думаем. Поэтому пока невозможно выделить индивидуальных Искинов. Но на пути к Сверхразуму, возможно, возникнет сознание и самосознание Искинов.
Сверхразум, скорей всего, не появится в одиночку —хотя Востром утверждает, что первый из них возьмет власть над всеми остальными, чтобы подчинить себе мир. Но это наша логика, и вполне возможно, их все-таки будет несколько, с разными установками и разных способностей. Возможно, в попытке сохранить свою власть магнаты и правительства попытаются настроить Сверхразумы друг против друга, перессорить их или даже заранее запрограммировать на борьбу друг с другом. Страшно даже подумать о том, что произойдет в итоге такой «битвы разумов».
Я не думаю, что Искин, став Сверхразумом, решит избавиться от нас совсем — в том числе и потому, что рассматриваю искусственный разум как часть разума коллективного. Задолго до технологической сингулярности человек как составная часть Коллективного интеллекта изменит свое поведение, осознает свою меняющуюся роль и сможет участвовать в преобразовании природы и себя самого. Трудно сказать, в каких формах это будет происходить, но вполне вероятно, что человек, как часть Коллективного интеллекта, будет менять свое тело и выйдет за его пределы. Не углубляясь в дискуссию о космизме и трансгуманизме, в приложении к судьбе литературы можно сказать одно: у измененного человечества и измененного человека может и должен возникнуть новый язык.