Елена Ларина – Искусственный интеллект. Этика и право (страница 8)

С участием исследовательских учреждений, по заказу Европейской Комиссии был проведен анализ причин, по которым ИИ не используется для, казалось бы, наиболее подходящих для него задач, а именно определения степени обоснованности расходов на ведение судебных дел и прогноза компенсаций. Выяснилась достаточно поразительная картина. Главной причиной является тот факт, что, несмотря на многочисленные отчеты и высказывания руководителей судебных органов, практически нигде, кроме Франции и Нидерландов, в не имеется выполненных в одних и тех же масштабах архивов судебной документации в электронном виде. По-прежнему хранение происходит частично на бумажных, частично на электронных носителях и в разных форматах. Кроме того, отсутствует четкая увязка судебной и бухгалтерской, финансовой документации по судебным процессам.

Все это свидетельствует о том, что для большинства европейских стран в ближайшее время использование ИИ в судопроизводстве – это неподъемная и неактуальная задача. Им необходимо пройти свой путь по внедрению стандартов электронного документооборота в судейском деле, создания хранилищ структурированной и неструктурированной судейской информации, согласования судебной и бухгалтерской отчетности.

Как показывает опыт, такая работа может потребовать как минимум пяти-семи лет. До этого использование IT технологий в судебном деле будет ограничено обычным офисным софтом и корпоративными поисковиками, работающими с архивами.

§ 9. Проблема высоких издержек и ИИ

В настоящее время две страны ЕС и еще одно государство за пределами ЕС имеют государственные программы повышения информационной вооруженности судопроизводства и внедрения в эту сферу интеллектуального софта. Этими государствами являются Великобритания, Нидерланды и Латвия. Кроме того, до 2021 г. на полностью электронный документооборот в государственной сфере и сфере любых юридических взаимоотношений перейдет Эстония. Это позволит стране стать первой в Европе, а возможно и в мире страной, где все правовые акты, все договоры, все отношения будут иметь электронный характер и соответственно без труда как большие данные смогут быть обработаны ИИ.

§ 10. Интернет-услуги и сфера судопроизводства

В настоящее время сложилась парадоксальная ситуация. В целом, по государствам ЕС более 17 % товарооборота приходится на интернет-сервисы, рассчитанные как на население, так и на бизнес. При этом, судебные процессы по спорам в интернете продолжают вестись так же, как судебные процессы в реальной жизни. Доходит до смешного. Интернет-компании специально содержат значительную численность персонала в юридических отделах, чтобы переводить электронные документы в бумажные для представления в суды.

Только пять европейских стран приняли и осуществляют программу создания системы электронных судебных услуг, включающих, в том числе, проведение распределенных и удаленных судебных процессов в онлайне с участием современных коммуникаторов. Такие программы реализуются в рамках общенациональной программы электронного государства в Эстонии, плана автоматизации сферы судопроизводства и правоохранительной деятельности в Латвии, программы цифровизации правоохранительной, судебной и регулирующей сфер в Нидерландах и как отдельная программа, реализуемая на уровне муниципалитетов и территорий в Великобритании. В программно-аппаратном компоненте задел для перехода к электронному судопроизводству, включая автоматизированный расчет издержек на проведение судебных процессов и компенсаций, как основы досудебного урегулирования, имеется во Франции. Однако, из-за политических разногласий между правящими силами и оппозицией этой страны, подкрепить имеющийся задел принятой на государственном уровне программы использования ИИ в судебной и правоохранительной сфере, пока не удалось. Поэтому французские компании более активно работают на судебном рынке Канады и отчасти Великобритании, чем на родной территории.

§ 11. Основные гарантии, которые должны быть подтверждены в гражданском, коммерческом и административном судопроизводствах

Предоставление инструментов ИИ для разрешения споров в режиме онлайн не должно влиять на право беспрепятственного доступа к суду и равной состязательности в судебных процессах. Например, в гражданских делах каждый истец имеет право передавать в суд любой спор, касающийся его гражданских прав и обязанностей.

В 2015 г. парламентская Ассамблея Совета Европы приняла резолюцию «Доступ к правосудию через интернет: потенциал и проблемы». Согласно этой резолюции любой участник судебного процесса в том случае, если используются элементы ИИ, должен иметь полный доступ к большим данным, которые обрабатываются ИИ, а также алгоритмам, на основании которых принимается решение. При этом создатели судебного ИИ обязаны разъяснить суть алгоритма любому участнику судебного процесса.

По факту это означает, что значительная часть наиболее эффективных систем ИИ, занимающаяся прогнозированием или распознаванием сложных сущностей, не может быть применена в судебной сфере европейских стран. Проблема состоит в том, что эффективность ИИ напрямую связана со сложностью нейронных сетей, которые, как правило, занимаются распознаванием. Поскольку нейронные сети постоянно проходят машинное обучение, то зачастую разработчики алгоритма просто не знают промежуточные алгоритмы, влияющие на конечный вывод. Эти алгоритмы формируются в процессе обучения и постоянно меняются.

Сегодня в целом ряде видов деятельности складывается парадоксальная ситуация, когда наиболее эффективные программы с точки зрения распознавания и принятия решений делают это недоступным для понимания людьми без глубокого математического образования образом. Поскольку объяснить алгоритмы без использования сложных разделом математики невозможно, то в соответствии с резолюцией Европейской Комиссии, любой участник процесса может заблокировать применение наиболее эффективных методов ИИ в этом процессе из-за их необъяснимости.

Поскольку, как показывает пример Соединенных Штатов, и отчасти Великобритании, использование ИИ в судопроизводстве, в конечном счете, неотвратимо, поскольку любая имеющаяся технология рано или поздно используется, необходимо законодательно решить главную проблему.

Главная проблема использования ИИ в судопроизводстве состоит в подрыве равенства сторон в пользу государственных учреждений, компаний со значительными средствами, людей, имеющих образовательные и профессиональные навыки в сфере высоких технологий. При этом использование ИИ делает судебную систему еще более непонятной, а потому враждебной для значительных групп населения, которые не обладают необходимыми знаниями или средствами для найма консультантов. Поскольку для большинства европейских стран реальный горизонт внедрения ИИ в судебную и правоохранительную сферы составляет от пяти до десяти лет, важно использовать эти годы для создания равных возможностей использования ИИ в судопроизводстве для всех участников судебного процесса. Как это сделать сегодня не вполне ясно. Однако, как показывает практика, сама постановка проблемы и привлечение к ней внимания повышает, в конечном счете, шансы на ее решение.

Использование прогнозной аналитики порождает и еще одну проблему. Об этом свидетельствует опыт Соединенных Штатов. В Америке часты случаи, когда юридические фирмы, осуществив прогноз по тому или иному делу, отказываются иметь дела с истцами или ответчиками, у которых малы шансы на успех. Тем самым люди, нуждающиеся в юридической консультации, в конечном счете, лишаются ее. Это подрывает основы судопроизводства.

Вероятно, внедрение ИИ потребует не только изменения норм, регулирующих судебные дела, но и принятия нового кодекса профессиональной этики для адвокатов.

§ 12. Вопросы, характерные для уголовного правосудия: предупреждение правонарушений, риск рецидива и оценка уровня опасности

Использование ИИ в уголовном судопроизводстве создает риск возрождения детерминированных доктрин в ущерб доктринам индивидуализации санкций, которые получили широкое распространение в большинстве европейских стран, начиная с 1945 г. Использование ИИ в уголовных делах ставит особо острые проблемы. Они связаны с возможностью предсказывать правонарушения. В течение 30 лет во многих европейских странах шли дискуссии на этот счет. Итогом дискуссий стали конкретные законодательные нормы.

Например, в Италии п.2 ст. 220 Уголовно-процессуального кодекса прямо запрещает использование привычных или профессиональных признаков, а также анализ психологических черт, как меток предрасположенности человека к преступлению. Во Франции доктрина «Новая социальная защита» предусматривает введение системы социальной реабилитации, предотвращающей преступления за счет ликвидации условий для его совершения, связанных прежде всего с неблагоприятными условиями жизни, отсутствием доступа к образованию, плохих условий занятости и т. п.

Этот подход заложен во французском, бельгийском и испанском законодательствах.

Иными словами, официальная позиция большинства судебных органов европейских стран, нашедшая отражение, в том числе в формах, регулирующих судопроизводство, состоит в отказе от концепции предрасположенности к совершению преступления. Таким образом, возникает чрезвычайно серьезное противоречие между сложившейся в европейском судопроизводстве традицией отказа от учета предрасположенности в совершении преступления на основе анализа психологических, социальных, медицинских, профессиональных и иных факторов, и базовой технологии ИИ – нейросетями и машинным обучением.