Елена Ларина – Искусственный интеллект. Этика и право (страница 5)

Кроме того, этот вопрос заставляет по-новому подойти к определению того объема данных по судебным процессам, которые не просто становятся доступными публике, но и хранятся. Представляется, что необходимо разделить два вопроса: публикацию судебных решений и предоставление компьютеризированных данных о судебной практике.

Целью открытых данных является обеспечение автоматической обработки прецедентного права в рамках недорогой операционной лицензии, приобретение которой доступно каждому. Соответственно, ЕС занимает крайне осторожную позицию относительно рекомендаций по расширению объема публикуемых данных судебной практики. Более того, эксперты ЕС ставят вопрос о необходимости еще раз рассмотреть вопрос о целесообразности указания фамилии и имени судей, принявших то или иное решение. С одной стороны, к такому порядку, действующему уже почти столетие, европейцы привыкли. С другой стороны надо ограничить возможность предиктивного анализа деятельности судей, поскольку, как показывает практика, в конечном счете, предиктивный анализ является способом управления поведением судей. Что же до управления поведением судей, то это – уголовное преступление во всех государствах ЕС.

Щекотливость ситуации состоит в том, что в настоящее время обязательность упоминаний имен и фамилий судей в судебных решениях является обязанностью государств-членов ЕС в соответствии с принципами публичного разбирательства, изложенными в статье 6 Европейской Конвенции о правах человека в части порядка обеспечения объективной беспристрастности судей.

Какие практические меры могут быть осуществлены для защиты судей в мире ИИ? Ответ на этот вопрос зависит от специфических особенностей судебной системы каждого конкретного государства. Например, в Швейцарии, где все судьи избираются непосредственно населением, публикация судебных решений является обязательным условием их ответственности судей перед гражданами-избирателями. Эта информация в обязательном порядке доступна в Швейцарии в кантональных и общефедеративной онлайн судебной базе данных.

В то же время существуют и ограничительные правила. Например, Европейский суд по правам человека на своем портале позволяет осуществлять поиск решений по именам и фамилиям судей, однако не допускает подсчет статистики, относящейся к конкретному судье. Можно узнать разовые решения, но нет возможности получить по каждому судье выборку всех решений, которые он вынес. С другой стороны в странах, где судьи не выбираются гражданами, а назначаются государством, бывают случаи политического давления на судей и вынесение несправедливых решений. Соответственно, в таких случаях ограничения информационного доступа общественности к судебной информации еще более усилят авторитарные течения и ослабят независимость судов.

Следует констатировать, что на сегодняшний день не только отсутствуют проверенные практикой рекомендации по решению данного вопроса, но и не проводилось, по крайней мере, в Европе, сколько-нибудь обширного сравнительного анализа способов защиты независимости судей в мире ИИ и больших данных.

§ 4. Характеристики ИИ применительно к судебным решениям

Обработка естественного языка и машинное обучение – две базовых технологии, лежащих в основе использования ИИ в судопроизводстве. В большинстве случаев системы ИИ в юриспруденции нацелены на то, чтобы выявить корреляции между различными параметрами, содержащимися во вводных и в итоговом решении. В качестве вводных параметров используются, например, содержащиеся в заявлениях о разводе сведения о доходах супругов, существовании супружеской измены, детях и т. п. Использование таких моделей позволяет развернуть прогнозную аналитику для предвидения будущего судебного решения – типа программ предиктивной судебной аналитики, наиболее востребованных юридическими фирмами.

В качестве введения следует кратко рассмотреть функции, которые выполняют прогностическое программное обеспечение. Это обеспечение исчисляет вероятности успеха или, напротив, неудачи дела в суде. Эти вероятности устанавливаются посредством статистического моделирования предыдущих решений с использованием двух широких областей информатики: обработки естественного языка и машинного обучения. В большинстве случаев использование именно этих двух областей в настоящее время и называется ИИ. Хотя по факту, это – не вполне ИИ, а продвинутый интеллектуальный софт, его, тем не менее, можно назвать «слабым» ИИ.

Поскольку термин «искусственный интеллект» сегодня используется не только в IT отрасли, то это породило множество двусмысленностей. Термин «искусственный интеллект» вошел в наш повседневный язык для описания программных комплексов, позволяющих компьютерам побеждать чемпионов-людей в игре Го, шахматы, водить машины, вести с людьми диалоги, в которых собеседнику трудно распознать, кто перед ним: человек или машина.

В самой IT отрасли предпочитают определять ИИ через используемые технологии. В этом понимании слабый ИИ – это программные комплексы, использующие машинное обучение, нейронные сети, многомерный статистический анализ для распознавания образов, программы, обеспечивающие общение с компьютером на естественном языке и софт, позволяющий интегрировать в единую систему обработки информации потоки числовых, текстовых, аудио, видео и сигнальных данных. Сегодня ИИ – это не научное определение и даже не определение какой-то функции, а скорее зонтичный термин для совокупности практически применяемых технологий.

Сами специалисты различают слабый и сильный ИИ. Слабый ИИ – это некий набор сложных компьютерных программ. Что же касается сильного ИИ, который пока не создан, это – самообучающиеся машины, способные автоматически постигать мир в целом, и самостоятельно не только развивать софт, но и при необходимости достраивать свой хард.

Относительно ИИ в сфере правосудия. Системы юридической предиктивной аналитики направлены на определение всеми участниками судебного процесса наиболее вероятного исхода рассмотрения дела при имеющихся вводных. Теоретически такие системы не только облегчают жизнь участникам судебного процесса, но и могут помочь судьям и/или присяжным в принятии решений.

Предиктивный юридический софт на основе первичных данных, используя специфические критерии, определяет вероятность успеха (неуспеха) спора и возможные его имущественные итоги.

С самого начала необходимо разделить предсказания и прогнозы. Предсказания – это суждения о будущем событии на основании любых факторов – от интуиции до предчувствия. Что же касается прогнозирования, то это всегда – результат обработки исходных данных с использованием модели, разработанной на основе прошлых. Прогноз – это всегда счет. Это – область математики и статистики. Успешность прогнозирования де факто зависит от трех обстоятельств:

• во-первых, от качества исходных данных по судебным процессам. Чем данных больше и чем они точнее и полнее, тем больше шансов получить значимые результаты;

• во-вторых, от используемой прогностической модели. В подавляющем большинстве случаев для построения прогностической модели используются нейронные сети, либо многомерные статистические программы. На основе анализа прошлых данных эти программы выясняют наиболее важные параметры, определяющие судебные решения, или так называемые веса критериев. С помощью этих весов нейронные сети делают прогноз;

• в-третьих, успех прогноза зависит от типичности судебного решения. Прогноз – это не предвидение. Он всегда базируется на прошлом, на данных об уже состоявшихся судебных процессах. Чем более настоящее похоже на прошлое, чем текущий процесс больше напоминает уже закончившиеся, тем больше шансов на качественный прогноз. Грубо говоря, в устойчивом мире прогнозирование более эффективно, чем в турбулентном, неустойчивом.

Надо понимать, что, несмотря на использование термина «интеллект» вычислительные машины немногим отличаются от арифмометра. Компьютер всегда считает и никогда не понимает. Соответственно, в основу предиктивной аналитики заложена гипотеза о возможности перевести все факторы и обстоятельства в числовой вид. Важно иметь в виду, что это – иллюзия. Обсчитывается только часть факторов. Самые важные факторы – эмоции, мотивы и побуждения – обсчитываются крайне плохо, либо вообще не обсчитываются. Люди, зачастую, принимают решения, которые сами в последующем искренне объяснить не могут. Тем более их невозможно рассчитать.

Согласно беседам, проведенным экспертами ЕС с производителями предиктивных судебных систем, выяснилось любопытное обстоятельство. Самым неотработанным блоком этой системы являются предиктивные возможности относительно решений судов присяжных за пределами учета тривиальных факторов пола, расы, имущественного дохода и т. п. Чем больше судебный процесс регулируется законом и чем меньше он носит прецедентный характер, тем больше шансов на успех предиктивного юридического софта. В этом смысле иронией выглядит факт, что примерно 85 % предиктивного юридического софта производят американские и британские фирмы, т. е. фирмы стран, где используется прецедентное законодательство.

Никакого сильного ИИ не только в настоящее время, но и в обозримом будущем не появится. Эволюция ИИ в течение последних примерно 10 лет идет не в сторону интеграции различных систем ИИ, а, напротив, в направлении создания все более специализированных слабых ИИ, позволяющих использовать конкретные программные решения для строго определенных классов задач.