Виктор Момотов: Искусственный интеллект в суде не будет нейтрален к человеку

Совет судей опубликовал стенограмму выступления своего председателя Виктора Момотова на пленарном заседании конференции участников Глобальной сети обеспечения честности и неподкупности судебных органов (Global Judicial Integrity Network)*, которая проходит в столице Катара Дохе под эгидой Управления ООН по наркотикам и преступности. Тема доклада — «Перспективы использования искусственного интеллекта в судебной системе Российской Федерации». L.R решил без существенных купюр опубликовать данное выступление в части перспектив полной автоматизации процесса отправления правосудия.

Опасный миф

Развитие информационных систем, помогающих человеку принимать решения, началось с появления в 1950-х годах экспертных систем, описывающих алгоритм действий по выбору решения в зависимости от конкретных условий. На смену экспертным системам пришло машинное обучение, благодаря которому информационные системы самостоятельно формируют правила и находят решение на основе анализа зависимостей, используя исходные наборы данных (без предварительного составления человеком перечня возможных решений), что позволяет говорить о появлении искусственного интеллекта.

Технологические решения, разработанные с использованием методов машинного обучения, являются примером искусственного интеллекта, способного решать только узкоспециализированные задачи (слабый искусственный интеллект). Создание универсального (сильного) искусственного интеллекта, способного, подобно человеку, решать различные задачи, мыслить, взаимодействовать и адаптироваться к изменяющимся условиям, является сложной научно-технической проблемой, решение которой находится на пересечении различных сфер научного знания — естественно-научной, технической и социально-гуманитарной. Решение этой проблемы может привести не только к позитивным изменениям в ключевых сферах жизнедеятельности, но и к негативным последствиям, вызванным социальными и технологическими изменениями, которые сопутствуют развитию технологий искусственного интеллекта.

В последние годы в экспертной среде все чаще обсуждается вопрос о том, можно ли, используя искусственный интеллект, автоматизировать весь процесс отправления правосудия, в том числе заменить судью системой универсального (сильного) искусственного интеллекта, способного анализировать фактические обстоятельства дела, давать им правовую оценку и выносить соответствующее решение. В Китае, США, Великобритании, Франции и некоторых других странах подобные компьютерные программы уже начинают использоваться, однако в настоящий момент они служат вспомогательным инструментом для анализа документов и не заменяют собой судью.

В декабре 2018 года появился первый международный акт, специально посвященный использованию искусственного интеллекта в правосудии, – это Европейская этическая хартия о применении искусственного интеллекта в судебных системах, утвержденная Европейской комиссией по эффективности правосудия Совета Европы.

В хартии сформулировано пять принципов применения искусственного интеллекта:

— принцип соблюдения прав человека, в силу которого применение компьютерной программы не должно умалять состязательность процесса и право на справедливое судебное разбирательство;

— принцип запрета дискриминации;

— принцип качества и безопасности, который предполагает использование сертифицированного программного обеспечения, оценка которого проводится как техническими специалистами, так и юристами;

— принцип прозрачности, в силу которого все применяемые технологии должны быть доведены до всеобщего сведения в понятной форме.

Особый интерес представляет пятый принцип — «принцип пользовательского контроля», согласно которому судья должен иметь возможность не согласиться с решением, предложенным искусственным интеллектом, и принять собственное решение по делу, а участнику спора должна быть предоставлена возможность прямого обращения к суду без применения искусственного интеллекта и право оспорить принятое с помощью искусственного интеллекта решение.

Принцип «пользовательского контроля» показывает, что авторы хартии понимают невозможность полной замены судьи искусственным интеллектом. И с этим следует согласиться.

То, что искусственный интеллект будет нейтрален по отношению к человеку, — это миф. Он был развеян еще в Новое время, когда стало понятно, что у техники есть своя автономия и независимость от человека. Человек стал заложником созданной им техники, он не может освободиться от ее обратного воздействия на себя. Очевидно, что в искусственном интеллекте, создаваемом человеком, заключены не только безграничные возможности, но и безграничные опасности.

Система искусственного интеллекта спонтанно совершенствуется, влияя на человека и подчиняя его себе; она может вырасти в опасный для человека мир, что отчасти и происходит сегодня, и становится неотвратимой угрозой.

У искусственного интеллекта свои законы и свой язык, отсутствие глубокого понимания которых у человека делает решения нейросетей непредсказуемыми.

Процессуальное законодательство требует от судьи при оценке доказательств руководствоваться своим внутренним убеждением, которое является гораздо более сложной категорией, чем программные алгоритмы. В зависимости от конкретных обстоятельств одни и те же доказательства могут быть в одном деле отвергнуты, а в другом деле, наоборот, приняты за основу.

Представляется, что система искусственного интеллекта никогда не сможет проникнуть в глубину человеческой психики, искусственный интеллект может оценивать обстоятельства дела только с точки зрения формальной логики, и именно поэтому он никогда до конца не сможет понять фабулу дела, так как во многих делах, например, семейных, и особенно уголовных, очень много иррационального, а не формально-логического.

Кроме того, суд при вынесении решения руководствуется целым рядом оценочных и ценностных критериев, закрепленных в законе: например, принципами справедливости и гуманизма при назначении наказания, требованиями разумности и добросовестности в гражданском праве. Понимание таких общих категорий формируется у человека в процессе социализации, воспитания, становления личности — все это невозможно воспроизвести в программном алгоритме.

В условиях динамично обновляющегося законодательства, вызванного, в том числе, научно-техническим прогрессом, нередки случаи, когда при отсутствии конкретного правового регулирования суды применяют аналогию закона и аналогию права, под которой понимается разрешение спора исходя из общих начал и смысла законодательства. Смысл законодательства, то есть его дух, может быть выявлен только человеком с высоким уровнем правовой культуры, а никак не компьютером.

С особенной ясностью невозможность замены судьи искусственным интеллектом проявляется в кассационном судопроизводстве. Основанием для отмены судебного постановления в кассационном порядке выступает не любое формальное нарушение, а только существенное нарушение правовых норм, которое повлияло на исход дела и без устранения которого невозможны восстановление и защита нарушенных прав, свобод и законных интересов. Эти критерии вытекают из принципа правовой определенности, в силу которого отмена судебного решения по формальным основаниям недопустима.

Дать оценку тому, соответствует ли допущенное нарушение критерию существенности и способно ли оно повлиять на исход дела, может только профессиональный судья. В свою очередь, компьютерный алгоритм будет фиксировать любое нарушение и приходить к выводу об отмене судебного акта даже в том случае, если формальная отмена приведет к такому же исходу дела.

Поэтому говорить о замене судьи искусственным интеллектом как минимум преждевременно, а скорее всего, невозможно. Вместе с тем не исключается применение искусственного интеллекта при рассмотрении уже упоминавшихся бесспорных требований, прежде всего в приказном производстве, поскольку такая работа не связана с анализом правоотношений сторон и в большей степени носит технический характер. В некоторых регионах такие системы уже внедряются.

Российский суперсервис

На текущий момент в Российской Федерации имеются правовые, технические и технологические предпосылки активного применения искусственного интеллекта, способного решать узкоспециализированные задачи (слабый искусственный интеллект).

В целях развития цифровизации судебной системы Российской Федерации, в том числе на основе технологий слабого искусственного интеллекта, разрабатывается суперсервис «Правосудие онлайн», представляющий собой основу цифрового правосудия.

Составляющими «правосудия онлайн» являются дистанционное обращение в суд в электронном виде, дистанционное получение информации о начавшемся судебном процессе (судебные извещения), дистанционный доступ к материалам электронных дел, получение судебных актов или их копий в электронном виде, дистанционное участие в судебных заседаниях и др.

Суть «правосудия онлайн» заключается в предоставлении возможности гражданину не приходя в суд (дистанционно) подавать в электронном виде исковые заявления или жалобы, получать информацию о назначении судебного заседания, участвовать в судебном заседании с использованием технологии веб-конференции из офисных или жилых помещений, а также получать электронные копии судебных документов, подписанные электронной подписью суда.

При этом гражданину не придется покупать дорогостоящее оборудование или программное обеспечение. Достаточно иметь персональный компьютер или смартфон и доступ к интернету.

Возможность участия в судебном заседании с использованием технологии веб-конференции из офисных или жилых помещений будет обеспечена внедрением в судебную деятельность технологии биометрической аутентификации участника судебного процесса по лицу и голосу.

Суперсервис «Правосудие онлайн» предполагает также автоматизированное составление проектов судебных актов с использованием технологий искусственного интеллекта на основе анализа текста процессуального обращения и материалов судебного дела.

Представляется, что в судебной системе внедрение искусственного интеллекта может обеспечить:

а) повышение качества и эффективности судебной деятельности за счет:

— использования систем поддержки принятия решений судом, например, системы назначения наказания в уголовном судопроизводстве;

— использования систем обработки естественного языка — распознавание общего смысла текста с возможностью выделять ключевые тезисы из текста;

— использования систем распознавания речи и видеоизображения в целях разметки аудио- и видеопротоколов судебных заседаний;

— автоматизированной подготовки проектов судебных актов;

б) повышение эффективности судебной защиты прав и законных интересов граждан, организаций, органов государственной власти (за счет использования интеллектуальных помощников участников судебных процессов, расширения дистанционного участия в судебных заседаниях за счет использования технологий биометрической идентификации граждан);

в) снижение конфликтности, повышение правосознания за счет внедрения экспертных систем прогнозирования результата рассмотрения судебного дела;

г) создание систем прогнозирования изменения судебной нагрузки в зависимости от изменения законодательства.

Если на первых порах информационные технологии использовались в судах фрагментарно, главным образом для уменьшения объема рутинных операций и учета судебных дел, то в настоящий момент происходят коренные изменения, информационные технологии используются непосредственно для осуществления процессуальных действий судом и участниками процесса, а информационные системы становятся средой осуществления процессуальных действий.

*Глобальная сеть обеспечения честности и неподкупности судебных органов (Global Judicial Integrity Network) была создана в апреле 2018 года под эгидой Управления ООН по наркотикам и преступности. Сеть объединяет судей высших судебных инстанций из более чем 100 стран и представляет собой платформу, позволяющую обмениваться передовой практикой с целью предотвращения коррупции в судебной системе.