Нейросети в судах: концепция и риски

Через год во всех российских судах должны внедрить системы искусственного интеллекта (ИИ). Новая концепция закрепляет презумпцию достоверности решений, созданных нейросетями. Эксперты предупреждают: состязательный процесс может превратиться в «войну роботов», а юридическая профессия — в судебный инжиниринг.

О необходимости ускоренного внедрения ИИ-технологий в судебную деятельность Игорь Краснов впервые заявил почти год назад — сразу после назначения на пост председателя Верховного суда России. Уже тогда он отметил: «нейронные сети никогда не заменят судью, потому что решение, особенно касающееся людских судеб, всегда должно оставаться за человеком».

6 сентября Игорь Краснов подписал Концепцию внедрения технологий искусственного интеллекта в судопроизводство РФ. Её цель — «повышение потенциала судебной системы и эффективности работы судов на основе лучших мировых практик с учетом отечественной специфики и при безусловном сохранении ключевой роли судьи в принятии решений». По мнению авторов, реализация программы упростит доступ к правосудию, повысит его прозрачность, снизит нагрузку на судей за счёт автоматизации рутины и уменьшит число ошибок, связанных с человеческим фактором.

Сначала ИИ передадут вспомогательные технические функции: автоматическую регистрацию входящей корреспонденции, проверку комплектности, подсудности, расчёт госпошлины, выявление видимых процессуальных нарушений. Уже на этом этапе ИИ-сервис должен предварительно оценивать необходимость возврата иска и риски его отклонения по типовым делам. Нейросети также обеспечат «умное» распределение дел между судьями, расшифровку аудиопротоколов и синхронный перевод в реальном времени.

Главный принцип концепции: «ИИ является инструментом помощи судье, а не его заменой — окончательное решение всегда остается за человеком». Участникам споров гарантируется право знать о применении ИИ и оспаривать его выводы.

Одновременно на искусственный интеллект возложат анализ исков, иных процессуальных документов сторон и доказательств. В том числе выявление основных доводов и правовых оснований, составление краткого резюме иска, жалобы, возражений, подготовку справки для судьи перед заседанием и пересказ позиции каждой стороны. Сервис будет анализировать практику и готовить проект решения.

К 1 июля 2027 года доступ к ИИ-сервисам должны получить все суды. Ожидается, что к 2030 году 95% судей будут постоянно использовать нейросети. Предполагается, что до половины проектов решений будет генерировать искусственный интеллект, причём не менее половины судьи должны принимать без существенных правок. По оценке разработчиков, реализация концепции сократит сроки рассмотрения типовых дел на 20–30%, а долю отменённых из-за ошибок решений — на 15–20%.

При этом риски «галлюцинаций» (выводы на основе несуществующих норм и вымышленные цитаты) признаются очень высокими. Поэтому судьям предписано самостоятельно, вручную верифицировать проекты решений.

Риск «снижения независимости и инициативности судьи» разработчики концепции оценивают как средний. Хотя все механизмы, наоборот, стимулируют судей принимать предложенное системой решение «по умолчанию». В частности, судьи должны будут мотивировать отклонение ИИ-рекомендаций.

Эксперты критически оценивают такой подход. Советник Федеральной палаты адвокатов Елена Авакян, возглавляющая рабочую группу Альянса в сфере искусственного интеллекта по этике в сфере ИИ в правосудии, считает, что показатель «утверждено без правок» измеряет не качество правосудия, а степень согласия судьи с машиной.

«Несогласие становится процессуально дорогим, требующим письменного оправдания. То есть автоматизационная предвзятость — уже не гипотеза, а измеренный эффект. Таким образом, концепция правильно отвечает на вопрос „как встроить ИИ в суд“, но пока не отвечает на вопрос „как сохранить судью субъектом“», — полагает Елена Авакян.

Генеральный директор юридической компании «Орион» Дмитрий Пушкарский придерживается схожего мнения: «Спорить с машиной для судьи будет дороже, чем согласиться. Добавьте десятки дел в день — и по „простым“ спорам утверждение станет почти автоматическим. С другой стороны, если ИИ возьмет на себя черновую работу, то хотя бы по бесспорным делам решения будут появляться без задержек».

Критически настроен и председатель коллегии адвокатов «Лапинский и партнеры» Владислав Лапинский: «Уже сейчас молодежь использует ИИ для написания судебных документов. Большинство проектов решений готовят помощники судей — та самая молодежь. Такая тенденция как привычка сохранится и в последующем. Потом эти помощники придут на смену нынешним судьям. Это ненормально: оценивать обстоятельства и доказательства должны как раз люди, а не бездушные роботы! Поэтому, если не будет жесткого контроля и, соответственно, санкций к судьям-нарушителям, риск подмены мнения ИИшными судебными актами станет объективной реальностью», — убеждён Владислав Лапинский.

С другой стороны, сегодня менее 30% гражданских, административных и арбитражных дел рассматривается очно — в судебных заседаниях. Подавляющее большинство — в приказном или упрощённом порядке, когда судьи читают бумаги в кабинете, чаще всего — только от истца (при вынесении приказа).

В 2025 году петербургские суды рассмотрели 861,5 тысячи гражданских, административных и арбитражных дел. 82% — в приказном или упрощённом порядке.

Участников споров также планируется обязать декларировать использование ИИ при подаче документов. Для пресечения «галлюцинаций» или намеренного искажения данных судебная нейросеть будет проводить автоматическую проверку ссылок, а при выявлении нарушений судьи вправе применять процессуальные санкции (штрафы).

Эксперты не исключают появления новой «науки» — судебного инжиниринга. Когда иски, возражения, жалобы и иные процессуальные документы будут готовиться не для восприятия судьёй (человеком), а для обработки нейросетью. То есть, по сути, состязаться будут роботы.

Елена Авакян убеждена, что «наука» воздействия на ИИ суда появится быстрее, чем регулятор успеет отреагировать.

«Но это не наука, а состязательная инженерия, разновидность промт-инъекции в процессуальной форме. Главное противоядие — равный доступ всех участников споров (судей, науки, адвокатуры, прокуратуры) к процессу отбора эталонов и машинного обучения судебного ИИ», — отмечает адвокат.

Руководитель проекта LawGPT Илья Семухин также полагает, что утверждённая концепция сама создаёт условия для появления судебного инжиниринга.

«Технологически задача решаемая: ИИ может собирать его поблочно и каждый блок проверять на соответствие аргументам сторон, выводам судьи и решениям высших инстанций. Подобный алгоритм подготовки документов реализован и в нашем сервисе. Но трудность не в модели, а в материале. Потребуется кропотливая работа по подготовке технических блоков с привязкой каждого к норме и категории спора. Это ручная работа юристов, а не вопрос вычислительных мощностей», — поясняет Илья Семухин.

По мнению технического директора ИИ-ассистента для юристов «Стриж» Григория Старых, методы работы с ИИ и воздействия на него развиваются не медленнее самих систем. «Первым иск прочитает не судья, а система: она разберет документ и соберет из него доводы. Значит юристов будут учить писать под такого читателя — как выстроить структуру и подобрать формулировки из позиций высших инстанций, чтобы ИИ-ассистент ничего не упустил и передал позицию в нужном свете», — полагает эксперт.

Частнопрактикующий юрист Владимир Попов указывает на риски бездумной автоматизации юридической деятельности.

«Раньше немало клиентов оказывалось под воздействием примитивных судебных ток-шоу. Приходили с установкой: „Мы посмотрели ‚Час суда‘ и знаем, как должно рассматриваться наше дело“. Переубеждение отнимало очень много времени и сил. Теперь многие приходят с готовым иском, написанным бесплатной нейросетью. И утверждения профессиональных юристов о грубых ошибках нередко воспринимают в штыки. Завтра они будут рассматриваться тоже нейросетью, уже суда. Исправление ошибок, созданных некомпетентным использованием в целом нужных инструментов, потребует еще больше времени и сил», — резюмирует юрист.

Также непонятно, что считать ИИ-документом. «На мой взгляд, важно оценивать не инструмент, а содержание. Документ подписывается человеком, который должен проверить каждую ссылку. И за ошибки ответственность тоже будет нести человек. Декларирование „сделано ИИ“ не спасет», — уверен Дмитрий Пушкарский.

Он напоминает, что уже сейчас суды применяют штрафы к участникам процессов, включающих в иски и другие документы вымышленные ссылки на нормы права или практику. Такие действия квалифицируются как «неуважение к суду». Чистосердечное раскаяние в использовании ИИ не смягчает ответственность.

Кроме того, ещё в мае этого года Пленум Верховного суда России обязал участников споров предупреждать суд в случае представления «сведений о фактах, полученных с использованием технологий искусственного интеллекта». Практика применения этой нормы пока не сложилась.

Авторы Концепции также признают высокими риски кибератак, утечки персональных данных и сведений ограниченного доступа. Для их предупреждения судам предписано применять преимущественно отечественные IT-решения, размещённые в защищённом закрытом контуре судебной системы.

На форуме БРИКС в Нью-Дели Игорь Краснов заявил, что «российские суды уже начали в пилотном режиме использовать четыре большие языковые модели». Но конкретные названия не упоминаются. В рамках пилотного проекта, который реализуется в некоторых регионах (включая Петербург), для расшифровки аудиопротоколов судебных заседаний применяется отечественная платформа Unica AI от ООО «Хоппер ИТ».

Российский рынок ИИ-решений для юристов активно развивается. Некоторые сервисы готовы работать только за «гонорар успеха»: процент от успешно завершённых дел. Правда, положительный результат создатели этих систем честно не гарантируют, равно как и компенсацию причинённых ошибками убытков.

«Концепция — достаточно зрелый документ, лучший из отечественных ведомственных актов об ИИ. Вот только принципы написаны языком человека, а цели — языком производительности», — резюмирует Елена Авакян.