Правосудие будущего: как искусственный интеллект меняет суды

На грани перемен: эксперименты с ИИ в российских судах

«На этот вопрос нет универсального ответа, поскольку развитие подходов к машинам в правовой системе будет варьироваться в зависимости от используемых типов ИИ. Некоторые возможные подходы включают использование ИИ для автоматизации рассмотрения и оценки дел, для проведения оперативных юридических исследований и предоставления рекомендаций о дальнейших действиях. ИИ может значительно улучшить отправление правосудия, автоматизировав многие рутинные задачи. Один из способов использования ИИ в правовой системе – обработка или анализ судебных дел. Это может помочь судьям принимать более обоснованные решения или лучше понимать закон. Это также могло бы помочь юристам лучше аргументировать свои дела».

Степень проникновения ИИ в правовую систему государств напрямую зависит от уровня цифровизации судов. Он у всех стран разный. Лидером в этом направлении является Китай, который с середины 2010-х развивает электронное правосудие и уже много лет проводит онлайн-заседания. Если шесть лет назад интеллектуальная система «Умный суд» была лишь базой данных, то сегодня она используется для принятия решений. Более того, Верховный суд Китая обязал судей консультироваться с ИИ по каждому делу. В случае отклонения рекомендаций системы, судья обязан письменно объяснить свое решение. Ежедневно ИИ анализирует 100 тыс. дел, чтобы выявить халатность или коррупцию. По данным СМИ, «Умный суд» сократил среднюю нагрузку судьи на треть и только за три года сэкономил обществу 300 млрд юаней (3,6 трлн рублей).

Американские судебные органы также используют Correctional Offender Management Profiling for Alternative Sanctions (COMPAS). Это похожая система, которая анализирует данные о преступниках, такие как история правонарушений, поведение, социальные и демографические факторы, чтобы предсказать вероятность повторного преступление или нарушения условий освобождения. COMPAS вызывала немало споров. Критики утверждали, что система проявляла расовую предвзятость, так как чернокожие граждане чаще получали негативную оценку. Однако многие исследователи опровергали подобные выводы.

«Важность развития сферы ИИ сегодня — неоспоримый факт, подтверждённый как спросом рынка, так и Национальной стратегией развития до 2030 года. И, как и для любой новой технологии, важно не подавить развитие ИИ в самом начале, заковывая ее в запретительные меры. ИТ и бизнес-сообщества, осознавая серьёзность влияния ИИ на нашу жизнь, самостоятельно разрабатывают принципы для участников отношений в сфере искусственного интеллекта, такие как Кодекс этики, действующие стандарты по направлению ИИ и пр. Поэтому саморегулирование сферы ИИ, на наш взгляд, самый оптимальный путь на текущем этапе».

Многие дела нельзя рассматривать, исходя только из сухих цифр — необходимо учесть сопутствующие факторы. Игорь Соловьев, руководитель департамента информационных систем и сервисов Фонда «Сколково», подчеркивает важность мотивов и эмоций совершившего правонарушение: что им двигало, почему он это сделал, как сам относится к своему поступку, высок ли шанс, что он повторит нечто подобное. Искусственный интеллект способен считывать эмоции, однако до человека ему еще очень далеко.

Подобные разработки (анализ документов с помощью ИИ) уже существуют и активно используются в России — правда, пока не в судах. Например, резидент Фонда «Сколково», компания «Биорг», с результатом в 99+% распознает даже сложные документы и объекты, в том числе чертежи и написанные от руки тексты на разных языках. Каждый месяц через сервис обрабатывается свыше 2 млн документов.

Опыт внедрения ИИ в суды по всему миру

Представьте суд, где в кресле судьи сидит не человек в мантии, а робот. Он лишен эмоций, предрассудков, не устает и не ошибается. Этот робот-судья — плод высоких технологий и искусственного интеллекта (ИИ), результат тысячелетней эволюции права. На что способен такой судья?

Первой состоялась сессия «Контроль ИИ. Возможные модели и способы регулирования ИИ», где эксперты обсудили, как в мире уже решают эти вопросы, на чей опыт стоит обратить внимание и как сейчас обстоят дела в России с ИИ на законодательном уровне. Ведь д остигнуть лидерства удастся тем странам, которые смогут в том числе на законодательном уровне найти оптимальный баланс между поддержкой ИИ и его ограничением.

Сегодня уже достаточно прецедентов, когда использование ИИ приводило к негативным последствиям в судебном процессе. В 2023 году в США юристы представили в суд краткое изложение дела, сформированное с помощью ChatGPT. Документ содержал выдержки и цитаты, которых в деле не было. Когда это вскрылось, суд отклонил заявление, а юристов оштрафовал. В похожую ситуацию попал и бывший адвокат экс-президента США Дональда Трампа. Юрист, будучи сам участником судебного процесса, включил в материалы дела цитаты, сгенерированные чат-ботом Google Bard. Его адвокат не перепроверил их и подал документы в суд, который и обнаружил несуществующие факты.

По словам председателя Верховного суда РФ Ирины Подносовой, российская судебная система будет искать точки роста в применении цифровых технологий и использовании ИИ. Она ожидает, что это ускорит рассмотрение дел и снизит бюрократию. Подносова анонсировала, что Верховный суд представит свои предложения по применению ИИ «во благо» правосудия.

«Задача поиска баланса между регулированием искусственного интеллекта и развитием инноваций актуальна для всех стран. Для России важно разработать такой подход, который обеспечит высокие позиции в уровне технологического развития в мире и при этом будет гарантировать безопасность экономики и общества от потенциальных опасностей, связанных с бесконтрольным использованием технологий. Мы понимаем, что ИИ всегда будет развиваться быстрее, чем за ним будут успевать регуляторы, поэтому нормативно-правовая база должна обладать высокой гибкостью и адаптивностью. Кроме того, исходя из всеобъемлющего влияния технологии на различные сферы жизни общества, для регулирования правовых и этических вопросов необходимо тесное межведомственное взаимодействие, сотрудничество государственных, общественных, правовых и технологических субъектов как на национальном, так и международном уровне».

Известно, что машинное зрение гораздо лучше человека справляется с обработкой многостраничных документов, проверкой расчетов, поиском ошибок, анализом материалов. В некоторых делах такого «формально-логического» подхода может быть достаточно — например, при наложении штрафов за превышение скорости.

Тонкая грань: риски и этические вызовы ИИ в судебных процессах

Также спикерами сессии стали: Андрей Незнамов, управляющий директор Центра регулирования ИИ ПАО Сбербанк, Георгий Пчелинцев, партнер практики Nextons в области интеллектуальной собственности, ИТ и телекоммуникаций, Александр Савельев, к.ю.н., доцент факультета права НИУ ВШЭ, и Владимир Маслов, директор Департамента цифровых технологий ТПП РФ.

С 2020-го обсуждается и разрабатывается суперсервис «Правосудие онлайн». Эта система призвана обеспечить дистанционное участие в судебных заседаниях и упростить доступ граждан к правосудию через интернет. Именно в рамках суперсервиса планируется более активное внедрение ИИ. Технологии будут использоваться для автоматизированного составления проектов судебных актов на основе анализа текста процессуального обращения и материалов дела. Председатель Совета судей РФ Виктор Момотов отметил, что «Правосудие онлайн» станет электронным помощником судьи и будет помогать систематизировать и анализировать информацию, предлагать правовую базу для оформления решения. Ожидается, что суперсервис заработает в полном объеме до конца 2024 года.

Использование искусственного интеллекта в важных областях, таких как судопроизводство и медицина, требует особого подхода. Хотя ИИ может предложить рекомендации, окончательное решение должно приниматься человеком, особенно в контексте судебной практики. Гармоничное сочетание технологий ИИ с человеческим рассмотрением контекста и этических аспектов является ключом успешного применения искусственного интеллекта».

Разработка умного суда в Китае идет с 2014 года. Верховный народный суд КНР составил дорожную карту, согласно которой к 2025-му применение искусственного интеллекта в судебной системе расширится. Главные цели — ускорить рассмотрение дел, повысить доверие к судам, сделать процессы более удобными, устранить потенциальные возможности коррупции и злоупотреблений.

Левон Григорян, заместитель генерального директора по развитию бизнеса и управлению инновациями компании «Тотал Вижен» считает, что «мнение» искусственного интеллекта об эмоциях подсудимого не может влиять на судебные решения. Это в первую очередь решения о судьбе человека, и основываться они должны на статьях закона и презумпции невиновности.

В России применение роботов в судах пока только начинается. В 2021 году в Белгородской области умные решения привлекли к делам по взысканию налоговых задолженностей, а именно для подготовки документов и проверке реквизитов. Скорее всего, такой подход и будет основным для искусственного интеллекта в судах — в России и других странах. Любой судебный процесс сопровождается большим количеством рутинных операций, с которыми ИИ может быстро справиться.

22 мая на площадке Конференции «ЦИПР-2024» Ассоциация РУССОФТ при поддержке Московского отделения Ассоциация юристов России провел сразу две сессии на тематику искусственного интеллекта, который проникает в наши жизни все больше. Не замечать ускоренные темпы развития цифровых технологий, в том числе при использовании ИИ, невозможно, а отрицать их повсеместное влияние на нас – недальновидно. Поэтому необходимо трезво оценивать перспективы ИИ и в кооперации с государством решать вопросы его регулирования, чтобы технологии не вышли из-под контроля.

Исследование показывает, что 86% людей обеспокоены потенциальными ошибками и негативными последствиями использования ИИ. В правосудии это может привести к несправедливым приговорам, нарушению прав человека и даже ошибочному лишению жизни. Например, в Англии только из-за ошибки в электронной системе делопроизводства в официальной форме документа привела к неправильному расчету алиментов в более 3 тыс. делах за 19 месяцев.