Искусственный интеллект в мировом правосудии
Исследование возможностей и угроз использования ИИ
Представляем сайт, посвящённый анализу возможностей и угроз использования искусственного интеллекта в судебной системе. Здесь вы найдёте информацию о перспективах внедрения ИИ в правосудие, потенциальных рисках и способах их минимизации.
Преимущества создания сайта по проекту Правосудие будущего
Привлечение внимания к важной теме, повышение осведомлённости и предоставление информации о применении ИИ в судебной системе.
-
Широкая аудиторияСайт обеспечит доступ к информации для широкой аудитории, интересующейся судебной системой и ИИ. -
Повышение осведомлённостиПоможет повысить осведомлённость о возможностях и угрозах использования ИИ в судебной системе. -
Информативный ресурсПредоставит подробную информацию о применении ИИ в судебной системе, включая исследования и примеры. -
Обсуждение и взаимодействиеСоздаст платформу для обсуждения и взаимодействия между специалистами и заинтересованными сторонами. -
Поддержка исследованийБудет способствовать дополнительным исследованиям и анализу в области использования ИИ в судебной системе. -
Долгосрочное влияниеВнесёт вклад в формирование общественного мнения и поддержку принятия обоснованных решений в области судебной системы.
Китай
Китай является безусловным мировым лидером по масштабам внедрения ИИ в правосудие в рамках государственной стратегии «Умные суды». Центральным элементом выступает система «Фаган», которая выполняет ассистивную функцию с элементами контроля: она сверяет проекты приговоров, подготовленные судьёй, со статистикой по тысячам аналогичных дел и сигнализирует о значительных отклонениях. Это создаёт нормативное давление на судью, стимулируя следовать сложившейся практике. Кроме того, в Китае созданы специализированные интернет-суды в Ханчжоу, Пекине и Гуанчжоу, которые полностью в онлайн-режиме рассматривают споры, возникающие в электронной коммерции и по защите авторских прав в сети. Также активно внедряются системы распознавания лиц и анализа мимики участников процесса для идентификации и, как заявляется, выявления признаков неискренности, хотя эффективность таких методов вызывает вопросы.
Соединенные Штаты Америки
В Соединённых Штатах Америки развитие ИИ в правосудии идёт преимущественно по пути создания предиктивных инструментов, часто разрабатываемых частными компаниями. Наибольшую известность получила система COMPAS, используемая для оценки риска рецидива у подсудимых. На основе анкетных данных она выдаёт оценку риска (низкий, средний, высокий), которая влияет на решения судей о мере пресечения или возможности досрочного освобождения. Однако в 2016 году разразился скандал: расследование ProPublica выявило расовую предвзятость алгоритма, который систематически завышал риск для афроамериканцев по сравнению с белыми при аналогичных характеристиках. Последовавшее судебное дело Loomis v. Wisconsin признало использование системы законным, но обязало суды предупреждать стороны об ограничениях алгоритма. Другие известные системы — Lex Machina, прогнозирующая исходы корпоративных споров и поведение конкретных судей, RAVN для автоматизированного анализа огромных массивов документов (eDiscovery), а также Premonition, оценивающая успешность адвокатов у конкретных судей..
Европейский Союз
Европейские страны подходят к внедрению ИИ значительно осторожнее, ставя во главу угла защиту фундаментальных прав человека и сохранение человеческого контроля. Эстония реализует экспериментальный проект «робота-судьи» для рассмотрения мелких имущественных споров с суммой иска до 7000 евро. Стороны загружают документы, и система выносит решение, которое, однако, может быть обжаловано человеку-судье. Нидерланды столкнулись с негативным опытом: система SyRI, разработанная для выявления мошенничества с социальными выплатами путём анализа больших данных о жителях «неблагополучных» районов, в 2020 году была признана судом незаконной за нарушение права на частную жизнь. Во Франции действует уникальное законодательное ограничение: запрещена публикация любой статистики, позволяющей анализировать поведение конкретных судей, что защищает их независимость, но одновременно ограничивает разработку предиктивных систем.
Российская Федерация
Россия находится на этапе активной информатизации судебной системы, но полномасштабных систем, самостоятельно принимающих судебные решения, в стране пока не существует. Развитие идёт по пути создания вспомогательных инструментов и накопления данных для будущих аналитических разработок.
Фундаментом служат две государственные информационные системы: ГАС «Правосудие» для судов общей юрисдикции и КАД «Арбитраж» для арбитражных судов. Они обеспечивают публикацию судебных актов, онлайн-подачу исков, видеоконференцсвязь и информирование участников процессов. Эти системы содержат многомиллионные архивы решений, которые потенциально могут стать базой для обучения нейросетей.
На этой основе крупнейшие справочно-правовые системы внедряют элементы ИИ. «КонсультантПлюс» разработал семантический поиск (поиск по смыслу, а не по ключевым словам) и инструменты анализа судебной практики. «Гарант» создал систему «Бизнес-справки» для сбора информации о контрагентах из открытых источников и разрабатывает инструменты прогнозирования исходов споров.
Наиболее заметные корпоративные разработки принадлежат Сбербанку, который на основе огромного массива собственных судебных дел создал систему для прогнозирования вероятности удовлетворения исков, оценки сроков рассмотрения и сумм взыскания. Однако эта система является внутренним инструментом и не доступна для судов или широкой публики.
Существуют отдельные пилотные проекты, например система автоматической расшифровки аудиопротоколов в Московском городском суде. Федеральный закон «Об экспериментальных правовых режимах» (2020) теоретически позволяет создавать «регуляторные песочницы» для тестирования технологий, но на практике такие проекты в судебной сфере пока не реализованы.
Внедрение ИИ сдерживается рядом проблем: низкое качество и разнородность данных, разрозненность информации между судами, консервативность судейского сообщества, отсутствие правового регулирования статуса решений, подготовленных с помощью ИИ, и бюджетные ограничения. Принятый в 2021 году Кодекс этики искусственного интеллекта носит рекомендательный характер и не содержит специальных положений о судебной системе.
Фундаментом служат две государственные информационные системы: ГАС «Правосудие» для судов общей юрисдикции и КАД «Арбитраж» для арбитражных судов. Они обеспечивают публикацию судебных актов, онлайн-подачу исков, видеоконференцсвязь и информирование участников процессов. Эти системы содержат многомиллионные архивы решений, которые потенциально могут стать базой для обучения нейросетей.
На этой основе крупнейшие справочно-правовые системы внедряют элементы ИИ. «КонсультантПлюс» разработал семантический поиск (поиск по смыслу, а не по ключевым словам) и инструменты анализа судебной практики. «Гарант» создал систему «Бизнес-справки» для сбора информации о контрагентах из открытых источников и разрабатывает инструменты прогнозирования исходов споров.
Наиболее заметные корпоративные разработки принадлежат Сбербанку, который на основе огромного массива собственных судебных дел создал систему для прогнозирования вероятности удовлетворения исков, оценки сроков рассмотрения и сумм взыскания. Однако эта система является внутренним инструментом и не доступна для судов или широкой публики.
Существуют отдельные пилотные проекты, например система автоматической расшифровки аудиопротоколов в Московском городском суде. Федеральный закон «Об экспериментальных правовых режимах» (2020) теоретически позволяет создавать «регуляторные песочницы» для тестирования технологий, но на практике такие проекты в судебной сфере пока не реализованы.
Внедрение ИИ сдерживается рядом проблем: низкое качество и разнородность данных, разрозненность информации между судами, консервативность судейского сообщества, отсутствие правового регулирования статуса решений, подготовленных с помощью ИИ, и бюджетные ограничения. Принятый в 2021 году Кодекс этики искусственного интеллекта носит рекомендательный характер и не содержит специальных положений о судебной системе.
"Никомахова этика" Аристотеля.
Центральное место в аристотелевской философии правосудия занимает понятие
эпикейи — справедливости, которая корректирует закон там, где его общая формулировка приводит к несправедливому результату в конкретном случае. Аристотель подробно рассматривает это понятие в пятой книге «Никомаховой этики», посвящённой справедливости.
Суть учения. Аристотель исходит из того, что закон по необходимости говорит общими словами. Законодатель не может предусмотреть всё многообразие жизненных ситуаций — это просто невозможно. Поэтому закон, будучи применён буквально, иногда приводит к результатам, противоречащим самому духу закона и здравому смыслу. В таких случаях судья должен проявить эпикейю — исправить недостаток закона, действуя так, как действовал бы сам законодатель, если бы он мог предвидеть данный конкретный случай.
Пример Аристотеля. Классический пример, который приводит философ: закон может предписывать возвращать взятое на хранение имущество. Но если человек взял на хранение меч, а его владелец, вернувшись, требует меч обратно, будучи в состоянии безумия, — возвращать меч нельзя. Буквальное применение закона привело бы к трагедии. Судья должен отступить от буквы ради сохранения жизни и здравого смысла.
эпикейи — справедливости, которая корректирует закон там, где его общая формулировка приводит к несправедливому результату в конкретном случае. Аристотель подробно рассматривает это понятие в пятой книге «Никомаховой этики», посвящённой справедливости.
Суть учения. Аристотель исходит из того, что закон по необходимости говорит общими словами. Законодатель не может предусмотреть всё многообразие жизненных ситуаций — это просто невозможно. Поэтому закон, будучи применён буквально, иногда приводит к результатам, противоречащим самому духу закона и здравому смыслу. В таких случаях судья должен проявить эпикейю — исправить недостаток закона, действуя так, как действовал бы сам законодатель, если бы он мог предвидеть данный конкретный случай.
Пример Аристотеля. Классический пример, который приводит философ: закон может предписывать возвращать взятое на хранение имущество. Но если человек взял на хранение меч, а его владелец, вернувшись, требует меч обратно, будучи в состоянии безумия, — возвращать меч нельзя. Буквальное применение закона привело бы к трагедии. Судья должен отступить от буквы ради сохранения жизни и здравого смысла.
Философский вопрос
Сможет ли робот заменить человека?
- УтилитаризмС этой точки зрения, если ИИ снизит нагрузку на суды, ускорит рассмотрение дел и сократит расходы, его внедрение оправдано, даже ценой отдельных ошибок. Главное — чтобы общая польза перевешивала издержки.
- ДеонтологияЧеловек всегда должен быть целью, а не средством. Суд над человеком – это акт уважения к его достоинству, требующий, чтобы его судил равный ему – другой человек, способный понять его уникальную ситуацию. Использование машины, которая относится к человеку как к объекту статистической обработки, есть нарушение кантовского категорического императива, даже если это эффективно.
- Этика добродетелиКаким должен быть хороший судья? Ответ: мудрым, справедливым, милосердным, опытным. Это качества, которые формируются годами практики, жизненного опыта, морального развития. Машина не может обладать добродетелями, потому что у неё нет характера, нет биографии, нет морального развития. Следовательно, она не может быть хорошим судьёй в аристотелевском смысле.
Угрозы использования ИИ правосудия
За впечатляющими перспективами, которые открывает внедрение искусственного интеллекта в правосудие, скрывается целый комплекс угроз, способных не просто снизить эффективность судебной системы, но и подорвать сами основы справедливости, как она понималась на протяжении тысячелетий развития человеческой цивилизации.
- Предвзятость алгоритмовИИ обучается на прошлых судебных решениях, которые могут содержать расовые, социальные или гендерные предрассудки. В результате алгоритмы воспроизводят и тиражируют историческую несправедливость, придавая ей видимость математической объективности. Яркий пример — система COMPAS в США, завышавшая риск рецидива для темнокожих подсудимых.
- Проблема "черного ящика"Современные нейросети часто неспособны объяснить, почему они пришли к тому или иному выводу. Для права, где требуется мотивированность решения, это фундаментальное противоречие: невозможно обжаловать приговор, если неизвестно, на каких доводах он основан.
- Проблема юридической ответственностиЕсли автономная система вынесет ошибочный приговор, неясно, кто должен нести ответственность: программист, судья, утвердивший решение, государство или сам ИИ, не являющийся субъектом права.
Правосудие будущего
