Китай использует искусственный интеллект для «улучшения» своей судебной системы, рекомендуя законы, разрабатывая документы и предупреждая о «предполагаемых человеческих ошибках» в решениях.
Судьи теперь должны консультироваться с AI по каждому делу по закону, заявил Верховный суд Пекина в обновленной информации о системе, опубликованной на этой неделе, и если они не согласны с его рекомендацией, они должны представить письменное объяснение причин.
ИИ также был подключен к полицейским базам данных и оруэлловской системе социального кредита Китая (China’s Orwellian social credit system), что дало ему возможность наказывать людей — например, автоматически выставляя имущество вора на продажу в Интернете.
Пекин приветствовал новую технологию за то, что она внесла «значительный вклад в правовое развитие человеческой цивилизации», в то время как критики говорят, что она рискует создать мир, в котором человеком правит машина.
Китай разрабатывает систему «умного суда» по крайней мере с 2016 года, когда главный судья Цян Чжоу призвал использовать технологии для повышения «справедливости, эффективности и авторитета» судебной системы.
Это означало введение роботов-регистраторов в зданиях судов, чтобы предлагать юридическую помощь онлайн, автоматические записывающие устройства с распознаванием голоса в залах судов, которые устранили необходимость расшифровки, и «виртуальные залы судебных заседаний», где дела можно рассматривать онлайн.
Китай даже ввел узкоспециализированный «интернет-суд», который занимается исключительно делами, связанными с виртуальным миром, такими как онлайн-кредиты, споры о доменных именах и вопросы авторского права.
Это привело к созданию огромных баз данных, куда загружается информация обо всех случаях — почти 100 000 в день.
Искусственный интеллект теперь подключен к этим базам данных с целью извлечения уроков из этих случаев, а затем выдачи суждений и рекомендаций для новых законов на основе того, что он находит.
Вместо того, чтобы просто собирать данные, это означает, что ИИ теперь принимает решения от имени судей, которые должны предоставить обоснование, если хотят отменить решение.
Прокурор AI даже начал обвинять людей в Шанхае в преступлениях, которые, по его мнению, они совершили, сообщает South China Morning Post .
А связь ИИ с китайской системой социального кредита означает, что он может наказывать людей, которые отказываются подчиняться судебным решениям — например, блокировать человека, отказывающегося платить штраф при покупке билетов на самолет или поезд.
Чжан Линхан, профессор права Китайского университета политических наук и права, предупредил о быстром росте рисков, связанных с искусственным интеллектом, которые создают мир, в котором людьми правят машины.
«Люди будут постепенно терять свободу воли с ростом зависимости от технологий», — утверждает она в статье, недавно опубликованной в Интернете.
«Мы должны быть готовы к эрозии судебной власти технологическими компаниями и капиталом», — добавила она.
Перевод статьи Daily Mail «China uses AI to ‘improve’ courts — with computers ‘correcting perceived human errors in a verdict’ and JUDGES forced to submit a written explanation to the MACHINE if they disagree»