Перевод статьи The New York Times
- Человек с историей политического протеста покупает билет на поезд до Пекина. Система может пометить активность как подозрительную и попросить полицию провести расследование.
- Женщина с психическим заболеванием в провинции Фуцзянь покидает свой дом. Камера, установленная у ее дома, записывает ее движения, чтобы полиция могла ее выследить.
- По всему Китаю полиция покупает технологии, которые используют обширные данные наблюдения для прогнозирования преступлений и протестов до того, как они произойдут. Системы и программное обеспечение нацелены на людей, чье поведение или характеристики подозрительны в глазах алгоритма и китайских властей, даже если они не сделали ничего плохого.
«Невидимая клетка»: как Китай охраняет будущее
За более чем 1,4 миллиарда человек, проживающих в Китае, ведется постоянное наблюдение. Они фиксируются полицейскими камерами, которые расположены повсюду: на углах улиц и потолках метро, в вестибюлях гостиниц и многоквартирных домах. Их телефоны отслеживаются, их покупки отслеживаются, а их онлайн-чаты подвергаются цензуре.
Теперь даже их будущее находится под наблюдением.
Технологии последнего поколения просматривают огромное количество данных, собранных об их повседневной деятельности, чтобы найти закономерности и отклонения, и предсказать преступления или протесты до того, как они произойдут. Они нацелены на потенциальных нарушителей спокойствия в глазах китайского правительства — не только на тех, кто имеет криминальное прошлое, но и на уязвимые группы, включая этнические меньшинства, рабочих-мигрантов и людей с психическими заболеваниями в анамнезе.
Они могут предупредить полицию, если жертва мошенничества попытается поехать в Пекин, чтобы обратиться к правительству с просьбой об оплате, или если наркоман слишком много звонит на один и тот же номер. Они могут сигнализировать офицерам каждый раз, когда человек с психическим заболеванием приближается к школе.
Чтобы избежать цифровых растяжек, требуются обширные маневры уклонения. В прошлом Чжан Юцяо, 74-летний мужчина, который большую часть своей взрослой жизни обращался к правительству с петициями, мог просто держаться подальше от основных автомагистралей, уклоняться от властей и отправиться в Пекин, чтобы бороться за компенсацию за пытки его родителей во время Культурной революции. Теперь он выключает свои телефоны, платит наличными и покупает несколько билетов на поезд в ложные пункты назначения.
Несмотря на то, что новые китайские технологии в значительной степени не доказаны, они подробно описаны в документах по закупкам и других документах, рассмотренных The New York Times. Они все больше расширяют границы социального и политического контроля и все глубже интегрируют их в жизнь людей. В своей основе они оправдывают удушающую слежку и нарушают частную жизнь, в то время как в крайних случаях они рискуют автоматизировать системную дискриминацию и политические репрессии.
Для правительства социальная стабильность имеет первостепенное значение, и любая угроза ей должна быть устранена. За десять лет своего пребывания на посту высшего лидера Китая Си Цзиньпин ужесточил и централизовал систему безопасности, развязав техноавторитарную политику для подавления этнических беспорядков в западном регионе Синьцзян и обеспечения соблюдения некоторых из самых строгих в мире ограничений, связанных с коронавирусом. Пространство для инакомыслия, всегда ограниченное, быстро исчезает.
«Большие данные следует использовать в качестве двигателя для инновационного развития работы в области общественной безопасности и новой точки роста для развития боевых возможностей», — сказал г-н Си в 2019 году на рабочем совещании по национальной общественной безопасности.
Алгоритмы, которые вызвали бы споры в других странах, часто превозносятся как триумфальные.
В 2020 году власти на юге Китая отказали женщине в просьбе переехать в Гонконг, чтобы быть с мужем, после того как программное обеспечение предупредило их о подозрительности брака. Об этом сообщила местная полиция. Последующее расследование показало, что эти двое не часто бывали в одном и том же месте в одно и то же время и не проводили вместе праздник Весны. Полиция пришла к выводу, что брак был фиктивным для получения разрешения на миграцию.
В том же году на севере Китая автоматическое оповещение о частом проникновении мужчины в жилой комплекс с разными компаньонами побудило полицию провести расследование. По сообщениям государственных СМИ, они обнаружили, что он был частью финансовой пирамиды.
Подробности этих новых технологий безопасности описаны в полицейских исследованиях, патентах и презентациях подрядчиков по наблюдению, а также в сотнях документов о государственных закупках, проверенных и подтвержденных The Times. Многие документы о закупках были опубликованы ChinaFile , онлайн-журналом, издаваемым Азиатским обществом, которое систематически собирает многолетние записи на правительственных веб-сайтах. Другой набор, описывающий программное обеспечение, купленное властями в портовом городе Тяньцзинь, чтобы не дать петиционерам ездить в соседний Пекин, был предоставлен IPVM , отраслевым изданием по наблюдению.
Министерство общественной безопасности Китая не ответило на запросы о комментариях, отправленные по факсу в его штаб-квартиру в Пекине и шесть местных департаментов по всей стране.
Новый подход к наблюдению частично основан на полицейском программном обеспечении, управляемом данными, из США и Европы, технологии, которая, по словам правозащитных групп, закодировала расизм в решениях, таких как, какие районы наиболее усиленно охраняются и какие заключенные получают условно-досрочное освобождение. Китай доходит до крайности, используя общенациональные хранилища данных, которые позволяют полиции действовать непрозрачно и безнаказанно.
Государство наблюдения Китая растет. Эти документы показывают, как.
Проведенный New York Times анализ более 100 000 правительственных тендерных документов показал, что стремление Китая собирать цифровые и биологические данные о своих гражданах является более масштабным и инвазивным, чем считалось ранее.
Часто люди не знают, что за ними следят. Полиция почти не подвергается проверке извне эффективности технологий или действий, которые они вызывают. Китайские власти не требуют никаких ордеров на сбор личной информации.
На самом переднем крае системы поднимают извечные научно-фантастические загадки: как можно узнать, что будущее было точно предсказано, если полиция вмешается до того, как оно произойдет?
Эксперты говорят, что даже когда программное обеспечение не может определить поведение человека, его можно считать успешным, поскольку само наблюдение сдерживает беспорядки и преступность.
«Это невидимая клетка технологий, навязанных обществу, — сказала Майя Ван, старший научный сотрудник Хьюман Райтс Вотч по Китаю, — непропорционально большую тяжесть от этого ощущают группы людей, которые и без того подвергаются жесткой дискриминации в китайском обществе».
‘Негде спрятаться’
В 2017 году у одного из самых известных предпринимателей Китая было смелое видение будущего: компьютерная система, которая могла бы предсказывать преступления.
Предприниматель Инь Ци, основавший стартап в области искусственного интеллекта Megvii, заявил китайским государственным СМИ, что система наблюдения может дать полиции поисковую систему для выявления преступлений, анализируя огромное количество видеоматериалов, чтобы интуитивно выявлять закономерности и предупреждать власти о подозрительном поведении. Он объяснил, что если камеры зафиксируют человека, проводящего слишком много времени на вокзале, система может пометить возможного карманника.
«Было бы страшно, если бы за камерой действительно наблюдали люди, но за этим стоит система, — сказал г-н Инь. — Это похоже на поисковую систему, которую мы используем каждый день в Интернете — она очень нейтральна. Это должно быть доброжелательным делом».
Он добавил, что при такой слежке «плохим парням негде спрятаться».
Пять лет спустя его видение медленно воплощается в жизнь. Внутренние презентации Megvii, рассмотренные The Times, показывают, как продукты стартапа собирают полные цифровые досье для полиции.
«Создайте многомерную базу данных, в которой будут храниться лица, фотографии, автомобили, дела и записи об инцидентах», — говорится в описании одного продукта под названием «интеллектуальный поиск». Программное обеспечение анализирует данные, чтобы «откопать обычных людей, которые кажутся невиновными», чтобы «пресечь незаконные действия в колыбели».
Представитель Megvii сообщил в заявлении по электронной почте, что компания привержена ответственному развитию искусственного интеллекта и заботится о том, чтобы сделать жизнь более безопасной и удобной, а «не о наблюдении за какой-либо конкретной группой или отдельным лицом».
Слайд внутренней презентации продукта Megvii для интеллектуального поиска. Гистограммы сортируют группы отслеживаемых людей по категориям.
Подобные технологии уже внедряются. В 2022 году полиция Тяньцзиня купила программное обеспечение Hikvision , конкурента Megvii, предназначенное для прогнозирования протестов. Система собирает данные о легионах китайских петиционеров — общий термин в Китае, которым обозначают людей, пытающихся подать жалобу на местных чиновников в вышестоящие инстанции.
Затем он оценивает вероятность того, что петиционеры поедут в Пекин. Согласно закупочной документации, в будущем данные будут использоваться для обучения моделей машинного обучения.
Местные чиновники хотят предотвратить такие поездки, чтобы избежать политических затруднений или разоблачения правонарушений. А центральное правительство не хочет, чтобы в столице собирались группы недовольных граждан.
Представитель Hikvision отказался комментировать систему.
При г-не Си официальные усилия по контролю за петиционерами становились все более агрессивными. Зекун Ван, 32-летний член группы, которая в течение многих лет добивалась возмещения ущерба в связи с мошенничеством с недвижимостью, сказал, что в 2017 году власти перехватили других просителей в Шанхае еще до того, как они смогли купить билеты в Пекин. Он подозревал, что власти следили за их общением в социальной сети WeChat.
Система Hikvision в Тяньцзине, которая работает в сотрудничестве с полицией соседнего Пекина и провинции Хэбэй, является более сложной.
Платформа анализирует вероятность того, что люди подадут петицию, исходя из их социальных и семейных отношений, прошлых поездок и личных ситуаций, согласно документу о закупках. Это помогает полиции создать профиль каждого с полями для офицеров, чтобы описать темперамент протестующего, в том числе «параноидальный», «дотошный» и «вспыльчивый».
Многие люди, подающие петицию, делают это из-за ненадлежащих действий правительства в случае трагического происшествия или халатного отношения к делу — все это входит в алгоритм. «Повысить уровень риска раннего предупреждения человека, если он имеет низкий социальный статус или пережил крупную трагедию», — говорится в документе о закупке.
Автоматизация предубеждений
Когда в 2018 году полиция Чжоунина, сельского уезда в провинции Фуцзянь, купила новый комплект из 439 камер, они указали координаты, куда каждая из них будет направлена. Согласно закупочной документации, одни висели над перекрестками, а другие возле школ.
Девять были установлены возле домов людей, у которых было нечто общее: психическое заболевание.
В то время как некоторые программы пытаются использовать данные для обнаружения новых угроз, более распространенный тип основан на предвзятых представлениях полиции. В более чем сотне документов о закупках, рассмотренных The Times, слежка была нацелена на черные списки «ключевых лиц».
Среди этих лиц, согласно некоторым закупочным документам, были лица с психическими заболеваниями, осужденные преступники, лица, скрывающиеся от правосудия, наркоманы, просители, подозреваемые в терроризме, политические агитаторы и лица, представляющие угрозу социальной стабильности. Другие системы нацелены на рабочих-мигрантов, бездействующую молодежь (подростков без школы и работы), этнические меньшинства, иностранцев и ВИЧ-инфицированных.
Власти решают, кто включается в списки, и часто нет процесса уведомления людей, когда они это делают. Как только люди попадают в базу данных, они редко удаляются, говорят эксперты, которые обеспокоены тем, что новые технологии усиливают неравенство внутри Китая, навязывая слежку за наименее удачливыми слоями населения.
Во многих случаях программное обеспечение идет дальше, чем просто нацеливание на население, позволяя властям устанавливать цифровые ловушки, указывающие на возможную угрозу. В одной из презентаций Megvii, в которой подробно рассказывалось о конкурирующем продукте Yitu, интерфейс системы позволял полиции разрабатывать собственные системы раннего предупреждения.
С помощью простого меню для заполнения пустых полей полиция может формировать сигналы тревоги на основе определенных параметров, в том числе того, где появляется лицо из черного списка, когда человек перемещается, встречается ли он или она с другими людьми из черного списка, а также частота определенных действий. Полиция может настроить систему на отправку предупреждения каждый раз, когда два человека с историей употребления наркотиков регистрируются в одном и том же отеле или когда четыре человека с историей протеста входят в один и тот же парк.
Yitu не ответила на запросы по электронной почте о комментариях.
В 2020 году в городе Наньнин полиция купила программное обеспечение, которое могло искать «более трех ключевых людей, останавливающихся в тех же или соседних отелях» и «наркомана, часто звонящего на новый номер за пределами города», говорится в тендерном документе. В Яншо, туристическом городе, известном своими мистическими карстовыми горами, власти купили систему, которая предупреждает их, если иностранец без разрешения на работу проводит слишком много времени в школах или барах с иностранными языками, очевидно пытаясь поймать людей, просрочивших свои визы или работать нелегально.
В Шанхае одно партийное издание описало, как власти использовали программное обеспечение для выявления тех, кто превысил норму по потреблению воды и электричества. Система отправляла в полицию «цифровой свисток», когда обнаруживала подозрительные модели потребления.
Эта тактика, вероятно, была разработана для обнаружения рабочих-мигрантов, которые часто живут вместе в тесноте, чтобы сэкономить деньги. В некоторых местах полиция считает их неуловимой и часто обедневшей группой, которая может привнести преступность в общество.
Автоматические оповещения не приводят к такому же уровню реакции полиции. Полиция часто отдает приоритет предупреждениям, которые указывают на политические проблемы, такие как протесты или другие угрозы социальной стабильности, говорит Сюзанна Э. Скоггинс, профессор Университета Кларка, изучающая работу полиции в Китае.
Иногда полиция прямо заявляла о необходимости профилирования людей.
«Благодаря применению больших данных мы рисуем картину людей и даем им ярлыки с различными атрибутами, — сказал Ли Вэй, исследователь из Университета национальной полиции Китая, в своей речи в 2016 году. — Для тех, кто получает один или несколько типов ярлыков, мы делаем выводы об их личности и поведении, а затем осуществляем целенаправленные упреждающие меры безопасности».
К техно-тоталитаризму
Г-н Чжан первым начал ходатайствовать перед правительством о компенсации за пытки его семьи во время Культурной революции. С тех пор он подал прошение о том, что, по его словам, полиция преследует его семью.
Поскольку Китай создал свои авторитарно-технические инструменты, ему пришлось использовать тактику из шпионских фильмов, чтобы обойти слежку, которая, по его словам, стала «высокотехнологичной и нацистской».
Когда в январе он приехал в Пекин из своей деревни в провинции Шаньдун, он выключил телефон и заплатил за проезд наличными, чтобы минимизировать свой цифровой след. Он купил билеты на поезд не в тот пункт назначения, чтобы помешать полиции выследить его. Он нанял частных водителей, чтобы объезжать контрольно-пропускные пункты, где его удостоверение личности могло вызвать срабатывание сигнализации.
Система в Тяньцзине имеет особую функцию для таких людей, как он, которые имеют «определенное представление о противодействии разведке» и регулярно меняют транспортные средства, чтобы избежать обнаружения, согласно документу о закупках полиции.
Независимо от того, активировал он систему или нет, г-н Чжан заметил изменение. По его словам, всякий раз, когда он выключает свой телефон, к нему домой приходят полицейские, чтобы проверить, не отправился ли он в новую поездку в Пекин.
Даже если полицейские системы не могут точно предсказать поведение, власти могут считать их успешными из-за угрозы, сказал Ноам Юхтман, профессор экономики Лондонской школы экономики, изучавший влияние слежки в Китае.
«В условиях отсутствия реальной политической подотчетности наличие системы наблюдения, которая часто отправляет полицейских, «может неплохо сработать» для предотвращения беспорядков», — сказал он.
После того, как метрики установлены и предупреждения активированы, у полицейских мало гибкости, из-за централизованного контроля. По данным экспертов и отчетов государственной полиции, они оцениваются по их реакции на автоматические сигналы тревоги и эффективности в предотвращении протестов.
Технология закодировала дисбаланс мощности. В некоторых тендерных документах упоминается «красный список» людей, которых система наблюдения должна игнорировать.
В одном национальном документе о закупках говорилось, что эта функция предназначена для «людей, которым нужна защита конфиденциальности или защита VIP». Другой, из провинции Гуандун, высказался более конкретно, указав, что «красный список» предназначен для государственных чиновников.
Г-н Чжан выразил разочарование по поводу того, как технологии отрезали тех, кто обладает политической властью, от обычных людей.
«Власти серьезно не решают проблемы, но делают все возможное, чтобы заставить замолчать людей, которые поднимают проблемы, — сказал он. — Это большой шаг назад для общества».
Г-н Чжан сказал, что он по-прежнему верит в способность технологий приносить пользу, но в неправильных руках они могут стать «плетью и кандалами».
«В прошлом, если вы покидали свой дом и отправлялись в сельскую местность, все дороги вели в Пекин, — сказал он. — Теперь вся страна — сеть».