AI-ГУЛАГ: как искусственный интеллект помогает «перевоспитывать» инакомыслящих в Китае

Автор: yashnyk, 04 декабря 2019, 00:00

В конце прошлого месяца стали известны подробности о том, как китайские власти искореняют инакомыслие мусульманских меньшинств — уйгуров — с помощью лагерей, замаскированных под трудовые, и очень подробного руководства по содержанию и оценке задержанных. Вишенка на торте — подозрительных граждан для «расследования» и «задержания» выявляет искусственный интеллект. И как устроен «черный ящик» угнетения журналистам и правозащитникам неясно. Известно лишь, что под следствие можно попасть в том числе за частое использование черного входа или усердные молитвы. А за призыв к религиозности — и вовсе схлопотать 10 лет.

ICIJ подробно описывает, о чем говорится в гайдлайне для китайских властей. gg приводит сокращенный перевод публикации.

Большая утечка

Большая утечка секретных китайских правительственных документов раскрыла руководство по массовым задержаниям в Синьцзяне и разоблачила механизм региональной системы массового наблюдения и «прогностической полиции», действующие в духе оруэлловской утопии.

Утечка дала базу для расследования «Китайские кабели», проведенного Международным консорциумом журналистов-расследователей. Секретные документы под названием «Телеграмма», которые попали в руки исследователей, были утверждены лично начальником службы безопасности региона и выполняют роль руководства по управлению лагерями, в которых сейчас содержатся сотни тысяч мусульманских уйгуров и других национальных меньшинств. Утечка также содержит ранее неизвестные брифинги разведки, которые раскрывают принцип работы предикативной ИИ-платформы, которая помогает полиции выбирать целые категории жителей Синьцзяна для ареста.

Расследование пролило свет на самое большое преследование национальных и религиозных меньшинств в мире со времен Второй мировой войны

Согласно отчетам бывших заключенных и другим неофициальным источникам, а также спутниковым снимкам, в течение последних двух лет система правительственных лагерей для заключенных в Синьцзяне выросла настолько, чтобы уместить более миллиона человек.

Несмотря на это, китайские власти отрицают как документ, так и факт существования лагерей. Уверяя, что речь идет о центрах обучения, которые помогают государству бороться с терроризмом. В центрах, по словам правительства, соблюдаются права, свободы и принцип добровольного нахождения. В том числе там обучают мандаринскому языку, и обучаемые могут свободно приходить домой, чтобы заботиться о детях, которыми в остальное время занимаются другие родственники. Правительство утверждает, что система массового наблюдения помогла сделать регион более безопасным, из-за этого туристический поток вырос на 40%, а локальный ВВП, благодаря ему, на увеличился 6%.

Аутентичность документа подтвердили лингвисты. А источники утверждают, что в том числе важна дата его создания - 2017-й год. Именно тогда началась глобальная кампания по перевоспитанию уйгуров.

Враги поневоле

Уйгуры - преимущественно мусульманская община, говорящая на собственном тюркском языке, уже более 1000 лет проживают в засушливом центрально-азиатском регионе, который теперь известен как Синьцзян. В настоящее время на их долю приходится почти 11 миллионов человек в стране, где почти 92% из 1,4 миллиарда населения имеют этническое происхождение ханьцев. Номинально Синьцзян - это автономная область, в которой также проживают казахи, таджики, мусульмане хуэй и ханьцы, но она находится под контролем Китая с XVIII века.

В последние годы президент Китая Си Цзиньпин поднял на новый уровень общенациональную кампанию по популяризации доктрины коммунистической партии и ханьской культуры, и уйгуры, с их отличной от остальной страны религией и этнической идентичностью, попали под удар.

Разногласия между уйгурами, правительством и остальным ханьским населением Китая в какой-то момент достигли критической точки и перешли в фазу насилия. В 2009 году в столице Синьцзян городе Урумки уйгуры убили порядка 200 человек. В начале 2013 года они совершили атаки на гражданских в других китайских городах, жертвами стали десятки человек. Как минимум за одно из нападений ответственна уйгурская исламская организация. В отчетах говорится, что десятки уйгуров примкнули к ИГИЛ.

На народность посыпались обвинения в религиозном экстремизме и сепаратизме, что привело к росту ограничений религиозной практики в регионе, запрету на бороды и многие мусульманские молитвы, а также некоторые виды мусульманской атрибутики, в том числе бурки и вуали на лицо.

В 2017 году, по мере сворачивания культурного, политического и религиозного разнообразия, Цзиньпин приказал провести тихую кампанию по массовым задержаниям и насильственной ассимиляции в Синьцзяне. По сообщениям свидетелей и новостных выпусков, в регионе начали массово пропадать люди, поползли слухи о тайных правительственных лагерях, где содержат пропавших. В некоторых городах на юге Синьцзяна исчезло около 40% взрослого населения, как стало известно позже.

Китайское правительство пыталось держать в секрете существование лагерей. Но начиная с конца 2017 года журналисты, ученые и другие исследователи — с помощью спутниковых снимков, документов о государственных закупках и свидетельств очевидцев — обнаружили несколько мест содержания по всему региону. Они были окружены заборами и сторожевыми вышками, повсеместно использовалась новая система предупреждения и массовой слежки.

В 2017 году, по сообщениям свидетелей и новостных выпусков, в Синьцзяне исчезло около 40% взрослого населения

В октябре 2018 года, когда стало понятно, что от находки не откреститься, губернатор Синьцзяна Шохрат Закир признал ее существование. Но сказал, что это так называемые учреждения повышения профессионального образования. По его словам, их целью является дерадикализация тех, кто подозревается в терроризме и экстремистских взглядах.

В официальном сообщении, которое появилось в августе этого года, правительство сообщило об успехе центров, утверждая, что только благодаря им удалось предотвратить теракты в регионе в течение последних трех лет.

Расследование противоречит официальной характеристике китайского правительства лагерей как благотворительных социальных программ, которые предусматривают «профессиональное обучение на дому» и«бесплатное» питание. В документах указывается, что аресты должны проводиться практически при любых обстоятельствах, если выявлено подозрение - и показывает, что главной целью кампании является тотальное перевоспитание.

Генеральный план и разночтения

«Телеграмма» включает в себя более двух десятков руководств по обращению с людьми (бюллетеней) и содержит гриф «секретно». Документ был издан комиссией по политическим и правовым вопросам Синьцзянского автономного района, коммунистической партией, отвечающей за меры безопасности в Синьцзяне. Его стиль объединяет в себе типичную китайскую бюрократию и двусмысленности в духе Оруэлла. Например, в нем арестанты называются «студентами», и есть требования к тому, что должны представлять собой «выпускники», тщательно прописаны условия хождения в туалет и встречи с родственниками.

В документе арестанты называются «студентами», и есть требования к тому, что должны представлять собой «выпускники», тщательно прописаны условия хождения в туалет и встречи с родственниками

Двери «общежития» должны быть заперты для «строгого управления и контроля действий учащихся, чтобы избежать побегов во время занятий, периодов приема пищи, перерывов в туалете, времени купания, лечения, семейных посещений и т. д. А персонал обязан предотвращать побеги с помощью постов охраны, камер наблюдения, системы оповещения и т.д. То есть всего того, что типично для тюрем. «Студенты» могут покидать лагеря только по причине «болезней и других особых обстоятельств» и только в сопровождении работников лагерей, которые смогут следить за их поведением. Находиться на территории лагеря «студенты» должны не менее года, но по свидетельствам очевидцев, это правило соблюдалось не всегда.

Руководство описывает систему контроля поведения в лагере, построенную на баллах. Заработать баллы можно благодаря идеологической трансформации, обучению и занятиям, соблюдению дисциплины. Система наказания и поощрения помогает в том числе определить, можно ли заключенному контактировать с семьей и когда он может покинуть заведение.

Кроме того, руководство классифицирует заключенных по степени строгости их содержания — «очень строгое», «строгое» и «общее».

В документе содержатся положения, касающиеся базового здоровья и физического благополучия заключенных, в том числе четкие требования, согласно которым должностные лица лагеря не могут допустить «ненормальных смертей». Персонал обязан поддерживать гигиенические условия, предотвращать вспышки заболеваний и следить за тем, чтобы лагерные сооружения могли противостоять пожарам и землетрясениям.

Как росли лагеря для уйгуров

«Студенты» имеют право минимум на один телефонный разговор в неделю, видеозвонок минимум раз в месяц, чтобы семьи содержащихся в лагерях были уверены, что с их родственниками все в порядке. Свидетельства бывших заключенных показывают, что это правило массово игнорировалось. В феврале прошлого года уйгуры за пределами Китая и их сторонники начали кампанию в Твиттере, в которой они просили правительство Китая предоставить информацию о пропавших членах семьи.

Несмотря на инструкции по обеспечению здоровья и безопасности, по свидетельствам очевидцев, из-за плохих условий жизни и отсутствия медицинской помощи в лагерях умерло неизвестное число заключенных. Михригуль Турсун, уйгурка из Синьцзяна, в настоящее время проживающая в Соединенных Штатах, рассказала комиссии США на слушаниях в ноябре 2018 года, что, находясь в заключении, она увидела, как девять женщин умирали при таких обстоятельствах.

Многочисленные бывшие заключенные сообщали о том, что подвергались или были свидетелями пыток и других злоупотреблений, включая пытки водой, избиения и изнасилования. «Некоторых заключенных вешали на стену и избивали электрическими дубинками», - рассказал израильскому изданию Haaretz Сайрагул Сауитбай, бывший заключенный, получивший убежище в Швеции. Ему доводилось видеть людей, которых заставляли сидеть на гвоздях, тех, кто возвращался из комнаты пыток в крови или без ногтей.

«Телеграмма» также включает в себя одиозный раздел о «манере воспитания», в котором указывается, что персонал лагеря должен среди прочего «обучать» таким вещам, как «этикет», «послушание», «дружеское поведение» и «регулярная смена одежды». Даррен Байлер, преподаватель антропологии в Университете Вашингтона и авторитетный специалист по уйгурской культуре, сказал, что стремление научить нормальных взрослых купаться и заводить друзей связано с распространенным среди китайцев ханьцев убеждением в том, что уйгуры «отстали», что они дикари.

Из «студентов» — в «квалифицированных специалистов»

Власти Китая отстаивают так называемую политику «сокращения бедности» в Синьцзяне. Новые профессиональные навыки, заявляют китайские власти, позволят уйгурам искать работу вне полей и ферм и, таким образом, повышать уровень жизни.

Те самые высокотехнологичные застенки

Но исследователи и журналисты выяснили, что за этим скрывается система принудительного труда по всему региону — производство текстиля и других товаров народного потребления.

В руководстве упоминаются «дополнительные возможности» для бывших заключенных лагеря, которые, по всей видимости, подтверждают эту информацию. «Все ученики, прошедшие начальную подготовку, будут отправлены в класс повышения квалификации для интенсивной подготовки на срок от 3 до 6 месяцев», - говорится в документе. «Все префектуры должны создать специальные места и специальные помещения, чтобы обеспечить условия для интенсивной подготовки обучаемых».

В разделе под названием «службы занятости» содержится инструкция для должностных лиц лагеря проводить политику «одна группа выпускается, одна группа находит работу». Она предлагает, чтобы те, кто завершил профессиональное обучение, были помещены на рабочее место.

Наконец, руководство поручает местным полицейским участкам и судебным органам предоставлять бывшим заключенным после их трудоустройства «последующую помощь и образование» и дает указание, что после освобождения «студенты не должны покидать прямой видимости в течение одного года». Это подтверждает сообщения о том, что задержанные отправляются из лагерей на места работы под постоянным контролем полиции.

Задержание по алгоритму

Утечка проливает свет на так называемую интегрированную платформу совместных операций (Integrated Joint Operations Platform), которая собирает огромное количество персональных данных о гражданах из всевозможных ресурсов и затем, при помощи искусственного интеллекта, формирует список подозрительных людей.

Согласно данным Организации по правам человека, в качестве источников выступают многочисленные контрольно-пропускные пункты Синьцзяна, камеры распознаванием лиц, шпионское ПО, которое уйгуры обязаны устанавливать на смартфон по требованию полиции, «снифферы Wi-Fi», которые собирают идентифицирующую информацию о смартфонах и компьютерах и даже перехватывают пакеты данных. По данным правозащитников, шпионское приложение передает данные о том, что делает пользователь на смартфоне, в IJOP в реальном времени.

Эксперт по документам в SOS International Мульвенон утверждает, что китайские власти создали модель полицейской деятельности, в которой вероятность каких-то инцидентов и склонность населения участвовать в антиправительственных действиях можно распознать и спрогнозировать с помощью искусственного интеллекта и алгоритмов машинного обучения. И полиция действует исходя из этих предсказаний. То есть это не просто предупредительная платформа, эта платформа, в которой ИИ выполняет роль судьи над человеческим поведением. Эксперт характеризует ее как «кибернетический мозг», который занимает центральное место в самых передовых стратегических и военных стратегиях Китая. Система «инфантилизирует» тех, кому поручено исполнять действия, и создает условия для правил, которые могут привести к катастрофическим последствиям, говорит Мульвенон.

Программа собирает и интерпретирует данные без разрешения пользователя и помечает людей, на которых власти должны обратить внимание, на базе таких безобидных критериев, как ежедневная молитва, путешествия за границу, частое использование черного входа в доме.

Возможно, даже большее значение, чем сам сбор данных, имеют психологические последствия жизни в таких условиях. С камерами распознавания лица на каждом углу, бесконечными КПП и сетями информаторов. IJOP создает ощущение, что она знает и чувствует все, может проникнуть в самые интимные аспекты повседневной жизни. Соседи исчезают, основываясь на действиях неизвестных алгоритмов, Синьцзян живет в состоянии постоянного террора.

Кажущаяся случайность расследований, вызванных IJOP, - это не ошибка, а особенность, говорит Саманта Хоффман, аналитик из Австралийского института стратегической политики, чья деятельность сосредоточена на изучении сбора и использования персональных данных в Китае. «Так работает государственный террор. Страх внушает даже то, что вы сами не знаете, что вы не в порядке», — говорит Саманта Хоффман.

Полицейские вводят в систему информацию обо всех, кого допрашивают: рост, группа крови, ID, уровень образования, профессия, недавние поездки, показания бытовых электрических счетчиков и многое другое. Затем ИИ на основании этих данных решает, можно ли считать человека подозрительным

В одном из бюллетеней содержится инструкция о том, как проводить массовые расследования и задержания после того, как IJOP сформировала список подозреваемых. По словам эксперта, после появления такого списка за неделю в июне 2017 сотрудники службы безопасности задержали 15 683 жителя Синьцзяна и поместили их в лагеря для интернированных. Это в дополнение к 706 официально арестованным.

IJOP вычислила 24 412 «подозрительных лица» за неделю, и далее в документе обсуждаются причины расхождений между официальным списком и количеством задержанных. Некоторые не могут быть обнаружены, другие умерли, но их удостоверения личности использовались третьими лицами, и т.д.

В прошлом году Организация по правам человека получила копию мобильного приложения IJOP провела его реинжиниринг, чтобы выяснить, как приложение используется полицией и какие данные собирает. Выяснилось, что оно предлагает полицейским вводить подробную информацию обо всех, кого они допрашивают: рост, группа крови, ID, уровень образования, профессия, недавние поездки, показания бытовых электрических счетчиков и многое другое. Затем IJOP использует пока неизвестный алгоритм, который и определяет, можно ли считать человека подозрительным.

Майя Ван, старший исследователь Организации по правам человека в Китае, сказала, что цель IJOP выходит далеко за рамки выявления кандидатов для задержания. Его целью является проверка всего населения на предмет поведения и убеждений, к которым правительство относится с подозрением, включая признаки сильной привязанности к мусульманской вере или уйгурской идентичности.

Сеть тянется за границу

В течение двух лет новостные организации публиковали все более тревожные сообщения об усилиях Китая по ограничению перемещения уйгуров, в том числе, поездок за рубеж. В ноябре 2016 года информационные организации сообщили, что чиновники конфисковывают паспорта жителей Синьцзяна. В июле 2017 года по просьбе Китая Египет депортировал не менее 12 и задержал еще десятки уйгурских студентов, обучающихся в Университете Аль-Азхар — вузе, который известен своим образованием в сфере религиоведения. В начале 2018 года уйгуры, проживающие за границей, сообщили, что службы безопасности в Синьцзяне систематически собирают подробную личную информацию о них от родственников, которые все еще живут там.

Один из бюллетеней показывает, что такие действия были частью широкой политической инициативы. Он классифицирует китайских уйгуров, живущих за границей, по их родным регионам в Синьцзяне и поручает чиновникам собирать личную информацию о них. Цель - выявить тех, кто может быть заподозрен в терроризме. В нем говорится, что таких людей нужно направить на концентрированное образование и профессиональную подготовку сразу после их возвращения в Китай.

В июле 2017 года по просьбе Китая Египет депортировал не менее 12 и задержал еще десятки уйгурских студентов, обучающихся в Университете Аль-Азхар — вузе, который известен своим образованием в сфере религиоведения

В бюллетене содержится указание организовать депортацию любого лица, которое отказалось от гражданства Китая. Тех, кто от гражданства не отказывался и не был признан системой подозрительным, все равно нужно отправить в лагерь - для изучения. А заодно - образования и тренинга.

«Бюллетень № 20» дает указание местным сотрудникам безопасности проверять всех пользователей мобильного приложения Zapya в Синьцзяне на предмет их связей с Исламским государством и другими террористическими организациями. Это почти 2 миллиона человек.

В документах угроза «терроризма» и «экстремизма» упоминается в качестве основания для задержания, но нигде нет определения для «терроризма» или «экстремизма». В новостях сообщалось, что задержания направлены на интеллектуальную элиту, уйгуров, имеющих связи за границей, и религиозных уйгуров. Тем не менее, среди задержанных есть много тех, кто не подпадает под эти категории. Эксперты говорят, что кампания направлена не только на конкретное поведение, но и на целую этническую и религиозную группу.

В документе регулируется и роль посольств и консульств Китая в сборе информации для IJOP, которая затем используется для задержания новых «подозреваемых». В нем содержится список из 4 341 человек, которые подали заявление на получение визы и других документов в консульствах Китая или подали заявку на замену действительного удостоверения личности в китайских посольствах или консульствах за рубежом.

Новостные организации сообщали, что среди заключенных были иностранные граждане. Как выяснилось, они оказались там не случайно.

В документах есть список из 1535 жителей Синьцзяна, которые получили иностранное гражданство, а также подали документы на китайские визы. IJOP определил, что из них 75 были в Китае, и разделил их по гражданству: «26 турок, 23 австралийца, 3 американца, 5 шведов, 2 из Новой Зеландии, 1 из Нидерландов, 3 из Узбекистана, 2 из Великобритании, 5 - канадцы, 3 - финны, 1 - французы и 1 - из Кыргызстана». В бюллетене содержалось указание провести расследования в их адрес, но не было явной обеспокоенности по поводу любых дипломатических последствий, которые могут возникнуть в результате размещения иностранных граждан во внесудебных лагерях для интернированных.

10 лет за призыв не смотреть порно

Наконец, есть еще один документ, не засекреченный, но достаточно редкий за пределами китайских правительственных кругов. Это выдержка из судебного дела, которое рассматривалось в 2018 году в Народной прокуратуре округа Какилик на юге Синьцзяна. В нем описываются обвинения против уйгурского мужчины, задержанного и арестованного летом 2017 года по обвинению в «разжигании экстремальных мыслей».

Мужчину обвиняли в том, что он рекомендовал коллегам избегать просмотра порнографии и не общаться с теми, кто не молится

Мужчину обвиняли в том, что он рекомендовал коллегам избегать просмотра порнографии и не общаться с теми, кто не молится, в том числе «ханьскими кафирами» (кафир - это арабское слово, означающее неверного или неверующего). Свидетелями предполагаемых преступлений были коллеги с уйгурскими именами, с которыми он разговаривал.

В документе указывается, что адвокат ответчика просил суд о снисхождении, утверждая, что это было первое преступление человека, и что из-за «низкого уровня юридической осведомленности и уровня образования он легко мог быть введен в заблуждение и совершить преступление».

Суд приговорил мужчину к 10 годам тюрьмы.

Для тех, кто хочет знать больше:

Искусственный интеллект Как это работает