AI-ГУЛАГ: як штучний інтелект допомагає «перевиховувати» інакомислячих у Китаї
Наприкінці минулого місяця стали відомі подробиці про те, як китайська влада викорінює інакомислення мусульманських меншин - уйгурів - за допомогою таборів, замаскованих під трудові, і дуже докладного керівництва з утримання та оцінки затриманих. Вишенька на торті - підозрілих громадян для «розслідування» та «затримання» виявляє штучний інтелект. І як влаштований «чорний ящик» пригнічення, журналістам і правозахисникам неясно. Відомо лише, що під слідство можна потрапити в тому числі за часте використання чорного входу або ревні молитви. А за заклик до релігійності - взагалі заробити 10 років.
ICIJ докладно описує, про що йдеться у гайдлайні для китайської влади. gg наводить скорочений переклад публікації.
Великий витік
Великий витік секретних китайських урядових документів розкрив керівництво з масових затримань у Сіньцзяні та викрила механізм регіональної системи масового спостереження і «прогностичної поліції», що діють в стилі оруеллівської утопії.
Витік дав базу для розслідування «Китайські кабелі», проведеного Міжнародним консорціумом журналістів-розслідувачів. Секретні документи під назвою «Телеграма», які потрапили до рук дослідників, були затверджені особисто начальником служби безпеки регіону та виконують роль керівництва з управління таборами, в яких зараз розміщені сотні тисяч мусульманських уйгурів та інших національних меншин. Витік також містить раніше невідомі брифінги розвідки, які розкривають принцип роботи предикативної ШІ-платформи, яка допомагає поліції обирати цілі категорії жителів Сіньцзяну для арешту.
Розслідування пролило світло на найбільше переслідування національних і релігійних меншин у світі з часів Другої світової війни
Згідно зі звітами колишніх в'язнів та іншими неофіційними джерелами, а також супутниковими знімками, протягом останніх двох років система урядових таборів для ув'язнених у Сіньцзяні виросла настільки, щоб вмістити більше мільйона чоловік.
Незважаючи на це, китайська влада заперечує як документ, так і факт існування таборів. Запевняючи, що мова йде про центри навчання, які допомагають державі боротися з тероризмом. У центрах, за словами уряду, дотримуються права, свободи і принцип добровільного перебування. У тому числі там навчають мандаринський мови, і ті хто навчається, можуть вільно приходити додому, щоб піклуватися про дітей, якими решту часу займаються інші родичі. Уряд стверджує, що система масового спостереження допомогла зробити регіон безпечнішим, через це туристичний потік зріс на 40%, а локальний ВВП, завдяки йому, збільшився на 6%.
Автентичність документа підтвердили лінгвісти. А джерела стверджують, що в тому числі важлива дата його створення - 2017-й рік. Саме тоді почалася глобальна кампанія з перевиховання уйгурів.
Вороги мимоволі
Уйгури - переважно мусульманська громада, яка розмовляє власною тюркською мовою, що вже більше 1000 років проживає у посушливому центрально-азіатському регіоні, який тепер відомий як Сіньцзян. Наразі на їх долю припадає майже 11 мільйонів осіб у країні, де майже 92% з 1,4 мільярда населення мають етнічне походження ханьців. Номінально Сіньцзян - це автономна область, в якій також проживають казахи, таджики, мусульмани хуей та ханьці, але вона знаходиться під контролем Китаю з XVIII століття.
В останні роки президент Китаю Сі Цзіньпін підняв на новий рівень загальнонаціональну кампанію з популяризації доктрини комуністичної партії та ханьської культури, і уйгури з їх відмінною від решти країни релігією та етнічною ідентичністю, потрапили під удар.
Розбіжності між уйгурами, урядом та іншим ханьским населенням Китаю в якийсь момент досягли критичної точки і перейшли у фазу насильства. У 2009 році в столиці Сіньцзян місті Урумки уйгури вбили близько 200 осіб. На початку 2013 року вони здійснили атаки на цивільних в інших китайських містах, жертвами стали десятки людей. Щонайменше за один з нападів відповідальна уйгурська ісламська організація. У звітах говориться, що десятки уйгурів примкнули до ІГІЛ.
На народність посипалися звинувачення в релігійному екстремізмі та сепаратизмі, що призвело до зростання обмежень релігійної практики в регіоні, заборони на бороди і більшість мусульманських молитов, а також деякі види мусульманської атрибутики, в тому числі бурки та вуалі на обличчя.
У 2017 році, зі згортанням культурного, політичного і релігійного розмаїття, Цзіньпін наказав провести тиху кампанію з масових затримань і насильницької асиміляції у Сіньцзяні. За повідомленнями свідків та новинних випусків, в регіоні почали масово зникати люди, поповзли чутки про таємні урядові табори, де утримують зниклих. У деяких містах на півдні Сіньцзяна зникло близько 40% дорослого населення, як стало відомо пізніше.
Китайський уряд намагався тримати в секреті існування таборів. Але починаючи з кінця 2017 журналісти, науковці та інші дослідники - за допомогою супутникових знімків, документів про державні закупівлі та свідчень очевидців - виявили кілька місць утримання по всьому регіону. Вони були оточені парканами і сторожовими вишками, повсюдно використовувалася нова система попередження та масової стеження.
У 2017 році, за повідомленнями свідків і новинних випусків, в Сіньцзяні зникло близько 40% дорослого населення
У жовтні 2018 року, коли стало зрозуміло, що від знахідки не відхреститися, губернатор Сіньцзяна Шохрат Закир визнав її існування. Але сказав, що це так звані установи підвищення професійної освіти. За його словами, їх метою є дерадікалізація тих, хто підозрюється в тероризмі та екстремістськіх поглядах.
В офіційному повідомленні, яке з'явилося в серпні цього року, уряд повідомив про успіх центрів, стверджуючи, що лише завдяки ним вдалося запобігти терактам в регіоні протягом останніх трьох років.
Розслідування суперечить офіційній характеристиці китайського уряду таборів, як благодійних соціальних програм, які передбачають «професійне навчання на дому» і «безкоштовне» харчування. У документах вказується, що арешти повинні проводитися практично за будь-яких обставин, якщо виявлено підозру - і показує, що головною метою кампанії є тотальне перевиховання.
Генеральний план і різночитання
«Телеграма» включає в себе більше двох десятків посібників щодо поводження з людьми (бюлетенів) та містить гриф «секретно». Документ був виданий комісією з політичних та правових питань сіньцзянського автономного району, комуністичною партією, що відповідає за заходи безпеки в Сіньцзяні. Його стиль об'єднує в собі типову китайську бюрократію та двозначності в дусі Оруелла. Наприклад, в ньому арештанти називаються «студентами», і є вимоги до того, що повинні являти собою «випускники», ретельно прописані умови ходіння в туалет та зустрічі з родичами.
У документі арештанти називаються «студентами», і є вимоги до того, що повинні являти собою «випускники», ретельно прописані умови ходіння в туалет і зустрічі з родичами
Двері «гуртожитку» повинні бути замкнені для «суворого управління і контролю дій учнів, щоб уникнути втечі під час занять, періодів прийому їжі, перерв на туалеті, часу купання, лікування, сімейних відвідувань тощо. А персонал зобов'язаний запобігати втечам за допомогою постів охорони, камер спостереження, системи оповіщення тощо. Тобто всього того, що типово для в'язниць. «Студенти» можуть залишати табір тільки через «хвороби чи інші особливі обставини» і тільки в супроводі працівників таборів, які зможуть стежити за їх поведінкою. Перебувати на території табору «студенти» мусять не менше року, але за свідченнями очевидців, це правило дотримувалося не завжди.
Керівництво описує систему контролю поведінки в таборі, побудовану на балах. Заробити бали можна завдяки ідеологічній трансформації, навчанню і заняттям, дотриманню дисципліни. Система покарання і заохочення допомагає в тому числі визначити, чи можна в'язню контактувати з родиною і коли він може покинути заклад.
Крім того, керівництво класифікує ув'язнених за ступенем суворості їх утримання - «дуже суворе», «суворе» чи «загальне».
У документі містяться положення, що стосуються базового здоров'я та фізичного благополуччя в'язнів, в тому числі чіткі вимоги, згідно з якими посадові особи табору не можуть допустити «ненормальних смертей». Персонал зобов'язаний підтримувати гігієнічні умови, запобігати спалаху захворювань та стежити за тим, щоб табірні споруди могли протистояти пожежам і землетрусам.
«Студенти» мають право щонайменше на одну телефонну розмову на тиждень, відеодзвінок щонайменше раз на місяць, щоб сім'ї ув'язнених у таборах були впевнені, що з їх родичами все в порядку. Свідчення колишніх в'язнів показують, що це правило масово ігнорувалося. У лютому минулого року уйгури за межами Китаю та їх прихильники почали кампанію у Твіттері, в якій вони просили уряд Китаю надати інформацію про зниклих членів сім'ї.
Незважаючи на інструкції щодо забезпечення здоров'я і безпеки, за свідченнями очевидців, через погані умови життя та відсутність медичної допомоги в таборах померло невідоме число ув'язнених. Міхрігуль Турсун, уйгурка з Сіньцзяна, яка наразі проживає в Сполучених Штатах, розповіла комісії США на слуханнях у листопаді 2018 року, що перебуваючи в ув'язненні вона бачила, як дев'ять жінок вмирали за таких обставин.
Численні колишні ув'язнені повідомляли про те, що піддавалися або були свідками тортур та інших зловживань, включаючи тортури водою, побиття та зґвалтування. «Деяких в'язнів вішали на стіну і били електричними кийками», - розповів ізраїльському виданню Haaretz Сайрагул Сауітбай, колишній ув'язнений, який отримав притулок у Швеції. Йому доводилося бачити людей, яких змушували сидіти на цвяхах, тих, хто повертався з кімнати тортур у крові або без нігтів.
«Телеграма» також включає в себе одіозний розділ про «манеру виховання», в якому вказується, що персонал табору повинен серед іншого «навчати» таким речам, як «етикет», «слухняність», «дружня поведінка» та «регулярна зміна одягу». Даррен Байлер, викладач антропології в Університеті Вашингтона і авторитетний фахівець з уйгурскої культури, сказав, що прагнення навчити нормальних дорослих купатися і заводити друзів пов'язано з поширеним серед китайців-ханьців переконанням у тому, що уйгури «відстали», що вони дикуни.
Від «студентів» - до «кваліфікованих фахівців»
Влада Китаю відстоює так звану політику «скорочення бідності» в Сіньцзяні. Нові професійні навички, заявляє китайська влада, дозволять уйгурам шукати роботу поза полями і фермами та, таким чином, підвищувати рівень життя.
Але дослідники і журналісти з'ясували, що за цим ховається система примусової праці по всьому регіону - виробництво текстилю та інших товарів народного споживання.
У керівництві згадуються «додаткові можливості» для колишніх ув'язнених табору, які, по всій видимості, підтверджують цю інформацію. «Всі учні, які пройшли початкову підготовку, будуть відправлені в клас підвищення кваліфікації для інтенсивної підготовки на термін від 3 до 6 місяців», - йдеться в документі. «Усі префектури повинні створити спеціальні місця і спеціальні приміщення, щоб забезпечити умови для інтенсивної підготовки учнів».
У розділі під назвою «служби зайнятості» міститься інструкція для посадових осіб табору проводити політику «одна група випускається, одна група знаходить роботу». Вона пропонує, щоб ті, хто завершив професійне навчання, були поміщені на робоче місце.
Нарешті, керівництво доручає місцевим поліцейським дільницям і судовим органам надавати колишнім ув'язненим після їх працевлаштування «наступну допомогу та освіту» та дає вказівку, що після звільнення «студенти не мають залишати прямої видимості протягом одного року». Це підтверджує повідомлення про те, що затримані відправляються з таборів на місця роботи під постійним контролем поліції.
Затримання за алгоритмом
Витік проливає світло на так звану інтегровану платформу спільних операцій (Integrated Joint Operations Platform), яка збирає величезну кількість персональних даних про громадян з різноманітних ресурсів, а потім, за допомогою штучного інтелекту, формує список підозрілих людей.
Згідно з даними Організації з прав людини, в якості джерел виступають численні контрольно-пропускні пункти Сіньцзяна, камери розпізнавання осіб, шпигунське ПЗ, яке уйгури зобов'язані встановлювати на смартфони на вимогу поліції, «сніфери Wi-Fi», які збирають ідентифікаційну інформацію про смартфони та комп'ютери, і навіть перехоплюють пакети даних. За даними правозахисників, шпигунський додаток передає дані про те, що робить користувач на смартфоні, в IJOP у реальному часі.
Експерт з документів у SOS International Мульвенон стверджує, що китайська влада створила модель поліцейської діяльності, в якій ймовірність якихось інцидентів і схильність населення брати участь в антиурядових діях можна розпізнати та спрогнозувати за допомогою штучного інтелекту і алгоритмів машинного навчання. І поліція діє виходячи з цих прогнозів. Тобто це не просто попереджувальна платформа, це платформа, в якій ШІ виконує роль судді над людською поведінкою. Експерт характеризує її як «кібернетичний мозок», який займає центральне місце в найпрогресивніших стратегічних та військових стратегіях Китаю. Система «інфантилізує» тих, кому доручено виконувати дії, і створює умови для правил, які можуть призвести до катастрофічних наслідків, каже Мульвенон.
Програма збирає та інтерпретує дані без дозволу користувача і позначає людей, на яких влада має звернути увагу, на базі таких нешкідливих критеріїв, як щоденна молитва, подорожі за кордон, часте використання чорного входу в будинок.
Можливо, навіть більше значення, ніж сам збір даних, мають психологічні наслідки життя в таких умовах. З камерами розпізнавання обличча на кожному розі, нескінченними КПП та мережами інформаторів. IJOP створює відчуття, що вона знає і відчуває все, може проникнути в найінтимніші аспекти повсякденного життя. Сусіди зникають, грунтуючись на діях невідомих алгоритмів, Сіньцзян живе у стані постійного терору.
Удавана випадковість розслідувань, викликаних IJOP, - це не помилка, а особливість, каже Саманта Хоффман, аналітик з Австралійського інституту стратегічної політики, чия діяльність зосереджена на вивченні збору та використання персональних даних в Китаї. «Так працює державний терор. Страх вселяє навіть те, що ви самі не знаєте, що ви не в порядку», - каже Саманта Хоффман.
Поліцейські вводять у систему інформацію про всіх, кого допитують: зріст, група крові, ID, рівень освіти, професія, нещодавні поїздки, показання побутових електричних лічильників та багато іншого. Потім ШІ на підставі цих даних вирішує, чи можна вважати людину підозрілою
В одному з бюлетенів міститься інструкція про те, як проводити масові розслідування і затримання після того, як IJOP сформувала список підозрюваних. За словами експерта, після появи такого списку за тиждень у червні 2017 співробітники служби безпеки затримали 15 683 жителя Сіньцзяна та помістили їх у табори для інтернованих. Це на додачу до 706 офіційно заарештованих.
IJOP вирахувала 24 412 «підозрілих особи» за тиждень, і далі в документі обговорюються причини розбіжностей між офіційним списком та кількістю затриманих. Дехто не може бути виявлений, інші померли, але їхні посвідчення особи використовувалися третіми особами, тощо.
Торік Організація з прав людини отримала копію мобільного додатка IJOP і провела його реінжинерінг, щоб з'ясувати, як додаток використовується поліцією та які дані збирає. З'ясувалося, що він пропонує поліцейським вводити докладну інформацію про всіх, кого вони допитують: зріст, група крові, ID, рівень освіти, професія, нещодавні поїздки, показання побутових електричних лічильників та багато іншого. Потім IJOP використовує поки що невідомий алгоритм, який і визначає, чи можна вважати людину підозрілою.
Майя Ван, старший дослідник Організації з прав людини в Китаї, сказала, що мета IJOP виходить далеко за рамки виявлення кандидатів для затримання. Його метою є перевірка всього населення на предмет поведінки і переконань, до яких уряд ставиться з підозрою, включаючи ознаки сильної схильності до мусульманської віри або уйгурської ідентичності.
Мережа тягнеться за кордон
Протягом двох років новинні організації публікували все більш тривожні повідомлення про зусилля Китаю щодо обмеження переміщення уйгурів, в тому числі, поїздок за кордон. У листопаді 2016 року інформаційні організації повідомили, що чиновники конфіскують паспорти жителів Сіньцзяну. У липні 2017 року на прохання Китаю Єгипет депортував не менше 12 і затримав ще десятки уйгурських студентів, що навчаються в Університеті Аль-Азхар - вузі, який відомий своєю освітою у сфері релігієзнавства. На початку 2018 року уйгури, що проживають за кордоном, повідомили, що служби безпеки у Сіньцзяні систематично збирають докладну особисту інформацію про них від родичів, які ще живуть там.
Один з бюлетенів показує, що такі дії були частиною широкої політичної ініціативи. Він класифікує китайських уйгурів, які живуть за кордоном, за їхнім рідним регіоном у Сіньцзяні та доручає чиновникам збирати особисту інформацію про них. Мета - виявити тих, хто може бути запідозрений у тероризмі. У ньому йдеться, що таких людей потрібно направити на концентровану освіту та професійну підготовку одразу після їх повернення до Китаю.
У липні 2017 року на прохання Китаю Єгипет депортував не менше 12 і затримав ще десятки уйгурських студентів, що навчаються в Університеті Аль-Азхар - вузі, який відомий своєю освітою у сфері релігієзнавства
У бюлетені міститься вказівка організувати депортацію будь-якої особи, яка відмовилася від громадянства Китаю. Тих, хто від громадянства не відмовлявся і не був визнаний системою підозрілим, все одно потрібно відправити у табір - для вивчення. А заодно - освіти і тренінгу.
«Бюлетень №20» дає вказівку місцевим співробітникам безпеки перевіряти всіх користувачів мобільного додатку Zapya у Сіньцзяні на предмет їх зв'язків з Ісламською державою та іншими терористичними організаціями. Це майже 2 мільйони людей.
У документах загроза «тероризму» і «екстремізму» згадується в якості підстави для затримання, але ніде немає визначення для «тероризму» або «екстремізму». У новинах повідомлялося, що затримання спрямовані на інтелектуальну еліту, уйгурів, які мають зв'язки за кордоном, та релігійних уйгурів. Проте, серед затриманих є багато тих, хто не підпадає під ці категорії. Експерти кажуть, що кампанія спрямована не лише на конкретну поведінку, але й на цілу етнічну та релігійну групу.
У документі регулюється і роль посольств та консульств Китаюу зборі інформації для IJOP, яка потім використовується для затримання нових «підозрюваних». У ньому міститься список з 4 341 чоловік, які подали заяву на отримання візи та інших документів у консульствах Китаю або подали заявку на заміну дійсного посвідчення особи в китайських посольствах або консульствах за кордоном.
Новинні організації повідомляли, що серед ув'язнених були іноземні громадяни. Як з'ясувалося, вони виявилися там не випадково.
У документах є список зі 1535 жителів Сіньцзяну, які отримали іноземне громадянство, а також подали документи на китайські візи. IJOP визначив, що з них 75 були в Китаї, і розділив їх за громадянством: «26 турків, 23 австралійця, 3 американця, 5 шведів, 2 з Нової Зеландії, 1 з Нідерландів, 3 з Узбекистану, 2 з Великобританії, 5 - канадці , 3 - фіни, 1 - французи та 1 - з Киргизстану». У бюлетені містилася вказівка провести розслідування щодо них, але не було явної стурбованості з приводу будь-яких дипломатичних наслідків, які можуть виникнути в результаті розміщення іноземних громадян у позасудових таборах для інтернованих.
10 років за заклик не дивитися порно
Нарешті, є ще один документ, який не засекречений, але досить рідкісний за межами китайських урядових кіл. Це витяг із судової справи, яка розглядалася в 2018 році у Народній прокуратурі округу Какілік на півдні Сіньцзяна. У ньому описуються звинувачення проти уйгурського чоловіка, затриманого і арештованого влітку 2017 року за звинуваченням у «розпалюванні екстремальних думок».
Чоловіка звинувачували в тому, що він рекомендував колегам уникати перегляду порнографії і не спілкуватися з тими, хто не молиться
Чоловіка звинувачували в тому, що він рекомендував колегам уникати перегляду порнографії і не спілкуватися з тими, хто не молиться, в тому числі «ханьськими окупантами» (окупант - це арабське слово, що означає невірного або невіруючого). Свідками передбачуваних злочинів були колеги з уйгурскими іменами, з якими він розмовляв.
У документі вказується, що адвокат відповідача просив суд про поблажливість, стверджуючи, що це був перший злочин людини, і що через «низький рівень юридичної обізнаності та освіти він легко міг бути введений в оману та вчинити злочин».
Суд засудив чоловіка до 10 років в'язниці.