”Er mine familiemedlemmer stadig i live? Hvor er de?”
Sådan lød det tidligere på året i et tweet fra en mand, der kalder sig Muhammad Ali. Spørgsmålet var rettet til de kinesiske myndigheder, der i årevis har forfulgt den muslimske uighur-befolkning i Xinjiang-provinsen i det nordvestlige hjørne af landet. Ifølge internationale medier sidder over en million uighurer indespærret i såkaldte genopdragelseslejre, fordi de angiveligt har overtrådt kinesisk lovgivning.
Uighurer bosat i udlandet indledte derfor i februar en Twitter-kampagne for at få Kina til at fortælle om skæbnen for deres forsvundne familiemedlemmer. Mange har ikke fået livstegn i flere år.
Ifølge Amnesty International risikerer indbyggerne internering, hvis de viser deres religiøse eller kulturelle tilhørsforhold offentligt – for eksempel ved at bære slør, tørklæde eller skæg eller ved at bede og faste. Det er også farligt at være i besiddelse af bøger eller artikler om islam eller uighurernes kultur.
– De såkaldte genopdragelseslejre er steder, hvor der bliver udført hjernevask, tortur og afstraffelse, der vækker minder om den mørkeste tid under Mao-æraen, da enhver, der var under mistanke for ikke at være loyal nok over for staten og Kinas kommunistiske parti, kunne ende i Kinas berygtede arbejdslejre, siger Nicholas Bequelin, der er leder af Amnesty International i Østasien.
Et etnisk spændingsfelt
Spændingerne blandt de 22 millioner indbyggere i Xinjiang-provinsen er vokset i takt med Kinas erklærede mål om at slå ned på ekstremisme for at opnå såkaldt etnisk helhed. Udenlandske medier har svært ved at få adgang til regionen, hvor Kina har indført massiv kontrol af indbyggerne ved hjælp af kameraer, ansigtsgenkendelse og overvågning af elektronisk kommunikation.
Derfor spærrede den hollandske sikkerhedsforsker Victor Gevers øjnene op, da han i marts fandt en ubeskyttet MongoDB på internettet, som gav adgang til et af Kinas mange overvågningssystemer. Han fandt hurtigt ud af, at databasen indeholdt personlige oplysninger på over 2,5 millioner kinesere fra Xinjiang-provinsen samt GPS-koordinater, der løbende blev opdateret, når de overvågede bevægede sig rundt.
Databasen har oplysninger om id-kortnummer, køn, navn, pasfoto, arbejdsgiver og GPS-koordinater, og den tilhører det kinesiske firma SenseNets. Firmaet udvikler “ansigtsgenkendelse, analyse af menneskemængder og personverifikation”, som det hedder i virksomhedens egen beskrivelse.
Selvom SenseNets arbejder med ansigtsgenkendelse, er det ikke bevis for, at GPS-koordinaterne kommer fra overvågningskameraer med ansigtsgenkendelse. De kan lige så godt komme fra håndscannere, som anvendes til personverifikation. Der er imidlertid tale om begge dele, forklarer Victor Gevers.
– Det interessante ved databasen var, at den havde et specielt felt, der fortalte, hvilket device der blev brugt til trackingen. Om det var en håndholdt device, der aflæste et id-kort, eller et stationært kamera ved et checkpoint, siger Victor Gevers, der arbejder som frivillig for GDI Foundation, hvis mission er at forsvare det frie og åbne internet ved at gøre det mere sikkert.
Raceprofilering med overvågning
Victor Gevers fortæller, at de stationære kameraer er placeret overalt ved moskeer, stationer og vejkryds, og i tilfældet med SenseNets database besluttede GDI Foundation at bryde med sine normale principper. Typisk henvender Victor Gevers og hans 34 kollegaer sig således til firmaerne bag usikre databaser uden at inddrage offentligheden, men med de kinesiske databaser valgte de at offentliggøre deres fund.
– Hvis det er databaser med cv’er eller oplysninger om pizzaudbringning, er der ingen grund til at offentliggøre det. Men er der databaser med indhold, der rejser etiske spørgsmål, mener vi, at det er vigtigt at få en diskussion om det, forklarer han.
De etiske spørgsmål blev endnu mere relevante, da The New York Times kort efter Prosabladets interview med Victor Gevers rapporterede, at videoovervågningen med ansigtsgenkendelse også bliver anvendt til raceprofilering.
Ifølge avisen viser dokumenter og interview med anonyme kilder, der har direkte kendskab til forholdene i Xinjiang-provinsen, at overvågningssystemerne bliver anvendt specifikt til at identificere uighurere, da deres ansigtstræk adskiller sig markant fra han-kineserne, der udgør majoriteten i Kina. Et af de kinesiske firmaer bag AI-overvågningsraceprofileringen er SenseTime, der er moderselskab til SenseNets.
SenseNets har opstillet Microsoft som partner på sit website, men Microsoft nægter at have indgået partnerskab med SenseNets.
Derfor undrer det Victor Gevers, at en af SenseNets udviklere anvendte en åben Github-konto, hvor der blev brugt en api-key, som gav adgang til eastasia.api.cognitive.microsoft.com/face og dermed til platformen Azures ansigtsgenkendelse.
Han har kontaktet Microsoft for at høre, om de kender noget til SenseNets anvendelse af Azures ansigtsgenkendelse, men Microsoft har angiveligt ikke fundet nogen forbindelser mellem Azure og SenseNets.
– De har undersøgt, om der er en virksomhedskonto eller anden reference til SenseNets. Men de har ikke fundet noget, siger Victor Gevers.
