I en opsigtvækkende erklæring har softwaregiganten IBM meldt ud, at virksomheden ikke længere vil udbyde, udvikle eller forske i ansigtsgenkendelsessoftware, der potentielt kan udnyttes til ”masseovervågning, raceprofilering eller bryde basale menneskerettigheder”.
Det oplyser IBM’s administrerende direktør, Arvind Krishna, i et brev sendt til medlemmer af den amerikanske kongres.
”Vi mener, at tiden er inde til at starte en national dialog om, hvorvidt og hvordan ansigtsgenkendelsesteknologi bør benyttes til myndighedernes magtudøvelse”, skriver Arvind Krishna i brevet, der samtidig er en stærk reaktion på politiets drab på George Floyd og mange andre sorte amerikanere gennem tiden.
”Kampen mod racisme er vigtigere end nogensinde”, fastslår IBM-direktøren.
Brevet er en opfordring til Kongressen om at sætte en stopper for diskrimination og uretfærdig racebehandling. Det skal ske ved fremrykning af politireformer og udviklingen en klar politik for politiets anvendelse af teknologi. IBM tager selv første skridt ved at stoppe udviklingen af teknologi til ansigtsgenkendelse på en række vitale områder.
”Kunstig intelligens er et stærkt våben til at beskytte borgernes sikkerhed, men udviklere og brugere af kunstig intelligens har et fælles ansvar for at sikre, at den kunstige intelligens bliver testet for indbygget bias, specielt når teknologien anvendes til udøvelse af magt”, skriver Arvind Krishna.
Problematisk teknologi
Teknologien har i flere undersøgelser vist sig at være upræcis i en sådan grad, at den ifølge en række fremtrædende forskere og kritikere ligefrem har en indbygget bias. Dermed opstår der risiko for fejl, der kan få fatale konsekvenser for de individer, der uretmæssigt kommer i politiets søgelys.
En undersøgelse fra MIT (Massachusetts Institute of Technology) viser eksempelvis, at teknologier fra Microsoft, IBM og Face++, oftere fejler i genkendelsen af kvindelige ansigter end mandlige. Ligeledes viser undersøgelsen, at det bliver sværere at genkende et ansigt, jo mørkere i huden personen er.
”Ansigtsgenkendelse har en iboende bias, fordi teknologien primært er udviklet på baggrund af billeder af hvide mennesker”, fortæller Alison Powell, der arbejder med dataetik ved Ada Lovelace Institute i Storbritannien, til magasinet New Scientist.
Teknologiens mangler har tidligere fået det svenske datatilsyn til gøre brugen af ansigtsgenkendelse på en skole ulovligt. Skolen benyttede teknologien til at holde øje med elevernes tilstedeværelse. Storbyen San Francisco i Californien var de første til helt at forbyde teknologien på offentlige arealer.
Forbud i Danmark nedstemt
Bekymringen vokser også blandt danske politikere. Folketinget har for nylig færdigbehandlet et forslag fra Alternativet om at forbyde ansigtsgenkendelse i forbindelse med overvågning af det offentlige rum.
I forslaget henviser Sikandar Siddique (løsgænger) netop til undersøgelser og andre lande, hvor ansigtsgenkendelse er blevet forbudt på grund af dets mangler og store usikkerhed.
Forslaget blev forkastet, da partierne Venstre, Socialdemokratiet, Dansk Folkeparti, Nye Borgerlige og Liberal Alliance stemte imod forslaget.
