En AI-forordning er på vej, og skal efter planen vedtages i dag, onsdag den 6. december, i EU.
Der er tale om resultatet af såkaldte triologi-forhandlinger mellem Ministerråd, Kommission og parlament. Her ønsker parlamentet blandt andet at forbyde såkaldte “predictive policing”-systemer, hvor algoritmer forudser kriminalitet baseret på profilering, lokation eller tidligere kriminel adfærd.
Noget, som har været forsøgt brugt, og som har mødt stor kritik i blandt andet forskellige amerikanske byer. Blandt andet fordi systemerne viste sig at være biased og desuden stemplede ud fra race eller uden egentligt motiv.
I PROSA håber it-politisk rådgiver Ole Tange, at parlamentets ønske bliver vedtaget.
Ole Tange deltager allerede i arbejdsgruppen bag det første større projekt, hvor forskere fra flere europæiske lande forsøger at kortlægge brugen af algoritmer og datahøst i politiets arbejde. Projektet hedder Critical Understanding of Predictive Policing, CUPP.
"Der er heldigvis intet, der tyder på, at politiet i Europa bruger data til at profilere på individniveau, men der er mange små røde flag alligevel i forhold til politiets høst af data, brug af data, samarbejde med store globale private firmaer som Palantir omkring databaserede platforme og i det hele taget indførslen af overvågning, som er uden egentlig transparens, så såvel offentlighed som politikere har reelt kendskab til, hvad og hvordan politiet gør brug af i systemerne", siger Ole Tange.
CUPP-projektet, som PROSA også er en del af, bliver afsluttet med en konference på IT-Universitetet i København den 29. og 30. januar 2024.
