Han hæfter sig særligt ved de krav, der er sat for AI-systemer, der er beregnet til rekruttering eller udvælgelse af fysiske personer, navnlig til annoncering af ledige stillinger, screening eller filtrering af ansøgninger, evaluering af ansøgere under samtaler eller prøver. Det gælder også AI-systemer, der er beregnet til beslutningstagning om forfremmelse og afskedigelse og til opgavefordeling, overvågning og evaluering af personers præstationer og adfærd i arbejdsrelaterede kontraktforhold.
Vigtige hegnspæle
Også PROSA-formand Niels Bertelsen er glad for, at EU-trioen nåede frem til et resultat. Han frygtede, at forhandlingerne ville trække ud på anden side af Europarlamentsvalget 17. juni næste år.
Vi har brug for handling nu, fordi det går så stærkt. Forhandlingerne startede i 2021, og bare det der er sket siden med ChatGPT og en lang række AI-landvindinger viser, i hvilket tempo alt forandrer sig. Nu er er sat nogle absolut vigtige hegnspæle, som beskytter borgerne og regulerer brugen. Det er nok ikke helt så vidtgående, som vi kunne have ønsket os, men det er et vigtigt skridt på vejen. AI er en fantastisk teknologi, som vi kan have meget gavn af, og som kan hjælpe os med at løse store og kritiske udfordringer, men det skal ske åbent og med gennemskuelighed i forhold til brug af data og udvikling af systemer, fastslår Niels Bertelsen.
Bøder og biometri
EU-forordningen træder ikke i kraft øjeblikkeligt, men vil blive implementeret over de kommende år. Den omfatter blandt andet:
- Enighed om sikkerhedsforanstaltninger vedrørende kunstig intelligens til generelle formål
- Begrænsning af retshåndhævelsens anvendelse af biometriske identifikationssystemer
- Forbud mod social scoring (opdeling og kategorisering af gruppe- eller personrelaterede rådata i forskellige kategorier og segmenter af datamanipulatorer og datamæglere)og kunstig intelligens, der bruges til at manipulere eller udnytte brugersårbarheder.
- Forbrugernes ret til at indgive klager og få meningsfulde forklaringer.
- Bøder fra 35 millioner euro eller 7 % af den globale omsætning til 7,5 millioner eller 1,5 % af omsætningen.
EU-parlamentet skriver i den forbindelse, at: I erkendelse af den potentielle trussel mod borgernes rettigheder og demokratiet, som visse anvendelser af kunstig intelligens udgør, var der enighed mod at forbyde:
biometriske kategoriseringssystemer, der anvender følsomme karakteristika (f.eks. politiske, religiøse, filosofiske, seksuelle orienteringer, race; ikke-målrettet skrabning af ansigtsbilleder fra internettet eller CCTV-optagelser for at oprette ansigtsgenkendelsesdatabaser; følelsesgenkendelse på arbejdspladsen og uddannelsesinstitutioner; social pointgivning baseret på social adfærd eller personlige karakteristika AI-systemer, der manipulerer menneskelig adfærd for at omgå deres frie vilje AI der bruges til at udnytte menneskers sårbarhed (på grund af deres alder, handicap, sociale eller økonomiske situation).
Dansk minister glad for aftalen
I regeringen er der ligeledes tilfredshed med aftalen.
