Og endnu værre så er det et slaraffenland for kriminelle, om det så handler om børneporno, sexstotion, chikane eller bedrageri.
Det er kort sagt en kæmpe udfordring for demokrati, tryghed og debat.
Derfor skal vi også tackle det med stor alvor.
Slut med lappeløsninger
Og ikke bare de skumtoppe af forargede følelser, politiske snuptagsløsninger og krænkede reaktioner.
Vi skal tackle det klogt.
I bredt perspektiv. Og ikke med lappeløsninger.
For AI, stadig bedre teknologi, sociale medier og muligheden for at dele billeder og lyd er kommet for at blive.
De vil kun få voksende indflydelse på vores liv, vores måde at orientere os på, socialisere os på og som de briller, vi betragter verden via.
Ligeså er udviklingen, hvor en stigende del af befolkningen, og i særdeleshed de unge får hovedparten af deres information og nyhedsdækning og samfundsoplysning netop via et feed på Instagram, Tik-Tok, LinkedIn, X eller Facebook eller noget helt sjette.
Alene i junglen med techgiganterne
Måske bliver netop den debat, der kører nu et endeligt opgør med mange års politisk svigt. Det kan man i hvert fald ønske sig.
Jeg kan som formand for de it-professionelle, som kender og forstår teknologien, og også forstår, hvad den kan bruges til nemlig kun undre og ærgre mig over, at det i mange tilfælde er kommet så vidt.
Ikke at teknologien findes og er udbredt.
Men at vi har efterladt borgere, samfund og infrastruktur i en jungle, hvor de af gode grunde ikke kan overskue konsekvenserne af, hvad teknologien gør ved deres liv, eller hvordan de er stillet mod eventuel udnyttelse og kriminalitet.
Der er noget riv-rav-ruskende forkert i, at videoer kan deles på Facebook, X og de andre platforme, uden at en borger kan komme i øjeblikkelig kontakt med platformen og få det fjernet.
At misbrug og deepfakes kan køre rundt i ugevis og viralt til hele verden uden, at der sættes en stopper for det. Hvordan kan vi – vores politikere – være gået med til det?
Ville aldrig være gået i det fysiske rum
Beskyttelsen er så lav, og ansvarspådragelsen for techgiganterne så lille, at vi aldrig ville have accepteret det i det fysiske rum.
Borgernes beskyttelse er så lav og mulighed for at agere så begrænset. Skaden vil være sket og uoprettelig, før der kan gøres noget.
Og i det hele taget, hvad skal borgerne gøre. Det kan ikke løses med oplysningskampagner. Det kræver hjælp og støtte. At lade den enkelte borger selv lægge arm med techgiganter og kriminelle er simpelthen utilstedeligt.
Call-centre som hjælper borgerne
Vi har et arbejdstilsyn. Vi har fødevarestyrelser. Vi færdselspoliti. Vi har tilsyn og myndigheder, som passer på os. Hvor er det digitale tilsyn til støtte for borgere?
Hvor er de 24-7-365 åbne call-centre, hvor der sidder et RIGTIGT menneske klar til at rådgive og vejlede borgere som er kommet i klemme, som ikke kan færdes hjemmevant mellem MitID, sundhed.dk, netbank, phishing og bedrageri?
Det er altafgørende for dem, men de har ikke meget hjælp, fra det samfund, som har gjort det umuligt at leve og agere som borger og privatperson uden for den digitale virkelighed.
Der er så meget usikkerhed og så mange områder, hvor samfundet svigter borgeren.
Hvad gør et forældrepar, hvis 15-årige datters ferievideo fra stranden er blevet deepfaket til en pornografisk video og delt på flere sociale medier.
Et menneske i røret
Hvor henvender de sig? Hvordan får de det stoppet hurtigt? Hvad skal de gøre?
Og nej, at ringe 114 og få optaget en sag, eller at skrive en mail på politi.dk er ikke nok.
Hvordan får de hjælp til at få taget videoen ned øjeblikkeligt?
Og hvad med den ældre dame, som har været udsat for phishing. Som måske har fået lænset sit kort af smarte kriminelle. Som bliver ringet op af en stemme, der lyder fuldstændig som hendes barnebarn, der er i problemer og mangler penge?
Hvor kan hun ringe hen og få øjeblikkelig hjælp og vejledning?
Eller hvad, hvis der bare cirkulerer en video med viral kraft, som bruges til mobning, chikane eller på anden måde er krænkende, og er lavet uden samtykke, hvordan får man den fjernet?
Der er simpelthen lagt noget helt umuligt over på borgerens skuldre, og borgeren kan være 10-årige børn såvel som 80-årige pensionister.
Seks nødvendige veje
Vi skal med andre ord bruge deepfake debatten og fake news debatten til at tænke de tanker, som desværre ikke er blevet tænkt i tide.
Helt afgørende skal vi have sat gang i følgende spor – næsten øjeblikkeligt:
- Krav til mærkning af AI-produceret foto-, lyd og video indhold herunder deepfakes og fake news
- Hårdere sanktioner og mærkbare bøder i forhold til udbydere af platforme, hvor fake news indhold deles og krav om at platforme skal reagere på henvendelser fra myndighederne og fjerne indhold inden for maksimalt en døgn
- Hårdere sanktioner, bøder og straffe over for kriminalitet begået ved brug af deepfakes
- Krav om samtykke fra berørte borgere før deepfakes benyttes og deles. Hvis ikke er det klart lovbrud
- Endnu større fokus på at stille troværdige medier og platforme til rådighed, hvor indhold altid er valideret. Public service-behovet.
- Oprettelse af callcentre i hele landet, som borgere kan kontakte omkring tvivl i forhold til digital færden, krænkelser eller kriminalitet, og som har myndighed til at hjælpe hurtigt i forhold til at få fjernet materiale fra platforme.
> Læs også: Disse teknologier kan forebygge deepfakes
