Forestil dig dette skrækscenarie:
Du driver et lille it-firma og får til opgave at udvikle en robot, der skal producere artikler for en kunde. Det kunne være en kunde i eller uden for mediebranchen.
Pludselig går der koks i robotten. Den skriver en artikel fyldt med fejl og injurierende oplysninger om en navngiven dansk virksomhed. Artiklen bliver delt vidt og bredt på sociale medier.
Fejlene er så graverende, at virksomhedens renommé og forretning tager skade af det. Virksomheden vil have erstatning. Og en domstol giver den medhold.
Hvem har ansvaret: Robotten, mediet eller dig?
For at blive klogere på det spørgsmål tager Prosabladet fat i juraprofessor Søren Sandfeld Jakobsen, der forsker i medie- og it-ret ved Copenhagen Business School.
Lad os starte med det banale: Har robotten et ansvar?
Nej, lyder det klare svar fra juraprofessoren.
– Noget af det, man spekulerer i, er, om en robot kan have en selvstændig autonomi. Og lige nu er vi enige om, at det kan den ikke, siger han.
På sigt kan machine learning dog skabe en anden situation.
– Vi begynder at blive mere tøvende, når maskinen er i stand til at lære af sine egne erfaringer og på en måde begynder at ’tænke selv’. Her bliver det mere vanskeligt at fastlægge, hvem der bærer ansvaret, siger han.
Men der er vi altså ikke endnu.
Chefredaktøren må tage skraldet
Hvis artiklerne bliver publiceret i et journalistisk medie, ligger ansvaret hos chefredaktøren.
– Da der ikke er nogen forfatter, fordi det er en maskine, må man falde tilbage på chefredaktøren, siger Søren Sandfeld Jakobsen.
Det forudsætter dog, at det pågældende medie er underlagt medieansvarsloven. Og det er ikke alle journalistiske medier, der er det. Men det er en helt anden sag.
– Medieansvarsloven er klar i mæglet. Vi har kun de ansvarssubjekter, der er i medieansvarsloven. Det vil sige, at alle mulige medvirkende skæres væk. Og er der tvivl om ansvaret, falder det typisk tilbage på chefredaktøren, forklarer Søren Sandfeld Jakobsen.
Men det er ikke sikkert, at it-firmaet, der har udviklet robotten, dermed kan læne sig tilbage. For hvad der sker herfra, bliver afgjort af kontraktens ordlyd.
– Chefredaktøren bærer ansvaret udadtil. Men så får it-firmaet formentligt et krav fra mediet dagen efter. Det afhænger af den kontrakt, der er indgået mellem mediet og udvikleren af robotten. Her gælder den almindelige kontraktfrihed, siger Søren Sandfeld Jakobsen.
Hvis juraprofessoren selv drev et medie, ville han lægge meget vægt på spørgsmålet om ansvar.
– Jeg ville skrive ind i kontrakten, at it-udvikleren på alle måder bærer ansvaret for de skader, som algoritmen afstedkommer, siger han.
Og dermed kan et erstatningskrav alligevel falde tilbage på det it-firma, der har udviklet robotten. Omvendt råder Søren Sandfeld Jakobsen it-firmaer til at fraskrive sig ansvaret for fejl, der kan opstå, hvis mediet selv begynder at træne eller justere robotten, så funktionaliteten ændrer sig.
Situationen er dog en anden, hvis robotten producerer indhold til en platform, der ikke er omfattet af medieansvarsloven. I de tilfælde kan alle medvirkende – inklusive it-firmaet – holdes direkte ansvarlige af den, der har lidt skade.
– Hvis det mere er en portal, en service eller en tjeneste, end det er et redaktionelt medie, er vi ude af medieansvarsloven, siger Søren Sandfeld Jakobsen.
I de tilfælde gælder det, man ifølge juraprofessoren kalder ’dansk rets almindelige erstatningsregler’. Her er tale om uskrevne regler, der har udviklet sig over lang tid.
– Hvis jeg er en virksomhed, der lider skade, fordi et robotmedie offentliggør skadegørende oplysninger om mig, vil jeg i dét tilfælde gå efter både mediet og it-firmaet som juridisk person, afhængig af, hvem der vurderes at have penge til at honorere kravet, siger Søren Sandfeld Jakobsen.
Men der er ingen grund til panik for det lille it-firma. For domstolene vil typisk være nådige.
– Vi har set software til en halv million, som får en virksomhed til at gå ned i en uge, og som så koster den en halv milliard. Er det så rimeligt at vælte softwarefirmaet med et krav på en halv milliard? Der har domstolene sagt, at det er rimeligt, at it-virksomheden begrænser sit ansvar betydeligt, forklarer Søren Sandfeld Jakobsen.
Det vil sige, at it-firmaer ofte ikke vil hæfte for kunders fulde tab.
– Hvis it-firmaer skulle stå på mål for så store tab, ville der ikke være nogen, der ville turde udvikle software. Og der ville ikke være nogen, der turde udbyde forsikringer til it-virksomheder, siger han.
Pas på med machine learning
Hvis man som udvikler vil undgå problemer, råder juraprofessoren til at sørge for, at algoritmen har nogle begrænsninger i forhold til, hvad den rent logisk kan nå frem til.
– Hvis vi åbner op for, at robotten begynder selv at lave antagelser på baggrund af svage forudsætninger, så ville alle mine alarmklokker ringe. Jo mere du åbner op for machine learning, jo mere slipper du kontrollen. Og så kan du nå ud i alle mulige vidtløftige resultater, siger han og fortsætter:
– Det kan godt være, at den så i et vist omfang kan ’tænke selv’, men hvis præmisserne er forkerte, så er resultatet også forkert – hver gang. Og hvis den publicerer 900 artikler i løbet af et splitsekund, så publicerer den 900 forkerte artikler på et splitsekund.
Samtidig understreger han, at der ikke er nogen regler, der forhindrer udbredelsen af robotjournalistik. Heller ikke de presseetiske regler.
– Det er ikke i strid med god presseskik at bruge en algoritme som sådan. Det har aldrig været meningen med de presseetiske regler at være maskinstormer eller stoppe fremskridtet, understreger Søren Sandfeld Jakobsen.
