– Vejen til helvede er som bekendt brolagt med gode intentioner.
Sådan beskriver Irina Shklovski, lektor på IT-Universitetet, den udvikling, der er sket inden for IoT-området.
– Det er gået op for de mennesker, der designer og udvikler Internet of Things-produkter, at teknologien ikke er neutral eller uskyldig. De har indset, at de er meddelagtige, og at de beslutninger, de træffer, påvirker vores allesammens fremtid, siger hun.
Irina Shklovski leder et stort forskningsprojekt ved navn VIRT-EU, der skal undersøge, hvordan europæiske it-udviklere kan hjælpes til at bygge produkter, der overholder etiske retningslinjer. Et projekt, som EU har støttet med 15 millioner kroner, fordi Internet of Things-miljøet rummer et enormt økonomisk potentiale. En EU-rapport fra 2015 estimerede, at det europæiske IoT-marked i 2020 vil have en værdi af over 1.000 milliarder euro. Men denne meget hypede teknologi er ifølge lektoren også meget umoden.
– Og nu begynder den at vise sine svagheder og de omkostninger, der følger med udviklingen, siger Irina Shklovski.
Der er tale om en industri, der i ét væk kobler det ene fysiske produkt efter det andet til internettet. En industri, der blandt andet har budt på en internetopkoblet Barbie-dukke, der nemt kunne hackes og derved gjorde det muligt at udspionere de børn, der legede med dukken, eller aflytte hjemmet.
– Mange virksomheder kaster sig ud i at udvikle internetforbundne produkter uden at have særlig ekspertise inden for det felt. Men at forbinde hardware med software rejser en række etiske problematikker, for de store datamængder, som IoT-enheder indsamler, gør brugerne sårbare over for overvågning og uønsket brug af personlige oplysninger, siger Irina Shklovski.
Dystre manifester
Problemerne med de internetforbundne produkter er bestemt ikke gået hen over hovederne på de folk, der designer og udvikler dem. For det med at tage en fysisk ting – et ur, en kaffemaskine eller en Barbie-dukke – og koble den op til internettet har efterladt et spor af sløset datasikkerhed og tvivlsomme produkter. Det er resulteret i en stigning i antallet af de såkaldte etiske manifester i IoT-miljøet inden for de seneste par år.
– Et manifest er ikke bare noget, man skriver for sjov. Det er en erklæring. Når man sætter sig ned og skriver et manifest, så har man noget på hjerte. Det er en opfordring til forandring, siger Irina Shklovski.
Sammen med sine kollegaer har hun i forbindelse med VIRT-EU analyseret 28 sådanne IoT-manifester.
– Det er en dyster og nærmest dommedagsagtig stemning, der præger manifesterne. På trods af troen på, at IoT-teknologien har positive aspekter, så er der en angst for, at ”vi måske ikke byggede det, vi troede, vi gjorde.” Der er en meget intens fornemmelse af, at der skal ske forandringer nu, ellers ser fremtiden meget dyster ud, siger hun.
IoT-folkene bag manifesterne ønsker først og fremmest at få placeret et ansvar for privacy og sikkerhed i produkterne.
– De vil meget gerne flytte samtalen om IoT væk fra, hvad teknologien kan, til, hvem der egentlig har ansvaret for produkterne og for konsekvenserne af de beslutninger, der er truffet i udviklingen af dem, siger Irina Shklovski.
Software møder hardware
En af de helt store udfordringer er at forstå, hvilket produkt man egentlig har med at gøre.
– Når vi som forbrugere køber en lampe eller en elkedel, opfatter vi det som et stykke hardware – et færdigt produceret produkt, der kan holde i mange år. Men hele fidusen med et IoT-produkt er, at der er indlejret software i hardwaren. Og et softwareprodukt udvikles aldrig helt færdigt. Tankegangen bag er jo, at man lancerer noget, der så inden for en overskuelig periode skal opdateres eksempelvis på grund af bugs. Hvordan skal man dog designe etisk forsvarlige IoT-enheder? spørger Irina Shklovski.
Samtidig pointerer hun, at der ikke er penge i hardware. Det er softwaren, der skaber værdien – nemlig de indsamlede data. Og udviklerne kan ikke bare gemme sig bag forbrugeren. I øjeblikket kan man risikere helt uvidende at blive en del af en IoT-enheds datasæt ved bare at gå ind i det rum, enheden står i.
– Konklusionen på de mange manifester er, at vi står ved et vendepunkt. Det, der designes og udvikles, skal kunne forstås af alle – ikke kun de it-professionelle. Og så skal det være etisk forsvarligt. Derfor skal der også ligge moralske beslutninger bag designet, fastslår Irina Shklovski.
Etik ind i designet
En slående ting ved manifesterne er ifølge lektoren, at forfatterne faktisk ikke ved, hvordan de vender udviklingen.
– Manifesterne stiller spørgsmål som: Hvordan gør vi det her forskelligt fra det, vi har gjort før? Skal der mere teknologi til, eller skal vi gøre det på en helt ny måde? Det er den samtale, der skal føres, og den skal helt ind i produktets prototype, siger hun.
Desværre er mange it-folk ikke klædt på til sådan en diskussion, fordi etik indtil nu ikke har været prioriteret højt på it-uddannelserne, påpeger Irina Shklovski.
– It-professionelle er først og fremmest mennesker, som gerne vil arbejde med teknologi. Men på grund af udviklingen ender de med at skulle forholde sig til nogle temmelig voldsomme moralske og etiske dilemmaer, som de slet ikke er trænet til at håndtere, siger hun.
Spørgsmålet er da også, om det er helt rimeligt at lægge de etiske overvejelser over på den enkelte designers eller udviklers skuldre og gøre ham eller hende ansvarlig for at gennemtænke alle fremtidige konsekvenser af deres design.
Guidelines skal udvikles
VIRT-EU's mål er netop at udarbejde guidelines og værktøjer, der gør etiske overvejelser om for eksempel indsamling af personlige data til en integreret del af designprocessen for IoT-produkter. Irina Shklovski kan også sagtens se en fordel i at udforme et etisk kodeks for it-folk, som man blandt andet kender det fra lægefaget.
– Alt, der kan give anledning til at tale om etik og it, er i min bog positivt. For det er en samtale, vi – og ikke mindst de it-professionelle selv – simpelthen skal tage, siger hun.
