Algoritmer har fået fast plads i forskningsprojekter: ”Det stiller nye krav til etik, for det kan have betydning for menneskers liv”

Hvordan undgår vi, at algoritmerne bliver forudindtagede, og hvordan sikrer vi gennemsigtighed i beslutningerne? Og kan vi overhovedet stole på algoritmer?

Det er nogle af de overvejelser, Anne Marie Villumsen, seniorforsker i VIVE, beskriver i en ny videnskabelig artikel. Her argumenterer hun sammen med et hold af forskere for, at det er endnu vigtigere end tidligere at have fokus på etik, gennemsigtighed og ansvarlighed, når ny teknologi bliver implementeret i forskning.

I den videnskabelige artikel tages der udgangspunkt i et projekt, hvor forskere har undersøgt, om det er muligt at skabe ny teknologi, der potentielt kan understøtte beslutninger om børns mistrivsel. Algoritmerne kan bruges til at finde mønstre eller videnshuller, som ellers kunne være blevet overset.

Algoritmen må ikke diskriminere

På baggrund af 195.000 underretninger har forskerne udviklet en model, der potentielt kan hjælpe, når der skal tages beslutninger i sager om mistrivsel hos børn og unge. Det har de gjort ved at kode en algoritme og give den store mængder data i et lukket system.

I udviklingen af algoritmen har forskerne fx fjernet data om køn, etnicitet og socioøkonomisk baggrund. Samtidigt er den gjort aldersneutral. Det har de gjort for at undgå diskrimination og bias:

”Det er vores ansvar at skabe et system, der ikke diskriminerer. Algoritmer lærer af eksisterende data, og hvis disse data fx er skævt fordelt, kan algoritmen utilsigtet fastholde bias. Man skal også have for øje, at algoritmer kan forstærke eksisterende uligheder i dataene. Det skal man overveje grundigt og adressere, når modellen bygges, så den er etisk forsvarlig,” forklarer Anne Marie Villumsen.

Hun fortæller, at det omvendt er en udfordring i, om modellens præcision påvirkes, når man fjerner data. For at være anvendelige skal modeller helst være så præcise og forudsigende, som muligt.

Vigtigt med gennemsigtighed og etik

De etiske overvejelser handler også om, hvordan man på sigt anvender denne type modeller ude i virkeligheden. Derfor mener Anne Marie Villumsen også, at det er vigtigt, at vi som samfund stiller nye og større krav til gennemsigtighed, både når de bygges og hvis modellerne i fremtiden tages i brug i den virkelige verden.

”Det stiller nye krav til etik, for det kan have betydning for børns og familiers liv. Den teknologiske udvikling går stærkt, og derfor er det vigtigt, vi allerede nu gør os en række overvejelser om gennemsigtighed og etik i bygningen af denne type modeller”, forklarer hun.

Derfor mener hun, det er vigtigt, at både socialrådgivere, familier og børn forstår, hvordan algoritmerne fungerer, og hvordan de kommer frem til sine resultater.

”Jeg ser allerhelst, at alle parter er med til at udvikle algoritmerne. Først og fremmest af etiske og dermed menneskelige årsager, men også fordi det er et princip, at der skal være gennemsigtighed i offentlige myndigheders beslutninger. Og især hvis denne type modeller skal gavne i praksis og forbedre beslutningsprocesser i sociale sager. Det handler om børns og familiers liv og fremtid,” forklarer Anne Marie Villumsen.

Kan ikke erstatte menneskelig indsigt

Det er vigtigt at understrege, at algoritmen ikke er i brug. Anne Marie Villumsen peger i den forbindelse på, at ny teknologi generelt skal ses som en støtte til medarbejderne i deres beslutninger – ikke en erstatning. Derfor understreger hun vigtigheden i, at teknologien aldrig må bruges til at tage automatiske beslutninger i praksis uden menneskelig indsigt.  

”Algoritmer har ikke menneskelig forståelse. Socialrådgiveren vil altid vide mere end en algoritme. Derfor er det vigtigt, at modellerne aldrig står alene, hverken når de skabes af forskere eller af andre aktører. Kun mennesker kan bygge afgørelser på faglig viden, erfaring og empati. Det er meget vigtigt at understrege.”