Eksperter vil regulere jobcentres brug af algoritmer
Der er brug for klarere rammer for, hvordan oplysninger om borgere ved hjælp af algoritmer samkøres i de offentlige systemer.
Sådan lyder budskabet fra den såkaldte Siri-Kommission, der blev nedsat i 2016 for at se nærmere på, hvad kunstig intelligens betyder for danskerne.
Kommissionen, der er opkaldt efter techgiganten Apples digitale taleassistent Siri, aflægger tirsdag rapport ved en konference på Christiansborg.
Formanden for kommissionen er Thomas Damkjær Petersen, der også er formand for Ingeniørforeningen.
Han mener, at den nuværende brug af algoritmer i det offentlige godt kan sammenlignes med en slags "wild west-tilstand".
- Kunstig intelligens er et nyt værktøj, som er kommet hertil, fordi vi har så stærke computere, at man kan gennemanalysere kæmpe datamængder på et splitsekund.
- Derfor siger vi, at man skal benytte det med omtanke. Og derfor mener vi, at alt lovgivning fremadrettet skal tjekkes for dets dataetiske konsekvenser, på samme måde som man tjekker for økonomiske og miljømæssige virkninger, siger han.
Det største problem er ifølge formanden der, hvor man opsætter algoritmer til at trawle historiske adfærdsmønstre igennem og overføre resultatet på konkrete borger:
- Vi så for nogle år siden den såkaldte Gladsaxe-sag, hvor Gladsaxe Kommune ved hjælp af kunstig intelligens og samkørte data ville forudsige hvilke børn, der var i risiko for en dårligere opvækst.
- Det blev gjort i en god sags tjeneste, men man havde ikke taget borgerne med på råd, siger Thomas Damkjær Petersen.
Kommunen trak senere datametoden tilbage efter kritik.
Også jobcentre har brugt algoritmer til at forsøge at forudse, hvilke ledige der er i risiko for at blive langtidsledige.
- Man kan godt bruge kunstig intelligens og algoritmer til at forudse nogle generelle udviklingstendenser. Men man skal passe på med at gå ned på personniveau, siger Thomas Damkjær Petersen.
Det er ifølge kommissionen også afgørende, at borgerne til enhver tid kan få indsigt i de data, som det offentlige ligger inde med om dem.
Desuden skal det kræve samtykke, hvis det offentlige vil benytte data til andre formål, end det de blev indsamlet til, lyder en anden anbefaling.
- Hvis der eksempelvis ligger data om, hvordan ens børn trives i skolen eller data om ens sundhedstilstand, så skal man kunne fravælge, at de data bliver brugt i andre sammenhænge, mener Thomas Damkjær Petersen.
/ritzau/
