FORESTIL DIG, at en medarbejder i en kommune eller region åbner din sag. I afgørelsen vil AI bruge data om din økonomi, din arbejdshistorik og måske også dit helbred – og det får betydning for, om du får tilkendt hjælp eller ej.
Lyder dette trygt og som det danske velfærdssamfund, vi kender i dag? Nej, vel? Vi har rigtig god grund til at være på vagt, for det er snart virkeligheden, hvis politikerne ikke tager ansvaret på sig. Kommuner og regioner anvender allerede nu AI i sagsbehandlingen – men udviklingen går for stærkt, hvis vi skal værne om borgernes retssikkerhed og personfølsomme data.
Lige nu står vi midt i et folketingsvalg. Mange politiske temaer er allerede blevet diskuteret. Men ét område fylder stadig minimalt i debatten: Hvordan skal AI konkret anvendes i den offentlige sektor – og hvilken offentlig velfærd og service ønsker vi egentlig, at teknologien skal understøtte i fremtiden? Vi har i alt for høj grad forsømt at tage en offentlig debat om, hvad det betyder for vores samfund, når AI i stigende grad anvendes.
LÆS OGSÅ: Fagbevægelsen taber kapløbet om AI-debatten
Når systemer spiller en større rolle i sagsbehandlingen, opstår der også nye udfordringer. Hvordan anvendes personlige oplysninger? Har borgeren reelt mulighed for at få indsigt i afgørelsen? Kan medarbejderen gennemskue – og udfordre – systemets vurdering? Og hvem har ansvaret, hvis systemet tager fejl? Samtidig kræver det investeringer i teknologi, sikkerhed, uddannelse og implementering.
PROBLEMET ER, at den politiske debat er startet forkert. Det kan ikke være rigtigt, at man først beslutter, at AI skal spare administrative stillinger væk, og bagefter begynder at overveje, hvordan systemerne skal implementeres, kvalitetssikres og kontrolleres. Man taler om effektiviseringer og færre administrative medarbejdere, før man har en klar plan for, hvilke opgaver teknologien skal løse – og hvilke den ikke skal. For ja, AI kan på sigt effektivisere arbejdsgange. Men AI er ikke en gratis genvej til besparelser.
LÆS OGSÅ: Lund: Vi mangler en plan for AI-velfærdssamfundets varme hænder
AI bliver med andre ord præsenteret som en løsning, før man har defineret problemerne. Når algoritmer påvirker beslutninger om beskæftigelse, sociale ydelser eller andre borgerrettede områder, handler det om mennesker, deres rettigheder og livssituationer. Algoritmer er ikke neutrale. De arbejder med sandsynligheder, ikke med forståelse for det enkelte menneske. Spørgsmålet er derfor ikke, om AI vil påvirke vores velfærdssamfund. Spørgsmålet er, hvornår og i hvilket omfang algoritmerne vil få indflydelse på beslutninger om menneskers liv.
Politikerne skylder klare svar på: Hvordan skal AI bruges i den offentlige sektor? Hvordan beskytter vi borgernes data? Og hvordan sikrer vi, at teknologien understøtter medarbejdernes faglighed i stedet for at erstatte den? Men i sidste ende er spørgsmålet bredere: Hvilken offentlig velfærd og service ønsker vi i fremtiden?
LÆS OGSÅ: A4 samler politikere, erhvervsliv og eksperter til summit om AI's indvirkning på arbejdsmarkedet
Det er ikke et spørgsmål om at være for eller imod AI. Det er et spørgsmål om at starte en demokratisk samtale om teknologien – før vi sætter både kvaliteten i velfærden og borgernes tillid over styr.
