22-04-2024
ForsideKunstig IntelligensVi skal turde eksperimentere mere med kunstig intelligens i den offentlige...

Vi skal turde eksperimentere mere med kunstig intelligens i den offentlige sektor


Teknologidirektør Hans Jayatissa, KMD, er en erfaren herre med stor viden om de nye teknologier, som kunstig intelligens, machine learning og blockchain.
Han har siden foråret 2017 arbejdet i KMD, hvor han har ansvaret for at opbygge og drive KMD's Office of Technology-enhed.
Hans Jayatissa er uddannet cand.scient i datalogi og matematik fra Aarhus Universitet i 1994 og har en MBA fra Henley Business School (2006).
I sin fritid er han bestyrelsesmedlem i De Berejstes Klub og han har i skrivende stund besøgt 82 lande.

Regeringen, KL og Danske Regioner aftalte i forbindelse med aftalen om kommunernes og regionernes økonomi for 2020 at tildele i alt 200 mio. kr. over tre år til at igangsætte 15 signaturprojekter til afprøvning af kunstig intelligens i kommuner og regioner. I år er der afsat 67 mio. kr. og til næste år er der afsat yderligere 60 mio. kr. De projekter forventer vi at høre mere om i denne måned.

Det er rigtig positivt, at kommuner og regioner investerer i at få en dybere forståelse af de muligheder og begrænsninger, der er med kunstig intelligens. Der har i lang tid været en berøringsangst på området, blandt andet fordi nogle af de kommuner, der rent faktisk har eksperimenteret med kunstig intelligens, har været ramt af overmod og negativ presseomtale.

Men det er vigtigt, at vi har et råderum (link: https://www.digitalt.dk/2019/06/12/eksperimenter-med-kunstig-intelligens-maa-ikke-bryde-dataetikken/) til at eksperimentere mere med AI, så vi kan skabe en bedre forståelse for teknologiens muligheder og udfordringer. De 15 signaturprojekter er et godt skridt på vejen.

Fokuserer på kunstig intelligens som beslutningsstøtte
På nuværende tidspunkt er det sparsomt med oplysninger, detaljer og erfaringer fra de 15 projekter, da de stort set lige er gået i gang. Der er dog nogle oplysninger, når vi dykker ned i dem. På jobcenterområdet drejer det sig om disse tre signaturprojekter:

  1. Korrekt og ensartet sagsbehandling ved spørgsmål om sanktionering af ledige borgere med Frederiksberg Kommune som projektejer. Projektet har til formål at vurdere, om AI kan bidrage til beslutningsstøtte til brug for den faglige medarbejders vurdering af, hvorvidt en ledig borgers udeblivelse fra samtale eller aktiveringstilbud skal medføre en sanktion i borgerens ydelse.
  2. Målrettede beskæftigelsesindsatser til ledige borgere med Odense kommune som projektejer. Projektet har til formål at bruge AI til at understøtte sagsbehandleren i at anbefale en individuel, målrettet beskæftigelsesindsats og dermed nedbringe ledighedsperioden, mindske langtidsledighed og øge tilfredsheden med indsatsen hos den enkelte.
  3. Bedre match mellem ledige borgere og virksomheder med Københavns Kommune som projektejer. Projektet har til formål at bruge AI til at understøtte sagsbehandleren i at matche aktuelle stillingsopslag med den lediges faglige og personlige kompetencer og dermed anbefale mere relevante jobforslag og bringe den ledige hurtigere i beskæftigelse.

Fælles for de tre projekter er, at de fokuserer på kunstig intelligens som beslutningsstøtte, altså et hjælpeværktøj til den professionelle sagsbehandler, der så i sidste instans træffer en afgørelse. Det er umiddelbart en rigtig god idé, da det øger trygheden ved brugen af den nye teknologi, og at det er et menneske, der i sidste ende træffer afgørelsen.

På den anden side er det jo netop projekter som disse, der skal skabe erfaringerne med AI, og derfor kunne jeg godt drømme om, at det offentlige gik skridtet videre, eksempelvis ved i ét af projekterne lod computeren træffe afgørelsen. Gerne med den tilføjelse, at det er tydeligt for borgeren, at afgørelsen er truffet af computeren, og hvis borgeren er uenig i afgørelsen, kan få en sagsbehandler til at tage stilling også.

Det ville blandt andet give mulighed for, at projektejerne ville blive klogere på, om borgerne forholder sig anderledes til computerafgørelser, hvor der indgår kunstig intelligens, fremfor computerafgørelser, som er rent regelbundne, som f.eks. årsopgørelsen fra SKAT samt tinglysning af realkredit. Det skal dog nævnes, at der i projekt 3 åbnes for, at algoritmen senere vil kunne bruges som en borgervendt selvbetjening og dermed stadigt som et hjælpeværktøj – blot til privat brug.

Etiske, juridiske og datasikkerhedsmæssige afklaringer
De tre projekter nævner alle med forskellig ordlyd, at de vil foretage etiske, juridiske og datasikkerhedsmæssige afklaringer i forbindelse med projektet – især i forhold til borgeroplevelsen og sagsbehandlerens anvendelse af værktøjet. Det er naturligvis rigtig fornuftigt at få afklaret de aspekter i forhold til anvendelsen af værktøjet, og der nævnes specifikt, at borgerne skal opleve, at deres data anvendes på en gennemsigtig måde. De aspekter er dog relevante, uanset hvilken teknologi et sagsbehandlingssystem er baseret på. Til gengæld er det kun projekt 1, der klart angiver, at de vil undersøge de helt centrale problemstillinger ved anvendelsen af kunstig intelligens til sagsbehandling, nemlig bias i datasæt og forklarbarhed:

  • Bias i datasæt: En AI-model trænes på baggrund af historiske data og vil dermed træffe nye afgørelser på baggrund af mønstre i fortidens data. Men hvis disse historiske data f.eks. kun er fra København, og modellen skal bruges i hele landet, kan den ramme skævt. Det kan også være, at modellen medtager datasæt, der er irrelevante som hårfarve og baserer sine afgørelser på dette. Det er derfor væsentligt, at man er åben om hvilke datasæt, modellen er trænet på.
  • Forklarbarhed: På det nuværende teknologistade kan man basalt set vælge mellem AI-modeller, som rammer meget præcist, men hvor afgørelserne ikke kan forklares, og AI modeller som kan forklares, men hvor præcisionen er ringe. Når AI anvendes til beslutningsstøtte, er det meget vigtigt både for sagsbehandler og borger, at computerens anbefaling er så præcis som mulig og forstås af begge parter.

Jeg kunne godt tænke mig, at der blev lagt meget mere vægt på ovenstående to aspekter i signaturprojekterne. Der forskes i dag rigtigt meget i Explainable AI, som er AI-modeller, der både er præcise og forklarbare, og det kunne være fantastisk, hvis signatur­projekterne kunne hjælpe med at komme med løsninger på, hvad en god forklaring eksempelvis er, og hvordan man bibringer en forståelse for bias i datasættene.

Intelligent og troværdig beslutningsstøtte i jobcentre
Det er blandt andet det, som EcoKnow-projektet, der er et forskningsprojekt støttet af Innovationsfonden og med deltagelse af blandt andet Københavns Universitet, DTU, Københavns kommune og KMD, arbejder med. Projektet, hvor det samlede budget er på 25 millioner kroner, har til formål at skabe nye intelligente løsninger, som letter sagsbehandlingen af komplekse områder med automatisk sortering af materiale og beslutningsstøtte.

KMD er involveret i den del, der handler om at skabe intelligent og troværdig beslutningsstøtte i jobcentrene, og i dette mere eksperimenterende projekt afprøves der teknologier som ”forklaringsgrafer” til at redegøre for sammenhænge mellem årsag og virkning. Derudover trænes modellerne på syntetiske data, som ikke er personhenførbare, for at forebygge utilsigtet bias og for at sikre anonymisering af de data, der trænes på.

Selvom signaturprojekterne som sagt kun lige er sat i gang, har der allerede været dialog og erfaringsudveksling mellem projektejerne af signaturprojekterne og EcoKnow-projektet. Der arbejdes blandt andet på, hvordan signaturprojekterne mere direkte kan arbejde videre med erfaringerne fra EcoKnow.

Forhåbentligt ender vi med, at signaturprojekterne også medtager aspekterne som forklarbarhed og bias i datasættene samt arbejdet med at skabe forståelse for brugen af kunstig intelligens i det offentlige, så vi får afprøvet endnu mere og indsamlet mere viden om den praktiske brug af AI i kommuner og regioner.

Hans Jayatissa, KMD
Hans Jayatissa, KMDhttp://www.kmd.dk
Digitaliseringsdirektør Hans Jayatissa, KMD, er en erfaren herre med stor viden om de nye teknologier, som kunstig intelligens, machine learning og blockchain. Han har siden foråret 2017 arbejdet i KMD, hvor han har ansvaret for at opbygge og drive KMD's Office of Technology-enhed. Hans Jayatissa er uddannet cand.scient i datalogi og matematik fra Aarhus Universitet i 1994 og har en MBA fra Henley Business School (2006). I sin fritid er han bestyrelsesmedlem i De Berejstes Klub og han har i skrivende stund besøgt 82 lande.

Mere fra samme indlægsholder

Denne hjemmeside gør brug af cookies. Ved videre brug accepterer du vores brug af cookies.  Læs mere