Blockchain kan sikre tilliden til kunstig intelligens


Chefkonsulent, Nikolaj Skovmann Malkov, OptimumIT, er en erfaren enterprise arkitekt med stor viden om digitaliseringen af den offentlige sektor og ibrugtagning af nye teknologier.

Blockchain er ikke meget andet end en uforanderlig log. Men netop derfor kan blockchain være relevant i kombination med kunstig intelligens. Blockchain sikrer tilliden til de data, som kunstig intelligens skaber øget indsigt i.

Kunstig intelligens rummer et revolutionerende potentiale. Men jo mere beslutningskraft vi giver maskinerne, jo større bliver kravene til den samlede sikkerhed i hele økosystemet omkring den kunstige intelligens.

Data er populært sagt brændstoffet i kunstig intelligens. Vi skal derfor kunne stole på data, ligesom vi skal kunne stole på brændstoffet til bilen.

Når vi fylder brændstof på bilen, gør vi det ikke fra åbne kar med benzin, som vi kan hælde fra, mens vi leger med lighteren. Vi tanker benzin fra sikre haner, som via rør og slanger leder benzinen op fra de sikrede underjordiske tanke op til bilens tank.

Vi stoler på, at vi får benzin med det rigtige oktantal, som ikke er fortyndet. Og vi stoler på, at anlægget er certificeret, så vi får præcis den mængde, som vi betaler for.

Som med benzin, skal man kunne stole på data med kunstig intelligens.

Blockchain som uforanderlig log kan skabe tillid til data på følgende områder:

• Data er ikke manipulerede eller korrumperede
• Datas ophav er kendt
• Persondata bruges under hensyn til samtykke
• Datas anvendelse kan spores

Data er ikke manipulerede eller korrumperede
Tillid til at data ikke er blevet manipuleret eller korrumperet, er afgørende for, at tilliden til kunstig intelligens og udfaldet heraf er sikret. Hvis data anvendt i kunstig intelligens bevidst eller ubevidst manipuleres, bliver kunstig intelligens skævvredet. Dermed vil den kunstige intelligens over tid ikke give det forventede udfald ud fra de data, der er blevet brugt til at træne og udvikle algoritmerne. Det problem forstærkes, hvis kunstig intelligens tilmed bruger data fra mange forskellige kilder som fx sensorer, IoT-løsninger, legacy-systemer og registre.

Med blockchain-teknologi kan skabes en uforanderlig log, der kan sikre integriteten af endog meget store mængder data, der stammer fra mange forskellige kilder. Data repræsenteres af en hashværdi, der lidt forsimplet kan siges at være dataenes fingeraftryk. Hashværdien lagres på blockchainen. Hver ændring i data giver en ny hashværdi på blockchainen. Alle på blockchainen kan se og dermed validere hash-værdien og ikke de underliggende data. Manipuleres data uretmæssigt, passer værdien ikke længere, og det vil være synligt for alle.

Firmaet Guardtime har sådan en løsning, hvor de dagligt publicerer en hashværdi af hele datamængden i Financial Times (se: https://guardtime.com/blog/6-reasons-why-encryption-isnt-working). Hvis data manipuleres eller korrumperes, vil hashværdien ikke svare overens med den publicerede, og alle vil kunne se det.

Datas ophav skal være kendt
Det er vigtigt for tilliden til kunstig intelligens, at datas ophav er kendt. Data definerer og former den kunstige intelligens, og vi skal derfor stole på kilden til data. Med blockchain-teknologi kan skabes en løsning, hvor datas ophav og livsforløb løbende kan spores på tværs af aktører og systemer. Blockchainen udgør den fælles sandhed, som alle bidrager og har tillid til som et sikkert fundament for troværdig kunstig intelligens.

Persondata bruges under hensyn til samtykke
Samtykke er vigtigt for at sikre, at persondata, der indgår i kunstig intelligens, er lovlige og etisk forsvarlige at bruge. Men samtykke kan også gøre det muligt at anvende de rigtige data. Det er nødvendigt med gode løsninger til at styre afgivne og eventuelt tilbagetrukne samtykker til at behandle data. Der er i hvert fald risiko for at agere ulovligt, hvis ikke vi har dem. Uden løsning til samtykke er der også risiko for, at der er værdifulde data, vi ikke bruger, fordi samtykke ikke er indhentet. Data som ellers kunne have gjort den kunstige intelligens bedre.

Mange mennesker ser gerne deres personlige data anvendt til gode formål som forskning eller udvikling af nye løsninger på sundhedsområdet. Blockchain løser det ikke alene. Men blockchain og smart contracts kan være en central del af infrastrukturen for at gentænke datadeling og skabe nye løsninger til håndtering af samtykker.

Datas anvendelse kan spores
Det er vigtigt for tilliden til og lovligheden af kunstig intelligens, at resultaterne kan forklares og forstås. Det er særlig vigtigt indenfor det offentlige, hvor det er et ufravigeligt krav, at myndighedsafgørelser kan dokumenteres og forklares.

Det stiller krav til designet af den kunstige intelligens, at den skal kunne forklares. Men det stiller også krav til, at datas anvendelse kan spores. Kunstig intelligens bør kunne svare på, hvilke data der har indgået, hvornår og hvordan. Blockchain kan bidrage til at skabe en log over, hvilke data, der har indgået i specifikke dele af den kunstige intelligens virke. På den måde kan blockchain bidrage til at skabe forklarlig kunstig intelligens.

At blockchain i bund og grund er en uforanderlig log, der kan udgøre en fælles tillidsbase, er måske ikke så sexet i sig selv. Men som en fælles log og tillidsbase for data, kan blockchain bidrage til kunstig intelligens, som vi kan stole på.

Chefkonsulent Nikolaj Skovmann Malkov, OptimumIT
Chefkonsulent Nikolaj Skovmann Malkov, OptimumIT, er en erfaren enterprise arkitekt med stor viden om digitaliseringen af den offentlige sektor og ibrugtagning af nye teknologier. Nikolaj har været ved OptimumIT siden 2017 og har de senere år på forskellig vis beskæftiget sig med blockchain og den forretningsmæssige anvendelse heraf, bl.a. igennem OptimumIT’s deltagelse i ISO-standardiseringen af blockchain. Nikolaj er cand.scient.pol fra Københavns Universitet i 2007 og har sidenhen efteruddannet sig på bl.a. IT-Universitetet.