Ansvarlig KI starter med data – ikke med prinsipper

De fleste organisasjoner som sier de jobber med ansvarlig KI, jobber egentlig med å formulere prinsipper. Det er ikke det samme. Ansvarlig KI blir lett et dokument. En erklæring. Noe man stiller seg bak i strategipresentasjoner og årsrapporter. Men et prinsipp som ikke er forankret i hvordan systemer faktisk bygges og driftes, er ikke governance – det er intensjon. Og intensjon er ikke nok når vi snakker om ansvarlighet.

Prinsippene er kjente. Hva de faktisk krever, er mindre diskutert. 

De fleste rammeverk for ansvarlig KI bygger på de samme grunnprinsippene – rettferdighet, pålitelighet, sikkerhet og ansvarlighet. Det er bred enighet om at disse er viktige. Det er mindre oppmerksomhet rundt hva de betyr i det daglige arbeidet med å bygge og drifte systemer. 

Fordi hvert prinsipp, når du følger det langt nok, ender opp på samme sted: 

Prinsippene overlapper og forsterker hverandre – men felles for dem alle er at de ikke kan innfris uten bevisst håndtering av datagrunnlaget. 

Rettferdighet forutsetter at treningsdataene er representative. Et KI-system lærer av historikk, og data reflekterer naturlig den konteksten de ble skapt i – hvilke hendelser som ble registrert, hvilke anlegg som ble målt, hvilke avvik som ble dokumentert. Det er ikke et problem i seg selv, men det er noe som må forstås og håndteres aktivt. 

Pålitelighet vedlikeholdes gjennom datakvalitet over tid. Et prediktivt system er bare så godt som dataene som mater det. Der KI-anbefalinger inngår i vedlikeholdsplaner eller driftsbeslutninger, er dette en direkte forutsetning for at systemet gjør jobben det er ment å gjøre. 

Sikkerhet handler i dag om mer enn tilgangsstyring til systemer. Det inkluderer hvordan treningsdata beskyttes, hvem som har hatt tilgang til dem, og om leverandørkjeder for data vurderes med samme grundighet som leverandørkjeder for programvare. 

Ansvarlighet krever sporbarhet. Der KI-systemer inngår i beslutningsprosesser, må det være mulig å forstå grunnlaget for beslutningene i etterkant. Det forutsetter at data er dokumentert, at eierskap er avklart, og at modellene som brukes er transparente nok til å forvaltes. 

Et spørsmål om fundament 

En KI-strategi uten en tilhørende datastrategi hviler på et svakt fundament. Ikke fordi teknologien er dårlig, men fordi teknologien bare er så god som dataene den bygger på. 

Det praktiske spørsmålet for enhver organisasjon som tar ansvarlig KI på alvor er derfor ikke primært «hvilke prinsipper stiller vi oss bak» – men «har vi faktisk kontroll på datagrunnlaget som driver systemene våre, og vet vi hva som skjer når noe går galt?» 

Det spørsmålet fortjener et like konkret svar.