For å lese pluss-artikler må du være abonnent
Et abonnement gir tilgang til alt innhold og vi har følgende tilbud
DEBATT
KI trenger ikke først og fremst mer begeistring
Den trenger et system.
Publisert
Sist oppdatert
Lesetid: 2 min
Dette er et debattinnlegg. Meningene som fremkommer, er skribentens og representerer ikke hans arbeidsgiver.
Kunstig intelligens skal brukes trygt, klokt og meningsfullt. Det er de fleste enige om. Men hvem sørger for at det faktisk skjer? Som IT-arkitekt svaner jeg et tydelig svar. Gode intensjoner er ikke nok når KI brukes til å vurdere elever, arbeidssøkere, pasienter eller innbyggere. Før slike systemer tas i bruk, bør virksomhetene gjennomføre en KI-konsekvensvurdering: Hva kan gå galt? Hvem rammes? Hvem har kontroll på svarene, og hvordan rettes en feil?
Det finnes allerede et godt mønster for dette i GDPR: personvernkonsekvensvurderingen.
EUs KI-forordning stiller nå tilsvarende krav til risikovurdering for høyrisikosystemer som påvirker menneskelige rettigheter og muligheter. Jeg mener skoleeiere, kommuner og bedrifter bør bruke samme tankegang også når systemet ikke formelt havner i den høyeste risikokategorien, men likevel påvirker enkeltmennesker. Dette er ikke teoretisk. Studiebarometeret 2024 viser at fire av fem studenter nå bruker KI i studiearbeidet, en økning på 20 prosentpoeng fra 2023. Samtidig sier nesten sju av ti at de har fått lite eller ingen opplæring. Det er ikke et argument mot teknologien. Tvert imot er det et argument for at opplæring, kildekritikk og tydelige regler må følge verktøyene fra første dag.
Energibruken bør også inn i regnestykket. IEA anslår at datasentre brukte 415 terawatttimer i 2024, rundt 1,5 prosent av verdens strømforbruk, og forventer nær en dobling til om lag 945 terawatttimer innen 2030. Når KI omtales som en kreativ superkraft, bør vi også spørre hvem som betaler den fysiske kostnaden. Det er et styringsspørsmål, ikke en fotnote. Arbeidslivet reiser et annet spørsmål. NAVs omverdensanalyse peker på at personer med lav utdanning er mest utsatt for automatisering og allerede overrepresentert utenfor arbeidslivet. Derfor trengs målrettet kompetanseheving, ikke bare generelle løfter om at alle skal få del i gevinstene. Slik jeg ser det, får denne fordelingssiden for liten plass i KI debatten.
Samtidig er det et spørsmål om sannhet. Vectaras måling av KI-hallusinasjoner viser at den beste modellen ligger under to feil per hundre oppsummeringer, mens flere mye brukte modeller ligger over ti. Da kan ikke kildekritikk være et tilleggskurs etter at systemet er tatt i bruk. Den må være en del av selve løsningen.
Jeg vet ikke om norske kommuner har kapasitet til enda en omfattende rapportering. Det er en reel innvending, særlig når kommuneøkonomien allerede er presset. En vurdering som bare blir liggende ubrukt, hjelper ingen. Derfor bør kravene være korte, standardiserte og knyttet til et tydelig ansvar. Hvem godkjenner bruken, hvem følger med og hvem stanser løsningen når den svikter? Jeg mener ikke at alle KI-systemer bør reguleres likt. Et verktøy som foreslår formuleringer, er ikke det samme som et system som påvirker hvem som får jobb eller støtte. Men retningen bør være klar. Jo større innvirkning på mennesker, desto strengere krav til dokumentasjon, kontroll og klageadgang.
KI er kommet for å bli. Det er nettopp derfor skoleeiere, arbeidsgivere og myndigheter bør lage spillereglene mens teknologien fortsatte er ung. Det vi bør frykte, er ikke KI i seg selv, men mangelen på et system som gjør noen ansvarlige når den tar feil.
