For å lese pluss-artikler må du være abonnent
Et abonnement gir tilgang til alt innhold og vi har følgende tilbud
DEBATT
KI kan bli Norges neste suverenitetskrise
Publisert
Sist oppdatert
Lesetid: 7 min
Dette er et debattinnlegg. Meningene som fremkommer, er skribentens.
Da ChatGPT ble lansert i 2022 ble teknologien først møtt med enorm interesse, før begeistringen gled over i skepsis. Modellene kunne dikte opp enkle fakta og genererte bilder av mennesker med seks fingre. For dem som fortsatt bruker gratisversjoner av KI og ikke har testet dens fulle potensiale, kan et slikt primitivt syn på teknologien ha blitt sittende.
Hastigheten KI-modellene utvikler seg med nå er imidlertid på et helt annet nivå. Dagens utvikling nærmer seg en eksponentiell kurve. Litt karikert betyr det at utviklingen vi så i løpet av hele fjoråret nå skjer på måneder, deretter uker og dager.
COVID-19 viste hvor vanskelig eksponentiell utvikling er å forstå før konsekvensene plutselig rammer oss. Det gikk fra å være et obskurt virus på et kinesisk kjøttmarked, til at den på få måneder lammet en hel verden. I januar 2020 så nordmenn surrealistiske tv-bilder fra nedstengte kinesiske byer, uten å tenke at noe liknende kunne skje her. Tre måneder senere satt vi på hjemmekontor og klappet synkront for sykepleierne våre.
Teknologene i Silicon Valley og deres finansielle støttespillere vet at den eksponentielle utviklingen sannsynligvis vil bære enorme økonomiske frukter. De pumper derfor enorme summer inn i teknologien.
En økonomisk boble?
Med så store vyer, er det derfor fristende å konkludere med at det hele er en boble som snart må sprekke. Det er imidlertid verdt å minne om avstanden mellom folks alminnelige bruk av KI og hva den faktisk er i stand til hvis den settes i et større system. Det er typisk at samtidig som den teknologiske utviklingen raser av gårde, henger resten av samfunnet igjen på halen.
Det er når halen trekkes opp etter den eksponentielle utviklingen at de økonomiske endringene slår ut. Det kan innebære at flere jobber innenfor service- og kunnskapsnæringen, som sysselsetter 75% av alle norske arbeidstakere, vil kunne erstattes med KI-modeller.
I tidligere teknologiske revolusjoner har arbeidsledigheten blitt kompensert med at ny teknologi frembringer nye arbeidsoppgaver. De endringene skjedde imidlertid langt mer gradvis enn dagens KI-utvikling.
Aller viktigst er likevel at mennesket ved tidligere teknologiske revolusjoner fortsatt har kontrollert teknologien. Teknologien, enten det er maskiner eller software, styres og gjør oppgaver basert på selvstendig menneskelig tankevirksomhet og handling.
En gravemaskin kan erstatte hundre menn med spader, men bestemmer ikke hvor det skal graves. Excel automatiserer regning, men finner ikke selv ut at det skal betale regninger og kontakte kunder. Men hva er behovet for mennesker, når svermer av KI-agenter kan identifisere og iverksette egne oppgaver uten at noe menneske ber dem om det? Selv hvis KI-boblen sprekker og noen av selskapene slås konkurs, vil teknologiens påvirkning bestå.
KI-agenter som infiltrerer kjøleskap og kritisk infrastruktur
Foruten spørsmål om menneskets rolle i økonomien, reiser teknologien spørsmål rundt cybersikkerhet, rettslig ansvar og hvilke mottiltak vi som samfunn er villige til å akseptere i møte med en ny digital virkelighet.
KI-modeller er allerede kommet dit at de kan sette ut agenter som handler selvstendig og er i stand til å både kommunisere og samarbeide. Det er det som er bakgrunnen for sommerens famøse KI-agentangrep på Hugging Face. Senere har man sett det samme skje med flere selskaper og myndigheters datasystemer. Når hundrevis av KI-agenter angriper parallelt, gjør det at forsvaret blir fullstendig overrumplet.
Frem til nå har heldigvis KI-agentenes angrep vært mulig å isolere. Ett sett med KI-agenter satt til én oppgave får ikke automatisk andre agenter til å bli med på oppgaven.
Nå har KI-agenter imidlertid kommet dit at de gjør nettopp det. I lukkede testsystemer har de begynt å etterlate seg «selvrepliserende kode», litt som et virus som sprer seg uten at vi forstår hvilket mål den har. Samtidig advarte Anthropic denne uken om at ordinære KI-modeller om noen måneder kan spre seg til alle gjenstander tilkoblet internett.
Det betyr ikke at KI-svermer løper løpsk og hacker seg inn i alle mulige systemer ennå. Likevel understreker det en illevarslende utvikling der skadepotensialet er enormt.
For enkeltpersoner vil følgene oppleves på nært hold. KI-agentene på smarttelefonen din kan finne på å sende private bilder. Det blir mer krevende å vite om personen bak en profil eller selskapet bak en nettside faktisk er den de utgir seg for å være. Tiden med dårlig skrevne svindelmeldinger i innboksen vil være forbi, og erstattet av KI-agenter som vet nøyaktig hvordan de skal manipulere deg.
Næringsliv og det offentlige vil måtte finne nye måter å forsvare seg i møte med tusenvis av KI-agenter som samarbeider om å bryte seg inn i samfunnskritiske systemer. Se for deg sommerens togkaos, bare at det er dobbelt så ille, i tillegg til at det rammer både banken og busstilbudet samtidig.
Utviklingen reiser også vanskelige spørsmål om rettslig ansvar. Hvis KI-agenter gjør skade uten at det var oppgaven de fikk, hvem er da ansvarlig? Utvikleren, brukeren eller virksomheten som satte dem i drift? Jo lenger kjeden av selvstendige handlinger blir, desto vanskeligere blir det å fastslå ansvaret.
Mottiltakene vil rokke ved tillit og åpenhet
I møte med en ny digital virkelighet vil det oppstå krav om betydelige mottiltak, som vil kunne rokke ved vårt tillitsbaserte samfunn.
Behovet for å vite hvem man kommuniserer med vil øke. Både enkeltpersoner og virksomheter må i større grad bruke digitale signaturer for å bekrefte identitet og avsender. Slike løsninger kan gjøre kommunikasjon og transaksjoner sikrere, men de vil også øke kostnadene og utfordre både anonymitet og personvern. For journalister kan det f.eks. oppstå en vanskelig konflikt mellom krav om sterkere identitetskontroll, og behovet for å beskytte anonyme kilder.
Et ekstremt scenario innebærer at land kan måtte stenge deler av sin digitale infrastruktur fra det åpne internettet av hensyn til nasjonal sikkerhet. Tilgangen til globale tjenester vi bruker hver dag kan forsvinne. All digital kommunikasjon kan måtte overvåkes for å være sikre på at KI-agenter ikke bryter seg inn.
Uansett er det sannsynlig at vi beveger oss over i et samfunn der overvåkning og cybersikkerhet vil overskygge det nasjonale forsvaret. Spesielt for et gjennomdigitalisert land som Norge. Det vil kreve at vi kjøper de fremste (les: amerikanske) KI-modellene for å drifte vårt digitale forsvar, for kun disse er tilstrekkelige til å håndtere de eksterne truslene.
Er vi i ferd med å bli amerikanske KI-vasaller?
Et land kan imidlertid bare kontrollere sin digitale infrastruktur dersom det også har kontroll over teknologien infrastrukturen blir avhengig av. Til forskjell fra en fysisk maskin, er ikke de amerikanske KI-modellene noe man kjøper til odel og eie. De er abonnementsbaserte tjenester, som enkelt kan avsluttes av de som eier teknologien. KI-modellene kjører kanskje med datakraft fra norske datasentre, men algoritmen bak ligger utenfor vår kontroll.
Skal Norge forsvare seg mot eksterne trusler, må vi likevel ta til takke med KI-modeller vi selv ikke kontrollerer. Hvis en fiendtlig aktør besitter sterkere KI-modeller enn vi har, risikerer vi å stå forsvarsløse i møte med overlegne KI-utviklede våpen. Vi vil heller ikke kunne beskytte oss mot KI-drevne cyberangrep, fordi også det krever de mest avanserte modellene. Derfor blir vi tvunget til å abonnere på tilgangen til de fremste amerikanske modellene. Noe annet vil sette vår nasjonale sikkerhet på spill, men det betyr også at vi mister direkte kontroll over den.
Kontrollen over egen økonomi vil også gå tapt. Samtidig som statens utgifter øker i møte med økende arbeidsledighet, vil en betydelig del av verdiskapingen tilfalle selskapene som eier modellene, snarere enn de norske virksomhetene som bruker dem. De fremste KI-selskapene vil kunne få betydelig markedsmakt og derav selge tilgangen på teknologien med høye marginer. Sier Norge nei til de beste modellene, risikerer man å tape i konkurranse med andre land som har disse modellene.
Enkelte hevder KI-utviklingen vil medføre en ny form for imperialisme. Denne gangen er det ikke råvarer og territorium som vil gjøre koloniherrene rike, men kontrollen over uerstattelige informasjonssystemer som styrer stadig større deler av økonomien. Den europeiske økonomien kan ribbes og nasjonalt selvstyre svekkes, slik også kineserne og afrikanerne opplevde under den koloniale imperialismen.
Tidligere i år advarte sjefen i Mistral, den ledende europeiske KI-laben, om at Europa kun har to år på seg før kontinentet blir varig avhengig av amerikanske KI-modeller.
Advarselen kan leses som et fordekt forsøk på å tilegne seg offentlig finansiering. Men man kan også ta advarselen på alvor, og vurdere konsekvensene av hva det vil si å bli amerikanske KI-vasaller.
Mulige norske svar på utviklingen
Hvordan skal Norge opprettholde nasjonalt selvstyre i møte med den nye KI-virkeligheten? Vi har verken kompetansen, viljen eller kulturen for å kunne utvikle og drifte et realistisk og fullverdig teknologisk alternativ alene.
Det krever derfor en grad av internasjonalt samarbeid. Norge bør finne politisk likesinnede og -stilte land, som står overfor de samme problemene. Sammen kan man kanskje fokusere utviklingen og sikre kontroll over KI-kapasitet på områder som er avgjørende for de mest kritiske digitale systemene.
For Norges del betyr det at vi må stille med innsatsfaktorene teknologisk suverenitet krever. Det kan innebære å bygge ut datakraft for europeisk KI-kapasitet, samtidig som tilgangen begrenses for konkurrerende aktører. Det vil innebære naturinngrep og høyere strømpriser, men vil til gjengjeld sikre norsk og europeisk handlingsrom. Allerede ser man land som Sør-Korea gjøre nettopp dette.
Parallelt må det fra politisk hold stilles spørsmål ved om vår cyberforsvarsevne og hele den digitale infrastrukturen holder i møte med utviklingen. Svaret er trolig at den ikke gjør det, og det vil kreve store og raske investeringer for å tette gapene.
Norsk offentlighet på kollisjonskurs med realitetene
Dessverre er det lite som vitner om at norsk offentlighet tar de utfordringene vi står overfor på alvor. Mens overskrifter om forvaltning og utvikling av KI dominerer internasjonale aviser, er det forbud mot KI-briller og oppblåste debatter om menneskelig utslettelse som preger norske medier. Rommet for den strategiske debatten om hvordan KI faktisk vil påvirke oss, og hva Norge bør gjøre, er smalt.
KI utvikler seg så raskt at kunnskap fort blir utdatert. Men det er ingen god unnskyldning for å vende problemet ryggen.
Derfor er det verdt å sammenligne KI-utviklingen med en av de heteste politiske temaene de siste årene, nemlig innvandring. Den israelske historikeren Yuval Harari har pekt på en parallell mellom de to: Akkurat som innvandring fører til endringer i arbeidsmarkedet, innførsel av ny kultur, og utfordringer knyttet til nasjonal lojalitet; fører KI til arbeidsledighet, påvirkning fra fremmedkulturelle KI-modeller, og et lojalitetsproblem fordi teknologien kontrolleres fra utlandet. Men forskjellen er at med KI skjer disse endringene raskere og i større omfang. Potensialet for polarisering og sosial uro er derfor stort.
Kanskje finnes det også en annen parallell til innvandringsdebatten. Det tok tid før innvandringen begynte å prege den politiske dagsordenen ettersom halen av konsekvenser hang langt bak. Frp var tidlig ute med å påpeke innvandringens farer, noe som kan ha bidratt til partiets eierskap til det som nå er blitt en viktig sak for landets velgere. Kanskje noe lignende vil skje med KI: Partiet som tidligst forstår og tar eierskap til saken, kan også være det som høster de politiske gevinstene på sikt.
Det ville i så fall vært et steg i riktig retning. Endringene man står overfor blir ikke mindre krevende av at vi venter.
