Kunstig intelligens utfordrer våre forestillinger om oss selv

Kunstig intelligens (AI) er ikke bare omveltende i kraft av hva maskiner nå kan gjøre, men også fordi teknologien utfordrer hvordan vi tenker om oss selv som mennesker. Selv om Darwin kanskje rev oss ned fra plassen som «kronen på skaperverket», har mange av oss holdt på ideen om at mennesket er unikt tenkende – og dermed likevel hevet over resten av verden.

Dette synet kommer til å bli utfordret framover.

For hva er egentlig denne AI-teknologien?

Jo, allerede her er det mye nytt å tenke på for de fleste. Når man produserer lærende maskiner, lager man ikke systemene direkte. I stedet lager man prosesser som fører til at nyttige og komplekse systemer kan oppstå av seg selv.

Urmakere

Dette er hovedinnsikten til Darwin, slik filosofen Daniel Dennett senere formulerte det; naturlig seleksjon er en algoritme som produserer former som er tilpasset verden. Og denne algoritmen fungerer av seg selv uten at man trenger noen «designer». Richard Dawkins demonstrerte dette allerede i 1987 med dataprogrammet «The Blind Watchmaker», hvor han skrev noen av de første såkalte genetiske algoritmene. Genetiske algoritmer er en av flere teknologier som man fortsatt benytter i maskinlæring. Da livet ble til på jorden, var det det store mirakelet prosessen – evolusjon – mer enn de konkrete livsformene.

I hjertet av AI ligger altså evolusjon som en teknologi og som en inspirasjon til hva som kan være mulig å få ut av frie, kreative prosesser. Og med AI har vi dermed for første gang skapt noe som ikke bare er en «ting» – vi har skapt noe som i et vesentlig aspekt minner om selve livet: Det utvikler seg selv, og skaperen – mennesket – står og ser på som en (nesten) blind urmaker. Vi kjenner kanskje parametrene for evolusjonsprosessen vi har muliggjort – men å forutse hvor prosessen ender opp, er noe ganske annet.

På konferansen til Human Behavior and Evolution Society i 1995 presenterte programmereren og kunstneren Karl Sims noe han kalte «Evolved Virtual Creatures”. Allerede da var det åpenbart at man kunne programmere prosesser i datamaskiner og få ut komplekse løsninger som man ikke på forhånd hadde tenkt på. Karl Sims hadde laget en virtuell verden med simulert tyngdekraft og luftmotstand hvor virtuelle «dyr» kunne bevege seg rundt. Hvordan dyrene så ut og oppførte seg, var bestemt av virtuelle gener og ikke av Karl Sims direkte. Han hadde også laget en evolusjonær prosess hvor de virtuelle dyrene formerte seg seksuelt, blandet genene sine, og fikk barn. Hvor mange barn hvert dyr fikk var avhengig av hvor lite energi de hadde brukt til å bevege seg rundt i den virtuelle verdenen. Ta en titt på den snart 30 år gamle videoen og tenk på hva du egentlig ser; kunstige vesener som er tilpasset en kunstig verden, uten at noen mennesker har designet dem.

I datamaskinene trenger man ikke vente millioner av år på å se evolusjonen fungere: Du kan sette i gang algoritmene, la maskinen stå på over natta, og se hvordan de virtuelle skapningene ser ut og oppfører seg etter noen millioner generasjoner, allerede neste morgen. Denne teknologien har mer til felles med oppdrett enn med tradisjonell IT-systemutvikling.

Tabula rasa

ChatGPT representerer noe enda mer utfordrende for hva vi tenker om oss selv enn disse første selvforbedrende systemene. For med ChatGPT kom den mest «reduksjonistiske» og «positivistiske» tilnærmingen til å generere språk først i mål.

Vi kunne kanskje si at Noam Chomsky tapte og B.F. Skinner vant. Chomsky og Skinner var to av forrige århundres helt store lingvister og språkteoretikere, som på 50-tallet havnet i en stor strid om hvordan vi skulle forstå menneskers språklæring. Litt forenklet kan vi si at Chomsky mente at det i mennesket lå en nedarvet språklig struktur, mens Skinner argumenterte for at barn lærte språk gjennom en form for prøving og feiling, og endret språklig adferd i møte med responser fra verden. For Skinner lå språket der altså ikke fra før – hjernen var språkstrukturelt ubesudlet, et tabula rasa.

Der språkteknologer og språkforskere i flere tiår har forsøkt å dekode språk og grammatikk – på jakt etter Chomskys strukturer – tok forskningslaboratoriet OpenAI en annen tilnærming med ChatGPT: De satte opp nettopp et tabula rasa i form av et tomt, gigantisk virtuelt nevralt nettverk. Det nevrale nettverket ble så trent på en enorm mengde tekst i et vanvittig antall runder av såkalt «forsterket læring» som er den samme metoden med straff og belønning som vi benytter for å trene opp dyr til å gjøre som vi ønsker.

OpenAI laget ganske enkelt en matematisk fremstilling av et enormt nettverk av nerveceller og utsatte det for en prosess hvor nettverket ble «belønnet» hvis det ga riktige svar og «straffet» hvis det ga mindre riktige svar. Det var ikke viktig hvordan nettverket kom fram til svaret.

Hesten og rytteren

Den store jobben til OpenAI var å skaffe treningsdata så prosessen kunne skje av seg selv. Igjen tok de en snarvei: I stedet for å velge ut materialet samlet de så å si alt som fantes av tilgjengelig tekst fram til 2021. Så trente de det nevrale nettverket, kalt GPT, på å gjette neste ord i tilfeldige setninger fra den enorme samlingen. Når GPT gjettet riktig, ble forbindelsen mellom nervecellene som hadde vært aktivert, forsterket. Når nettverket tok feil, ble forbindelsene svekket. Milliarder av maskinelle treningsrunder senere, inkludert noen færre treningsrunder med mennesker i loopen, lanserte OpenAI programmet ChatGPT som lar oss føre en dialog med det nevrale nettverket GPT.

Gjennom denne treningen har GPT bygd opp indre representasjoner av objektene som er beskrevet i tekstene den er trent på. Den kunstige hjernen har også lært hvordan disse objektene henger sammen med andre objekter. GPT er på mange måter et enormt tankekart som er basert på all tilgjengelig tekst fram til 2021.

Det samme tankekartet som brukes til å produsere tekst av ChatGPT, brukes også av AI-bildegeneratoren Dall-E til å lage bilder. Hvis man for eksempel ber Dall-E om å lage et bilde av en hest, vet GPT hvordan «hest» er relatert til alt fra ridning til krig, til hestemøkk, fargen brun, «horse», araber og t-ford. Den kan dermed også produsere bilder og tekst der assosiasjoner og relaterte objekter henger sammen på måter som vi mennesker kjenner igjen. En hest står nesten alltid på bakken med fire bein og har kanskje en rytter på seg. Dette vet GPT, og dermed også ChatGPT og Dall-E.

Betyr dette at det finnes et nevron for «hest» i GPT? Tja, nei, ingen vet om det er så enkelt. Ingen vet om «hestenevronet» finnes – hverken i menneskehjernen eller i GPT. Begge systemene er designet for å produsere et output som krever en eller annen indre representasjon av «hest» – og det klarer beviselig både menneskehjernen og GPT.

Allerede GPT-3-nettverket er så stort og komplekst at det er like mye en «black box» som menneskehjernen er.

Til forskjell fra menneskehjernen er det ikke uetisk å tukle med enkeltnevroner i GPT, men fordi systemet er så komplekst, blir tilnærmingen den samme som når man forsker på hjernen. Hver nervecelle er jo bare et punkt i et nettverk med mange ulike forbindelser. De står da ikke for noe spesielt? Man må prøve seg fram: Hva skjer når man kobler ut akkurat denne biten? Hvilke nevroner fyrer opp når vi gir nettverket akkurat dette spørsmålet? Hva skjer hvis vi forsterker forbindelsen mellom disse to nevronene?

Homo reflectens

Intuitivt er det nok mange som tenker at en viktig forskjell mellom dagens versjon av ChatGPT og vår hjerne er mangelen på rekursivitet: ChatGPT-tankene går bare en vei, fra input til output. Det foregår ingen refleksjon, er det lett å tenke.

En slik tanke er forståelig, men to problemer dukker umiddelbart opp. For det første: Slik fungerer i stor grad også hjernen vår: nervesignaler fra hele kroppen flyter opp gjennom ryggmargen og «eksploderer» utover i det nevrale nettverket i hodet vårt. Samtidig har vi åpenbart evnen til å holde på en tanke og bearbeide den noen ganger.

Og her kommer poenget som virkelig utfordrer vår forståelse av mennesket som unikt reflekterende i en tid hvor vi for lengst har vent oss til at datamaskiner er bedre enn oss både til å spille sjakk og kjøre bil: Hvis man nå mener mennesketanken er unik og peker på fenomener som rekursivitet som noe maskinene ikke får til, ja så er dette nå spørsmål som ingeniører i skrivende stund tester ut i høyt tempo. Ideer om hvordan vi tenker som har vært debattert og filosofert rundt i hundrevis – om ikke tusenvis – av år kan formuleres teknisk og prøves ut.

Og man har allerede funnet ut at rekursivitet er et bra triks. Hvis du ber ChatGPT om å reflektere over sine egne svar, forer du tanken til nettverket tilbake til det – og svaret blir mye bedre. OpenAI baker derfor indre refleksjon inn i en kommende utgave av GPT-4. Den vitenskapelige artikkelen kan du lese her.

Og slik må vi regne med at det blir mer av fremover. Alle bastante påstander om hva som er unikt for menneskesinnet, er nå kritisk utrydningstruet.

Her ligger det mange store og viktige diskusjoner om hvor kunstig intelligens er på vei og hva slik intelligens egentlig er på vei til å bli. Men det som allerede er klart, og som på sitt vis er like viktig, er hva det forteller oss om hva mennesket er – og om hva de egentlig betyr, alle de ordene som hittil i har vært så karakteristiske og av og til unike for mennesket: Tenkning og refleksjon, og kanskje kan vi siden legge til emosjoner, vilje, evissthet og identitet og alt det andre som har oppstått etter hvert som våre egne nevrale nettverk brukte milliarder av år på å utvikle.

Hvem er vi, og hvor kommer vi fra? Kanskje selvlærende algoritmer vil bli en viktigere del av svaret på det spørsmålet fremover.