AI er fantastisk for brukerne. Men er det god butikk?

AI-selskapene investerer enorme summer i en teknologi som samtidig blir billigere å bruke. Hvis dagens intense konkurranse fortsetter, kan det bli vanskelig å forsvare både investeringene og verdsettelsene.

Den siste tidens dramatiske advarsler om kunstig intelligens har satt fart på debatten om strengere regulering av teknologien. Forskere ved Anthropic har advart om at svært avansert AI i verste fall kan innebære en eksistensiell risiko for menneskeheten.

Samtidig har det dukket opp en mer konspiratorisk teori på X: Hva om sikkerhetsargumentet også passer de største AI-selskapene økonomisk?

Hvis man er i det konspiratoriske hjørnet, er logikken slik: AI er så farlig at bare noen få, strengt regulerte selskaper kan få lov til å utvikle de kraftigste modellene.

Det finnes ingen grunn til å anta at sikkerhetsbekymringene er konstruerte. Men det er likevel verdt å spørre hvem som økonomisk vil tjene på reguleringer som gjør det vanskeligere å konkurrere med de etablerte selskapene.

For AI-industrien står overfor et bemerkelsesverdig økonomisk problem.

Kan AI-selskapene forsvare verdsettelsen?

På den ene siden investeres det enorme summer.

Den amerikanske investeringsbanken Goldman Sachs anslår at de globale AI-relaterte investeringene er på rundt 1000 milliarder dollar i år. Det totale investeringsbeløpet frem til og med 2050 er beregnet til 31,6 billioner dollar.

Til sammenligning er det siste anslaget for USAs BNP på 32,4 billioner dollar.

På den andre siden blir selve produktet stadig billigere.

Stanford AI Index har beregnet at kostnaden for å bruke en AI-modell med minst samme ytelse som GPT-3.5 på MMLU-benchmarken falt fra 20 dollar per million tokens i november 2022 til syv cent i oktober 2024 – en reduksjon på over 99 prosent.

Det er mer enn 280 ganger billigere på mindre enn to år. Kostnadene har fortsatt å falle, spesielt i lys av økt konkurranse fra kinesiske AI-modeller som er «open source».

Det er fantastisk for brukerne. Men ikke nødvendigvis for AI-selskapene.

AI kan kannibaliseres

AI-kappløpet skiller seg fra mange andre kapitalintensive industrier.

Et kraftverk, en jernbane eller en fabrikk kan produsere inntekter i flere tiår. I AI-industrien kan selskapene bruke enorme summer på å utvikle en ledende modell, bare for å oppleve at en konkurrent lanserer noe bedre kort tid senere.

Samtidig vokser kostnadene ved å ligge helt i front.

Og trening av modellene er bare én del av regningen. I tillegg kommer datasentre, databrikker, strømforsyning, kjøling, nettverk og rentekostnader.

Det er også uklart hvor mye av AI-konsumet som vil etterspørre de kraftigste modellene. 

AI-selskapene krever derfor enorme fremtidige inntekter for å forsvare dagens svært høye verdsettelser.

Anthropic hentet i mai 65 milliarder dollar i ny kapital til en total verdsettelse av selskapet på 965 milliarder dollar. Anthropic oppga samtidig årlige årlige inntekter på over 47 milliarder dollar for inneværende år.

Det tilsvarer en markedsverdi på Anthropic på over 20 ganger årlig omsetning, noe som er en meget høy verdsettelse, selv for tech-bransjen som har høyere omsetningsvekst enn andre sektorer av økonomien.

OpenAI, som hentet 122 milliarder dollar til en verdsettelse på 852 milliarder dollar tidligere i år, hadde en verdsettelse på 35 ganger årlig omsetning.

De to ledende amerikanske AI-selskapene ble dermed verdsatt til over 1800 milliarder dollar til sammen. Til sammenligning er det norske oljefondet verdt rundt 2300 milliarder dollar. 

For at de høye verdsettelsene skal forsvares, holder det ikke nødvendigvis at AI forandrer verden og skaper enorme produktivitetsgevinster. En betydelig del av verdiskapingen må også tilfalle selskapene som utvikler modellene, og ikke brukerne, som datasentereierne, strømprodusentene, databrikkeselskapene og så videre. At det faktisk vil skje, er langt fra sikkert.

Kunstig intelligens kan bli en av historiens viktigste teknologier samtidig som selve grunnmodellene blir en råvare med stadig lavere marginer. Konkurransen er brutal, både mellom de amerikanske AI-selskapene og fra kinesiske aktører som stadig utfordrer dem. Dessuten er det vanskelig å opprettholde høye marginer når kundene kontinuerlig får mer regnekraft for stadig mindre (eller ingen) penger. Det kan oppstå et paradoks: AI blir stadig mer verdifull for samfunnet, samtidig som AI blir stadig billigere å konsumere.

Regulering kan også hindre konkurranse

Her blir sikkerhetsdebatten interessant også fra et konkurransepolitisk perspektiv. Bekymringen er ikke helt hypotetisk:

I helgen gikk toppsjefene i de to største amerikanske ut i offentligheten med felles ønske om bremse ned utviklingen av de mest avanserte AI-modellen, og samtidig ønske seg regulering på sikkerhetsstandarder for alle AI-modellbyggere i både demokratiske og ikke minst i ikke-demokratiske stater, som Kina.

Det er fremdeles uklart hvordan reguleringen av AI vil ende opp, og om det overhode vil komme, men forslagene som fremmes i debatten handler ofte om omfattende sikkerhetstesting, rapportering, kontrollsystemer og kostbare godkjenningsprosesser før et selskap får utvikle de kraftigste AI-modellene. 

For en oppstartsbedrift innen AI kan slike krav være en enorm inngangsbarriere, på samme måte som etablerte banker kan ha en viss interesse av strenge reguleringer som begrenser konkurransen i bankmarkedet.

For Anthropic, OpenAI, Google, Space X og andre selskaper med tilgang til titalls milliarder dollar i kapital vil kostnadene ved regulering være langt enklere å håndtere. 

Regulering kan dermed få to effekter samtidig: Den kan redusere risikoen fra farlig AI, men den kan også redusere konkurransen.

Hvis utviklingen fortsetter omtrent som nå, vil modellene bli bedre, konkurrentene kopiere hverandres fremskritt, og kostnaden per beregning falle til glede for kundene og resten av økonomien. Men det kan være et problem for selskaper som må forsvare investeringer på hundrevis av milliarder dollar og verdsettelser på flere billioner dollar.

AI-selskapene risikerer at den eneste forretningsmodellen som kan forsvare de gigantiske investeringene, og de skyhøye verdsettelsene, krever så stor markedsmakt at selskapene kan nærme seg monopolprising. En streng regulering som begrenser konkurransen, kan bidra til nettopp dette.

Strenge krav kan være nødvendige og fornuftige

Det finnes selvfølgelig en joker i form av artificial general intelligence (AGI), og at dagens høye prising av AI-selskapene kan leses som en slags opsjon på AGI.

Dersom ett selskap faktisk oppnår AGI og får et varig teknologisk forsprang, kan dagens investeringer i ettertid fremstå som svært billige. Men dersom flere selskaper oppnår AGI omtrent samtidig, eller AGI ikke realiseres, gjelder konkurranseproblemet igjen.

Dette betyr ikke at regulering er feil. Dersom teknologien faktisk innebærer store samfunnsrisikoer, noe som definitivt også er tilfelle, kan strenge krav være både nødvendige og fornuftige.

Men myndighetene bør være varsomme med å la selskapene som allerede leder teknologikappløpet definere hvor høy inngangsbilletten for deres fremtidige konkurrenter skal være.

Det beviser selvsagt ikke at AI-selskapenes sikkerhetsadvarsler er en PR-kampanje. Men det gir oss en god grunn til å følge nøye med når verdens mest verdifulle private selskaper argumenterer for regler som også kan gjøre livet vanskeligere for deres fremtidige konkurrenter.

Til info: Deler av denne teksten er skrevet med hjelp av ChatGPT, som er brukt som faktasjekker, korrekturleser og sparringspartner. Alt dette ble gjort uten ekstra kostnad. Det illustrerer kanskje både muligheten og problemet for AI-selskapenes forretningsmodell – og for ansatte i tenketanker.