SPALTIST
Foto: Ron Lach / Pexels.com
Når kunstig intelligens skremmer seg selv
Hvordan skal vi reagere på at firmaer fortsetter å utvikle programvare de selv mener er en fare for menneskeheten? Er vi noensinne i stand til å stanse skremmende utviklinger, eller er vi bare fremskrittets fanger?
Den geniale Douglas Adams skrev følgende i Mostly Harmless, den femte boken i den meget feilbenavnede trilogien The Hitchhiker’s Guide to the Galaxy: «Den viktigste forskjellen mellom noe som kan gå galt og noe som umulig kan gå galt, er at når noe som umulig kan gå galt går galt, viser det seg som regel å være umulig å komme til for å reparere.»
Det er mange som tenker litt på den måten om kunstig intelligens (KI) om dagen. For dette kan virkelig gå galt om det først går galt. KI-selskapet Anthropic kan se ut til å være blant dem. Det viste de forrige uke, da de advarte mot sitt eget produkt, Claude Mythos.
Advarselen
Full pakke: digitalt årsabonnement + tidsskrift til kr 1499,-
Bestill her
