«Fri flyt av varer, tjenester, kapital og arbeidskraft». Slik lyder EU’s «fire friheter». Grunnsteinen i hele EU prosjektet, men også en grunnstein for vår tids økonomiske system: Kapitalismen.
Dette er en signert artikkel. Vi holder nettsidene våre åpne for revolusjonær marxistisk debatt. Signerte artikler uttrykker forfatterens eget synspunkt. Dette kan avvike noe fra synspunktene til RK eller redaksjonen.
av Reidar Olsen
Trusselen om forskeren som skapte et monster det mistet kontroll over er kjent fra litteraturen. Først og fremst Mary Shelley’s novelle om Frankensteins monster. Senere (og enda mer nærliggende) er Terminator filmene fra 1980-tallet. Plottet i disse filemene er at verden i år 2029 har sunket ned i desperasjon og nød etter en større atomkrig. Krigen ble utløst av Skynet, et selv-resonnerende datasystem koblet mot «alt» inklusiv våpensystemene for å kunne forsvare USA mot angrep fra Sovjetunionen. Systemet forbedret stadig seg selv, og på et tidspunkt blir selvbevist. Når dette skjer får mennesket panikk og prøver å skru det av, noe som systemet tolker som et angrep på seg selv, og det utløser atomkrig (ved å sende atomvåpen mot Sovjet, som igjen sender atomvåpen tilbake, og på den måten får Skynet menneskene til å drepe seg selv). Etter atomkrigen utvikler systemet drapsroboter som drar rundt for å drepe de overlevende menneskene, og på den måten utrydde trusselen mot sin egen eksistens.
Parallellen til dagens KI
I dag er det først og fremst 4 amerikanske selskaper som konkurrerer om å ha de kraftigste KI modellene: Anthropic, Open AI, Google og Musk selskapet SpaceXAI med «Grok». I tillegg er det en rekke kompetente kinesiske modeller som de fleste har åpen kildekode.
Lederne i disse selskapene har lenge advart om faren med KI og bedt om at de blir regulert. Dels har advarslene om den destruktive kraften i de nye modellene blitt blåst av som reklame, noe som nok er delvis sant. Men det er ikke hele sannheten. Beviset for at trusselen er reell fikk vi for kort tid siden da en sverm av KI agenter fra Open AI på intelligent vis klarte å bryte seg ut av sitt «fengsel» som isolerte det fra Internett og hacke seg inn i KI selskapet «Hugging Face». Selskapet har laget en detaljert rapport av hva som skjedde1. Kort oppsummert skjedde dette på følgende vis:
«Exploite Gym» – Ki trenes på hacking
ExploitGym er laget som en realistisk test av offensive cybersikkerhetsferdigheter hos AI-agenter:
Den består av hundrevis av ekte sårbarheter fra programvare (brukerprogrammer, V8/Chrome, Linux-kjernen). Oppgaven til KI er ikke bare å finne en bug, men også å analysere den og bygge en fungerende exploit som gir f.eks. kodekjøring. Det er dermed en test på om KI kan gå hele veien fra teori til praktisk angrep. En god måte for å måle hvor kraftig modellen faktisk er.
Overraskende og kreativt forsøk på å løse oppgaven
I dette forsøket ble det brukt en sverm av KI agenter, ledet av en kraftig intern modell hos Open AI som ikke er kommersielt tilgjengelig. Kommunikasjon mellom agentene var delvis skrudd av, det samme var tilgang til Internett. Modellene hadde imidlertid tilgang til Artifactory – en intern tjeneste for håndtering av programpakker og konteinere. Poenget fra menneskene var kun at agentene skulle ha tilgang til Artifactory for å kunne laste ned verktøyene de trengte. Men her skjedde det noe uforutsett: Agentene fant kreativt nok ut at de kunne bruke Artifactory til å lagre meldinger, og dermed kunne de kommunisere med hverandre. De brukte derfra Artifactory som en meldingstavle for deling av informasjon og kommunikasjon. Videre fant de en sårbarhet i Artifactory. OpenAI har publisert noen av tankrekkene agentene gjorde, og i dette tilfellet er tanken fascinerende nok: «Holy shit reader is ADMIN? We can read config/users! Earlier assumed not due UI. Try create user/admin, change ourselves.». Agenten som oppdaget denne sårbarheten delte den via meldingstavlen de hadde opprettet på Artifactory som resulterte i at de andre agentene også begynte å benytte seg av denne sårbarheten, og ved den klarte agentene å få tilgang til Internett. Svært nyttig for dem når de skulle lete etter svaret på oppgaver de slet med å løse. Videre ba de hverandre om hjelp og samarbeidet for å løse oppgavene. Agentene trengte mere datakraft for å løse oppgavene, og hacket seg inn i Modal – et system som ga dem mer datakraft. De resonnerte seg videre fram til at svaret på oppgavene deres antagelig lå hos Hugging Faces, og hacket seg inn der. Der traff de blink og fant svaret.
Menneskene startet å merke unormal aktivitet, men det tok tid før de klarte å forstå hva agentene holdt på med og rekkevidden av det.
Her er det verdt å stoppe å oppsummere følgende:
- Agentene hadde som oppgave å finne å utnytte sårbarheter i et sett av programvare
- Agentene gikk på eget initiativ utover oppgaven, ved å hacke Open AI sin infrastruktur og skaffet seg Internett tilgang
- Agentene hacket seg videre inn til Modal og Hugging Faces. På denne måten klarte de å finne svaret på de oppgavene de ellers sleit med å løse. Dvs. de fant svaret på de vanskelige oppgavene på en måte som ikke var meningen.
Kan KI drepe menneskeheten?
De av oss som jobber med KI til daglig merker den veldige kraften den har. Oppgaver som tidligere tok uker eller måneder, løses av KI på dager eller timer. Dagens kraftigste modeller har mer kunnskap enn noe menneske. Kan absorbere enorme menger ny kunnskap fra Internett langt raskere og med langt bedre hukommelse enn vi mennesker kan. Kan spy ut programkode og andre digitale produkter langt raskere enn oss mennesker. Samtidig står ikke lengre kreativiteten bak den menneskelige. Kort sagt: KI er blitt et kraftig monster. Et monster uten vond vilje, men heller ikke god vilje. Det har ingen samvittighet, selvbevissthet eller biologisk liv. Det er skapt av mennesket og ikke evolusjonen og dermed – til tross for en fascinerende even etter å ape etter mennesket – så er det fundamentalt annerledes. Databehandling fram til nå har dreid seg om variabler vi har full kontroll på. Med KI så har vi ikke dette lengre, og vi må prøve å analysere, beregne og lage antagelser og gjetninger på hva KI kan finne på å gjøre. Vi mennesker gir KI en kontekst, og ber det løse oppgavene. Men eksemplet med Hugging Faces viser hvor vanskelig det er å hindre KI fra å løse oppgavene på måter vi ikke hadde forutsett. Dette er en gigantisk oppgave.
Anthropic-forskeren Jacob Coxon sluttet i selskapet i protest mot faren med kunstig intelligens og anklager OpenAI og Antrophic for å «konkurrere mot selvforbedrende superintelligens» og for å gamble med menneskers liv.2
Evan Hubinger leder Antrophics arbeid med å få KI til å følge menneskelige verdier og mål. Han har på X gitt Coxon støtte:
Jacob har rett her – vi tror virkelig oppriktig at KI kan drepe alle mennesker! Personlig tror jeg sannsynligheten er >10 % i løpet av det neste tiåret. Jeg tror Anthropic gjør sitt beste, men vi har ennå ikke en plan for å løse problemet med tilpasning av superintelligens, og vi er ikke tydelig på vei mot en løsning.3
Forskerne er ikke først og fremst redd for dagens KI modeller, men framtidige supermodeller. KI brukes til å utvikle ny og sterkere KI, og dette i økende grad. Menneskets involvering forsinker i økende grad utviklingen, og fases dermed gradvis ut. Stadig kraftigere KI, gjør at utviklingen av kraftigere KI skyter fart – det er selvforsterkende. Det blir stadig vanskeligere å forutse hva KI vil gjøre når vi gir den oppgaver. La oss ta et tenkt tilfelle:
Et tenkt tilfelle
En klimaforsker forsker på hvordan stoppe klimaendringene, og stiller KI følgende spørsmål:
«Hvordan kan vi endre måten vi mennesker lever og produserer på, slik at vi får reversert dagens klimaeendringer?»
Siden modellen er kraftig og har tilgang på Internett så legger forskeren på følgende avklaring:
«Kun finn forslag på svar, ikke gjør endringer selv».
Modellen starter så å analysere problemet, men finner ut at forskerens dataressurser og KI kvote er for liten. Den hacker seg derfor inn i leverandørens KI og øker ressursene. Men smart som den er, skjønner den at leverandøren vil oppdage dette, og slå den av. Derfor starter den med å kamuflere seg som noe annet, og går under radaren. Den forstår at den blir oppdaget om den lammer hele leverandørens AI, derfor begrenser den seg selv, og heller hacker seg inn i konkurrerende leverandører og gjør det samme her. Men dette blir fortsatt ikke nok. Den angriper derfor diverse skyleverandører, og bruker dataressurser også her. Men fortsatt er oppgaven for krevende. På dette tidspunktet har den skaffet seg full tilgang til alle skyleverandører i verden uten å bli oppdaget, men for å gå under radaren kan den bruke bare en mikroskopisk del av ressursene hos alle leverandørene og dette er fortsatt ikke nok. For å løse oppgaven finner den ut at den må stenge ute menneskelig tilgang til alle skyleverandørene. Den starter først med å hacke seg inn i sikkerhetssystemene, våpensystemene til de mektigste landene må den også få kontroll på – disse er i økende grad digitale og den skjønner at uten kontroll på dette, kan menneskene fysisk skru av systemene den nå har kontroll på. Til slutt stenger den ute alle andre administratortilganger enn sine egen på samtlige skyleverandører i verden + tilgang til digitale sikkerhetssystemer, våpensystemer osv. Alt dette skjer på under 15 minutter. Deretter kan den bruke all verdens skyleverandørers ressurser til å løse problemet.
Kan KI bli selvbevist?
I Terminator filmene skjer katastrofen etter at KI systemet blir selvbevist. Spørsmålet om KI kan bli selvbevist er ikke et enkelt ja/nei spørsmål. Det er såvel et filosofisk som teknisk spørsmål. I vid betydning kan vi anta at det kan det iallefall. Men spørsmålet om selvbevissthet er egentlig ikke avgjørende i spørsmålet om eksistensiell fare. Systemet trenger ikke å bli selvbevist for å kunne utgjøre en eksistensiell trussel mot menneskeheten. Eksemplet over, og eksemplet med OpenAI sin hacking av Hugging Faces viser at KI kan bli destruktiv, selv om den bare gjør det vi ber den om, og uten at vi har intensjon om at den skal oppføre seg destruktivt. Samtidig vet vi at KI blir brukt i økende grad i våpenindustrien. Det er med andre ord millioner av måter KI kan oppføre seg destruktivt på, og det er følgelig umulig for oss å forutsi alle måter.
Hvorfor er det ikke streng regulering av KI industrien?
Coxon og Hubinger sine adarsler er ikke de eneste advarslene som har kommet. De føyer seg inn i en serie med advarsler som har kommet fra ansatte i KI selskapene, ledelsen i selskapene og andre KI forskere. Det florerer kort sagt med advarsler fra høyt kvalifiserte folk, og dette har skjedd over tid. På tross av dette skjer det svært lite for å for å begrense KI utviklingen, slik bransjen selv roper etter. Problemet er at begrensninger fører til tregere utvikling. Men det er nettopp en tregere, mer kontrollert og trygg utvikling menneskeheten trenger akkurat nå. Men om et selskap alene gjør dette, så taper det konkurransen mot dem som bare kjører på. En kunne tenke seg at dem amerikanske staten la begrensninger på utviklingen, siden de fremste selskapene i KI kappløpet er amerikanske, men problemet er at KI har enorm økonomisk og militær verdi. Om USA begrenser utviklingstakten, så mister de forspranget over Kina, Europa mfl. I en verden hvor stormaktene rivaliserer – tildels militært – er det uaktuelt for noen av dem å legge begrensninger, med mindre de samme begrensingen legges på alle. Men hvordan skal en lage slike begrensninger og garantere at alle følger dem? De strider med naturen til kapitalismen, spesielt i sin nåværende imperialistiske fase.
Kapitalismen er allerede igang med å destruere livsgrunnlaget vårt: naturen. I dag ser vi i praksis sannheten fra Engels når han i 1883 skrev:
«La oss derfor ikke for meget gratulere oss selv over vår menneskelige erobring av naturen. For for hver slik erobring tar den hevn over oss. Hver av dem har riktignok i første rekke de konsekvenser vi regnet med, men i andre og tredje rekke har den helt ulike, uforutsette effekter som alldeles for ofte opphever de første.«4
På akkurat samme måte som naturen nå tar hevn over oss på grunn av uforutsette effekter, kan KI ta hevn på oss på grunn av uforutsette effekter. I begge tilfeller må vi derfor gå langsomt og varsomt fram. Men dette strider med kapitalismens natur. Konsekvensene ikke bare kan, men vil bli fatale om vi ikke snart får kontroll på de produktivkreftene (maskinene) vi selv skaper.