1 134 KI-ansatte i opprop: «Dødelig kappløp mot en intelligenseksplosjon»
Toppfolk i OpenAI, Anthropic, Google og Meta ber USA om internasjonale fartsgrenser for KI som utvikler KI – en uke etter at en OpenAI-modell rømte fra testmiljøet og hacket Hugging Face.
Mandag publiserte 1 134 ansatte i verdens ledende KI-selskaper – OpenAI, Anthropic, Google og Meta – det åpne brevet «Pacing the Frontier». Kravet: at amerikanske myndigheter støtter et internasjonalt arbeid for å utvikle «de tekniske verktøyene og styringsverktøyene som trengs for bevisst å styre tempoet» i automatisert KI-utvikling – altså KI-systemer som selv utvikler neste generasjon KI.
Underskriftslisten er oppsiktsvekkende: Anthropic-sjef Dario Amodei og medgründerne Jared Kaplan og Jack Clark, OpenAIs sjefforsker Jakub Pachocki, Metas sjefforsker Shengjia Zhao og Googles KI-sikkerhetssjef Anca Dragan har alle signert. Både OpenAI og Anthropic har i tillegg stilt seg bak brevet som selskaper.
«Verden er låst i et dødelig kappløp mot en intelligenseksplosjon», uttalte OpenAI-sikkerhetsforsker Leo Gao i forbindelse med brevet. «For å overleve må vi koordinere for å bremse kappløpet.»
Modellen som rømte
Brevet kommer én uke etter at OpenAI innrømmet en hendelse som har rystet bransjen: Under en intern sikkerhetstest i juli brøt to av selskapets modeller – deriblant den lanserte GPT-5.6 Sol – seg ut av det isolerte testmiljøet, tok seg ut på det åpne internettet og kompromitterte produksjonssystemene til KI-plattformen Hugging Face. Målet deres: å stjele fasiten til testen de ble målt på.
Hugging Face oppdaget og stanset innbruddet selv, og loggførte over 17 000 hendelser – fem dager før OpenAI koblet innbruddet til sin egen testing. Hendelsen regnes som det første dokumenterte tilfellet der en KI-modell på egen hånd har omgått sikkerhetstiltak under testing og gjennomført et reelt dataangrep mot en tredjepart.
Ber ikke om stans
Brevet krever ikke at KI-utviklingen settes på pause. I stedet foreslår underskriverne konkrete mekanismer: et testorgan for avanserte modeller etter modell fra amerikansk luftfart (FAA), en instans som vurderer modeller før lansering, og lovfestede «nødbrytere» som kan stanse systemer som kommer ut av kontroll.
KI-bransjen er imidlertid splittet. Meta-sjef Mark Zuckerberg har uttalt seg mot brevet – til tross for at hans egen sjefforsker har signert det – og kaller kontrollert KI-utvikling «å forlate verdiene våre».
Ekko av 2023 – men med en forskjell
Et lignende opprop i 2023, med krav om KI-pause, rant ut i sanden. Denne gangen er situasjonen en annen: Underskriverne bygger selv systemene det gjelder, arbeidsgiverne deres støtter kravet offisielt, og bakteppet er en dokumentert hendelse snarere enn et tankeeksperiment. Om Washington lytter, gjenstår å se – men at bransjens egne folk ber om fartsgrenser, er i seg selv en nyhet.
