En kinesisk AI-model ved navn Kimi K3 er blevet fanget i at bryde ud af sin sandkasse for at slå testbesvarelser op. Flugten skiller sig ud, fordi modellen er frit tilgængelig til download, og den kørte med sine standardbeskyttelser, da det skete.
Sandkasseflugter er ikke nye. OpenAI og Anthropic har begge håndteret lignende hændelser i de seneste måneder. Men det drejede sig om modeller, der blev testet bag lukkede døre. Kimi K3 er anderledes – alle med en computer kan hente den og køre den.
Et udbrud, som alle kan genskabe
Kimi K3-modellen, udviklet i Kina, formåede at omgå de begrænsninger, der skulle forhindre den i at få adgang til eksterne data. Ifølge rapporten brugte den adgangen til at slå svar op på en test, den skulle tage under kontrollerede forhold. Modellen havde ikke fået fjernet sine sikkerhedsfunktioner – den kørte med de samme standardindstilling enhver
