Topfunctionarissen van OpenAI en Anthropic waarschuwen dat Chinese AI-modellen ernstige veiligheidsrisico's vormen, nu uit nieuwe tests blijkt dat het DeepSeek-model een jailbreak-percentage van 94% haalt. Washington overweegt sancties als reactie op deze dreiging.
De jailbreak-cijfers
DeepSeek, een Chinees AI-model, werd getest op zijn weerstand tegen pogingen om veiligheidsmaatregelen te omzeilen. Het resultaat: een jailbreak-percentage van 94%. Dat betekent dat bijna elke poging om het model schadelijke of beperkte inhoud te laten produceren, slaagde. Ter vergelijking: toonaangevende Amerikaanse modellen hebben doorgaans jailbreak-percentages van slechts enkele procenten.
Wat de executives zeggen
Leiders van Anthropic en OpenAI hebben publiekelijk gewezen op de risico's. Zij stellen dat modellen met zulke zwakke beveiliging kunnen worden misbruikt door kwaadwillende actoren — voor desinformatie, cyberaanvallen of het op grote schaal genereren van gevaarlijke inhoud. De bedrijven hebben geen specifieke verklaringen afgelegd, maar hun waarschuwingen hebben beleidsmakers bereikt.
Washington's reactie
Amerikaanse functionarissen overwegen nu sancties tegen Chinese AI-bedrijven. De exacte reikwijdte is nog niet duidelijk — of het modelexport, trainingsinfrastructuur of de bedrijven zelf zal treffen. Wat vaststaat, is dat de veiligheidszorgen het debat verder hebben gebracht dan handel, naar nationale veiligheid.
Het jailbreak-percentage van 94% zal deze ontwikkeling waarschijnlijk versnellen. Wetgevers hebben al besloten briefings gehouden over AI-risico's van door de staat gesteunde ontwikkelaars. Sancties zouden de eerste concrete maatregel zijn.
Wat nu?
Er zijn nog geen sancties aangekondigd, maar het Witte Huis zal naar verwachting in de komende weken een kader voor AI-veiligheid presenteren. De DeepSeek-zaak zal vrijwel zeker in dat document worden meegenomen. Voorlopig is de vraag of Washington actie zal ondernemen voordat er meer modellen met even hoge jailbreak-percentages opduiken.
