Financial Times tester visade att Meta och Googles AI-säkerhetskontroller kan kringgås inom några minuter. Fynden utmanar påståenden om hur robusta nuvarande skyddsåtgärder är.
Testmetodik
Reportrar använde standardinmatningar för att få modellerna att generera skadligt innehåll. De testade båda företagens offentliga AI-verktyg under normala förhållanden. Kringgåendet skedde utan specialiserade tekniska färdigheter.
Företagens svar
Meta uppger att man kontinuerligt uppdaterar sina system och har lagt till nya begränsningar sedan testet. Google förklarade att man använder flera säkerhetslager och snabbt åtgärdar problem när de upptäcks. Inget av företagen ifrågasatte FT:s resultat.
Regulatoriskt tryck
Deadline för EU:s AI-lag i oktober 2024 närmar sig. Regulatorer pekar nu på dessa tester som bevis för att branschens nuvarande självreglering misslyckas. Lagstiftare i Bryssel granskar rapporten för potentiella efterlevnadsåtgärder.
Risk för användare
Ofiltrerade utdata innehöll skadliga råd och falsk information. De berörda verktygen används flitigt av konsumenter och utvecklare. Företagen hävdar att de flesta användare inte kommer att stöta på dessa problem vid normal användning.
Financial Times test visar hur lätt nuvarande AI-skydd kan brytas. Nu måste företagen åtgärda dessa brister innan EU:s deadline i oktober infaller.
