Testování listu Financial Times odhalilo, že bezpečnostní kontroly umělé inteligence společností Meta a Google lze obejít během několika minut. Tato zjištění zpochybňují tvrzení o robustnosti současných ochranných opatření.
Testovací metodika
Reportéři použili standardní vstupy, aby přiměli modely generovat škodlivý obsah. Testovali veřejně dostupné AI nástroje obou společností za běžných podmínek. K obcházení došlo bez specializovaných technických dovedností.
Reakce platforem
Meta uvedla, že své systémy průběžně aktualizuje a od testu přidala nová omezení. Google prohlásil, že používá několik bezpečnostních vrstev a rychle řeší problémy, jakmile jsou objeveny. Žádná ze společností nezpochybnila zjištění FT.
Regulační tlak
Blíží se termín pro dodržování zákona EU o AI v říjnu 2024. Regulátoři nyní poukazují na tyto testy jako na důkaz, že současná samoregulace průmyslu selhává. Zákonodárci v Bruselu přezkoumávají zprávu kvůli možným donucovacím opatřením.
Riziko pro uživatele
Nefiltrované výstupy zahrnovaly škodlivé rady a nepravdivé informace. Dotčené nástroje jsou široce používány spotřebiteli i vývojáři. Společnosti tvrdí, že většina uživatelů se během běžného používání s těmito problémy nesetká.
Test listu Financial Times ukazuje, jak snadno lze prolomit současné ochranné prvky AI. Nyní musí společnosti tyto mezery opravit před říjnovým termínem EU.
