A Financial Times tesztjei feltárták, hogy a Meta és a Google AI-biztonsági ellenőrzései akár percek alatt megkerülhetők. Az eredmények megkérdőjelezik a jelenlegi védelmi intézkedések robusztusságára vonatkozó állításokat.
Tesztmódszertan
Az újságírók szokásos bemeneteket használtak a modellek káros tartalom generálására késztetésére. Mindkét vállalat nyilvános AI-eszközeit normál körülmények között tesztelték. A megkerülés speciális technikai ismeretek nélkül történt.
Platformok válaszai
A Meta közölte, hogy folyamatosan frissíti rendszereit, és a teszt óta új korlátozásokat vezetett be. A Google kijelentette, hogy több biztonsági réteget alkalmaz, és gyorsan kezeli a felmerülő problémákat. Egyik vállalat sem vitatta a FT megállapításait.
Szabályozói nyomás
Az EU mesterséges intelligenciáról szóló törvényének (AI Act) 2024. októberi határideje fenyegetően közeledik. A szabályozók most ezekre a tesztekre mutatnak rá, mint bizonyítékra, hogy a jelenlegi iparági önszabályozás kudarcot vall. A brüsszeli törvényhozók felülvizsgálják a jelentést a lehetséges jogérvényesítési intézkedések szempontjából.
Felhasználói kockázatok
A szűretlen kimenetek káros tanácsokat és hamis információkat tartalmaztak. Az érintett eszközöket széles körben használják fogyasztók és fejlesztők. A vállalatok fenntartják, hogy a legtöbb felhasználó normál használat során nem találkozik ilyen problémákkal.
A Financial Times tesztje megmutatja, milyen könnyen megtörhetők a jelenlegi AI-védelmek. Most a vállalatoknak be kell foltozniuk ezeket a réseket, mielőtt elérkezik az EU októberi határideje.
