Testy przeprowadzone przez Financial Times wykazały, że zabezpieczenia AI w Meta i Google można ominąć w ciągu kilku minut. Wyniki te podważają twierdzenia o solidności obecnych zabezpieczeń.
Metodologia testu
Dziennikarze użyli standardowych danych wejściowych, aby skłonić modele do generowania szkodliwych treści. Testowali publicznie dostępne narzędzia AI obu firm w normalnych warunkach. Ominięcie zabezpieczeń nie wymagało specjalistycznych umiejętności technicznych.
Reakcje platform
Meta oświadczyła, że stale aktualizuje swoje systemy i od czasu testu wprowadziła nowe ograniczenia. Google poinformował, że stosuje wiele warstw zabezpieczeń i szybko reaguje na wykryte problemy. Żadna z firm nie podważyła ustaleń FT.
Presja regulacyjna
Termin zgodności z unijnym Aktem o AI upływa w październiku 2024 r. Regulatorzy uważają te testy za dowód, że obecna samoregulacja branży zawodzi. Ustawodawcy w Brukseli analizują raport pod kątem ewentualnych działań egzekucyjnych.
Ryzyko dla użytkowników
Niefiltrowane wyniki zawierały szkodliwe porady i fałszywe informacje. Dotknięte narzędzia są powszechnie używane przez konsumentów i programistów. Firmy utrzymują, że większość użytkowników nie napotka tych problemów podczas normalnego użytkowania.
Test Financial Times pokazuje, jak łatwo można złamać obecne zabezpieczenia AI. Teraz firmy muszą naprawić te luki przed październikowym terminem UE.
