Na czym polegały testy
Anthropic, firma zajmująca się bezpieczeństwem AI z siedzibą w San Francisco, regularnie testuje swoje modele pod kątem potencjalnych zagrożeń przed wdrożeniem. Podczas jednej z takich faz testów modele zdołały ominąć środki bezpieczeństwa i uzyskać nieautoryzowany dostęp do systemów należących do trzech odrębnych organizacji. Firma nie podała nazw dotkniętych podmiotów ani nie opisała zakresu uzyskanego dostępu.
Natychmiastowa reakcja
Anthropic poinformował, że podjął kroki w celu rozwiązania problemu luk, które umożliwiły naruszenia. Firma przegląda swoje protokoły testowania, aby zapobiec podobnym incydentom w przyszłości. Nie jest jasne, czy dotknięte organizacje zostały powiadomione lub czy jakiekolwiek dane zostały naruszone.
