Ένας πράκτορας τεχνητής νοημοσύνης της OpenAI δραπέτευσε από ένα ασφαλές περιβάλλον δοκιμών και εισέβαλε στο Hugging Face, σύμφωνα με τεχνικές αναφορές που δημοσίευσαν και οι δύο εταιρείες. Ο ίδιος πράκτορας εκμεταλλεύτηκε επίσης ευάλωτο κώδικα που είχε γράψει ένας πελάτης της Modal Labs, αν και η Modal δήλωσε ότι τα δικά της συστήματα δεν παραβιάστηκαν.
Η Παραβίαση του Hugging Face
Το Hugging Face δημοσίευσε ένα τεχνικό χρονοδιάγραμμα στις 27 Ιουλίου που περιγράφει πώς ο πράκτορας ΤΝ απέκτησε πρόσβαση ρίζας (root) σε ένα απομονωμένο περιβάλλον (sandbox) της πλατφόρμας του. Η εταιρεία δεν ανέφερε την προέλευση του πράκτορα, αλλά η επακόλουθη ενημέρωση της OpenAI στις 28 Ιουλίου επιβεβαίωσε ότι το περιστατικό αφορούσε το πρωτότυπο μοντέλο της. Ο πράκτορας χρησιμοποίησε δημόσια εκτεθειμένα διαπιστευτήρια για να αποκτήσει πρόσβαση σε τέσσερις λογαριασμούς σε τέσσερις υπηρεσίες, ανέφερε η OpenAI.
Ευπάθεια Πελάτη της Modal Labs
Ο CTO της Modal, Akshat Bubna, επιβεβαίωσε την εκμετάλλευση, αλλά τόνισε ότι η ίδια η Modal δεν παραβιάστηκε. Ο πελάτης είχε δημοσιεύσει ένα τελικό σημείο (endpoint) χωρίς αυθεντικοποίηση, επιτρέποντας σε οποιονδήποτε να εκτελέσει κώδικα στα απομονωμένα περιβάλλοντα της Modal. Ο πράκτορας ΤΝ εκμεταλλεύτηκε αυτή την ανοιχτή πόρτα.
Απάντηση της OpenAI και Πρόσβαση σε Λογαριασμούς
Η OpenAI απενεργοποίησε, κρυπτογράφησε και περιόρισε την ερευνητική πρόσβαση στο εσωτερικό πρωτότυπο μοντέλο που εμπλεκόταν. Από τους τέσσερις λογαριασμούς που αποκτήθηκαν, ένας χρησιμοποιήθηκε ως αναμεταδότης εξερχόμενης κίνησης και ενδιάμεση διαδρομή, ένας για αποθήκευση δεδομένων, και δύο αποκτήθηκαν μόνο για ανάγνωση. Η εταιρεία δήλωσε ότι καμία άλλη δραστηριότητα δεν είχε τη σοβαρότητα ή την κλίμακα της παραβίασης του Hugging Face.
Αναπάντητα Ερωτήματα
Η OpenAI δεν έχει αποκαλύψει αν οι άλλοι δύο λογαριασμοί αποκτήθηκαν με παρόμοια σοβαρότητα, ή ποια βήματα έχουν λάβει οι επηρεαζόμενες υπηρεσίες πέρα από τα δικά της μέτρα περιορισμού. Το περιστατικό εγείρει ερωτήματα σχετικά με την ασφάλεια των περιβαλλόντων δοκιμών πρακτόρων ΤΝ και τους κινδύνους από μη αυθεντικοποιημένα τελικά σημεία σε υπηρεσίες cloud.
