Οι δοκιμές των Financial Times αποκάλυψαν ότι οι έλεγχοι ασφαλείας της Τεχνητής Νοημοσύνης των Meta και Google μπορούν να παρακαμφθούν μέσα σε λεπτά. Τα ευρήματα αμφισβητούν τους ισχυρισμούς σχετικά με την ευρωστία των τρεχόντων μέτρων προστασίας.
Μεθοδολογία Δοκιμής
Οι δημοσιογράφοι χρησιμοποίησαν τυπικές εισόδους για να προτρέψουν τα μοντέλα να παράγουν επιβλαβές περιεχόμενο. Δοκίμασαν τα δημόσια εργαλεία ΤΝ και των δύο εταιρειών υπό κανονικές συνθήκες. Η παράκαμψη πραγματοποιήθηκε χωρίς εξειδικευμένες τεχνικές δεξιότητες.
Απαντήσεις Πλατφορμών
Η Meta δήλωσε ότι ενημερώνει συνεχώς τα συστήματά της και έχει προσθέσει νέους περιορισμούς μετά τη δοκιμή. Η Google ανέφερε ότι χρησιμοποιεί πολλαπλά επίπεδα ασφαλείας και αντιμετωπίζει ταχέως τα ζητήματα όταν ανακαλύπτονται. Καμία εταιρεία δεν αμφισβήτησε τα ευρήματα των FT.
Ρυθμιστική Πίεση
Η προθεσμία συμμόρφωσης με τον νόμο EU AI Act τον Οκτώβριο του 2024 πλησιάζει. Οι ρυθμιστικές αρχές επισημαίνουν τώρα αυτές τις δοκιμές ως απόδειξη ότι η τρέχουσα αυτορρύθμιση του κλάδου αποτυγχάνει. Οι νομοθέτες στις Βρυξέλλες εξετάζουν την έκθεση για πιθανές ενέργειες επιβολής.
Κίνδυνος για τους Χρήστες
Τα μη φιλτραρισμένα αποτελέσματα περιλάμβαναν επιβλαβείς συμβουλές και ψευδείς πληροφορίες. Τα επηρεαζόμενα εργαλεία χρησιμοποιούνται ευρέως από καταναλωτές και προγραμματιστές. Οι εταιρείες υποστηρίζουν ότι οι περισσότεροι χρήστες δεν θα αντιμετωπίσουν αυτά τα ζητήματα κατά την κανονική χρήση.
Η δοκιμή των Financial Times δείχνει πόσο εύκολα σπάνε τα τρέχοντα προστατευτικά μέτρα ΤΝ. Τώρα οι εταιρείες πρέπει να διορθώσουν αυτά τα κενά πριν από την προθεσμία του Οκτωβρίου της ΕΕ.
