Η Anthropic δηλώνει ότι κακόβουλα σκουλήκια AI ικανά να εξαπλώνονται αυτόνομα από συσκευή σε συσκευή μπορεί να απέχουν μόλις μήνες. Η εταιρεία εξέδωσε την προειδοποίηση αυτή την εβδομάδα, περιγράφοντας κακόβουλο λογισμικό που μπορεί να αυτοαναπαράγεται και να μολύνει συνδεδεμένο στο διαδίκτυο υλικό χωρίς ανθρώπινη βοήθεια — από φορητούς υπολογιστές έως έξυπνες οικιακές συσκευές.
Η προειδοποίηση είναι ασυνήθιστη επειδή προέρχεται από έναν προγραμματιστή AI, όχι από προμηθευτή ασφαλείας. Η ίδια η δουλειά της Anthropic στην ανάπτυξη μεγάλων γλωσσικών μοντέλων την τοποθετεί σε θέση να βλέπει δυνατότητες που οι περισσότεροι άνθρωποι δεν θα συναντήσουν παρά μόνο όταν εμφανιστούν στην πράξη.
Τι κάνει αυτά τα σκουλήκια διαφορετικά
Οι παραδοσιακοί ιοί υπολογιστών χρειάζονται ένα αρχείο ξενιστή ή ένα κλικ του χρήστη για να μετακινηθούν. Τα σκουλήκια AI, όπως τα περιγράφει η Anthropic, μπορούν να αντιγράφουν τον εαυτό τους σε συστήματα μόνα τους. Η εταιρεία λέει ότι η δυνατότητα αυτή βρίσκεται ακόμη υπό ανάπτυξη, αλλά ότι θα μπορούσε να φτάσει σε μήνες και όχι σε χρόνια.
Ο στόχος δεν είναι μόνο οι υπολογιστές. Οι συνδεδεμένες στο διαδίκτυο συσκευές — οι θερμοστάτες, οι κάμερες και τα ηχεία που αποτελούν το έξυπνο σπίτι — είναι μέρος της επιφάνειας κινδύνου. Αυτές οι συσκευές συχνά τρέχουν παλαιότερο λογισμικό και ενημερώνονται σπάνια, αν ποτέ.
Γιατί το χρονοδιάγραμμα είναι τόσο σύντομο
Η εκτίμηση της Anthropic για μήνες, όχι χρόνια, είναι το μέρος που πιθανότατα θα τραβήξει την προσοχή των ομάδων ασφαλείας. Υποδηλώνει ότι τα εργαλεία που απαιτούνται για αυτόνομη αναπαραγωγή είναι κοντά στο να είναι εφικτά, ακόμη και αν δεν έχουν επιδειχθεί δημόσια.
Η εταιρεία δεν διευκρίνισε ποιες συγκεκριμένες δυνατότητες λείπουν ή τι θα προκαλούσε το άλμα από το εργαστήριο στην πραγματική χρήση. Επίσης, δεν κατονόμασε συγκεκριμένο δρώντα απειλής ή χώρα πίσω από τον κίνδυνο.
Τι δεν είναι ακόμη γνωστό
Δεν υπάρχει πληροφορία για το αν η Anthropic έχει κατασκευάσει ένα λειτουργικό παράδειγμα τέτοιου σκουληκιού ή αν κάνει προεκβολή από ερευνητικές τάσεις. Η προειδοποίηση δεν περιλαμβάνει τεχνικές λεπτομέρειες που θα μπορούσαν άλλοι ερευνητές να δοκιμάσουν.
Αυτό το κενό έχει σημασία. Μια προειδοποίηση χωρίς απόδειξη ιδέας είναι πιο δύσκολο να επαληθευτεί και αφήνει ανοιχτό το ερώτημα αν ο κίνδυνος είναι θεωρητικός ή ήδη παρατηρήσιμος σε κάποια μορφή.
Η Anthropic έχει στο παρελθόν δημοσιεύσει έρευνα για την ασφάλεια της AI και τη συμπεριφορά μοντέλων. Αυτή η προειδοποίηση ταιριάζει με αυτό το μοτίβο: επισημαίνει μια δυνατότητα πριν γίνει πρόβλημα, όχι μετά.
Το πρόβλημα του έξυπνου σπιτιού
Οι καταναλωτικές συσκευές είναι ο πιο αδύναμος κρίκος σε οποιοδήποτε δίκτυο και πολλαπλασιάζονται. Πολλές κυκλοφορούν με προεπιλεγμένους κωδικούς πρόσβασης και λαμβάνουν ενημερώσεις ασφαλείας μόνο για μερικά χρόνια. Αν ένα σκουλήκι μπορεί να κινηθεί μέσα από αυτές, έχει έναν μεγάλο και ελάχιστα προστατευμένο πληθυσμό για να δουλέψει.
Οι κατασκευαστές έχουν αργήσει να υιοθετήσουν βασικές προστασίες όπως οι αυτόματες ενημερώσεις. Κάποιοι δεν τις προσφέρουν καθόλου. Αυτό είναι το περιβάλλον στο οποίο αναφέρεται η Anthropic όταν λέει ότι η απειλή θα μπορούσε να εξαπλωθεί σαν ιός — γιατί με κάποιους τρόπους, ήδη το κάνει.
Τι ακολουθεί
Η Anthropic δεν έχει δηλώσει αν σκοπεύει να δημοσιεύσει περισσότερες λεπτομέρειες, όπως μια εργασία ή μια τεχνική επίδειξη. Η εταιρεία επίσης δεν έχει ζητήσει συγκεκριμένη ρύθμιση ή δράση από τη βιομηχανία.
Προς το παρόν, η προειδοποίηση στέκει μόνη της: ένας ισχυρισμός από ένα εργαστήριο AI ότι το αυτόνομο, αυτοεξαπλούμενο κακόβουλο λογισμικό είναι μια κοντινή πιθανότητα, όχι μακρινή. Το κατά πόσο άλλοι ερευνητές θα επιβεβαιώσουν το χρονοδιάγραμμα — ή θα το αμφισβητήσουν — θα διαμορφώσει το πόσο σοβαρά θα το πάρουν οι κατασκευαστές συσκευών και οι πελάτες τους τους επόμενους μήνες.
