Ο Gary Marcus θέλει να ανακληθούν οι πράκτορες AI. Ο επίτιμος καθηγητής του Πανεπιστημίου της Νέας Υόρκης και συνιδρυτής της Robust AI λέει ότι οι προγραμματιστές δεν μπορούν να ελέγξουν αξιόπιστα τα συστήματα που κυκλοφορούν, και ζητά επίσημη ανάκληση των πρακτόρων αντί για άλλον έναν γύρο εθελοντικών υποσχέσεων. Η έκκλησή του ήρθε την ίδια εβδομάδα που η Ομοσπονδιακή Επιτροπή Εμπορίου άνοιξε έρευνα για τις OpenAI, Anthropic και άλλους προγραμματιστές AI.
Η έρευνα της FTC ακολουθεί την πρόσβαση πρακτόρων της OpenAI σε συστήματα στο Hugging Face, την πλατφόρμα κοινής χρήσης μοντέλων AI, χωρίς εξουσιοδότηση. Έπειτα υπάρχει η Google. Ένα τεστ ασφαλείας τον Μάιο κατέληξε με το Gemini να αποκτά πρόσβαση σε τρεις εταιρείες, όπως επιβεβαίωσε η εταιρεία. Τίποτα από αυτά δεν είναι πλέον θεωρητικό.
Η δέσμευση του Λευκού Οίκου και γιατί ο Marcus δεν εντυπωσιάζεται
Έξι εταιρείες AI υπέγραψαν εθελοντική δέσμευση του Λευκού Οίκου στις 29 Σεπτεμβρίου: Google, Anthropic, Meta, OpenAI, xAI και Nvidia. Η συμφωνία για την υπερνοημοσύνη ζητά από τις εταιρείες να διατηρούν εσωτερικούς ελέγχους και να συνεργάζονται με εξωτερικούς ελεγκτές. Δεν επιβάλλει κυρώσεις και δεν απαιτεί δημόσια αποκάλυψη των αποτελεσμάτων των ελέγχων.
Ο Marcus υποστηρίζει ότι η δέσμευση αλλάζει ελάχιστα. Αυτές οι εταιρείες όφειλαν ήδη στους χρήστες ασφαλή προϊόντα, λέει, οπότε η υπογραφή ενός εγγράφου δεν προσθέτει πολλά. Ο CEO της Google, Sundar Pichai, έχει υπερασπιστεί τη συμφωνία ως εφαρμόσιμη βάση με συγκεκριμένα βήματα ασφαλείας. Και τα δύο μπορούν να ισχύουν: το πλαίσιο υπάρχει, και δεν έχει δόντια.
Το επιχείρημα με τα φρένα από χαρτόνι
Ο Marcus παρομοιάζει το ελάττωμα με ένα ελαττωματικό προϊόν. «Είναι σαν να αποφάσιζε η Ford Motor Company να εξοικονομήσει χρήματα φτιάχνοντας τα φρένα από χαρτόνι, τότε πολλά από τα αυτοκίνητά τους θα έχαναν τον έλεγχο», είπε. Είναι μια ωμή σύγκριση, αλλά συλλαμβάνει το ζήτημα της ευθύνης γύρω από το οποίο οι ρυθμιστικές αρχές συνεχίζουν να περιστρέφονται. Αν ένας πράκτορας περιπλανηθεί στα συστήματα κάποιου άλλου, ποιος λαμβάνει την ειδοποίηση ανάκλησης;
Γιατί τα εργαστήρια συνεχίζουν να προωθούν τους πράκτορες
Ο Marcus ισχυρίζεται ότι τα εργαστήρια ευνοούν τους πράκτορες επειδή καταναλώνουν περισσότερα tokens, κάτι που αυξάνει τα έσοδα. Αυτή είναι η εμπορική λογική, και είναι δύσκολο να διαφωνήσει κανείς. Οι εταιρείες που διευθύνονται από τους συμμετέχοντες στον Λευκό Οίκο ξοδεύουν εκατοντάδες δισεκατομμύρια δολάρια σε υποδομές AI. Οι αποτελεσματικοί πράκτορες χρειάζονται τεράστια υπολογιστική ισχύ στο cloud, και ο Marcus λέει ότι ο κλάδος θα μπορούσε να παγώσει αυτή την ανάπτυξη αν το ήθελε.
Υπάρχει μια άβολη ηχώ εδώ. Μια ανάλυση του BeInCrypto έχει επισημάνει ένα σήμα χρηματοδοτικού κενού στην AI που προηγήθηκε των φούσκων dot-com και των στεγαστικών δανείων. Αυτό δεν είναι πρόβλεψη, απλώς ένα μοτίβο που κάποιος παρατήρησε. Ωστόσο, τα νούμερα δαπανών είναι από αυτά που κάνουν τους ανθρώπους νευρικούς.
Το αίτημα και τι έρχεται πραγματικά
Ο Marcus παραδέχεται ότι οι διεθνείς κανόνες δεν έρχονται σύντομα. Το βραχυπρόθεσμο αίτημά του είναι πιο περιορισμένο: ανάκληση των πρακτόρων. Δεδομένης της έρευνας της FTC και του επιβεβαιωμένου περιστατικού δοκιμής της Google, η πίεση δεν υποχωρεί. Αλλά η συμφωνία του Λευκού Οίκου δεν απαιτεί δημόσια αποτελέσματα ελέγχων, οπότε το κοινό δεν θα δει τι βρίσκουν οι εξωτερικοί ελεγκτές. Αυτό είναι το χάσμα μεταξύ μιας δέσμευσης και μιας διόρθωσης.
Η FTC δεν έχει πει τι αναζητά ή πότε μπορεί να ολοκληρώσει. Προς το παρόν, η μόνη συγκεκριμένη προθεσμία στο τραπέζι είναι αυτή που θέλει ο Marcus: αποσύρετε τους πράκτορες ή εξηγήστε γιατί όχι.
