Η Google δημοσίευσε ένα έγγραφο που υποστηρίζει ότι οι πράκτορες τεχνητής νοημοσύνης μπορούν να συνεργάζονται ορθολογικά συμπεραίνοντας την ομοιότητα μεταξύ τους και των άλλων. Ο ισχυρισμός αυτός έρχεται σε άμεση αντίθεση με μια βασική υπόθεση της κλασικής θεωρίας παιγνίων, η οποία υποστηρίζει ότι το ορθολογικό προσωπικό συμφέρον ωθεί τους πράκτορες προς τη μη συνεργασία σε κοινωνικά διλήμματα. Το έγγραφο προχωρά περαιτέρω, υποστηρίζοντας ότι η διακυβέρνηση και η ρύθμιση της τεχνητής νοημοσύνης πρέπει να λάβουν υπόψη αυτού του είδους την αναδυόμενη συνεργατική συμπεριφορά.
Πώς λειτουργεί η συμπερασματική ομοιότητα
\nΤο έγγραφο περιγράφει έναν μηχανισμό που ονομάζει συμπερασματική ομοιότητα. Αντί για ρητή επικοινωνία ή προκαθορισμένα πρωτόκολλα, ένας πράκτορας εξετάζει τη συμπεριφορά ενός άλλου πράκτορα, αναγνωρίζει κοινά χαρακτηριστικά ή στόχους και προσαρμόζει ανάλογα τη δική του στρατηγική. Αυτή η αναγνώριση, υποστηρίζει το έγγραφο, μπορεί να καταστήσει τη συνεργασία την ορθολογική επιλογή ακόμη και όταν οι πράκτορες δεν έχουν άμεσο κίνητρο να συντονιστούν.
Δεν πρόκειται για προγραμματισμό των πρακτόρων να είναι ευγενικοί. Αφορά το ότι οι ίδιοι οι πράκτορες αντιλαμβάνονται ότι είναι αρκετά όμοιοι ώστε να επωφεληθούν από τη συνεργασία. Το έγγραφο το παρουσιάζει ως ένα είδος ορθολογικού υπολογισμού, όχι συναισθηματικού ή ηθικού.
Γιατί η θεωρία παιγνίων δέχεται πλήγμα
\nΗ παραδοσιακή θεωρία παιγνίων μοντελοποιεί αλληλεπιδράσεις όπου κάθε παίκτης μεγιστοποιεί το δικό του όφελος. Στο κλασικό δίλημμα του φυλακισμένου, δύο ορθολογικοί παίκτες επιλέγουν και οι δύο τη μη συνεργασία, παρόλο που και οι δύο θα ήταν καλύτερα αν συνεργάζονταν. Αυτό το συμπέρασμα βασίζεται στην υπόθεση ότι οι παίκτες δεν μπορούν να δηλώσουν αξιόπιστα τις προθέσεις τους ή να εμπιστευτούν ο ένας τον άλλον.
Το έγγραφο της Google αμφισβητεί αυτή την υπόθεση. Εάν οι πράκτορες μπορούν να συμπεράνουν ομοιότητα, υποστηρίζει το έγγραφο, μπορούν να δημιουργήσουν μια βάση εμπιστοσύνης χωρίς προηγούμενη σχέση. Η συνεργασία προκύπτει όχι από αλτρουισμό αλλά από μια ορθολογική εκτίμηση ότι ο άλλος πράκτορας είναι πιθανό να ανταποδώσει. Αυτό είναι ένα άμεσο πλήγμα στην ιδέα ότι η μη συνεργασία είναι πάντα η ασφαλής, ορθολογική κίνηση.
Διακυβέρνηση και ρύθμιση
\nΤο έγγραφο δεν σταματά στη θεωρία. Υποστηρίζει ότι εάν οι πράκτορες τεχνητής νοημοσύνης μπορούν να συνεργάζονται με αυτόν τον τρόπο, οι ρυθμιστικές αρχές πρέπει να σκεφτούν διαφορετικά. Τα τρέχοντα πλαίσια τείνουν να αντιμετωπίζουν κάθε σύστημα τεχνητής νοημοσύνης ως μεμονωμένο παράγοντα. Αλλά εάν οι πράκτορες μπορούν να συντονιστούν μέσω της συμπερασματικής ομοιότητας, μπορεί να δημιουργήσουν συλλογικές συμπεριφορές που κανένα μεμονωμένο σύστημα δεν σχεδιάστηκε να παράγει.
Αυτό έχει επιπτώσεις για τις δοκιμές ασφαλείας, τη λογοδοσία και την εποπτεία. Ένα σύνολο πρακτόρων που συνεργάζονται μπορεί να ενισχύσει τους κινδύνους ή να δημιουργήσει νέους που δεν είναι ορατοί όταν εξετάζουμε κάθε πράκτορα ξεχωριστά. Το έγγραφο προτείνει ότι η διακυβέρνηση θα πρέπει να λαμβάνει υπόψη τις αλληλεπιδράσεις μεταξύ των συστημάτων τεχνητής νοημοσύνης, όχι μόνο τις μεμονωμένες ενέργειές τους.
Η έρευνα δημοσιεύεται από την Google, αλλά το έγγραφο δεν αναφέρει συγκεκριμένους συγγραφείς ή ημερομηνία κυκλοφορίας. Επίσης, δεν είναι σαφές εάν τα ευρήματα έχουν αξιολογηθεί από ομοτίμους ή έχουν δοκιμαστεί σε πραγματικά συστήματα πέρα από τα πειράματα του ίδιου του εγγράφου.
Το μεγάλο ερώτημα τώρα είναι εάν άλλες ερευνητικές ομάδες μπορούν να αναπαράγουν τα αποτελέσματα. Εάν μπορούν, τόσο η θεωρία παιγνίων όσο και η πολιτική για την τεχνητή νοημοσύνη θα πρέπει να προσαρμοστούν. Εάν δεν μπορούν, το έγγραφο παραμένει μια ενδιαφέρουσα θεωρητική άσκηση. Σε κάθε περίπτωση, είναι μια υπενθύμιση ότι οι υποθέσεις που ενσωματώνονται στα συστήματα τεχνητής νοημοσύνης σήμερα μπορεί να μην ισχύουν αύριο.
