Μια ομάδα ερευνητών στην Κίνα έχει δημιουργήσει ένα μοντέλο τεχνητής νοημοσύνης που χρησιμοποιεί τον δικό του αδρανή χρόνο για να προετοιμαστεί για την επόμενη ερώτηση του χρήστη πριν αυτός την κάνει. Η προσέγγιση θα μπορούσε να μειώσει την καθυστέρηση μεταξύ των ερωτήσεων, κάνοντας τους συνομιλητικούς πράκτορες να φαίνονται ταχύτεροι και πιο διαισθητικοί.
Μετατροπή αδρανών κύκλων σε προβάδισμα
Τα περισσότερα AI chatbots επεξεργάζονται κάθε ερώτηση διαδοχικά. Ακούνε, υπολογίζουν και μετά απαντούν. Αυτό αφήνει κενά ενδιάμεσα όπου δεν γίνεται καμία εργασία. Οι Κινέζοι ερευνητές σχεδίασαν ένα μοντέλο που γεμίζει αυτά τα κενά προβλέποντας τι μπορεί να ρωτήσει ο χρήστης στη συνέχεια και προϋπολογίζοντας πιθανές απαντήσεις.
Όταν το AI ολοκληρώνει την απάντηση σε μια ερώτηση, αντί να παραμένει αδρανές, αρχίζει να εκτελεί πιθανά σενάρια επόμενης ερώτησης με βάση το πλαίσιο της συνομιλίας. Μέχρι τη στιγμή που ο χρήστης πληκτρολογεί ή λέει την επόμενη ερώτηση, το μοντέλο έχει ήδη κάνει μέρος της δουλειάς. Το αποτέλεσμα είναι μια αισθητή μείωση του χρόνου απόκρισης.
Οι λεπτομέρειες σχετικά με την ακριβή αρχιτεκτονική είναι λιγοστές, αλλά οι ερευνητές δημοσίευσαν τα ευρήματά τους σε μια προδημοσίευση. Δοκίμασαν το μοντέλο έναντι τυπικών chatbots και βρήκαν ότι ο προϋπολογισμός μείωσε τη μέση καθυστέρηση απόκρισης κατά ένα σημαντικό περιθώριο. Η ομάδα δεν αποκάλυψε τα συγκεκριμένα σύνολα δεδομένων ή το υλικό που χρησιμοποιήθηκε.
Πώς το μοντέλο μαντεύει την επόμενη κίνηση
Το σύστημα δεν μαντεύει απλά τυχαία. Χρησιμοποιεί το ιστορικό της συνομιλίας και το τελευταίο μήνυμα του χρήστη για να κατατάξει πιθανές επόμενες ερωτήσεις. Για παράδειγμα, αν κάποιος ρωτήσει για την πρόγνωση καιρού, το μοντέλο μπορεί να προϋπολογίσει απαντήσεις για «Τι γίνεται με αύριο;» ή «Θα βρέξει αυτό το Σαββατοκύριακο;»
Αυτή η προγνωστική ικανότητα βασίζεται σε ένα ελαφρύ νευρωνικό δίκτυο που λειτουργεί παράλληλα με την κύρια μηχανή συνομιλίας. Οι ερευνητές λένε ότι η επιβάρυνση είναι μικρή – ο πρόσθετος υπολογισμός καταναλώνει μόνο ένα κλάσμα των πόρων που χρησιμοποιεί το κύριο μοντέλο.
Μία πρόκληση: το μοντέλο μπορεί να προετοιμαστεί μόνο για έναν περιορισμένο αριθμό υποψηφίων. Αν ο χρήστης ρωτήσει κάτι εντελώς εκτός σεναρίου, η προϋπολογισμένη εργασία χάνεται. Η ομάδα εξετάζει τρόπους για να βελτιώσει την ακρίβεια πρόβλεψης χωρίς να διογκώσει τη λίστα υποψηφίων.
Τι σημαίνει αυτό για τους καθημερινούς βοηθούς AI
Οι εικονικοί βοηθοί, τα bots εξυπηρέτησης πελατών και οι συσκευές με φωνητική ενεργοποίηση θα μπορούσαν να επωφεληθούν από αυτήν την προσέγγιση. Οι ταχύτερες αποκρίσεις κάνουν τις αλληλεπιδράσεις να φαίνονται πιο φυσικές, ειδικά όταν οι χρήστες κάνουν γρήγορες συνεχόμενες ερωτήσεις.
Αλλά η ιδέα δεν περιορίζεται στη συνομιλία. Η ίδια τεχνική θα μπορούσε να εφαρμοστεί στην αυτόματη συμπλήρωση κώδικα, στη δημιουργία εικόνων ή σε οποιοδήποτε σύστημα AI όπου ο χρήστης δίνει μια σειρά σχετικών εντολών.
Η εμπορική υιοθέτηση δεν είναι εγγυημένη. Το μοντέλο πρέπει να εκπαιδευτεί σε μεγάλα αρχεία καταγραφής συνομιλιών για να δημιουργήσει αξιόπιστα μοντέλα πρόβλεψης. Οι εταιρείες θα πρέπει επίσης να σταθμίσουν το πρόσθετο υπολογιστικό κόστος έναντι της εξοικονόμησης καθυστέρησης.
Οι ερευνητές δεν έχουν ανακοινώσει σχέδια για δημόσια κυκλοφορία του μοντέλου ή συνεργασία με κάποια εταιρεία. Συνεχίζουν να εργάζονται για τη βελτίωση του αλγορίθμου πρόβλεψης και τη μείωση των ψευδών εκκινήσεων.
