Një ekip studiuesish në Kinë ka ndërtuar një model të inteligjencës artificiale që përdor kohën e tij të lirë për t'u përgatitur për pyetjen e radhës të përdoruesit përpara se ai ta bëjë atë. Kjo qasje mund të zvogëlojë vonesën midis pyetjeve, duke i bërë agjentët bisedues të ndjehen më të shpejtë dhe më intuitivë.
Shfrytëzimi i cikleve të lira për përparësi
Shumica e chatbot-ave të AI përpunojnë çdo pyetje në mënyrë sekuenciale. Ata dëgjojnë, llogarisin dhe më pas përgjigjen. Kjo lë boshllëqe ndërmjet tyre ku nuk kryhet asnjë punë. Studiuesit kinezë projektuan një model që mbush ato boshllëqe duke parashikuar se çfarë mund të pyesë përdoruesi më pas dhe duke llogaritur paraprakisht përgjigjet e mundshme.
Kur AI përfundon përgjigjen për një pyetje, në vend që të rrijë pa punë, fillon të shqyrtojë skenarë të mundshëm për pyetjen e radhës bazuar në kontekstin e bisedës. Derisa përdoruesi të shkruajë ose të thotë pyetjen tjetër, modeli tashmë ka kryer një pjesë të punës. Rezultati është një ulje e dukshme në kohën e përgjigjes.
Detajet mbi arkitekturën e saktë janë të pakta, por studiuesit i publikuan gjetjet e tyre në një preprint. Ata testuan modelin krahas chatbot-eve standardë dhe zbuluan se llogaritja paraprake uli vonesën mesatare të përgjigjes me një diferencë kuptimplotë. Ekipi nuk zbuloi grupet specifike të të dhënave ose pajisjet e përdorura.
Si modeli parashikon lëvizjen e radhës
Sistemi nuk parashikon thjesht rastësisht. Ai përdor historikun e bisedës dhe mesazhin e fundit të përdoruesit për të renditur veprimet e mundshme pasuese. Për shembull, nëse dikush pyet për parashikimin e motit, modeli mund të llogarisë paraprakisht përgjigjet për "Po për nesër?" ose "A do të bjerë shi këtë fundjavë?".
Kjo aftësi parashikuese mbështetet në një rrjet neuronal të lehtë që funksionon paralelisht me motorin kryesor të bisedës. Studiuesit thonë se ngarkesa shtesë është e vogël – llogaritja shtesë konsumon vetëm një fraksion të burimeve që përdor modeli kryesor.
Një sfidë: modeli mund të përgatitet vetëm për një numër të kufizuar kandidatësh. Nëse përdoruesi bën një pyetje krejtësisht të papritur, puna e llogaritur paraprakisht shkon huq. Ekipi po eksploron mënyra për të përmirësuar saktësinë e parashikimit pa zgjeruar listën e kandidatëve.
Çfarë do të thotë kjo për ndihmësit e përditshëm të AI
Asistentët virtualë, chatbot-et e shërbimit ndaj klientit dhe pajisjet me aktivizim zanor mund të përfitojnë nga kjo qasje. Përgjigjet më të shpejta i bëjnë ndërveprimet të ndjehen më natyrale, veçanërisht kur përdoruesit bëjnë pyetje të shpejta njëra pas tjetrës.
Por ideja nuk kufizohet vetëm në bisedë. E njëjta teknikë mund të zbatohet për plotësimin automatik të kodit, gjenerimin e imazheve ose çdo sistem AI ku përdoruesi lëshon një seri komandash të lidhura.
Zbatimi tregtar nuk është i garantuar. Modeli duhet të trajnohet në regjistrime të mëdha bisedash për të ndërtuar modele të besueshme parashikimi. Kompanitë gjithashtu do të duhet të peshojnë koston shtesë llogaritëse kundrejt përfitimeve në uljen e vonesës.
Studiuesit nuk kanë njoftuar ndonjë plan për të publikuar modelin publikisht ose për të bashkëpunuar me një kompani. Ata po vazhdojnë punën për përmirësimin e algoritmit të parashikimit dhe reduktimin e fillimeve të gabuara.
