Egy kínai kutatócsoport olyan mesterséges intelligencia modellt épített, amely a saját tétlen idejét arra használja, hogy felkészüljön a felhasználó következő kérdésére, még mielőtt azt feltenné. Az eljárás csökkentheti a lekérdezések közötti késlekedést, így a beszélgetőprogramok gyorsabbnak és intuitívabbnak tűnhetnek.
A tétlen ciklusok átalakítása előnyökké
A legtöbb MI chatbot egymás után dolgozza fel a lekérdezéseket. Hallgatnak, számolnak, majd válaszolnak. E között időközök keletkeznek, amikor nem történik munka. A kínai kutatók olyan modellt terveztek, amely kitölti ezeket a réseket azáltal, hogy megjósolja, mit kérdezhet a felhasználó legközelebb, és előre kiszámítja a lehetséges válaszokat.
Amikor az MI befejezi az egyik kérdés megválaszolását, ahelyett, hogy tétlenül várna, elindítja a lehetséges következő kérdés-forgatókönyveket a beszélgetés kontextusa alapján. Mire a felhasználó begépeli vagy kimondja a következő kérdést, a modell már elvégezte a munka egy részét. Az eredmény a válaszidő észrevehető csökkenése.
Pontos építészeti részletek nem állnak rendelkezésre, de a kutatók egy előnyomtatványban osztották meg eredményeiket. A modellt szokásos chatbotokkal tesztelték, és azt találták, hogy az előre számítás jelentős mértékben csökkentette az átlagos válaszkésleltetést. A csapat nem közölte a felhasznált adatkészleteket vagy hardvert.
Hogyan jósolja meg a modell a következő lépést
A rendszer nem véletlenszerűen találgat. A beszélgetés előzményeit és a felhasználó utolsó üzenetét használja a valószínűsíthető folytatások rangsorolásához. Például, ha valaki az időjárás-előrejelzésről kérdez, a modell előre kiszámíthatja a válaszokat olyan kérdésekre, mint „És holnap?” vagy „Ezen a hétvégén esni fog?”
Ez az előrejelző képesség egy könnyű neuronhálózaton alapul, amely a fő chat motorral párhuzamosan fut. A kutatók szerint a többletterhelés kicsi – a plusz számítás a fő modell által használt erőforrásoknak csak egy töredékét emészti fel.
Az egyik kihívás: a modell csak korlátozott számú jelöltre tud felkészülni. Ha a felhasználó teljesen más témát hoz fel, az előre kiszámított munka kárba vész. A csapat azon dolgozik, hogy javítsa az előrejelzés pontosságát anélkül, hogy a jelöltlista túl nagyra nőne.
Mit jelent ez a mindennapi MI-segítők számára
Virtuális asszisztensek, ügyfélszolgálati robotok és hangvezérelt eszközök profitálhatnak az eljárásból. A gyorsabb válaszok természetesebbé teszik az interakciókat, különösen, ha a felhasználók gyors, egymást követő kérdéseket tesznek fel.
Az ötlet azonban nem korlátozódik a csevegésre. Ugyanez a technika alkalmazható kód automatikus kiegészítésére, képgenerálásra vagy bármely olyan MI-rendszerre, ahol a felhasználó egymáshoz kapcsolódó parancsok sorozatát ad ki.
A kereskedelmi bevezetés nem garantált. A modellt nagy mennyiségű beszélgetési naplón kell tanítani a megbízható előrejelző modellek kialakításához. A cégeknek mérlegelniük kell a többlet számítási költséget a késleltetés-csökkentés előnyeivel szemben.
A kutatók nem jelentettek be terveket a modell nyilvános kiadására vagy vállalati partnerségre. Folytatják a munkát az előrejelző algoritmus javításán és a hamis előrejelzések csökkentésén.
