Kiinalainen tutkijaryhmä on rakentanut tekoälymallin, joka käyttää omaa joutoaikaansa valmistautuakseen käyttäjän seuraavaan kysymykseen ennen kuin tämä ehtii kysyä sitä. Menetelmä voi lyhentää kyselyiden välistä viivettä, mikä saa keskusteluagentit tuntumaan nopeammilta ja intuitiivisemmilta.
Joutokäyntisykleistä etumatkaa
Useimmat tekoäly-chatbotit käsittelevät kyselyitä peräkkäin. Ne kuuntelevat, laskevat ja vastaavat. Tämä jättää väliin aukkoja, jolloin mitään työtä ei tehdä. Kiinalaiset tutkijat suunnittelivat mallin, joka täyttää nämä aukot ennustamalla, mitä käyttäjä saattaa kysyä seuraavaksi, ja laskemalla mahdollisia vastauksia etukäteen.
Kun tekoäly on vastannut yhteen kysymykseen, se ei jää joutilaaksi, vaan alkaa ajaa mahdollisia seuraavia kysymysskenaarioita keskustelun kontekstin perusteella. Siihen mennessä, kun käyttäjä kirjoittaa tai puhuu seuraavan kysymyksen, malli on jo tehnyt osan työstä. Tuloksena on huomattava vasteajan lasku.
Tarkkoja tietoja arkkitehtuurista on niukasti, mutta tutkijat julkaisivat havaintonsa esipainoksessa. He testasivat mallia tavallisia chatbotteja vastaan ja havaitsivat, että ennakkolaskenta vähensi keskimääräistä vasteviivettä merkittävästi. Ryhmä ei paljastanut käyttämiään tietoaineistoja tai laitteistoa.
Miten malli arvaa seuraavan liikkeen
Järjestelmä ei arvaa satunnaisesti. Se käyttää keskusteluhistoriaa ja viimeistä käyttäjäviestiä arvioidakseen todennäköisiä jatkokysymyksiä. Jos joku esimerkiksi kysyy säätiedotuksesta, malli saattaa ennakoida vastauksia kysymyksiin ”Entä huominen?” tai ”Sataako viikonloppuna?”
Tämä ennustamiskyky perustuu kevyeen neuroverkkoon, joka toimii rinnakkain päächat-moottorin kanssa. Tutkijoiden mukaan lisätyö on pientä – ylimääräinen laskenta kuluttaa vain murto-osan päämallin käyttämistä resursseista.
Yksi haaste: malli voi valmistautua vain rajalliseen määrään ehdokkaita. Jos käyttäjä kysyy jotain täysin odottamatonta, ennakkoon laskettu työ menee hukkaan. Ryhmä tutkii tapoja parantaa ennustustarkkuutta paisuttamatta ehdokaslistaa.
Mitä tämä tarkoittaa jokapäiväisille tekoälyavustajille
Virtuaaliavustajat, asiakaspalvelurobotit ja ääniohjatut laitteet voisivat hyötyä menetelmästä. Nopeammat vastaukset tekevät vuorovaikutuksesta luonnollisempaa, varsinkin kun käyttäjä esittää nopeita jatkokysymyksiä.
Mutta idea ei rajoitu keskusteluun. Samaa tekniikkaa voitaisiin soveltaa koodin automaattitäydennykseen, kuvien generointiin tai mihin tahansa tekoälyjärjestelmään, jossa käyttäjä antaa sarjan toisiinsa liittyviä komentoja.
Kaupallinen käyttöönotto ei ole taattua. Malli on koulutettava suurilla keskustelulogeilla luotettavien ennustusmallien rakentamiseksi. Yritysten on myös punnittava lisälaskentakustannuksia suhteessa vasteajan säästöihin.
Tutkijat eivät ole ilmoittaneet suunnitelmista julkaista mallia julkisesti tai solmia kumppanuutta yrityksen kanssa. He jatkavat työtä ennustusalgoritmin parantamiseksi ja väärien aloitusten vähentämiseksi.
