Uusi Lenz Researchin tutkimus on havainnut, että tekoälymallit ovat eri mieltä 67 prosentissa faktantarkistusväitteistä, mikä herättää epäilyksiä automaattisten varmennusjärjestelmien luotettavuudesta. Tulokset, jotka julkaistiin ilman ennakkoilmoitusta, viittaavat siihen, että jopa edistyneet tekoälytyökalut ovat usein ristiriidassa keskenään, kun niiden tehtävänä on määrittää totuus. Tutkimuksen takana olevat tutkijat korostavat monipuolisten lähteiden ja ihmisen suorittaman valvonnan tarvetta päätöksenteossa, erityisesti nopeasti liikkuvilla aloilla, kuten rahoitusmarkkinoilla.
Erimielisyyden laajuus
67 prosentin luku on silmiinpistävä. Se tarkoittaa, että joka kolmesta eri tekoälymalleilla käsitellystä faktantarkistusväitteestä kaksi päätyy ristiriitaisiin tuomioihin. Lenz Research ei täsmentänyt, mitä malleja testattiin tai väitteiden luonnetta, mutta seuraus on selvä: yhtäkään tekoälyjärjestelmää ei voida luottaa erottamaan tosiasioita fiktiosta yksinään. Eri mieltä olemisen määrä viittaa perustavanlaatuisiin eroihin siinä, miten malleja koulutetaan, mistä tiedoista ne ammentavat ja niiden taustalla olevaan logiikkaan.
Volatiileilla markkinoilla, joissa huhut voivat liikuttaa hintoja sekunneissa, panokset ovat korkeat. Kauppias, joka luottaa tekoälyn faktantarkistajaan, saattaa toimia leiman perusteella, jonka toinen malli hylkäisi. Tutkimuksen tekijät mainitsevat nimenomaisesti "volatiilit markkinat" kontekstina, jossa monipuoliset lähteet ja ihmisen harkintakyky ovat kriittisiä. Automaattiset työkalut voivat käsitellä valtavia määriä, mutta ne eivät pysty ratkaisemaan omia ristiriitojaan ilman ihmistä mukana.
Mitä tutkimus ehdottaa
Lenz Researchin suositus on suoraviivainen: älä nojaudu yhteen tekoälylähteeseen. Sen sijaan ristiintarkista tuloksia, ota mukaan ihmisarvioijia ja käsittele automaattisia faktantarkistuksia yhtenä monista syötteistä. Tämä ei ole kehotus hylätä teknologiaa – se on varoitus liiallisesta itseluottamuksesta. Tutkimus ei tarjoa ratkaisua erimielisyysongelmaan, mutta se perustelee vahvasti ihmisten pitämistä mukana.
Tulokset lisäävät kasvavaan todistusaineistoon, että tekoäly nopeudestaan huolimatta kamppailee edelleen johdonmukaisuuden kanssa. Lenz Research ei ole kertonut, aikooko se tehdä jatkotutkimusta siitä, miksi mallit ovat eri mieltä tai miten ne voidaan yhdenmukaistaa. Toistaiseksi viesti on yksinkertainen: kun koneet eivät pääse yhteisymmärrykseen, päätös kuuluu ihmisille.
