Miten propaganda leviää
Chatbotit, jotka tuottavat vastauksia internetistä kerättyjen valtavien tietoaineistojen perusteella, voivat toistaa koulutusmateriaaliinsa sisältyviä vääriä kertomuksia. Venäjään liittyvä sisältö, mukaan lukien valtion tukema media ja koordinoidut disinformaatiokampanjat, on osoitettu nousevan esiin chatbotien vastauksissa. Koska malleilta puuttuu reaaliaikainen faktantarkistus eivätkä ne pysty erottamaan totuudenmukaisia ja väärennettyjä lähteitä, ne voivat tietämättään vahvistaa Kremlin puheenaiheita aiheista, jotka vaihtelevat Ukrainan sodasta vaaleihin puuttumiseen.
Tämä ei ole hypoteettinen riski. Tutkijat ovat dokumentoineet tapauksia, joissa chatbotit ovat tuottaneet vastauksia, jotka heijastavat tunnettuja Venäjän disinformaatioteemoja. Ongelma ulottuu useille alustoille ja chatbot-tarjoajille, mikä viittaa järjestelmälliseen virheeseen siinä, miten nämä mallit koulutetaan ja otetaan käyttöön.
Data-auditointi ensimmäisenä askeleena
Yksi välittömimmistä korjauskeinoista on tiukka data-auditointi. Chatbot-kehittäjät käyttävät valtavia tekstikorpuksia, joita harvoin puhdistetaan valtioon liittyvästä propagandasta. Ilman järjestelmällisiä tarkastuksia haitallinen sisältö pääsee läpi. Auditointityökalut voivat tunnistaa ja suodattaa pois tunnetut disinformaatiolähteet, mutta ne eivät ole vielä alan vakiokäytäntö. Tällaisten suojatoimien puuttuminen tarkoittaa, että propaganda voidaan sisällyttää mallin tietopohjaan alusta alkaen.
Haasteena on mittakaava. Chatbottien kouluttamiseen käytetyt tietoaineistot voivat sisältää miljardeja asiakirjoja. Jokaisen Venäjän propagandan palasen tunnistaminen tuon kohinan keskellä vaatii automaattisia suodattimia ja ihmisen suorittamaa tarkistusta – resurssi-intensiivinen tehtävä, jota monet yritykset ovat haluttomia rahoittamaan. Silti toimimattomuuden seuraukset ovat selvät: jokainen havaitsematon valhe voidaan toistaa käyttäjille tuhansia kertoja.
Sääntelykehykset jäävät jälkeen
Nykyiset lait ja säädökset eivät pysty käsittelemään tekoälyn aiheuttamaa disinformaatiota. Yhdysvalloissa ei ole liittovaltion lakia, joka erityisesti käsittelisi sitä, miten chatbotien tulisi käsitellä propagandaa. Euroopan unionin tekoälysäädös asettaa joitakin läpinäkyvyysvaatimuksia, mutta se ei ole vielä voimassa. Muilla alueilla on vielä vähemmän suojakaiteita. Tämä sääntelytyhjiö jättää yleisön alttiiksi manipuloidulle sisällölle ilman juurikaan oikeussuojakeinoja.
Vahvempaa valvontaa ajavat tahot väittävät, että hallitusten tulisi määrätä datan alkuperästandardit – vaatia yrityksiä paljastamaan, mistä niiden koulutusdata on peräisin ja miten se suodatetaan. Jotkut ovat ehdottaneet riippumattomien tarkastuselinten perustamista, jotka voisivat testata chatbotteja disinformaatioalttiuden varalta ennen niiden julkaisua. Mutta nämä ideat ovat edelleen ehdotuksia, eivät politiikkaa.
Propagandan leviäminen tekoäly-chatbottien kautta ei ole bugi, jonka nopea korjaus voisi ratkaista.
