Financial Timesin testaus paljasti, että Metan ja Googlen tekoälyn turvallisuustoimenpiteet voidaan ohittaa minuuteissa. Havainnot haastavat väitteet nykyisten suojatoimien kestävyydestä.
Testausmenetelmät
Toimittajat käyttivät tavanomaisia syötteitä kehottamaan malleja tuottamaan haitallista sisältöä. He testasivat molempien yritysten julkisia tekoälytyökaluja normaaleissa olosuhteissa. Ohitus tapahtui ilman erikoistunutta teknistä osaamista.
Alustojen vastaukset
Meta kertoi päivittävänsä järjestelmiään jatkuvasti ja lisänneensä uusia rajoituksia testin jälkeen. Google totesi käyttävänsä useita turvallisuuskerroksia ja puuttuvansa nopeasti ongelmiin, kun niitä havaitaan. Kumpikaan yritys ei kiistänyt FT:n havaintoja.
Sääntelypaine
EU:n tekoälysäädöksen lokakuun 2024 määräaika lähestyy vaatimusten noudattamiselle. Sääntelyviranomaiset viittaavat nyt näihin testiin todisteena siitä, että nykyinen alan itsesääntely epäonnistuu. Lainsäätäjät Brysselissä tarkastelevat raporttia mahdollisia täytäntöönpanotoimia varten.
Käyttäjien riskialtistus
Suodattamattomat tulosteet sisälsivät haitallisia neuvoja ja vääriä tietoja. Kyseiset työkalut ovat laajalti kuluttajien ja kehittäjien käytössä. Yritykset väittävät, että useimmat käyttäjät eivät kohtaa näitä ongelmia normaalikäytössä.
Financial Timesin testi osoittaa, kuinka helposti nykyiset tekoälyesteet murtuvat. Nyt yritysten on korjattava nämä aukot ennen EU:n lokakuun määräaikaa.
