Anthropic ja OpenAI pyrkivät raporttien mukaan valvomaan arvioijien julkaisuja, kertovat asiaan perehtyneet lähteet. Kaksi johtavaa tekoäly-yhtiötä haluaa vaikuttaa siihen, mitä riippumattomat arvioijat voivat julkaista niiden malleista. Siirto on herättänyt huolta siitä, että se voisi heikentää läpinäkyvyyttä ja luottamusta tekoälyalaan, ja se nostaa esiin hankalia kysymyksiä liikesalaisuuksista.
Pyrkimys valvoa arvioijien julkaisuja
Arvioijat – usein kolmannen osapuolen tutkijat tai organisaatiot – testaavat tekoälyjärjestelmiä turvallisuuden, harhojen ja suorituskyvyn osalta. Heidän havaintonsa julkaistaan tyypillisesti avoimesti, jolloin yleisö, sääntelijät ja muut yritykset voivat arvioida teknologiaa. Mutta Anthropic ja OpenAI pyrkivät nyt raporttien mukaan saamaan enemmän valvontaa siihen, mitä julkaistaan. Tarkka mekanismi ei ole selvillä: se voi liittyä sopimuksiin, tarkistusprosesseihin tai tiettyjen yksityiskohtien julkaisun rajoituksiin. Molemmat yhtiöt ovat korostaneet tarvetta suojella liikesalaisuuksia ja väittäneet, että rajoittamaton paljastaminen voisi antaa kilpailijoille etua tai paljastaa arkaluontoisia menetelmiä. Sama salaisuus voi kuitenkin myös piilottaa puutteita.
Miksi läpinäkyvyys on tärkeää tekoälyn luottamukselle ja innovaatioille
Läpinäkyvyys on ollut tekoälytutkimuksen kulmakivi. Kun arvioijat julkaisevat menetelmänsä ja tuloksensa, muut voivat toistaa testit, havaita heikkouksia ja rakentaa onnistumisten varaan. Tämä sykli edistää innovaatioita ja rakentaa yleisön luottamusta. Jos yritykset voivat estää tai muokata arvioijien julkaisuja, sykli katkeaa. Riippumattomat tutkijat voivat epäröidä ongelmien esiin nostamista, jos he pelkäävät vastareaktioita. Käyttäjät eivät välttämättä saa tietää riskeistä ennen kuin on liian myöhäistä. Ja sääntelijöillä, jotka jo kamppailevat pysyäkseen tekoälyn vauhdissa, olisi vähemmän materiaalia työskennellä. Asianomaiset osapuolet eivät ole vain yritykset ja arvioijat; heihin kuuluu kaikki, jotka luottavat tekoälyjärjestelmiin – mikä on yhä useampi.
Liikesalaisuuden dilemma
Tässä on todellinen jännite. Tekoälymallien rakentaminen on kallista, ja yrityksillä on oikeutettuja intressejä suojella omia menetelmiään. Liikesalaisuuslaki sallii yritysten pitää tietyt tiedot luottamuksellisina, kunhan ne ryhtyvät kohtuullisiin toimiin sen eteen. Mutta tämän kehyksen soveltaminen arvioijien julkaisuihin on hankalaa. Arvioijat tarvitsevat riittävän pääsyn tehdäkseen työnsä, ja yleisö tarvitsee riittävästi tietoa luottaakseen tuloksiin. Liian laajat salassapitovaatimukset voisivat tukahduttaa juuri sen tarkastelun, joka tekee tekoälystä turvallisempaa. Anthropic ja OpenAI eivät ole julkisesti kertoneet ehdotuksistaan, joten on epäselvää, mihin ne vetäisivät rajan. Mikä lasketaan liikesalaisuudeksi ja mikä julkisen turvallisuuden huoleksi? Tästä kysymyksestä todennäköisesti kiistellään sopimuksissa, oikeusistuimissa ja politiikkakeskusteluissa.
Mitä on pelissä tekoälyalalle
Tekoälyala seuraa tarkasti. Jos Anthropic ja OpenAI onnistuvat valvomaan arvioijien julkaisuja, muut yritykset voivat seurata perässä. Se voisi luoda ennakkotapauksen siitä, miten tekoälyyritykset toimivat riippumattomien testaajien kanssa. Startupit ja pienemmät toimijat voivat tuntea painetta omaksua samanlaisia käytäntöjä pysyäkseen kilpailukykyisinä. Samaan aikaan akateemiset ja voittoa tavoittelemattomat arvioijat voivat kokea työnsä rajoittuvan. Jotkut voivat kieltäytyä allekirjoittamasta rajoittavia sopimuksia, mikä vähentää riippumattoman asiantuntemuksen määrää. Toiset voivat suostua mutta sensuroida itseään. Kummassakin tapauksessa julkisten arviointien laatu ja määrä voivat kärsiä. Lopputulos muokkaa paitsi sitä, mitä tiedämme tekoälyjärjestelmistä, myös sitä, kuka saa päättää, mikä on turvallista.
Ei vielä selvää ratkaisua
Kumpikaan yhtiö, Anthropic tai OpenAI, ei ole ilmoittanut virallisesta käytännöstä tai aikataulusta. Keskustelut ovat raporttien mukaan käynnissä, eikä sopimuksia ole julkistettu. Toistaiseksi tilanne on muuttuva. Arvioijat, tutkijat ja valvontaryhmät todennäköisesti vastustavat, jos konkreettisia rajoituksia ilmaantuu. Yhdysvaltain ja muiden maiden sääntelijät, jotka jo laativat tekoälysääntöjä, voivat kiinnostua asiasta. Ydinkonflikti – liikesalaisuuksien suojelun ja läpinäkyvyyden säilyttämisen välillä – ei ole helppo ratkaista. Se, miten Anthropic ja OpenAI etenevät, on alalle testitapaus. Ja kaikille tekoälyä käyttäville panokset ovat korkeat: vähemmän läpinäkyvyyttä voi tarkoittaa enemmän riskiä, huomaamatta.
