Miksi kielto nyt
Politiikka tulee taustalla, jossa Kiinan syntyvyys laskee ja yhteiskunta ikääntyy. Viranomaiset ovat ilmaisseet huolensa siitä, että tunteisiin vetoavat chattibotit voivat vähentää entisestään sosiaalista vuorovaikutusta ja perheen perustamista. Kielto pyrkii estämään tekoälyä korvaamasta ihmissuhteita, erityisesti nuorempien käyttäjien keskuudessa, jotka saattavat kääntyä virtuaalisten seuralaisten puoleen oikeiden suhteiden rakentamisen sijaan.
Kiinan väestö väheni toista vuotta peräkkäin vuonna 2023, ja syntyneiden määrä laski 9,02 miljoonaan — alhaisin sitten 1940-luvun. Hallitus on edistänyt politiikkaa, joka kannustaa avioliittoon ja lasten hankintaan, mukaan lukien taloudelliset kannustimet ja pidennetty vanhempainvapaa. Uusi tekoälysääntö sopii tähän laajempaan pyrkimykseen.
Startupit tähtäimessä
Useat kiinalaiset startupit ovat rakentaneet tuotteita tunneälyn ympärille — chattibotteja, jotka on suunniteltu toimimaan ystävinä, romanttisina kumppaneina tai terapeutteina. Nämä palvelut käyttävät usein personoitua kieltä ja muistiominaisuuksia luodakseen läheisyyden tunnetta. Uusien sääntöjen mukaan tällaiset ominaisuudet voidaan katsoa laittomiksi, jos ne kannustavat käyttäjiä tulemaan emotionaalisesti riippuvaisiksi.
Yritysten, jotka nojaavat vahvasti tunnesitoutumiseen, on ehkä muutettava suuntaa nopeasti. Jotkut ovat jo alkaneet brändätä tarjontaansa uudelleen tuottavuus- tai mielenterveystyökaluiksi, vaikka raja tuen ja riippuvuuden välillä on edelleen epäselvä. Sijoittajat seuraavat tarkasti: pääomasijoitukset tekoälyseuralaissovelluksiin Kiinassa olivat yhteensä noin 150 miljoonaa dollaria vuonna 2023 PitchBookin tietojen mukaan.
Siirtymä tuottavuustyökaluihin
Sääntely saattaa ohjata investointeja kohti tekoälysovelluksia, jotka keskittyvät tehokkuuteen ja tehtävien suorittamiseen tunnesiteen sijaan. Kiinalaiset teknologiayritykset kuten Baidu ja Alibaba ovat jo lanseeranneet suuria kielimalleja yrityskäyttöön — asiakaspalveluun, asiakirjojen käsittelyyn ja koodin tuottamiseen. Pienemmät kehittäjät saattavat seurata perässä.
Tuottavuuskeskeinen tekoäly kohtaa vähemmän sääntelyesteitä ja sopii yhteen Pekingin laajemman pyrkimyksen kanssa teknologisesta omavaraisuudesta ja teollisuuden uudistamisesta. Hallitus on myös osoittanut tukevansa tekoälyä koulutuksessa ja terveydenhuollossa, edellyttäen että se ei korvaa ihmisten välistä vuorovaikutusta herkillä alueilla.
Mitä seuraavaksi
Täytäntöönpanon yksityiskohdat ovat edelleen epäselviä. Kyberavaruushallinto ei ole määritellyt seuraamuksia tai siirtymäaikaa noudattamiselle. Yritysten, jotka ylläpitävät tunnechattibotteja, on tarkistettava käyttöehtonsa ja muokattava algoritmejaan välttääkseen kiellon laukeamisen. Jotkut saattavat haastaa säännöt, mutta poliittisen ilmapiirin vuoksi useimpien odotetaan noudattavan niitä hiljaisesti.
Sääntely on osa laajempaa kaavaa: Kiina on tiukentanut tekoälyn valvontaa vuodesta 2021 lähtien, vaatien algoritmien rekisteröintiä ja sisällön moderointia. Tämä viimeisin liike osoittaa, että emotionaalinen manipulointi — jopa koneiden toimesta — on n
