Mitä 40 prosentin parannus tarkoittaa
Tehokkuus piirisuunnittelussa tarkoittaa tyypillisesti suorituskykyä wattia kohden. Tekoälytyökuormissa, jotka vaativat raskasta laskentaa ja datan siirtoa, virrankulutus on merkittävä kustannustekijä. 40 prosentin parannus on huomattava. Se voi olla ratkaisevaa sen välillä, pystytäänkö malli ajamaan tietyllä määrällä palvelimia vai tarvitaanko lisää. Se voi myös alentaa datakeskuksen energialaskua.
Luku on erityisen merkityksellinen, kun tekoälymallit kasvavat kooltaan. Suuren kielimallin kouluttaminen voi kuluttaa megawattitunteja sähköä. Päättely, eli koulutetun mallin käyttöprosessi, vaatii myös merkittävää laskentatehoa. Mikä tahansa tehokkuusparannus vaikuttaa suoraan tekoälyn taloudellisuuteen.
Microsoftin panostus räätälöityihin piireihin
Microsoft on kehittänyt omia tekoälypiirejään jo vuosia. Yrityksen Azure-pilvialusta käyttää eri toimittajien piirien yhdistelmää, mutta räätälöidyt piirit antavat Microsoftille mahdollisuuden optimoida omia työkuormiaan varten. Se myös vähentää riippuvuutta yksittäisestä toimittajasta.
Nadellan lausunto ei kerro, mihin piiriin 40 prosentin luku liittyy, eikä se kuvaa testausmenetelmää. On mahdollista, että parannus vaihtelee työkuorman mukaan. Mutta väite antaa osviittaa siitä, millaista edistystä Microsoft
