Wat de 40% winst betekent
Efficiëntie in chipontwerp verwijst doorgaans naar prestaties per watt. Voor AI-workloads, die zware berekeningen en gegevensverplaatsing met zich meebrengen, is stroomverbruik een dominante kostenpost. Een verbetering van 40% is aanzienlijk. Het kan het verschil betekenen tussen het draaien van een model op een bepaald aantal servers of dat er meer nodig zijn. Het kan ook de energierekening van een datacenter verlagen.
Het getal is vooral relevant naarmate AI-modellen groter worden. Het trainen van een groot taalmodel kan megawattuur aan elektriciteit verbruiken. Inferentie, het proces van het gebruiken van een getraind model, vereist ook aanzienlijke rekenkracht. Elke efficiëntiewinst heeft direct invloed op de economie van AI.
Microsoft's eigen silicium
Microsoft ontwikkelt al jaren zijn eigen AI-chips. Het Azure-cloudplatform van het bedrijf gebruikt een mix van chips van verschillende leveranciers, maar aangepaste chips stellen Microsoft in staat om te optimaliseren voor zijn specifieke workloads. Het vermindert ook de afhankelijkheid van één leverancier.
De verklaring van Nadella specificeert niet op welke chip het cijfer van 40% betrekking heeft, noch beschrijft het de testmethode. Het is mogelijk dat de winst varieert per workload. Maar de bewering geeft een glimp van de vooruitgang die Microsoft boekt.
De bredere impact
Aangepaste chips zijn een centraal punt geworden voor grote cloudproviders. De mogelijkheid om chips af te stemmen op AI-workloads kan prestatie- en efficiëntievoordelen bieden ten opzichte van kant-en-klare opt
