Hvad betyder 40% forbedringen?
Effektivitet i chipdesign refererer typisk til ydeevne pr. watt. For AI-arbejdsbelastninger, som involverer tung beregning og dataflytning, er strømforbruget en dominerende omkostning. En 40% forbedring er betydelig. Det kan betyde forskellen mellem at køre en model på et givet antal servere eller have brug for flere. Det kan også sænke energiregningen for et datacenter.
Tallet er især relevant, efterhånden som AI-modeller vokser i størrelse. Træning af en stor sprogmodel kan forbruge megawatt-timer elektricitet. Inferens, processen med at bruge en trænet model, kræver også betydelig beregning. Enhver forbedring i effektivitet påvirker direkte økonomien i AI.
Microsofts skræddersyede chip-satsning
Microsoft har i årevis udviklet sine egne AI-chips. Virksomhedens Azure-cloudplatform bruger en blanding af chips fra forskellige leverandører, men skræddersyet silicium giver Microsoft mulighed for at optimere til sine specifikke arbejdsbelastninger. Det reducerer også afhængigheden af en enkelt leverandør.
Nadellas udtalelse specificerer ikke, hvilken chip 40%-tallet gælder for, og den beskriver heller ikke testmetoden. Det er muligt, at forbedringen varierer afhængigt af arbejdsbelastningen. Men påstanden giver et indblik i de fremskridt, Microsoft gør.
Den bredere indvirkning
Skræddersyet silicium er blevet et fokuspunkt for store cloud-udbydere. Evnen til at tilpasse chips til AI-arbejdsbelastninger kan give ydeevne- og effektivitetsfordele i forhold til standardløsninger. Microsofts 40%
