Co znamená 40% zisk
Účinnost v návrhu čipů obvykle označuje výkon na watt. Pro pracovní zátěže AI, které zahrnují náročné výpočty a přesun dat, je spotřeba energie dominantním nákladem. 40% zlepšení je podstatné. Může to znamenat rozdíl mezi spuštěním modelu na daném počtu serverů nebo potřebou více. Může to také snížit účet za energii pro datové centrum.
Toto číslo je obzvláště relevantní, protože modely AI rostou do velikosti. Trénování velkého jazykového modelu může spotřebovat megawatthodiny elektřiny. Inference, proces použití natrénovaného modelu, také vyžaduje značný výpočetní výkon. Jakýkoli zisk v účinnosti přímo ovlivňuje ekonomiku AI.
Snaha Microsoftu o vlastní čipy
Microsoft vyvíjí své vlastní čipy pro AI již léta. Cloudová platforma Azure společnosti používá mix čipů od různých dodavatelů, ale vlastní křemík umožňuje Microsoftu optimalizovat pro své specifické pracovní zátěže. Také to snižuje závislost na jediném dodavateli.
Nadellovo prohlášení nespecifikuje, na který čip se 40% údaj vztahuje, ani nepopisuje metodu testování. Je možné, že se zisk liší podle pracovní zátěže. Ale toto tvrzení dává nahlédnout do pokroku, který Microsoft dělá.
