Vad 40-procentiga förbättringen innebär
Effektivitet inom chipteknik avser vanligtvis prestanda per watt. För AI-arbetsbelastningar, som innebär tung beräkning och dataöverföring, är strömförbrukningen en dominerande kostnad. En 40-procentig förbättring är betydande. Det kan innebära skillnaden mellan att köra en modell på ett visst antal servrar eller att behöva fler. Det kan också sänka energikostnaden för ett datacenter.
Siffran är särskilt relevant i takt med att AI-modeller växer i storlek. Att träna en stor språkmodell kan förbruka megawattimmar el. Inferens, processen att använda en tränad modell, kräver också betydande beräkningskraft. Varje effektivitetsvinst påverkar direkt AI:ns ekonomi.
Microsofts satsning på anpassade kiselchips
Microsoft har utvecklat egna AI-chips i flera år. Företagets Azure-molnplattform använder en blandning av chips från olika leverantörer, men anpassade kiselchips gör att Microsoft kan optimera för sina specifika arbetsbelastningar. Det minskar också beroendet av en enda leverantör.
Nadellas uttalande specificerar inte vilket chip som 40-procentsiffran gäller för, och det beskriver inte heller testmetoden.
