En brikke for hastighet
Inferens er den delen av AI som skjer etter at en modell er trent, når den faktisk behandler en forespørsel og genererer et svar. For mange applikasjoner er hastigheten forskjellen mellom et verktøy som føles responsivt og et som føles tregt. Groq 3 LPX retter seg mot den øvre enden av det spekteret, der hvert millisekund teller.
Full produksjon betyr at designet er endelig og enheter produseres i stor skala. Det flytter brikken fra en testfase til noe kunder faktisk kan bestille. NVIDIA har ikke sagt når systemer som bruker Groq 3 LPX
