40% 향상의 의미
칩 설계에서 효율성은 일반적으로 와트당 성능을 의미합니다. AI 워크로드의 경우 계산과 데이터 이동이 많아 전력 소비가 지배적인 비용입니다. 40%의 개선은 상당합니다. 이는 주어진 서버 수에서 모델을 실행할 수 있는지 아니면 더 많은 서버가 필요한지의 차이를 의미할 수 있습니다. 또한 데이터 센터의 전기 요금을 낮출 수도 있습니다.
이 수치는 AI 모델이 커질수록 특히 중요합니다. 대규모 언어 모델을 훈련하는 데는 메가와트시의 전력이 소모될 수 있습니다. 훈련된 모델을 사용하는 과정인 추론도 상당한 컴퓨팅을 요구합니다. 효율성의 향상은 AI의 경제성에 직접적인 영향을 미칩니다.
마이크로소프트의 맞춤형 실리콘 추진
마이크로소프트는 수년간 자체 AI 칩을 개발해 왔습니다. 회사의 Azure 클라우드 플랫폼은 다양한 공급업체의 칩을 혼합하여 사용하지만, 맞춤형 실리콘을 통해 마이크로소프트는 특정 워크로드에 맞게 최적화할 수 있습니다. 또한 단일 공급업체에 대한 의존도를 줄여줍니다.
나델라의 발언은 40% 수치가
