Marvell a demonstrat un modul fotonic care poate plasa memoria AI la 50 de metri distanță de GPU, o distanță care ar putea remodela modul în care sunt proiectate centrele de date pe măsură ce sarcinile de lucru AI devin mai solicitante. Compania afirmă că tehnologia ar putea permite soluții de memorie scalabile pentru infrastructura AI și ar putea îmbunătăți eficiența procesării.
De ce contează mutarea memoriei
Modelele AI au crescut la dimensiuni care suprasolicită limitele fizice ale designului convențional al serverelor. Memoria este de obicei amplasată aproape de GPU, deoarece legăturile electrice se degradează pe distanță și consumă energie. Demonstrația Marvell sugerează că fotonica — folosind lumina în locul semnalelor electrice — poate transporta date între GPU și memorie pe o distanță de 50 de metri fără penalitățile care ar rezulta din utilizarea cuprului. Această separare ar putea oferi proiectanților de sisteme mai mult spațiu pentru a scala capacitatea de memorie independent de pachetul de calcul.
Ce a arătat de fapt Marvell
Demonstrația s-a concentrat pe un modul fotonic, nu pe un sistem complet de producție. Marvell nu a dezvăluit cifrele privind lățimea de bandă, latența sau consumul de energie care ar determina dacă abordarea este practică la scara centrelor de date. Acestea sunt cifrele pe care inginerii hardware le vor dori înainte de a trata legăturile optice de memorie ca opțiune de proiectare. Descrierea modulului de către companie este orientată spre viitor: acesta „ar putea” permite memorie scalabilă și „ar putea” îmbunătăți eficiența. Marvell nu a precizat când ar putea ajunge tehnologia la clienți.
Întrebarea privind eficiența
Mutarea memoriei departe de GPU ajută doar dacă legătura optică nu anulează câștigurile. Conexiunile optice pot reduce energia consumată pentru transmiterea semnalelor pe distanță, dar adaugă componente — transceivere, modulatoare și modulul fotonic în sine — care consumă energie și adaugă costuri. Afirmația Marvell privind eficiența îmbunătățită a procesării AI se bazează pe ideea că compromisul funcționează în favoarea sistemului. Fără benchmark-uri publicate, aceasta rămâne o afirmație, nu un rezultat măsurat.
Ce urmează
Demonstrația Marvell este un semnal pentru piața infrastructurii AI că legăturile optice de memorie sunt luate în serios, dar este un pas incipient. Următoarele repere ar fi date detaliate de performanță și un calendar mai clar pentru productizare. Până atunci, cifra de 50 de metri rămâne o dovadă de concept — o distanță care, dacă se menține în sistemele reale, ar oferi arhitecților de centre de date o nouă modalitate de a gândi unde se află memoria.
