Marvell telah mendemonstrasikan modul fotonik yang dapat menempatkan memori AI sejauh 50 meter dari GPU, jarak yang dapat mengubah tata letak pusat data seiring meningkatnya tuntutan beban kerja AI. Perusahaan menyatakan bahwa teknologi ini mungkin memungkinkan solusi memori yang dapat diskalakan untuk infrastruktur AI dan berpotensi meningkatkan efisiensi pemrosesan.
Mengapa memindahkan memori itu penting
Model AI telah tumbuh hingga ukuran yang membebani batas fisik desain server konvensional. Memori biasanya ditempatkan dekat dengan GPU karena tautan elektrik mengalami degradasi seiring jarak dan mengonsumsi daya. Demo Marvell menunjukkan bahwa fotonik — menggunakan cahaya alih-alih sinyal elektrik — dapat membawa data antara GPU dan memori melintasi rentang 50 meter tanpa penalti yang akan timbul dari tembaga. Pemisahan itu dapat memberi perancang sistem lebih banyak ruang untuk menskalakan kapasitas memori secara independen dari paket komputasi.
Apa yang sebenarnya ditunjukkan Marvell
Demonstrasi tersebut berpusat pada modul fotonik, bukan sistem produksi penuh. Marvell belum mengungkapkan angka bandwidth, latensi, atau daya yang akan menentukan apakah pendekatan ini praktis pada skala pusat data. Itulah angka-angka yang ingin dilihat oleh para insinyur perangkat keras sebelum mereka menganggap tautan memori optik sebagai opsi desain. Deskripsi perusahaan tentang modul tersebut bersifat visioner: modul itu "berpotensi" memungkinkan memori yang dapat diskalakan dan "berpotensi" meningkatkan efisiensi. Marvell belum mengatakan kapan teknologi ini mungkin sampai ke pelanggan.
Pertanyaan efisiensi
Memindahkan memori menjauh dari GPU hanya membantu jika tautan optik tidak memakan keuntungannya. Koneksi optik dapat mengurangi energi yang dihabiskan untuk menggerakkan sinyal jarak jauh, tetapi menambahkan komponen — transceiver, modulator, dan modul fotonik itu sendiri — yang mengonsumsi daya dan menambah biaya. Klaim Marvell tentang peningkatan efisiensi pemrosesan AI bertumpu pada gagasan bahwa trade-off tersebut menguntungkan sistem. Tanpa tolok ukur yang dipublikasikan, itu tetap merupakan klaim daripada hasil yang terukur.
Apa yang berikutnya
Demo Marvell adalah sinyal bagi pasar infrastruktur AI bahwa tautan memori optik ditanggapi dengan serius, tetapi ini adalah langkah awal. Tonggak berikutnya adalah data kinerja yang terperinci dan garis waktu yang lebih jelas untuk produkisasi. Sampai saat itu, angka 50 meter berdiri sebagai bukti konsep — jarak yang, jika terbukti dalam sistem nyata, akan memberi arsitek pusat data cara baru untuk memikirkan di mana memori berada.
