Marvell ได้สาธิตโมดูลโฟโทนิกที่สามารถวางหน่วยความจำ AI ห่างจาก GPU ได้ถึง 50 เมตร ซึ่งเป็นระยะทางที่อาจพลิกโฉมการออกแบบศูนย์ข้อมูลเมื่อภาระงาน AI มีความต้องการเพิ่มมากขึ้น บริษัทกล่าวว่าเทคโนโลยีนี้สามารถเปิดทางให้เกิดโซลูชันหน่วยความจำที่ขยายขนาดได้สำหรับโครงสร้างพื้นฐาน AI และอาจช่วยเพิ่มประสิทธิภาพในการประมวลผล
ทำไมการย้ายหน่วยความจำจึงสำคัญ
โมเดล AI มีขนาดใหญ่ขึ้นจนตึงขีดจำกัดทางกายภาพของการออกแบบเซิร์ฟเวอร์ทั่วไป โดยปกติหน่วยความจำจะถูกจัดวางไว้ใกล้ GPU เนื่องจากลิงก์ไฟฟ้าจะเสื่อมคุณภาพตามระยะทางและสิ้นเปลืองพลังงาน การสาธิตของ Marvell ชี้ให้เห็นว่าโฟโทนิกส์ — การใช้แสงแทนสัญญาณไฟฟ้า — สามารถส่งข้อมูลระหว่าง GPU และหน่วยความจำได้ในระยะ 50 เมตร โดยไม่มีข้อเสียที่เกิดจากทองแดง การแยกส่วนนี้อาจช่วยให้นักออกแบบระบบมีพื้นที่มากขึ้นในการขยายความจุหน่วยความจำแยกจากชุดประมวลผล
สิ่งที่ Marvell สาธิตจริง
การสาธิตมุ่งเน้นที่โมดูลโฟโทนิก ไม่ใช่ระบบที่ผลิตจริงเต็มรูปแบบ Marvell ยังไม่เปิดเผยตัวเลขแบนด์วิดท์ ความหน่วง หรือการใช้พลังงาน ซึ่งเป็นปัจจัยที่กำหนดว่าวิธีนี้จะใช้งานได้จริงในระดับศูนย์ข้อมูลหรือไม่ ตัวเลขเหล่านี้คือสิ่งที่วิศวกรฮาร์ดแวร์ต้องการก่อนจะพิจารณาลิงก์หน่วยความจำแบบออปติคัลเป็นทางเลือกในการออกแบบ คำอธิบายของบริษัทเกี่ยวกับโมดูลนี้เป็นไปในเชิงอนาคต: มัน "อาจ" เปิดทางให้หน่วยความจำขยายขนาดได้ และ "อาจ" เพิ่มประสิทธิภาพ Marvell ยังไม่ระบุว่าเทคโนโลยีนี้จะถึงมือลูกค้าเมื่อใด
คำถามเรื่องประสิทธิภาพ
การย้ายหน่วยความจำออกจาก GPU จะเป็นประโยชน์ก็ต่อเมื่อลิงก์ออปติคัลไม่กลืนผลประโยชน์ที่ได้ การเชื่อมต่อแบบออปติคัลสามารถลดพลังงานที่ใช้ในการขับสัญญาณในระยะทางไกล แต่ก็เพิ่มองค์ประกอบ — ทรานซีฟเวอร์, มอดูเลเตอร์ และโมดูลโฟโทนิกเอง — ที่ใช้พลังงานและเพิ่มต้นทุน ข้อกล่าวอ้างของ Marvell เรื่องประสิทธิภาพการประมวลผล AI ที่เพิ่มขึ้นนั้นตั้งอยู่บนแนวคิดที่ว่าการแลกเปลี่ยนนี้ได้ผลดีต่อระบบ โดยไม่มีเกณฑ์มาตรฐานที่เผยแพร่ ข้อกล่าวอ้างนี้จึงยังคงเป็นเพียงคำกล่าวอ้าง而非ผลลัพธ์ที่วัดได้
สิ่งที่จะเกิดขึ้นต่อไป
การสาธิตของ Marvell เป็นสัญญาณต่อตลาดโครงสร้างพื้นฐาน AI ว่าลิงก์หน่วยความจำแบบออปติคัลกำลังได้รับการพิจารณาอย่างจริงจัง แต่ก็เป็นเพียงก้าวแรก หมุดหมายต่อไปคือข้อมูลประสิทธิภาพโดยละเอียดและกรอบเวลาที่ชัดเจนขึ้นสำหรับการผลิตเป็นสินค้า จนถึงตอนนั้น ตัวเลข 50 เมตรยังคงเป็นข้อพิสูจน์แนวคิด — ระยะทางที่หากยังคงใช้ได้ในระบบจริง จะมอบวิธีคิดใหม่ให้นักออกแบบศูนย์ข้อมูลเกี่ยวกับตำแหน่งที่ตั้งของหน่วยความจำ
