NVIDIA telah melancarkan DGX Spark, peranti baharu yang bertujuan untuk memudahkan pengerahan ejen AI tempatan untuk pembangun. Sistem ini merangkumi NemoClaw dan menyokong penggugusan berbilang nod, kedua-duanya direka untuk mengurangkan masa persediaan dan memudahkan pelaksanaan ejen AI pada infrastruktur tempatan.
Apa yang ditawarkan oleh DGX Spark
DGX Spark dibina berdasarkan dua ciri utama: NemoClaw dan keupayaan untuk mengguguskan berbilang nod. NemoClaw mengendalikan tugasan berat dalam menyelaras aliran kerja ejen AI secara tempatan, manakala penggugusan berbilang nod membolehkan pembangun menghubungkan beberapa unit DGX Spark untuk tugas yang lebih besar atau lebih kompleks. NVIDIA menyatakan bahawa alat ini membolehkan persediaan ejen AI tempatan yang lebih pantas, walaupun syarikat itu belum lagi mengeluarkan spesifikasi teknikal atau harga yang terperinci.
Bagaimana penggugusan berbilang nod berfungsi
Bagi pembangun yang perlu menskalakan ejen AI mereka melebihi satu mesin, keupayaan penggugusan DGX Spark bertujuan untuk memudahkan proses tersebut. Daripada mengkonfigurasi rangkaian dan pengimbangan beban secara manual merentasi peranti yang berasingan, Spark boleh menguruskan komunikasi antara nod secara automatik. Ini mengurangkan geseran semasa beralih daripada ujian ejen tunggal kepada persekitaran pengeluaran berbilang ejen, semuanya tanpa bergantung pada perkhidmatan awan.
Mengapa pengerahan AI tempatan penting
Menjalankan ejen AI secara tempatan memberikan pembangun lebih kawalan terhadap privasi data, kependaman dan kos. AI berasaskan awan boleh menjadi mahal dan memperkenalkan kebergantungan kepada pembekal luar. DGX Spark diposisikan sebagai cara untuk mengekalkan beban kerja di premis sambil tetap mendapat manfaat daripada pecutan perkakasan dan orkestrasi peringkat kluster. Tumpuan NVIDIA untuk memudahkan persediaan tempatan menunjukkan bahawa syarikat itu yakin lebih ramai pembangun akan ingin mencuba dan menggunakan ejen AI di luar awan.
Pembangun kini boleh mencari DGX Spark melalui saluran perkakasan biasa NVIDIA. Syarikat itu belum mengumumkan tarikh keluaran atau harga tertentu, jadi tidak jelas seberapa cepat peranti ini akan sampai ke pasaran.
