NVIDIA ka zbuluar DGX Spark, një pajisje e re që synon të thjeshtojë vendosjen lokale të agjentëve të AI për zhvilluesit. Sistemi përfshin NemoClaw dhe mbështet grupimin me shumë nyje, të dyja të dizajnuara për të reduktuar kohën e konfigurimit dhe për ta bërë më të lehtë ekzekutimin e agjentëve të AI në infrastrukturë lokale.
Çfarë ofron DGX Spark
DGX Spark është ndërtuar rreth dy veçorive kryesore: NemoClaw dhe aftësisë për të grupuar nyje të shumta. NemoClaw merr përsipër punën e rëndë të koordinimit të rrjedhave të punës së agjentëve të AI në mënyrë lokale, ndërsa grupimi me shumë nyje u lejon zhvilluesve të lidhin disa njësi DGX Spark së bashku për detyra më të mëdha ose më komplekse. NVIDIA thotë se këto mjete mundësojnë konfigurim më të shpejtë të agjentëve lokalë të AI, megjithëse kompania nuk ka publikuar ende specifikime të hollësishme teknike ose çmime.
Si funksionon grupimi me shumë nyje
Për zhvilluesit që kanë nevojë të zgjerojnë agjentët e tyre të AI përtej një makine të vetme, aftësia e grupimit të DGX Spark synon të thjeshtojë atë proces. Në vend që të konfigurojnë manualisht rrjetet dhe balancimin e ngarkesës nëpër pajisje të ndara, Spark mund të menaxhojë automatikisht komunikimin midis nyjeve. Kjo redukton pengesat e kalimit nga një test me një agjent të vetëm në një mjedis prodhimi me shumë agjentë, të gjitha pa u mbështetur në shërbime cloud.
Pse vendosja lokale e AI ka rëndësi
Ekzekutimi i agjentëve të AI në mënyrë lokale u jep zhvilluesve më shumë kontroll mbi privatësinë e të dhënave, vonesën dhe koston. AI-i i bazuar në cloud mund të jetë i shtrenjtë dhe sjell varësi nga ofruesit e jashtëm. DGX Spark pozicionohet si një mënyrë për të mbajtur ngarkesat e punës në vend, duke përfituar njëkohësisht nga përshpejtimi i harduerit dhe orkestrimi në nivel grupi. Fokusi i NVIDIA-s në thjeshtimin e konfigurimit lokal sugjeron se kompania po bast se më shumë zhvillues do të duan të eksperimentojnë dhe të vendosin agjentë të AI jashtë cloud-it.
Zhvilluesit tani mund të kërkojnë DGX Spark përmes kanaleve të zakonshme të harduerit të NVIDIA-s. Kompania nuk ka njoftuar një datë specifike lëshimi ose çmime, kështu që nuk është e qartë se sa shpejt pajisja do të arrijë në treg.
