NVIDIA Dynamo ka prezantuar një grup mjetesh të reja që synojnë të bëjnë agjentët e AI më të shpejtë dhe më të saktë duke përmirësuar mënyrën se si ata transmetojnë tokenë dhe trajtojnë thirrjet e mjeteve. Njoftimi, i bërë publik këtë javë, synon fushën në rritje të rrjedhave të punës agjentike, ku sistemet e AI kryejnë detyra komplekse me ndërhyrje minimale njerëzore.
Çfarë bëjnë mjetet
Mjetet fokusohen në dy fusha kryesore: rrjedhja e tokenëve dhe trajtimi i thirrjeve të mjeteve. Rrjedhja e tokenëve i referohet mënyrës se si një model AI nxjerr tekst ose të dhëna në copa të vogla, duke i lejuar atij të fillojë përpunimin përpara se të gjenerohet përgjigja e plotë. Trajtimi i thirrjeve të mjeteve përfshin aftësinë e agjentit për të thirrur funksione të jashtme—si kërkimi në një bazë të dhënash ose ekzekutimi i kodit—për të përfunduar një detyrë. Duke përmirësuar të dyja, NVIDIA Dynamo thotë se mjetet e reja mund të reduktojnë vonesën dhe të rrisin besueshmërinë në mjediset e prodhimit.
Rrjedhat e punës agjentike po bëhen më të zakonshme në industri si shërbimi ndaj klientit, zhvillimi i softuerit dhe robotika. Këto sisteme duhet të përgjigjen shpejt dhe saktë ndaj ndryshimeve të hyrjeve, gjë që i jep rëndësi transmetimit efikas dhe integrimit të fuqishëm të mjeteve. Ofrimi i ri nga NVIDIA Dynamo adreson drejtpërdrejt këto kërkesa.
Për inxhinierët që ndërtojnë agjentë AI, përmirësimet nënkuptojnë më pak kohë pritjeje për modelin për të përfunduar gjenerimin e tekstit dhe më pak gabime kur agjenti thërret një mjet të jashtëm. Mjetet janë krijuar për të punuar me kornizat ekzistuese, kështu që ekipet mund t'i adoptojnë ato pa rishkruar të gjithë rrjedhën e punës. NVIDIA Dynamo nuk ka publikuar ende pikë referimi specifike, por historia e kompanisë në harduer dhe softuer AI i jep peshë njoftimit.
Zhvilluesit shpesh përballen me kompromisin midis shpejtësisë dhe saktësisë në sistemet agjentike. Transmetimi më i shpejtë i tokenëve mund të çojë në kontekst jo të plotë, ndërsa thirrjet komplekse të mjeteve mund të shkaktojnë vonesa. Mjetet e reja synojnë të balancojnë këta faktorë duke optimizuar komunikimin midis modelit dhe mjeteve që ai përdor.
NVIDIA Dynamo nuk ka njoftuar ende një datë lëshimi ose çmim për mjetet, por ato pritet të jenë të disponueshme përmes portalin e zhvilluesve të kompanisë në muajt në vijim. Kompania ka të ngjarë të ofrojë më shumë detaje teknike në konferencat e ardhshme të AI. Për momentin, zhvilluesit do të duhet të presin për dokumentacion dhe shembuj kodi për të parë se si funksionojnë mjetet në praktikë.
