NVIDIA Dynamo olyan új eszközöket vezetett be, amelyek célja, hogy az AI-ügynökök gyorsabbak és pontosabbak legyenek a tokenek streamelésének és az eszközhívások kezelésének javításával. A héten nyilvánosságra hozott bejelentés az ágens alapú munkafolyamatok növekvő területét célozza, ahol az AI-rendszerek minimális emberi beavatkozással hajtanak végre összetett feladatokat.
Mit csinálnak az eszközök?
Az eszközök két kulcsfontosságú területre összpontosítanak: a tokenstreamelésre és az eszközhívás-kezelésre. A tokenstreamelés azt a módot jelenti, ahogyan az AI-modell apró darabokban ad ki szöveget vagy adatokat, lehetővé téve a feldolgozás megkezdését még a teljes válasz generálása előtt. Az eszközhívás-kezelés magában foglalja az ügynök azon képességét, hogy külső funkciókat hívjon meg – például adatbázis-keresést vagy kódf
