NVIDIA Dynamo مجموعهای از ابزارهای جدید را معرفی کرده است که با بهبود نحوه پخش توکن و مدیریت فراخوانی ابزار، عاملهای هوش مصنوعی را سریعتر و دقیقتر میسازند. این اعلامیه که این هفته منتشر شد، حوزه رو به رشد گردشکارهای عاملی را هدف قرار میدهد؛ جایی که سیستمهای هوش مصنوعی وظایف پیچیده را با حداقل دخالت انسان انجام میدهند.
این ابزارها چه کاری انجام میدهند
این ابزارها بر دو حوزه کلیدی تمرکز دارند: پخش توکن و مدیریت فراخوانی ابزار. پخش توکن به روشی اشاره دارد که مدل هوش مصنوعی متن یا داده را در تکههای کوچک خروجی میدهد و به آن اجازه میدهد قبل از تولید پاسخ کامل، پردازش را آغاز کند. مدیریت فراخوانی ابزار شامل توانایی عامل برای فراخوانی توابع خارجی – مانند جستجوی پایگاه داده یا اجرای کد – برای تکمیل یک کار است. NVIDIA Dynamo میگوید با بهبود هر دو، ابزارهای جدید میتوانند تأخیر را کاهش داده و قابلیت اطمینان را در محیطهای تولیدی افزایش دهند.
گردشکارهای عاملی در صنایعی مانند خدمات مشتری، توسعه نرمافزار و رباتیک رایجتر میشوند. این سیستمها باید به سرعت و به درستی به ورودیهای در حال تغییر پاسخ دهند، که این امر بر اهمیت پخش کارآمد و یکپارچگی robust ابزار تأکید میکند. ارائه جدید NVIDIA Dynamo مستقیماً این نیازها را برطرف میکند.
برای مهندسانی که عاملهای هوش مصنوعی میسازند، این بهبودها به معنای زمان انتظار کمتر برای تکمیل تولید متن توسط مدل و خطاهای کمتر هنگام فراخوانی یک ابزار خارجی توسط عامل است. این ابزارها به گونهای طراحی شدهاند که با چارچوبهای موجود کار کنند، بنابراین تیمها میتوانند بدون بازنویسی کل خط لوله خود، آنها را بپذیرند. NVIDIA Dynamo معیارهای خاصی را منتشر نکرده است، اما سابقه شرکت در سختافزار و نرمافزار هوش مصنوعی به این اعلامیه وزن میبخشد.
توسعهدهندگان اغلب با مبادله بین سرعت و دقت در سیستمهای عاملی دست و پنجه نرم میکنند. پخش توکن سریعتر میتواند منجر به زمینه ناقص شود، در حالی که فراخوانیهای پیچیده ابزار میتواند تأخیر ایجاد کند. ابزارهای جدید با بهینهسازی ارتباط بین مدل و ابزارهایی که استفاده میکند، هدف متعادلسازی این عوامل را دارند.
NVIDIA Dynamo هنوز تاریخ انتشار یا قیمتگذاری ابزارها را اعلام نکرده است، اما انتظار میرود در ماههای آینده از طریق پورتال توسعهدهندگان شرکت در دسترس باشند. این شرکت احتمالاً در کنفرانسهای آینده هوش مصنوعی جزئیات فنی بیشتری ارائه خواهد داد. در حال حاضر، توسعهدهندگان باید منتظر مستندات و کد نمونه بمانند تا ببینند ابزارها در عمل چگونه عمل میکنند.
