Anyscale ابزار جدیدی را منتشر کرده است که برای سادهسازی مرحله پس از آموزش مدلهای زبانی بزرگ طراحی شده و کارهایی مانند انتخاب روش، برنامهریزی GPU و تولید پیکربندی را خودکار میکند. این شرکت میگوید هدف آن سادهسازی بخشی است که به بخش پیچیده و منابعبری از استقرار LLM در تولید تبدیل شده است.
آنچه ابزار خودکار میکند
این ابزار بر فرآیند تنظیم دقیق تمرکز دارد که معمولاً مهندسان را ملزم میکند بین رویکردهایی مانند تنظیم دقیق کامل، LoRA یا QLoRA به صورت دستی انتخاب کنند، سپس تنظیمات مناسب GPU و ابرپارامترها را تعیین کنند. سیستم Anyscale این تصمیمات را بر عهده میگیرد و پیکربندیای تولید میکند که با مدل و محدودیتهای سختافزاری کاربر مطابقت دارد. این شرکت ادعا میکند که این کار میتواند زمان آزم
