Moonshot AI השיקה את Kimi K3, מודל בעל משקלים פתוחים עם 2.8 טריליון פרמטרים, שמריץ קרנלי CUDA עבור מעבדי Nvidia H100 במהירות גבוהה פי 14.82 מ-PyTorch הסטנדרטי. קפיצת הביצועים הזו מאתגרת ישירות את מעבדות הבינה המלאכותית המובילות בארה״ב ומעמיקה את התחרות שכבר אינטנסיבית בין ארה״ב לסין בתחום הבינה המלאכותית.
מה משמעות ההאצה
השיפור של פי 14.82 לעומת PyTorch אינו מדד ביצועים סינתטי — זוהי מהירות יצירת קרנלים אמיתית. כלומר, Kimi K3 יכול לכתוב ולבצע אופטימיזציה של קוד GPU ברמה נמוכה הרבה יותר מהר מאשר PyTorc, המסגרת הנפוצה. עבור מפתחים המריצים אימון או הסקה בקנה מידה גדול על אשכולות H100, ההבדל מתורגם לזמני המתנה קצרים משמעותית ועלויות חישוב נמוכות יותר. Moonshot AI טוענת שהמודל הוא בעל משקלים פתוחים, כך שחוקרים מחוץ לחברה יכולים לבחון ולהתאים את הארכיטקטורה.
Kimi K3 מגיע בזמן שוושינגטון מחמירה את בקרות הייצוא על שבבים מתקדמים לסין. מעבדות אמריקאיות כמו OpenAI, Google DeepMind ו-Meta שלטו זה מכבר בחזית מודלי השפה הגדולים ואופטימיזציית GPU. המודל של Moonshot AI מראה שחברות סיניות עדיין יכולות לדחוף את ביצועי החומרה ללא גישה לחומרת Nvidia העדכנית ביותר — H100 מוגבל בייצוא אך זמין נרחב בסין דרך מלאים שנצברו לפני האיסור. ספירת 2.8 טריליון הפרמטרים מציבה את Kimi K3 בין המודלים בעלי המשקלים הפתוחים הגדולים ביותר ששוחררו אי פעם, ומתחרה בהיקף המודלים הקנייניים של המובילים האמריקאיים.
גורם המשקלים הפתוחים
בכך שהופכת את Kimi K3 לבעל משקלים פתוחים, Moonshot AI מזמינה מפתחים גלובליים לבנות על עבודתה. הדבר עשוי להאיץ אימוץ בסין ובמקומות אחרים, בעוד שחברות אמריקאיות בדרך כלל שומרות על המודלים המתקדמים ביותר שלהן כקנייניים. המהלך גם מפעיל לחץ על מעבדות אמריקאיות לפתוח את המודלים שלהן או להסתכן בפיגור במערכת האקולוגית של אופטימיזציות צד שלישי. פלטפורמת CUDA של Nvidia נותרה סביבת התכנות הדומיננטית ל-GPU, אך מודל שכותב קרנלי CUDA מהר יותר מ-PyTorch עשוי לשנות את האופן שבו מפתחים ניגשים לכיוונון ביצועים.
Moonshot AI לא חשפה את עלות האימון או את החומרה המדויקת ששימשה לאימון Kimi K3. החברה גם לא אמרה האם המודל יעודכן או אם היא מתכננת לשחרר גרסה מותאמת לארכיטקטורת Blackwell הקרובה של Nvidia. לעת עתה, המודל זמין להורדה, והמדדים הבלתי תלויים הראשונים צפויים תוך שבועות.
