etc. We'll keep them.
Let's write the translated content:
שתי פלטפורמות חומרה חדשות מכוונות לדרישות החישוב האכזריות של מודלי בינה מלאכותית עם טריליון פרמטרים. הפלטפורמה Vera Rubin של NVIDIA והארכיטקטורה 3 LPX של Groq מבטיחות יחד שיפור יעילות של פי 35, לפי החברות. ההכרזה מגיעה כאשר מפתחים דוחפים את גודלי המודל הרחק מעבר למה שהתשתית הנוכחית יכולה להתמודד איתו בזול. אימון מודל עם טריליון פרמטרים דורש רוחב פס זיכרון עצום ומהירות תקשורת בין-רכיבית. מערכות כיום נתקלות לעיתים קרובות בצווארי בקבוק שהופכים ריצות אימון לפרויקטים רב-חודשיים. הפלטפורמה Vera Rubin ו-Groq 3 LPX כל אחת מתוכננת לפתור חלקים שונים של המשוואה הזו. הגישה של NVIDIA מתמקדת באשכולות חישוב צפופים, בעוד שורת ה-LPX של Groq מכוונת לביצוע דטרמיניסטי עם השהיה נמוכה. בשילוב, השניים טוענים להפחית את צריכת האנרגיה ואת זמן האימון בפקטור של 35. נתון היעילות אינו מדד ביצועים יחיד אלא תחזית של שיפורים ברמת המערכת – מארכיטקטורת השבב ועד העברת נתונים. עבור מודל עם טריליון פרמטרים, שיפור של פי 35 יכול להפוך מחזור אימון של שנה לשאלה של שבועות. אף חברה לא פרסמה עדיין תוצאות בדיקה עצמאיות, אך שתיהן מצביעות על בחירות ארכיטקטוניות שמפחיתות מחזורים מבוזבזים ותנועת זיכרון מיותרת. הפלטפורמה Vera Rubin משתמשת במבנה תקשורת חדש, וה-Groq 3 LPX מסתמך על מודל ביצוע דטרמיניסטי שנמנע מעומס שמירה במטמון מסורתי. הדחיפה מגיעה כאשר מודלי שפה גדולים ומערכות בינה מלאכותית רב-מודאלית חוצות באופן שגרתי את רף מאה מיליארד הפרמטרים. מודלים עם טריליון פרמטרים נתפסים באופן נרחב כגבול הבא, אך הפריסה המעשית שלהם נתקעת בשל העלות. יצרניות החומרה מתחרות לספק פתרונות שהופכים את המודלים הללו לכדאיים כלכלית. NVIDIA ו-Groq רודפות אחרי אותה בעיה מזוויות שונות, והטענה על פי 35 היא הצבת דגל עבור שתיהן. אף חברה לא הודיעה על תאריכי זמינות כללית עבור הפלטפורמה Vera Rubin או ה-Groq 3 LPX. מערכות בטא צפויות להגיע לשותפים נבחרים מאוחר יותר השנה. המבחן האמיתי יגיע כאשר מעבדות עצמאיות וספקי ענן יעמידו את החומרה במבחן עם עומסי עבודה בפועל של מודלים עם טריליון פרמטרים. עד אז, המספר פי 35 נותר הבטחה הממתינה להוכחה.בעיית ההגדלה
מה המשמעות של המספר פי 35
למה העיתוי חשוב
NVIDIA Vera Rubin ו-Groq 3 LPX מכוונות לקפיצת יעילות של פי 35 עבור בינה מלאכותית עם טריליון פרמטרים
