מנכ"ל מיקרוסופט AI, מוסטפא סולימן, צופה שריצות אימון בודדות של AI יעלו 100 מיליארד דולר בעתיד הקרוב, סכום שיוציא את פיתוח מודלי החזית מחוץ להישג ידם של כל החברות מלבד קומץ. סולימן לא נתן לוח זמנים מתי הוא מצפה שריצות אלו יהפכו לסטנדרט, אך התחזית שלו מצביעה על פער מתרחב בין קומץ החברות שיכולות להרשות לעצמן לבנות בקנה מידה כזה לבין כל השאר.
המשמעות היא קונסולידציה. אם אימון של מודל בודד עולה כמו תוכנית תשתית גדולה, מספר הארגונים המסוגלים לעשות זאת מתכווץ במהירות — ואיתו, מספר החברות שקובעות איך נראות המערכות הללו, איך הן מתנהגות, ומי מקבל גישה אליהן.
תג המחיר של מודל חזית
עלויות האימון טיפסו בהתמדה ככל שהמודלים גדלו יותר ורעבו יותר לנתונים. הנתון של סולימן, 100 מיליארד דולר, שנאמר בפומבי, הוא האות הברור ביותר עד כה לכך שהעלויות הללו לא יתייצבו בקרוב. ריצה במחיר כזה היא לא רק חשבון גדול יותר עבור מחשוב — זה סוג אחר של עסק. היא דורשת התחייבויות הון ארוכות טווח, קיבולת ייעודית של כוח ומרכזי נתונים, וסובלנות להוצאות בקנה מידה שרוב חברות הטכנולוגיה מעולם לא נאלצו לשקול.
המתמטיקה הזו מצמצמת באופן טבעי את השדה. חברות ללא תשתית ענן קיימת, קשרי אספקת שבבים, ומאזן שיכול לספוג שנים של הוצאות יתקשו להישאר בדרג העליון. חלקן ישתפו פעולה. חלקן יתמחו. אחרות יצאו מפיתוח החזית לחלוטין ויבנו על גבי מודלים שאומנו על ידי מישהו אחר.
פחות שחקנים, יותר השפעה
קונסולידציה באימון AI תרכז הרבה השפעה. החברות שיכולות להחזיק ריצות של 100 מיליארד דולר יקבעו למעשה את הכיוון הטכני של התעשייה — ארכיטקטורות מודלים, שיטות בטיחות, תמחור API, והקצב שבו יכולות חדשות מגיעות לציבור. זה נוף תחרותי שונה מזה שהגדיר את השנים האחרונות, כאשר מגוון רחב יותר של מעבדות, סטארטאפים וקבוצות מחקר עדיין יכלו לטעון באופן מהימן שהם דוחפים את החזית.
שדה קטן יותר אינו בהכרח גרוע יותר למשתמשים. אבל זה כן אומר פחות קולות עצמאיים שקובעים כיצד המערכות היכולות ביותר מאומנות ומופעלות. רגולטורים וחוקרים שעוקבים אחר התפתחות AI צפו בריכוז הזה כבר זמן מה; התחזית של סולימן נותנת להם מספר קונקרטי להתארגן סביבו.
הסקה זולה יותר היא החצי השני של הסיפור
אימון והסקה מושכים לכיוונים מנוגדים. סולימן גם הצביע על הסקה זולה יותר ככוח שיכול להנגיש את השימוש ב-AI — גם אם המודלים עצמם נבנים על ידי קבוצה מצטמצמת של חברות. הסקה היא מה שקורה כאשר מודל עונה לשאילתה, מייצר תמונה, או מריץ סוכן. ככל שזה נעשה זול יותר, יותר מוצרים, עסקים ומפתחים בודדים יכולים להפעיל AI בלי צורך לאמן דבר בעצמם.
התוצאה יכולה להיות תעשייה דו-שכבתית: מספר קטן של פעולות אימון יקרות במיוחד בראש, ומערכת אקולוגית רחבה בהרבה של יישומים שנבנים על גבן. מחסום הכניסה יורד עבור משתמשים אפילו כשעולה עבור מעבדות חזית.
מה לעקוב אחריו
השאלה כעת היא כמה מהר תגיע הריצה של 100 מיליארד דולר ומי עוד יעמוד כשהיא תגיע. מיקרוסופט כבר התחייבה בכבדות לתשתית AI, וההערות של סולימן מרמזות שהחברה מצפה שעקומת ההוצאות תמשיך להתכופף כלפי מעלה. מתחרים עם משאבים דומים מהמרים הימורים דומים. עבור כל השאר, ההחלטה המעשית היא האם להתחרות בחזית, לשתף פעולה עם אלה שיכולים, או לבנות על המודלים שנוצרים.
אין לוח זמנים מפורסם לריצה במחיר כזה. התחזית של סולימן היא תחזית, לא התחייבות — אבל זה סוג התחזית שמעצב תקציבים, גיוס עובדים ואסטרטגיה בכל התעשייה הרבה לפני שהמספר הופך למציאות.
