مهندسان گوگل با محدودیتهای توان محاسباتی مواجه شدهاند، زیرا سهم کدهای جدید نوشتهشده توسط هوش مصنوعی طبق دادههای داخلی به ۷۵٪ افزایش یافته است که نسبت به ۵۰٪ شش ماه پیش جهش داشته است. این افزایش سریع، زیرساختهای شرکت را تحت فشار قرار داده و تیمها را وادار به بازنگری در نحوه تخصیص منابع کرده است.
تغییر به سمت کدنویسی با هوش مصنوعی
شش ماه پیش، نیمی از کدهای جدید گوگل از هوش مصنوعی میآمد. اکنون این رقم سهچهارم است. این بدان معناست که سیستمهای داخلی شرکت حجم بسیار بیشتری از پیشنهادات، تکمیلها و وصلههای خودکار تولیدشده توسط هوش مصنوعی را پردازش میکنند. این تغییر نشاندهنده حرکت گستردهتر در صنعت فناوری برای ادغام ابزارهای هوش مصنوعی در گردش کار روزانه توسعه است. در گوگل، مدلهای زبانی بزرگ داخلی برای نوشتن کدهای تکراری، رفع باگها و حتی تولید توابع کامل به ابزاری استاندارد تبدیل شدهاند.
اما این جهش بدون هزینه نبوده است. هر درخواست هوش مصنوعی چرخههای محاسباتی مصرف میکند و با افزایش تولید کد توسط مدلها، تقاضا برای قدرت پردازش نیز افزایش یافته است. مهندسان زمان پاسخدهی طولانیتر از ابزارهای داخلی هوش مصنوعی و گاهی قطعی سرویس در ساعات اوج مصرف را گزارش کردهاند.
فشار بر زیرساختهای داخلی
محدودیتهای محاسباتی بیشتر در مراکز دادهای که مدلهای هوش مصنوعی را اجرا میکنند، مشهود است. سختافزارهای گوگل از جمله TPU و GPU اکنون تحت بار سنگین وظایف تولید کد قرار دارند. برخی تیمها مجبور به صفبندی وظایف یا محدود کردن تعداد درخواستهای هوش مصنوعی به ازای هر مهندس شدهاند. این شرکت همچنین اولویتبندی برای انواع خاصی از تولید کد - مانند وصلههای امنیتی یا رفع باگهای بحرانی - را بر توابع کمکی کماهمیتتر آغاز کرده است.
گوگل در این تنگنا تنها نیست. سایر شرکتهای بزرگ فناوری نیز با ادغام هوش مصنوعی در توسعه، دردهای رشد مشابهی را گزارش کردهاند. اما سرعت تغییر در گوگل - افزایش ۲۵ درصدی در شش ماه - برخی تیمهای داخلی را غافلگیر کرده است.
این به چه معناست برای مهندسان
برای مهندسانی که کد مینویسند، واقعیت جدید به معنای تنظیم گردش کار است. آنها دیگر نمیتوانند بدون برنامهریزی در مورد محدودیتهای محاسباتی، روی تولید فوری کد توسط ابزارهای هوش مصنوعی حساب کنند. برخی شروع به دستهبندی درخواستهای خود برای ساعات غیر اوج مصرف کردهاند. برخی دیگر کدهای تولیدشده توسط هوش مصنوعی را با دقت بیشتری بررسی میکنند، زیرا میدانند که مدلها گاهی در شرایط محدودیت منابع، خروجی ناکارآمد یا دارای باگ تولید میکنند.
گوگل به طور عمومی جزئیات برنامه خود برای رفع فشار زیرساخت را اعلام نکرده است. این شرکت احتمالاً با یک انتخاب مواجه است: سرمایهگذاری بیشتر در سختافزار، بهینهسازی مدلها برای کارایی بیشتر، یا اعمال محدودیتهای سختگیرانهتر بر استفاده از هوش مصنوعی. هر گزینه دارای معاوضههایی است. سختافزار بیشتر هزینه دارد و زمانبر است. بهبود کارایی مدلها ممکن است سرعت پیشرفتها را کاهش دهد. محدودیتهای استفاده ممکن است مهندسانی را که به این ابزارها وابسته شدهاند، ناامید کند.
در حال حاضر، وضعیت حلنشده باقی مانده است. مهندسان در حال کار در چارچوب محدودیتها هستند، اما تقاضای زیربنایی برای کد تولیدشده توسط هوش مصنوعی نشانهای از کاهش ندارد. سوال این است که زیرساخت گوگل تا کی میتواند ادامه دهد.
