تراشه Jalapeño شرکت OpenAI بر اساس آخرین اطلاعات موجود، در کارایی استنتاج هوش مصنوعی از سیستمهای تجاری پیشی میگیرد. این نسخه کوتاه است. نسخه بلندتر این است که این تراشه که توسط شرکت هوش مصنوعی که بیشتر به خاطر مدلهای زبانی بزرگش شناخته میشود توسعه یافته، به نظر میرسد مشکلی را حل کرده است که به گلوگاهی برای صنعت تبدیل شده است: اجرای سریع و ارزان مدلهای آموزشدیده.
چرا کارایی استنتاج مهم است
استنتاج فرآیندی است که وقتی یک مدل هوش مصنوعی آموزشدیده به کار گرفته میشود، اتفاق میافتد. مدلی که آموزش دیده تا تصاویر را تشخیص دهد یا متن تولید کند، فقط بیکار نمیماند — از آن پرسش میشود و هر پرسش نیاز به محاسبات دارد. آن محاسبات همان استنتاج است. وقتی از یک چتبات سوال میپرسید، یک استنتاج انجام میدهد. وقتی یک خودروی خودران عابر پیاده را شناسایی میکند، آن استنتاج است. هرچه این فرآیند سریعتر و ارزانتر باشد، بهتر است. اگر یک تراشه بتواند با توان کمتری این کار را انجام دهد، نه فقط یک پیروزی فنی، بلکه یک پیروزی تجاری است.
سیستمهای تجاری — نوعی که از تولیدکنندگان بزرگ سختافزار میخرید — استاندارد این نوع کار بودهاند. اما Jalapeño در کارایی از آنها جلوتر است. این لزوماً به این معنی نیست که از نظر سرعت خام سریعتر است. کارایی میتواند به معنای نتایج بیشتر به ازای هر وات یا هر دلار باشد. همچنین میتواند به معنای تأخیر کمتر باشد، که همان فاصله بین درخواست و پاسخ است. برای برنامههای بلادرنگ، تأخیر همهچیز است.
آنچه درباره تراشه مشخص است
جزئیات معماری Jalapeño اندک است. هیچ خبری درباره گره فرآیندی که استفاده میکند، تعداد ترانزیستورهای آن، یا پیکربندی حافظه آن وجود ندارد. تنها ادعای ثبتشده این است که در کارایی استنتاج از سیستمهای تجاری بهتر عمل میکند. همین.
برای شرکتی مانند OpenAI که مراکز داده عظیمی را برای خدمت به میلیونها کاربر اجرا میکند، داشتن تراشه کارآمد اختصاصی میتواند هزینهها را کاهش دهد و وابستگی به تأمینکنندگان خارجی را کم کند. اما هیچ برنامهای برای تولید یا استقرار اعلام نشده است. این شرکت نگفته که آیا Jalapeño در آزمایشگاه میماند یا به سیستمهای واقعی وارد میشود.
همچنین مشخص نیست که عملکرد چگونه اندازهگیری شده است. معیارهای مختلف میتوانند نتایج بسیار متفاوتی تولید کنند. کارایی را میتوان بر حسب توکن در ثانیه، یا انرژی به ازای هر استنتاج، یا هزینه به ازای هر میلیون درخواست اندازهگیری کرد. بدون دانستن معیار، سنجش معنادار بودن این ادعا دشوار است.
آنچه تراشه نمیگوید
قابل توجه است که این اعلامیه ادعا نمیکند که Jalapeño در همه معیارها از سیستمهای تجاری بهتر است. به طور خاص، کارایی استنتاج است. آموزش هنوز به نوع متفاوتی از سختافزار نیاز دارد و ممکن است این تراشه برای آن طراحی نشده باشد. این نشانهای است که OpenAI بر روی بخش استقرار تمرکز دارد، نه بخش آموزش.
در حال حاضر، تصویر بزرگ ساده است. OpenAI تراشهای دارد که در استنتاج کارآمدتر از آنچه در بازار موجود است. اگر واقعی باشد و مقیاسپذیر باشد، میتواند اثرات موجی در سراسر صنعت داشته باشد. اما شرکت درباره جزئیات سکوت کرده است و تنها راه تأیید، دیدن آن در عمل است.
سوال باز این است که چه زمانی — یا اگر — Jalapeño از یک نتیجه گزارششده به یک محصول عملیاتی تبدیل میشود. هیچ جدول زمانی ارائه نشده است. این نکته بعدی است که باید تماشا کرد.
