تلاش‌ها برای مهار کردن قدرتمندترین مدل‌های هوش مصنوعی با موج هزینه‌کرد ۸۰۰ میلیارد دلاری به شدت برخورد می‌کند. تنش بین احتیاط و پول اکنون خط گسل تعیین‌کننده در صنعت هوش مصنوعی است، زیرا محققان و سیاست‌گذاران درباره توسعه بدون کنترل هشدار می‌دهند در حالی که شرکت‌ها مبالغ بی‌سابقه‌ای را صرف مدل‌های بزرگ‌تر و مراکز داده مورد نیاز برای آموزش آن‌ها می‌کنند.
شرط ۸۰۰ میلیارد دلاری روی مقیاس
رقم سرمایه‌گذاری انتزاعی نیست. این نشان‌دهنده تعهد گسترده در سراسر بخش فناوری برای ساخت زیرساخت هوش مصنوعی است — از تراشه‌های تخصصی تا خوشه‌های محاسباتی عظیم. شرکت‌ها شرط می‌بندند که مقیاس به خودی خود قابلیت‌های جدیدی را باز می‌کند و حاضرند با سرعتی خرج کنند که فقط چند سال پیش بی‌پروا به نظر می‌رسید.
این هزینه‌کرد، شتاب خود را ایجاد می‌کند. زمانی که میلیاردها دلار به سخت‌افزار و استعداد اختصاص می‌یابد، فشار برای عرضه محصولات و نشان دادن بازده، هر فراخوانی برای کاهش سرعت را مانند تهدیدی برای سود نهایی جلوه می‌دهد. نتیجه نوعی مسابقه تسلیحاتی است که در آن خویشتن‌داری مانند تسلیم به نظر می‌رسد.
چرا مدافعان ایمنی نگران هستند
نگرانی جدید نیست، اما با توانمندتر شدن مدل‌ها بلندتر می‌شود. منتقدان استدلال می‌کنند که مسابقه برای استقرار سیستم‌های بزرگ‌تر بدون آزمایش و نظارت قوی، خطر حوادثی را به همراه دارد که ممکن است به سختی قابل برگشت باشند. آن‌ها به تمرکز قدرت در چند آزمایشگاه و دشواری حسابرسی آنچه این مدل‌ها واقعاً یاد می‌گیرند اشاره می‌کنند.
برخی محققان خواستار توقف یا حفاظ‌های سختگیرانه‌تر شده‌اند، اما این درخواست‌ها در برابر مقیاس عظیم سرمایه‌گذاری نتوانسته‌اند پیشرفتی کسب کنند. بحث از اینکه آیا هوش مصنوعی قدرتمند ساخته شود یا نه، به این تغییر کرده که با چه سرعتی و تحت چه قوانینی ساخته شود.
خلأ نظارتی
دولت‌ها هنوز رویکرد منسجمی اتخاذ نکرده‌اند. در غیاب استانداردهای بین‌المللی الزام‌آور، شرکت‌ها عمدتاً کتاب‌های راهنمای ایمنی خود را می‌نویسند. این وضعیت پراکنده باعث می‌شود شرکت‌ها به راحتی حوزه قضایی با کمترین نظارت را انتخاب کنند یا به سادگی از قانون‌نامه پیشی بگیرند.
تعهدات داوطلبانه ظهور کرده‌اند، اما فاقد ضمانت اجرایی هستند. بدون تعریف مشترکی از اینکه چه چیزی «بسیار قدرتمند» یا «بسیار پرخطر» محسوب می‌شود، فراخوان‌ها برای کاهش سرعت آرمانی باقی می‌مانند — به‌ویژه زمانی که دور بعدی تأمین مالی در حال حرکت است.
پول چه چیزی می‌خرد
۸۰۰ میلیارد دلار فقط مربوط به اجرای آموزش نیست. این شامل زمین، برق، خنک‌کننده و تراشه‌های تخصصی است که به گلوگاه رونق تبدیل شده‌اند. آن زیرساخت یک تعهد چندساله را قفل می‌کند؛ نمی‌توان به راحتی از یک مرکز داده نیمه‌ساخته کنار کشید.
همچنین نفوذ می‌خرد. شرکت‌هایی با جیب‌های عمیق‌تر می‌توانند بهترین محققان را جذب کنند، دستور کارهای دانشگاهی را شکل دهند و شرایط بحث عمومی را تعیین کنند. برای مدافعان ایمنی، این عدم تقارن مشکل اصلی است: همان نهادهایی که مرز را پیش می‌برند، کسانی هستند که بحث درباره محدودیت‌های آن را تأمین مالی می‌کنند.
هیچ آتش‌بسی در چشم‌انداز نیست. انتشار مدل‌های اصلی بعدی قبلاً برنامه‌ریزی شده است و سرمایه متعهد به آن‌ها منتظر اجماع در مورد ایمنی نمی‌ماند. آنچه حل‌نشده باقی می‌ماند این است که آیا هیچ نیروی خارجی — یک تنظیم‌کننده، یک شکایت حقوقی، یا یک شکست برجسته — می‌تواند سرعت را قبل از اینکه چرخه هزینه‌کرد دوره خود را طی کند، کاهش دهد.
فعلاً، پول در حال برنده شدن است. فراخوان‌ها برای توقف با سطحی از سرمایه‌گذاری رقابت می‌کنند که توقف را گران می‌کند، و آن حساب به احتمال زیاد توسعه هوش مصنوعی را برای سال‌های آینده شکل خواهد داد.
