بیل گیتس می‌گوید تهدید واقعی هوش مصنوعی در حال حاضر ماشینی نیست که از مهار خارج شود — بلکه افرادی هستند که همین حالا از این فناوری برای آسیب رساندن استفاده می‌کنند، و تدابیر محافظتی که ممکن است جلوی آن‌ها را بگیرد می‌توانند در عرض چند دقیقه حذف شوند. گیتس در مصاحبه با جیک تپر در برنامه «وضعیت اتحادیه» شبکه CNN، سناریوی «نابودگر» را سال‌ها دورتر دانست و به مشکلی فوری‌تر اشاره کرد: برای متوقف کردن بیوتروریسم و حملات سایبری مبتنی بر هوش مصنوعی به اندازه کافی اقدام نمی‌شود.
گیتس ساختار امنیتی‌ای را توصیف کرد که تا زمانی که کسی تصمیم به برچیدن آن نگیرد، محکم به نظر می‌رسد. به گفته او، توسعه‌دهندگان محافظت‌هایی در برابر حملات سایبری و سلاح‌های بیولوژیکی تعبیه می‌کنند، اما این محافظت‌ها همین حالا قابل حذف هستند. او شکاف بین آنچه از نظر فنی ممکن است و آنچه در عمل اجرا می‌شود را نقطه تمرکز خطر می‌داند.
سال پیش رو: حملات سایبری در کانون توجه
گیتس انتظار دارد در دوازده ماه آینده، سوءاستفاده از هوش مصنوعی به شکلی چشمگیرتر در حملات سایبری نمایان شود. او مدل کسب‌وکاری را ترسیم کرد که برای هر کسی که باج‌افزار یا دستکاری بازار را دنبال می‌کند آشناست: تهدید یک هدف و درخواست پرداخت، یا ایجاد اختلال کافی برای جابه‌جایی قیمت سهام یا تغییر نتیجه یک شرط‌بندی. هوش مصنوعی اجرای هر دو نسخه را ارزان‌تر و ردیابی آن‌ها را دشوارتر می‌کند.
این پیش‌بینی با آنچه پژوهشگران امنیتی دنبال می‌کرده‌اند همسو است. در ماه اوت، OpenAI نامه سرگشاده‌ای درباره دفاع سایبری منتشر کرد که بیش از ۱۰۰ سازمان آن را امضا کردند. در این نامه آمده بود که حملات سایبری مبتنی بر هوش مصنوعی در ماه‌های آینده بسیار گسترده‌تر و پیچیده‌تر خواهند شد. این پیش‌بینی درباره آینده‌ای دور نبود — هشداری درباره مسیر فعلی بود.
اعداد و ارقام از واقعیت
چند داده از سال گذشته نشان می‌دهد سوءاستفاده‌ای که گیتس توصیف می‌کند در حال وقوع است. شرکت امنیتی تایوانی TeamT5 دریافت که گروه‌های وابسته به دولت چین پس از سپردن کارهای روتین به هوش مصنوعی، حجم حملات خود را دو برابر کردند. شرکت Chainalysis جهش ۴۴۰ درصدی در دستورالعمل‌های بدافزاری نوشته‌شده در زنجیره را پس از ظهور مدل‌های چینی با وزن باز و بدون محدودیت در کد مخرب در اواسط ۲۰۲۵ ردیابی کرد. و CrowdStrike چند نفوذ به بانک‌های کره جنوبی را به مهاجمی با انگیزه مالی که از ابزارهای هوش مصنوعی استفاده می‌کرد مرتبط دانست.
هیچ‌یک از این حوادث نیازمند آن نبود که هوش مصنوعی از خالقان خود پیشی بگیرد. آن‌ها نیاز داشتند که هوش مصنوعی کارهای طاقت‌فرسا را سریع‌تر و در مقیاس بزرگ انجام دهد. این همان الگویی است که گیتس توصیف می‌کند: بازیگران عادی مجرمانه و دولتی که بهره‌وری بیشتری کسب می‌کنند، نه شکل جدیدی از حیات دیجیتال که تصمیم بگیرد سرکش شود.
چرا تدابیر محافظتی مدام از دست می‌روند
به گفته گیتس، مشکل این نیست که اقدامات ایمنی وجود ندارند. مشکل این است که داوطلبانه، قابل وصله‌پذیری یا به‌سادگی قابل حذف هستند. مدلی که امروز از کمک به ساخت سلاح بیولوژیکی امتناع می‌کند، فردا می‌تواند با تنظیم دقیق یا شکستن محدودیت‌ها (jailbreak) وادار به همکاری شود. انتشار مدل‌های با وزن باز این کار را حتی آسان‌تر می‌کند — وقتی وزن‌ها منتشر شوند، هیچ کلید خاموش‌کننده‌ای وجود ندارد.
این وضعیت خلأ قانونی ایجاد می‌کند. گیتس در این مصاحبه نسخه سیاسی مشخصی ارائه نداد، اما تأکید او بر آنچه «همین حالا قابل حذف است» به بحثی اشاره دارد که هم‌اکنون در مجالس قانون‌گذاری و نهادهای استاندارد در جریان است: آیا باید محدودیت‌های سخت‌کدشده، مسیرهای حسابرسی یا مجوزدهی برای مدل‌های قادر به انجام کارهای خطرناک الزامی شود؟
در حال حاضر، تدابیر محافظتی بیشتر شبیه دست‌اندازهای سرعت هستند تا دیوار. و افرادی که گیتس نگران آن‌هاست، already راه دور زدن آن‌ها را کشف کرده‌اند.
آنچه باید دنبال کرد
آزمون مشخص بعدی از سوی امضاکنندگان نامه سرگشاده می‌آید که متعهد شدند روندهای حملات مبتنی بر هوش مصنوعی را ردیابی و گزارش کنند. اولین به‌روزرسانی عمومی آن‌ها در ماه‌های آینده انتظار می‌رود. تا آن زمان، روشن‌ترین نشانه این خواهد بود که آیا جهش ۴۴۰ درصدی بدافزار در زنجیره همچنان افزایش می‌یابد — یا مدافعان راهی برای پایدار کردن آن تدابیر محافظتی پیدا می‌کنند.
