هند آزمایش مقاومت سیستمهای نرمافزاری دولتی و بانکی خود را در برابر مدل هوش مصنوعی Mythos شرکت Anthropic آغاز کرده است؛ یک تمرین امنیت سایبری با هدف یافتن نقاط ضعف پیش از آنکه مهاجمان آنها را کشف کنند. این آزمایشها که در حال انجام است، اولین نمونه شناختهشده از استفاده یک کشور از مدل پیشرو هوش مصنوعی یک رقیب برای بررسی زیرساختهای حیاتی خود محسوب میشود.
آزمایش مقاومت در برابر یک دشمن هوش مصنوعی
آزمایش مقاومت موضوع جدیدی نیست. سازمانها به طور معمول حملات را شبیهسازی میکنند تا میزان استحکام دفاعی خود را بسنجند. اما افزودن مدلی مانند Mythos به این معادله، شرایط را تغییر میدهد. Mythos که توسط Anthropic توسعه یافته، نسبت به مدلهای قبلی در درک و تولید کد توانمندتر طراحی شده است. این ویژگی آن را به ابزاری قدرتمند برای شبیهسازی حملات سایبری پیچیده و یافتن آسیبپذیریهایی تبدیل میکند که ممکن است توسط آزمایشکنندگان انسانی نادیده گرفته شوند.
رویکرد هند شامل وارد کردن جزئیات معماری نرمافزارهای دولتی و بانکی به این مدل است. سپس Mythos تلاش میکند از آن سیستمها بهرهبرداری کرده و نقاط ضعف در رمزگذاری، کنترل دسترسی و مدیریت دادهها را جستجو کند. نتایج به مسئولان کمک میکند تا تصمیم بگیرند کدام وصلهها را در اولویت قرار دهند و در کجا برای تقویت دفاع سرمایهگذاری کنند.
چرا سیستمهای بانکی و دولتی در کانون توجه هستند
نرمافزارهای بانکی و دولتی برخی از حساسترین دادههای کشور را مدیریت میکنند - سوابق مالی، شناسایی شخصی و اطلاعات امنیت ملی. نفوذ در هر یک از این بخشها میتواند اثرات آبشاری داشته باشد. به همین دلیل هند آزمایشهای مقاومت خود را ابتدا بر این دو حوزه متمرکز کرده است. این آزمایشها نشانه شناسایی یک تهدید خاص نیست، بلکه اقدامی پیشگیرانه برای جلوگیری از حملات احتمالی است.
انتخاب مدل Anthropic به جای سایر مدلها قابل توجه است. Anthropic خود را به عنوان یک شرکت هوش مصنوعی با تمرکز بر ایمنی معرفی کرده است و مدل Mythos آن با محدودیتهایی برای جلوگیری از سوءاستفاده ساخته شده است. استفاده هند از Mythos برای اهداف دفاعی با کاربردهای مورد نظر شرکت همخوانی دارد. Anthropic در مورد این آزمایشها اظهار نظر نکرده و هیچ مقام رسمی از دولت هند جزئیاتی درباره دامنه یا زمانبندی ارائه نداده است.
خطرات موجود
اگر آزمایشهای مقاومت آسیبپذیریهای بحرانی را آشکار کنند، عواقب آن میتواند گسترده باشد. آژانسهای دولتی ممکن است مجبور شوند ابتکارات دیجیتالی را برای وصله کردن سیستمها متوقف کنند. بانکها ممکن است در صورت نیاز به بهروزرسانی با اختلالات موقت خدمات مواجه شوند. از سوی دیگر، تأیید سلامت سیستمها میتواند اعتماد به زیرساخت دیجیتال هند را که از طریق برنامههایی مانند Aadhaar و UPI به سرعت در حال گسترش است، افزایش دهد.
این آزمایشها همچنین سوالاتی درباره نقش هوش مصنوعی در امنیت سایبری ملی مطرح میکند. استفاده از مدل یک شرکت برای آزمایش سیستمهای شرکت دیگر مرز بین رقابت و همکاری را مبهم میکند. هنوز تصمیمی در مورد عمومی کردن نتایج آزمایش گرفته نشده است و مشخص نیست که آیا کشورهای دیگر از هند پیروی خواهند کرد یا خیر.
سوالات بیپاسخ
بزرگترین ناشناخته این است که آزمایشهای مقاومت چقدر طول میکشد و آیا فراتر از نرمافزارهای دولتی و بانکی گسترش مییابد یا خیر. مقامات مهلتی برای تکمیل اعلام نکردهاند و همچنین مشخص نکردهاند کدام سیستمهای خاص در حال آزمایش هستند. آنچه روشن است این است که هند شرط بسته که یک دشمن هوش مصنوعی بهترین راه برای یافتن نقاط ضعف خود است - پیش از آنکه شخص دیگری آنها را پیدا کند.
