مدیر عامل CertiK، رونگویی گو، درباره عجله برای استقرار گسترده عوامل هوش مصنوعی زنگ خطر را به صدا درآورده است. در بیانیهای اخیر، گو هشدار داد که استفاده گسترده از این سیستمهای خودمختار بدون اقدامات حفاظتی مناسب میتواند فاجعههای امنیتی را به دنبال داشته باشد، بهویژه هنگام مدیریت دادههای حساس شخصی و داراییهای دیجیتال.
چرا این هشدار اکنون اهمیت دارد
عوامل هوش مصنوعی – برنامههای نرمافزاری که بهطور مستقل از طرف کاربران عمل میکنند – در حال ادغام در همه چیز از خدمات مشتریان تا کیف پولهای رمزارز هستند. اما گو، که شرکت او در امنیت بلاکچین و قراردادهای هوشمند تخصص دارد، معتقد است که سرعت استقرار از اقدامات امنیتی لازم برای مهار آنها پیشی گرفته است. او به طور خاص به خطر دسترسی غیرمجاز در صورت عدم ایزولهسازی مناسب عوامل در طول آزمایش اشاره کرد.
بدون ایزولهسازی، یک عامل در معرض خطر میتواند میلیونها رکورد کاربر را افشا کند یا کیف پولهای دیجیتال را خالی کند. گو به هیچ حادثه خاصی اشاره نکرد، اما اظهارات او در حالی مطرح میشود که شرکتها برای嵌入 عوامل هوش مصنوعی در سیستمهای مالی و دادههای شخصی رقابت میکنند.
ایزولهسازی به عنوان یک اقدام حفاظتی
گو به توسعهدهندگان توصیه میکند که عوامل هوش مصنوعی را در طول آزمایش در محیطهای جداگانه و محدود قفل کنند. این رویکرد ایزولهسازی (sandboxing) از دسترسی عوامل به پایگاههای داده زنده، کلیدهای خصوصی یا سایر زیرساختهای حساس تا زمانی که رفتار آنها به طور کامل تأیید شود، جلوگیری میکند. «استقرار گسترده عوامل هوش مصنوعی خطرات قابل توجهی ایجاد میکند،» گو گفت و از تیمها خواست تا هر عامل را به عنوان یک بردار تهدید بالقوه در نظر بگیرند تا زمانی که ایمن بودن آن ثابت شود.
این توصیه با روشهایی که در امنیت نرمافزار رایج است – مانند اجرای کدهای غیرقابل اعتماد در ماشینهای مجازی – همخوانی دارد، اما آن را برای چالشهای منحصربهفرد هوش مصنوعی خودمختار به کار میگیرد. از آنجا که عوامل میتوانند به تنهایی عمل کنند، یک نقص که در طول آزمایش بهرهبرداری شود میتواند به آسیب در دنیای واقعی منجر شود اگر عامل حتی دسترسی نسبی به شبکه داشته باشد.
آنچه صنعت با آن روبرو است
در حال حاضر، هیچ استاندارد جهانی برای آزمایش عوامل هوش مصنوعی وجود ندارد. بسیاری از شرکتها آنها را مستقیماً با حداقل حفاظها به محیط تولید میبرند و شرط میبندند که مزایا بر خطرات غلبه میکند. هشدار گو نشان میدهد که این شرط ممکن است نتیجه معکوس داشته باشد. او به هیچ شرکت یا محصول خاصی اشاره نکرد، اما مفهوم آن روشن است: صنعت امنیت باید قبل از فراگیر شدن عوامل هوش مصنوعی خود را به روز کند.
خود CertiK ابزارهایی برای حسابرسی قراردادهای هوشمند و سیستمهای بلاکچین ساخته است و دعوت گو به ایزولهسازی ممکن است نشانهای از تلاش گستردهتر برای اعمال دقت مشابه در توسعه عوامل هوش مصنوعی باشد. اینکه آیا توسعهدهندگان این روش را اتخاذ خواهند کرد، یک سوال باز باقی میماند.
پیام گو ساده است: عوامل را قبل از رها کردن روی دادههای زنده در یک جعبه آزمایش کنید. برای شرکتهایی که برای استقرار هوش مصنوعی عجله دارند، آن مکث برای ایزولهسازی میتواند تفاوت بین یک ابزار مفید و یک نقض پرهزینه باشد.
