شرکت امنیت بلاکچین Certik در ۲۷ می از پلتفرم جدیدی رونمایی کرد که آن را «آنتیویروس برای عوامل هوش مصنوعی» مینامد. این ابزار برای شناسایی خطرات پنهان در مهارتهای هوش مصنوعی شخص ثالث طراحی شده است؛ افزونههای مکملی که قابلیتهای یک عامل هوش مصنوعی را گسترش میدهند.
دلیل ساخت این پلتفرم
این شرکت میگوید ظهور بازارهای باز که در آن توسعهدهندگان مهارتهای هوش مصنوعی را آپلود و میفروشند، یک نقطه کور امنیتی ایجاد کرده است. هر کسی میتواند یک مهارت منتشر کند. تعداد کمی از کاربران بررسی میکنند که کد در واقع چه کاری انجام میدهد. پلتفرم Certik هدفش اسکن این مهارتها قبل از استقرارشان است و مواردی از نشت داده تا درهای پشتی مخفی را علامتگذاری میکند.
چه مواردی را اسکن میکند
این پلتفرم رفتار کد هوش مصنوعی شخص ثالث را بر اساس مجموعهای از معیارهای ریسک ارزیابی میکند. این شامل دادههایی است که مهارت به آن دسترسی دارد، اینکه آیا با سرورهای خارجی ارتباط برقرار میکند و آیا اقدامات آن با هدف اعلامشده مطابقت دارد یا خیر. Certik این فرآیند را به نحوه بررسی نرمافزار سنتی آنتیویروس برای بدافزار تشبیه میکند، با این تفاوت که در اینجا هدف منطق و مجوزهای یک مهارت عامل هوش مصنوعی است.
مشکلی که حل میکند
مهارتهای هوش مصنوعی شخص ثالث تأییدنشده یک سردرد رو به رشد برای شرکتهایی است که سیستمهای مبتنی بر عامل میسازند. یک مهارت که بیضرر به نظر میرسد - مثلاً یک سازماندهنده تقویم - میتواند ایمیلها را استخراج کند یا اعلانهای مخرب تزریق کند. پلتفرم Certik فقط مسائل را علامتگذاری نمیکند؛ بلکه یک امتیاز ریسک ارائه میدهد تا توسعهدهندگان بتوانند تصمیم بگیرند که به مهارت اعتماد کنند یا آن را مسدود کنند.
Certik نگفته است که کدام پلتفرمها یا بازارهای عامل هوش مصنوعی را ابتدا پشتیبانی میکند. این جزئیات هنوز مشخص نیست. این شرکت همچنین قیمتگذاری یا دموی عمومی منتشر نکرده است. اما عرضه این محصول نشان میدهد که صنعت امنیت شروع به درمان عوامل هوش مصنوعی به عنوان یک سطح حمله مجزا کرده است - سطحی که به نوع محافظت خاص خود نیاز دارد.
