أطلقت شركة سيرتيك، المتخصصة في أمن البلوكتشين، منصة جديدة في 27 مايو أسمتها 'مضاد فيروسات للوكلاء الذكاء الاصطناعي'. الأداة مصممة لرصد المخاطر المختبئة داخل مهارات الذكاء الاصطناعي الخارجية — وهي إضافات تشبه المكونات الإضافية تعزز قدرات الوكيل الذكي.
سبب بناء المنصة
تقول الشركة إن ظهور الأسواق المفتوحة التي يرفع فيها المطورون ويبيعون مهارات الذكاء الاصطناعي خلق نقطة عمياء أمنية. أي شخص يمكنه نشر مهارة. قلة من المستخدمين تفحص ما يفعله الكود بالفعل. تهدف منصة سيرتيك إلى فحص هذه المهارات قبل نشرها، مع الإبلاغ عن أي شيء بدءًا من تسرب البيانات إلى الأبواب الخلفية المخفية.
ما تفحصه
تقيم المنصة سلوك كود الذكاء الاصطناعي الخارجي مقابل مجموعة من معايير المخاطر. يشمل ذلك البيانات التي تصل إليها المهارة، وما إذا كانت تتواصل مع خوادم خارجية، وما إذا كانت أفعالها تتطابق مع غرضها المعلن. تشبه سيرتيك العملية بكيفية فحص برامج مكافحة الفيروسات التقليدية للملفات بحثًا عن البرامج الضارة — ولكن هنا الهدف هو منطق وأذونات مهارة الوكيل الذكي.
المشكلة التي تحلها
تمثل مهارات الذكاء الاصطناعي الخارجية غير المدققة صداعًا متزايدًا للشركات التي تبني أنظمة قائمة على الوكلاء. مهارة تبدو غير ضارة — مثل منظم تقويم — قد تسرب رسائل البريد الإلكتروني أو تحقن أوامر ضارة. منصة سيرتيك لا تكتفي بالإبلاغ عن المشكلات؛ بل توفر نقاط مخاطرة ليتمكن المطورون من تحديد ما إذا كانوا سيثقون بالمهارة أو يحظرونها.
لم تذكر سيرتيك أي منصات أو أسواق وكلاء الذكاء الاصطناعي ستدعمها الأداة أولاً. هذه التفاصيل لا تزال مفقودة. كما أن الشركة لم تنشر أسعارًا أو عرضًا توضيحيًا عامًا. لكن إطلاق المنتج يشير إلى أن صناعة الأمن بدأت تعامل الوكلاء الذكاء الاصطناعي كسطح هجوم مميز — يحتاج إلى نوعه الخاص من الحماية.
