ينبه الرئيس التنفيذي لشركة CertiK، رونغ هوي غو، إلى التسرع في نشر وكلاء الذكاء الاصطناعي على نطاق واسع. وحذر غو في بيان حديث من أن الاستخدام الواسع النطاق لهذه الأنظمة الذاتية دون إجراءات أمان كافية قد يؤدي إلى كوارث أمنية، خاصة عند التعامل مع البيانات الشخصية الحساسة والأصول الرقمية.
لماذا يهم هذا التحذير الآن
يتم دمج وكلاء الذكاء الاصطناعي —وهي برامج تُنفّذ مهام بشكل مستقل نيابة عن المستخدمين— في كل شيء بدءًا من خدمة العملاء وصولاً إلى محافظ العملات المشفرة. ومع ذلك، يشير غو، الذي تتخصص شركته في أمان البلوك تشين والعقود الذكية، إلى أن سرعة النشر تتفوق على إجراءات الأمان اللازمة للتحكم فيها. وأشار تحديدًا إلى خطر الوصول غير المصرح به إذا لم يتم عزل الوكلاء بشكل صحيح أثناء الاختبار.
بدون العزلة، قد يؤدي وكيل واحد مخترق إلى كشف ملايين سجلات المستخدمين أو استنزاف المحافظ الرقمية. لم يحدد غو أي حادث محدد، لكن تصريحاته تأتي في وقت تسارع الشركات لدمج وكلاء الذكاء الاصطناعي في الأنظمة المالية وأنظمة البيانات الشخصية.
العزلة كإجراء وقائي
يُوصي غو المطورين بتأمين وكلاء الذكاء الاصطناعي داخل بيئات منفصلة ومغلقة أثناء الاختبار. يمنع هذا النهج المعروف باسم 'السندبوكس' الوكلاء من الوصول إلى قواعد البيانات الحية، المفاتيح الخاصة، أو البنية التحتية الحساسة الأخرى حتى يتم التحقق الكامل من سلوكهم. 'ينطوي النشر الجماعي لوكلاء الذكاء الاصطناعي على مخاطر كبيرة'، قال غو، مؤكدًا على ضرورة اعتبار كل وكيل كمصدر محتمل للتهديد حتى يثبت أنه آمن.
تُعيد هذه التوصية صدى ممارسات شائعة بالفعل في أمان البرمجيات —مثل تشغيل أكواد غير موثوقة في الآلات الافتراضية— ولكنها تطبقها على التحديات الفريدة للذكاء الاصطناعي الذاتي. نظرًا لإمكانية تصرف الوكلاء بمفردهم، فإن عيبًا يتم استغلاله أثناء الاختبار قد يؤدي إلى أضرار في العالم الحقيقي إذا كان الوكيل لديه حتى وصول جزئي إلى الشبكة.
ما تواجهه الصناعة
حتى الآن، لا توجد معايير عالمية لاختبار وكلاء الذكاء الاصطناعي. تعتمد العديد من الشركات على نشرها مباشرةً في الإنتاج مع إجراءات وقائية محدودة، مراهنةً على أن الفوائد تفوق المخاطر. يشير تحذير غو إلى أن هذه المراهنة قد تنقلب ضدها. لم يذكر غو أي شركات أو منتجات محددة، لكن الدلالة واضحة: تحتاج صناعة الأمان إلى اللحاق بالركب قبل أن تصبح الوكلاء موجودة في كل مكان.
بنت شركة CertiK نفسها أدوات لتدقيق العقود الذكية وأنظمة البلوك تشين، وقد يشير دعوة غو للعزلة إلى ضغط أوسع لتطبيق صرامة مماثلة في تطوير وكلاء الذكاء الاصطناعي. ما إذا كان المطورون سيتبنون هذه الممارسة يظل سؤالًا مفتوحًا.
رسالة غو واضحة وبسيطة: اختبر الوكلاء داخل صندوق قبل الإفراج عنهم على البيانات الحية. بالنسبة للشركات التي تسارع لنشر الذكاء الاصطناعي، قد يكون هذا التوقف للعزلة هو الفارق بين أداة مفيدة وخرق باهظ الثمن.
