أعلنت شركة أنثروبيك أنها نشرت دفاعات جديدة تقلل كمية بيانات التدريب التي يمكن للمهاجمين استخراجها من نماذج Claude الخاصة بها عبر التقطير بنسبة تتراوح بين 90 و99 بالمئة. وأعلنت الشركة عن هذه الإجراءات كجزء من جهد أوسع لحماية سلامة النموذج وتقنيتها الخاصة.
تتضمن هجمات التقطير استعلام النموذج بشكل متكرر لجمع مخرجاته، ثم استخدام تلك البيانات لتدريب نظام منافس. تتيح هذه التقنية لشخص ما الاستفادة من أبحاث شركة أخرى دون دفع ثمنها. تهدف الضمانات الجديدة من أنثروبيك إلى جعل هذه العملية أقل فعالية بكثير.
كيف تعمل الهجمات
في هجوم التقطير، لا يحتاج الخصم إلى الوصول إلى الكود الأساسي للنموذج أو أوزانه. كل ما يحتاجونه هو القدرة على إرسال الاستعلامات وتسجيل الردود. من خلال تشغيل ملايين المطالبات عبر نموذج، يمكنهم بناء مجموعة بيانات تلتقط الكثير من سلوكه. ثم تصبح مجموعة البيانات هذه مادة تدريب لنموذج منافس، والذي يمكنه محاكاة قدرات النموذج الأصلي بجزء بسيط من تكلفة التطوير.
بالنسبة لشركات الذكاء الاصطناعي، هذه مشكلة أمنية وتجارية في آن واحد. تمثل المخرجات أشهرًا من البحث وإنفاقًا كبيرًا على الحوسبة. إذا تمكن منافس من حصاد تلك المخرجات بتكلفة زهيدة، فإن الحافز للاستثمار في النماذج المتطورة يتقلص. تهدف دفاعات أنثروبيك إلى كسر هذه السلسلة بجعل البيانات المحصودة أقل فائدة أو أصعب في الجمع على نطاق واسع.
ما الذي غيرته أنثروبيك
لم تفصح الشركة عن الآليات التقنية الدقيقة، لكنها قالت إن الدفاعات مصممة لاكتشاف محاولات التقطير وتعطيلها في الوقت الفعلي. قد يعني ذلك تحديد معدل أنماط الاستعلام المشبوهة، أو إضافة ضوضاء إلى المخرجات، أو وضع علامات مائية على الردود بحيث يمكن تتبعها. تدعي أنثروبيك أن النتيجة هي انخفاض بنسبة 90 إلى 99 بالمئة في البيانات التي يمكن للمهاجمين حصادها بنجاح.
النطاق واسع لأن الفعالية تختلف حسب طريقة الهجوم. قد يتم حظر عملية كشط بدائية عالية الحجم بالكامل تقريبًا، بينما قد يظل النهج الأكثر حذرًا والبطيء يمر. تقول أنثروبيك إنها ستواصل ضبط النظام مع تكيف الخصوم.
ليست هذه المرة الأولى التي تتحدث فيها شركة ذكاء اصطناعي عن التقطير. اتهمت OpenAI وGoogle كلاً من منافسيهما باستخدام مخرجات نماذجهما لتدريب أنظمة منافسة. لكن النتائج الكمية العلنية نادرة. تعطي أرقام أنثروبيك معيارًا ملموسًا لمدى جودة أداء مجموعة واحدة من الدفاعات، على الأقل وفقًا لقياس الشركة نفسها.
تقع سرقة النماذج في تقاطع الأمن والملكية الفكرية والتنافسية الوطنية. بدأت الحكومات في التعامل مع نماذج الذكاء الاصطناعي المتقدمة كأصول استراتيجية. إذا أمكن الحد من التقطير، فإن ذلك يعزز حجة الشركات لمواصلة الاستثمار في نماذج أكبر وأكثر تكلفة دون الخوف من نسخ عملها بين عشية وضحاها.
هناك أيضًا جانب يتعلق بالسلامة. إذا قام فاعل خبيث بتقطير نموذج وإزالة الضبط الدقيق للسلامة، فيمكنه إنشاء نسخة غير متوافقة يصعب مراقبتها. لا تعالج دفاعات أنثروبيك هذا السيناريو مباشرة، ولكن بجعل التقطير أكثر صعوبة، فإنها ترفع التكلفة على أي شخص يحاول ذلك.
يأتي الإعلان في وقت تواجه فيه أنثروبيك منافسة متزايدة من النماذج مفتوحة الأوزان التي يمكن استخدامها وتعديلها مجانًا. يمكن تقطير تلك النماذج دون أي استعلامات API، لذا لا تنطبق الدفاعات الجديدة عليها. نهج الشركة هو رهان على أن النماذج الاحتكارية القائمة على API ستظل ذات قيمة كافية بحيث يدفع العملاء مقابل الوصول إليها، وأن حمايتها تستحق الجهد الهندسي.
لم تذكر أنثروبيك ما إذا كانت ستنشر ورقة تقنية أو تجعل أدوات الدفاع مفتوحة المصدر. في الوقت الحالي، فإن رقم 90 إلى 99 بالمئة هو ادعاء لا يمكن للباحثين الخارجيين التحقق منه بسهولة. تقول الشركة إنها ستواصل تحديث النظام مع تعلمها المزيد عن كيفية عمل المهاجمين.
من المرجح أن يراقب المنافسون عن كثب. إذا صمدت الدفاعات، فقد تصبح سمة قياسية لواجهات برمجة تطبيقات الذكاء الاصطناعي التجارية. وإذا لم تصمد، فستستمر لعبة القط والفأر بين مزودي النماذج وحاصدي البيانات، مع تكيف كل جانب مع أحدث خطوة للآخر.
