يُقال إن شركتي أنثروبيك وأوبن إيه آي تسعيان للسيطرة على منشورات المقيّمين، وفقًا لمصادر مطلعة على الأمر. تريد شركتا الذكاء الاصطناعي الرائدتان أن يكون لهما رأي في ما يمكن للمقيّمين المستقلين نشره عن نماذجهما. وقد أثارت هذه الخطوة مخاوف من أنها قد تقوض الشفافية والثقة في صناعة الذكاء الاصطناعي، وتثير أسئلة شائكة حول الأسرار التجارية.
السعي للسيطرة على منشورات المقيّمين
المقيّمون - غالبًا باحثون أو منظمات طرف ثالث - يختبرون أنظمة الذكاء الاصطناعي من حيث السلامة والتحيز والأداء. عادةً ما تُنشر نتائجهم بشكل علني، مما يسمح للجمهور والمنظمين والشركات الأخرى بتقييم التكنولوجيا. لكن يُقال الآن إن أنثروبيك وأوبن إيه آي تسعيان للحصول على مزيد من السيطرة على ما يتم نشره. الآلية الدقيقة غير واضحة: قد تتضمن عقودًا أو عمليات مراجعة أو قيودًا على نشر تفاصيل معينة. شددت الشركتان على الحاجة لحماية الأسرار التجارية، بحجة أن الكشف غير المقيد قد يمنح المنافسين ميزة أو يكشف عن أساليب حساسة. ومع ذلك، فإن نفس السرية يمكن أن تخفي العيوب أيضًا.
لماذا تهم الشفافية لثقة الذكاء الاصطناعي والابتكار
كانت الشفافية حجر الزاوية في أبحاث الذكاء الاصطناعي. عندما ينشر المقيّمون أساليبهم ونتائجهم، يمكن للآخرين إعادة إنتاج الاختبارات واكتشاف نقاط الضعف والبناء على النجاحات. هذه الدورة تدفع الابتكار وتبني الثقة العامة. إذا تمكنت الشركات من نقض أو تشكيل منشورات المقيّمين، فإن هذه الدورة تنهار. قد يتردد الباحثون المستقلون في الإشارة إلى المشكلات إذا خافوا من ردود الفعل. قد لا يتعلم المستخدمون عن المخاطر حتى فوات الأوان. والمنظمون، الذين يكافحون بالفعل لمواكبة الذكاء الاصطناعي، سيكون لديهم مواد أقل للعمل بها. الأطراف المتأثرة ليست فقط الشركات والمقيّمين؛ بل تشمل أي شخص يعتمد على أنظمة الذكاء الاصطناعي - وهو متزايد للجميع.
معضلة السر التجاري
هناك توتر حقيقي هنا. نماذج الذكاء الاصطناعي مكلفة البناء، وللشركات مصالح مشروعة في حماية التقنيات الخاصة. يسمح قانون السر التجاري للشركات بالحفاظ على معلومات معينة سرية طالما اتخذت خطوات معقولة للقيام بذلك. لكن تطبيق هذا الإطار على منشورات المقيّمين أمر صعب. يحتاج المقيّمون إلى وصول كافٍ للقيام بعملهم، ويحتاج الجمهور إلى معلومات كافية للثقة في النتائج. الادعاءات الواسعة المفرطة بالسرية يمكن أن تخنق التدقيق الذي يجعل الذكاء الاصطناعي أكثر أمانًا. لم تفصح أنثروبيك وأوبن إيه آي علنًا عن مقترحاتهما، لذا ليس من الواضح أين سيرسمون الخط. ما الذي يُعتبر سرًا تجاريًا مقابل قضية سلامة عامة؟ من المحتمل أن يُصارع هذا السؤال في العقود والمحاكم والنقاشات السياسية.
ما هو على المحك لصناعة الذكاء الاصطناعي
تراقب صناعة الذكاء الاصطناعي عن كثب. إذا نجحت أنثروبيك وأوبن إيه آي في السيطرة على منشورات المقيّمين، فقد تحذو شركات أخرى حذوهما. هذا قد يضع سابقة لكيفية تفاعل شركات الذكاء الاصطناعي مع المختبرين المستقلين. قد تشعر الشركات الناشئة واللاعبون الأصغر بالضغط لتبني سياسات مماثلة للبقاء في المنافسة. وفي الوقت نفسه، قد يجد المقيّمون الأكاديميون وغير الربحيين أن عملهم مقيد. قد يرفض البعض توقيع اتفاقيات تقييدية، مما يقلل من مجموعة الخبرات المستقلة. قد يمتثل آخرون لكن يمارسون الرقابة الذاتية. في كلتا الحالتين، قد تعاني جودة وكمية التقييمات العامة. النتيجة ستشكل ليس فقط ما نعرفه عن أنظمة الذكاء الاصطناعي ولكن أيضًا من يحق له تحديد ما هو آمن.
لا يوجد حل واضح بعد
لم تعلن أنثروبيك ولا أوبن إيه آي عن سياسة رسمية أو جدول زمني. يُقال إن المناقشات مستمرة، ولم يتم الإعلان عن أي اتفاقيات. في الوقت الحالي، يبقى الوضع متقلبًا. من المحتمل أن يدفع المقيّمون والباحثون ومجموعات المراقبة إلى الرفض إذا ظهرت قيود ملموسة. قد يبدي المنظمون في الولايات المتحدة والخارج، الذين يصوغون بالفعل قواعد الذكاء الاصطناعي، اهتمامًا. الصراع الأساسي - بين حماية الأسرار التجارية والحفاظ على الشفافية - لن يكون من السهل حله. كيفية تصرف أنثروبيك وأوبن إيه آي ستكون حالة اختبار للصناعة. وبالنسبة لأي شخص يستخدم الذكاء الاصطناعي، فإن المخاطر عالية: شفافية أقل قد تعني مخاطر أكثر، غير مرئية.
