وجدت دراسة جديدة من Lenz Research أن نماذج الذكاء الاصطناعي تختلف في 67٪ من ادعاءات التحقق من الحقائق، مما يلقي بظلال من الشك على موثوقية أنظمة التحقق الآلي. النتائج، التي نُشرت دون إعلان مسبق، تشير إلى أن أدوات الذكاء الاصطناعي المتقدمة تتعارض بشكل متكرر مع بعضها البعض عندما توكل إليها مهمة تحديد الحقيقة. ويؤكد الباحثون القائمون على الدراسة على الحاجة إلى مصادر متنوعة وإشراف بشري في اتخاذ القرارات، خاصة في المجالات سريعة التغير مثل الأسواق المالية.
حجم الاختلاف
رقم 67% مذهل. وهذا يعني أنه من بين كل ثلاث ادعاءات للتحقق من الحقائق تمر عبر نماذج مختلفة من الذكاء الاصطناعي، ينتهي اثنان منها بأحكام متضاربة. لم تحدد Lenz Research النماذج التي تم اختبارها أو طبيعة الادعاءات، لكن المغزى واضح: لا يمكن الوثوق بأي نظام ذكاء اصطناعي واحد لتمييز الحقيقة من الخيال بمفرده. يشير معدل الاختلاف إلى اختلافات جوهرية في كيفية تدريب النماذج، والبيانات التي تستقي منها، ومنطقها الأساسي.
في الأسواق المتقلبة، حيث يمكن للشائعات تحريك الأسعار في ثوانٍ، تكون المخاطر عالية. قد يتصرف المتداول الذي يعتمد على مدقق حقائق بالذكاء الاصطناعي بناءً على تصنيف يرفضه نموذج آخر. يذكر مؤلفو الدراسة صراحةً "الأسواق المتقلبة" كسياق تصبح فيه المصادر المتنوعة والحكم البشري أمرًا بالغ الأهمية. يمكن للأدوات الآلية معالجة كميات هائلة، لكنها لا تستطيع حل تناقضاتها الخاصة دون وجود شخص في الحلقة.
ما تشير إليه الدراسة
التوصية من Lenz Research مباشرة: لا تعتمد على مصدر واحد للذكاء الاصطناعي. بدلاً من ذلك، قم بالتحقق المتبادل من المخرجات، وأشرك مراجعين بشريين، وعامل عمليات التحقق الآلية كمدخل واحد من بين العديد. هذه ليست دعوة للتخلي عن التكنولوجيا - بل هي تحذير من الثقة المفرطة. لا تقدم الدراسة حلاً لمشكلة الاختلاف، لكنها تقدم حجة قوية لإبقاء الأشخاص مشاركين.
تضيف النتائج إلى كومة متزايدة من الأدلة على أن الذكاء الاصطناعي، بكل سرعته، لا يزال يعاني من الاتساق. لم تشر Lenz Research إلى ما إذا كانت تخطط لمتابعة ذلك بتحليل أعمق لأسباب اختلاف النماذج أو كيفية التوفيق بينها. في الوقت الحالي، الرسالة بسيطة: عندما لا تتفق الآلات، فإن القرار يعود للبشر.
