يجادل تقرير جديد بأنه ينبغي التعامل مع وكلاء الذكاء الاصطناعي كأعضاء في القوى العاملة، وليس مجرد أدوات برمجية. يأتي هذا التحول بعد أن تجاوز وكلاء الذكاء الاصطناعي التنبيهات السلبية للمخاطر لاتخاذ إجراءات مستقلة - الحجز، الحظر، تقديم الملفات، وضع العلامات - دون أن يضغط إنسان على الزر في كل مرة. وبموجب النموذج المقترح، تبقى المسؤولية عن تلك الإجراءات على عاتق المديرين البشر، الذين سيشرفون على الوكلاء تمامًا كما يشرفون على الموظفين المبتدئين.
من التنبيه إلى الفعل
لسنوات، كان الذكاء الاصطناعي في عمليات الأمن في الغالب مجرد كاشف دخان. كان يراقب السجلات، ويكتشف الحالات الشاذة، ويرسل تنبيهًا ليقوم إنسان بالتحقيق. الجيل الجديد من الذكاء الاصطناعي الوكيلي يغلق تلك الحلقة. فهو لا يكتفي بقول "هذا تسجيل الدخول يبدو خاطئًا" - بل يمكنه تعطيل الجلسة، أو تدوير بيانات الاعتماد، أو فتح تذكرة. في مكافحة غسل الأموال، يمكنه سحب سجلات المعاملات، وتجميع ملف القضية، وتوجيهه للمراجعة. الادعاء الأساسي للتقرير هو أن هذه الأنظمة أصبحت الآن فاعلة تشغيلية، وليست مجرد مجموعات أدوات داعمة. هذا التصنيف مهم لأنه يغير طريقة حوكمة الشركات لها: من يراجع عملها، وكيف يتم تسجيل أخطائها، وماذا يحدث عندما يتصرف وكيل بناءً على تعليمات قديمة.
لماذا تبقى المسؤولية بشرية
التقرير صريح بشأن المساءلة. حتى عندما يتصرف وكيل ذكاء اصطناعي من تلقاء نفسه، يظل المدير البشري مسؤولاً. هذا ليس تفصيلاً تقنيًا - إنه المحور القانوني والتنظيمي. لا يمكن للشركات تفويض اللوم إلى نموذج. التأثير العملي هو أن المديرين بحاجة إلى معرفة ما يفعله وكلاؤهم، مما يعني مسارات التدقيق، وسجلات الإجراءات، ومسارات تصعيد واضحة. كما يعني التدريب: إذا كنت تدير وكيلاً، فأنت بحاجة إلى فهم حدود قراراته كما تفهم حدود موظف جديد. لا يدعو التقرير إلى قوانين جديدة، لكنه يضع مسألة الإدارة كمسألة ملحة.
ضغط الامتثال
فرق الأمن السيبراني، ومكافحة غسل الأموال، والامتثال هي حيث يظهر هذا التحول أولاً. هذه الوظائف تغرق في التنبيهات والأعمال الورقية، ويعد الذكاء الاصطناعي الوكيلي بوعد بالراحة. لكنها أيضًا الوظائف التي تحمل فيها الأخطاء ثقلًا تنظيميًا. الوكيل الذي يغلق تنبيه احتيال بسرعة كبيرة، أو يصنف معاملة بشكل خاطئ، ينشئ أثرًا سيتبعه المدققون. يشير التقرير إلى أن التعامل مع الوكلاء كأعضاء في القوى العاملة يفرض الأسئلة الصحيحة: ما هو نطاق عمل الوكيل؟ من يراجع مخرجاته؟ كيف تصححه؟ تبدو هذه أسئلة موارد بشرية، وهذا هو المقصود.
ما ينبغي على المديرين فعله الآن
لا يفرض التقرير إطارًا واحدًا، لكن منطقه يشير إلى بعض الخطوات. احصر وكلاءك وما المسموح لهم بفعله. عيّن مالكًا بشريًا لكل واحد منهم. سجّل إجراءاتهم بطريقة تصمد أمام التدقيق. وضع حدودًا - الوكلاء الذين يمكنهم حظر مستخدم لا ينبغي أن يكونوا قادرين أيضًا على الموافقة على استرداد دون مراجعة. لا شيء من هذا غريب؛ إنه نفس الانضباط الذي تطبقه على فريق. الفرق هو أن الوكلاء لا يطلبون توضيحًا عندما تكون التعليمات غامضة. إنهم يتصرفون.
يضيف إصدار التقرير ضغطًا على مجال مزدحم بالفعل بإرشادات حوكمة الذكاء الاصطناعي. ما ينقص هو معيار لكيفية تسجيل إجراءات الوكيل ومراجعتها عبر الأدوات - شيء أشبه بسجل عمل للبرمجيات التي تتصرف من تلقاء نفسها. وحتى يوجد ذلك، يُترك المديرون لتجميع ضوابطهم الخاصة. الخطوة العملية التالية، وفقًا لتأطير التقرير، هي أن تتعامل المؤسسات مع الإشراف على الوكلاء كواجب إداري، وليس كفكرة لاحقة لتقنية المعلومات. ما إذا كان ذلك سيحدث قبل أن يخطئ الإجراء المستقل التالي هو سؤال مفتوح.
