گزارشی جدید استدلال می‌کند که عامل‌های هوش مصنوعی باید به عنوان اعضای نیروی کار در نظر گرفته شوند، نه صرفاً به عنوان ابزارهای نرم‌افزاری. این تغییر همزمان با آن است که عامل‌های هوش مصنوعی از هشدارهای منفعلانه فراتر رفته و اقدامات خودمختار انجام می‌دهند—رزرو، مسدودسازی، ثبت، علامت‌گذاری—بدون اینکه انسان هر بار دکمه را فشار دهد. بر اساس مدل پیشنهادی، مسئولیت این اقدامات بر عهده مدیران انسانی باقی می‌ماند، که بر عامل‌ها نظارت خواهند کرد، درست همانطور که بر کارکنان تازه‌کار نظارت می‌کنند.
از هشدار به اقدام
سال‌ها، هوش مصنوعی در عملیات امنیتی عمدتاً یک آشکارساز دود بود. لاگ‌ها را تماشا می‌کرد، ناهنجاری‌ها را تشخیص می‌داد و هشداری برای بررسی انسان ارسال می‌کرد. نسل جدید هوش مصنوعی عاملی این حلقه را می‌بندد. فقط نمی‌گوید «این ورود اشتباه به نظر می‌رسد»—بلکه می‌تواند نشست را غیرفعال کند، اعتبارنامه‌ها را بچرخاند، یا تیکتی باز کند. در مبارزه با پولشویی، می‌تواند تاریخچه تراکنش‌ها را استخراج کند، پرونده‌ای را جمع‌آوری کند و آن را برای بررسی ارجاع دهد. ادعای اصلی گزارش این است که این سیستم‌ها اکنون بازیگران عملیاتی هستند، نه جعبه‌ابزارهای پشتیبان. این بازطبقه‌بندی اهمیت دارد زیرا نحوه اداره آنها توسط شرکت‌ها را تغییر می‌دهد: چه کسی کارشان را بررسی می‌کند، اشتباهاتشان چگونه ثبت می‌شود، و چه اتفاقی می‌افتد وقتی یک عامل بر اساس دستورالعمل‌های قدیمی عمل می‌کند.
چرا مسئولیت انسانی باقی می‌ماند
گزارش در مورد پاسخگویی صریح است. حتی وقتی یک عامل هوش مصنوعی خودش عمل می‌کند، مدیر انسانی مسئول باقی می‌ماند. این یک جزئیات فنی نیست—بلکه لولای قانونی و سازمانی است. شرکت‌ها نمی‌توانند سرزنش را به یک مدل واگذار کنند. اثر عملی این است که مدیران باید بدانند عامل‌هایشان چه می‌کنند، که به معنای ردپای حسابرسی، گزارش‌های اقدام و مسیرهای تشدید واضح است. همچنین به معنای آموزش است: اگر شما یک عامل را مدیریت می‌کنید، باید مرزهای تصمیم‌گیری آن را همانطور که یک استخدام جدید را درک می‌کنید، بفهمید. گزارش خواستار قوانین جدید نیست، اما مسئله مدیریت را فوری می‌داند.
فشار انطباق
تیم‌های امنیت سایبری، مبارزه با پولشویی و انطباق اولین جاهایی هستند که این تغییر در آنها ضربه می‌زند. این وظایف در هشدارها و کاغذبازی غرق شده‌اند و هوش مصنوعی عاملی نوید تسکین می‌دهد. اما آنها همچنین وظایفی هستند که اشتباهات در آنها وزن نظارتی دارد. عاملی که یک هشدار کلاهبرداری را خیلی سریع می‌بندد، یا یک تراکنش را اشتباه طبقه‌بندی می‌کند، ردپایی ایجاد می‌کند که حسابرسان دنبال خواهند کرد. گزارش پیشنهاد می‌کند که رفتار با عامل‌ها به عنوان اعضای نیروی کار، سوالات درست را تحمیل می‌کند: دامنه عامل چیست؟ چه کسی خروجی آن را بررسی می‌کند؟ چگونه آن را اصلاح می‌کنید؟ اینها شبیه سوالات منابع انسانی به نظر می‌رسند، و همین نکته است.
مدیران اکنون چه باید بکنند
گزارش چارچوب واحدی را تجویز نمی‌کند، اما منطق آن به چند اقدام اشاره دارد. عامل‌های خود و آنچه مجاز به انجام آن هستند را فهرست کنید. به هر یک یک مالک انسانی اختصاص دهید. اقدامات آنها را به گونه‌ای ثبت کنید که در برابر حسابرسی مقاوم باشد. و مرزها را تعیین کنید—عامل‌هایی که می‌توانند کاربری را مسدود کنند نباید بدون بررسی بتوانند بازپرداختی را تأیید کنند. هیچ‌یک از اینها عجیب نیست؛ همان انضباطی است که برای یک تیم اعمال می‌کنید. تفاوت در این است که عامل‌ها وقتی دستورالعمل‌ها مبهم است، درخواست شفافیت نمی‌کنند. آنها عمل می‌کنند.
انتشار این گزارش به حوزه پرازدحام راهنمایی‌های حاکمیت هوش مصنوعی فشار می‌افزاید. آنچه کم است، استانداردی برای نحوه ثبت و بررسی اقدامات عامل‌ها در ابزارهای مختلف است—چیزی شبیه به یک گزارش کار برای نرم‌افزاری که خودش عمل می‌کند. تا زمانی که چنین چیزی وجود نداشته باشد، مدیران مجبورند کنترل‌های خود را سرهم‌بندی کنند. بر اساس چارچوب‌بندی گزارش، گام عملی بعدی برای سازمان‌ها این است که نظارت بر عامل را یک وظیفه مدیریتی در نظر بگیرند، نه یک فکر بعدی فناوری اطلاعات. اینکه آیا این قبل از اینکه اقدام خودمختار بعدی اشتباه شود اتفاق می‌افتد، سوالی بی‌پاسخ است.
