کاخ سفید انتشار گزارش‌های عمومی از واحد آزمایش هوش مصنوعی را به دلیل خطرات امنیتی متوقف کرد

کاخ سفید انتشار گزارش‌های عمومی از واحد آزمایش هوش مصنوعی خود را به دلیل نگرانی‌های امنیت ملی متوقف کرده است. این تصمیم یک پنجره مهم برای اطلاع از نحوه ارزیابی دولت از ایمنی و قابلیت اطمینان سیستم‌های هوش مصنوعی پیش از استقرار آنها را از بین می‌برد.

دلیل امنیتی این تصمیم

مقامات اعلام کردند که این گزارش‌ها حاوی اطلاعاتی بودند که می‌توانست توسط دشمنان سوءاستفاده شود یا برای تضعیف یکپارچگی فناوری به کار رود. این اقدام عملاً جریان جزئیات فنی درباره آسیب‌پذیری‌ها و نتایج آزمایش‌ها را که پیش‌تر به‌طور دوره‌ای در دسترس عموم قرار می‌گرفت، متوقف می‌کند. هیچ جدول زمانی برای ازسرگیری انتشار گزارش‌ها اعلام نشده است.

وظایف واحد آزمایش

این واحد آزمایش برای ارزیابی مدل‌های هوش مصنوعی از نظر سوگیری، اطلاعات نادرست و نقص‌های امنیتی تشکیل شده بود. گزارش‌های عمومی آن منبعی نادر از داده‌های غیراختصاصی درباره عملکرد سیستم‌های پیشرو بود که پژوهشگران و فعالان مدنی از آن برای پاسخ‌خواهی از شرکت‌ها و شکل‌دهی به بحث‌های سیاستی استفاده می‌کردند.

منتقدان این تصمیم می‌گویند شفافیت برای اعتماد عمومی به حکمرانی هوش مصنوعی ضروری است. بدون گزارش‌های منظم عمومی، کارشناسان مستقل ابزاری مستقیم برای راستی‌آزمایی ارزیابی‌های ایمنی دولت را از دست می‌دهند. کاخ سفید هنوز مشخص نکرده که آیا این گزارش‌ها با جلسات توجیهی محرمانه یا قالبی دیگر که امکان نظارت مستقل را فراهم کند، جایگزین خواهد شد یا خیر.

این تصمیم یک پرسش بی‌پاسخ باقی می‌گذارد: مردم چگونه خواهند فهمید که دولت درباره خطرات سیستم‌های هوش مصنوعی که آزمایش می‌کند، چه می‌داند؟