آنتروپیک، شرکت هوش مصنوعی پشت ربات چتبات کلود، طبق گزارشی از کریپتو بریفینگ، این هفته یکی از محققان خود را برای ارائه گزارش به مقامات دولت آمریکا در مورد ایمنی هوش مصنوعی اعزام کرد. این نشست بر جلوگیری از سوءاستفاده از سیستمهای پیشرفته هوش مصنوعی و تقویت امنیت ملی متمرکز بود - نشانهای از جدی گرفتن این خطرات توسط واشنگتن.
اهمیت این نشست
این تعامل بر نیاز حیاتی به اقدامات ایمنی قوی در زمینه هوش مصنوعی تأکید دارد. این فقط در مورد خطرات نظری نیست؛ دولت خواهان اقدامات ملموس برای اطمینان از تبدیل نشدن هوش مصنوعی به بستری برای حملات یا بیثباتی است. آنتروپیک که به خاطر تأکید بر توسعه مسئولانه هوش مصنوعی شناخته میشود، خود را به عنوان یک گفتوگوکننده کلیدی در این مسائل مطرح میکند.
ایمنی هوش مصنوعی در زمینه کریپتو
پوشش خبری کریپتو بریفینگ از این گزارش به همپوشانی طبیعی اشاره دارد. پلتفرمهای کریپتو به طور فزایندهای برای رباتهای معاملاتی، ممیزی قراردادهای هوشمند و تشخیص تقلب به هوش مصنوعی متکی هستند. همان آسیبپذیریهایی که دولت را نگران میکند - مدلهای مغرضانه، پرامپتهای خصمانه یا اتوماسیون خارج از کنترل - مستقیماً در مورد کریپتو نیز صدق میکند. اگر یک عامل معاملاتی هوش مصنوعی از کنترل خارج شود یا یک ربات چت مورد استفاده برای خدمات مشتری هک شود، عواقب آن میتواند هم مالی و هم عملیاتی باشد. این گزارش به طور خاص به کریپتو اشاره نکرد، اما پیامدهای آن به سختی قابل چشمپوشی است.
آنچه دولت زیر نظر دارد
آمریکا تمرکز خود را بر حاکمیت هوش مصنوعی افزایش داده است. این گزارش یکی از چندین جلسه خصوصی بین آزمایشگاههای هوش مصنوعی و آژانسهای فدرال است. پیام محقق آنتروپیک: ایمنی یک ویژگی نیست که بعداً به آن اضافه کنید. باید از ابتدا در آن تعبیه شود. برای شرکتهای کریپتو که به هوش مصنوعی متکی هستند، این درسی ارزشمند است - به ویژه با توجه به اینکه نهادهای نظارتی شروع به پرسیدن سوالات سختتر در مورد ریسک الگوریتمی کردهاند.
هیچ جدول زمانی عمومی برای قوانین جدید تعیین نشده است، اما این نوع گفتوگوی مستقیم معمولاً به اسناد سیاستی و دستورالعملهای اجرایی منتهی میشود. در حال حاضر، نکته قابل توجه این است که دولت در حال گوش دادن است - و بحثهای ایمنی هوش مصنوعی دیگر انتزاعی نیستند. شرکتهای کریپتو که از هوش مصنوعی استفاده میکنند باید انتظار بررسی مشابهی را داشته باشند، زیرا این فناوری بیشتر در زیرساختهای مالی ادغام میشود.
