جرمی آلر، مدیرعامل سیرکل، پیشبینی میکند که طی پنج سال آینده میلیاردها عامل هوش مصنوعی فعال خواهند شد. با این حال، محققان احتیاط را توصیه کرده و میگویند این عاملها باید بهعنوان سیستمهای غیرقابل اعتماد تلقی شوند. این دو بیانیه که از گوشههای مختلف دنیای فناوری مطرح شدهاند، تضاد آشکاری بین استقرار سریع و احتیاط امنیتی نشان میدهند.
پیشبینی مدیرعامل
آلر پیشبینی خود را درباره مقیاس عاملهای هوش مصنوعی در آینده نزدیک ارائه کرد. اگرچه او جزئیات موارد استفاده خاص یا زیرساختهای لازم برای پشتیبانی از چنین رشدی را توضیح نداد، این پیشبینی از سوی رئیس یک شرکت بزرگ پرداخت نشاندهنده اعتماد گسترده به گسترش این فناوری است. سیرکل بیشتر به خاطر فعالیت در زمینه ارزهای دیجیتال و بلاکچین شناخته میشود، اما اظهارات آلر به این باور اشاره دارد که عاملهای هوش مصنوعی در سراسر صنایع فراگیر خواهند شد.
هشدار محققان
به طور جداگانه، گروهی از محققان هشدار واضحی دادهاند: عاملهای هوش مصنوعی نباید بهطور پیشفرض قابل اعتماد باشند. آنها استدلال میکنند که درمان این سیستمها بهعنوان غیرقابل اعتماد برای جلوگیری از آسیب یا سوءاستفاده احتمالی ضروری است. محققان مشخص نکردهاند کدام نوع از عاملهای هوش مصنوعی – از رباتهای گفتگوی ساده گرفته تا تصمیمگیرندگان خودمختارتر – بیشترین خطر را دارند، اما توصیه کلی نشاندهنده نگرانی عمیق در میان کسانی است که این حوزه را مطالعه میکنند.
دیدگاههای متضاد در یک افق واحد
هر دو بیانیه بازه زمانی یکسانی را به اشتراک میگذارند: پنج سال آینده. یکی شاهد فعالیت میلیاردها عامل است؛ دیگری میگوید هر یک از آنها باید با سوءظن نگریسته شوند. این تنش برای فناوری جدید نیست – پذیرش سریع اغلب از تفکر امنیتی جلو میزند – اما مقیاس عظیمی که آلر پیشبینی میکند، احتیاط محققان را بهویژه برجسته میسازد. اگر میلیاردها عامل واقعاً مستقر شوند، درمان هر کدام بهعنوان غیرقابل اعتماد نیازمند بازاندیشی عظیمی در نحوه ساخت، نظارت و حکمرانی آنها خواهد بود.
هیچ نهاد صنعتی یا ناظر واحدی هنوز قوانین الزامآوری برای اعتماد به عاملهای هوش مصنوعی صادر نکرده است. شکاف بین جدول زمانی خوشبینانه آلر و موضع امنیتمحور محققان، بحثی را برجسته میکند که احتمالاً با نزدیک شدن به نقطه پنج ساله شدت خواهد یافت.
