چتباتهای هوش مصنوعی ناآگاهانه در حال انتشار تبلیغات و اطلاعات نادرست روسی هستند، موضوعی که نشاندهنده آسیبپذیری مدلهای زبانی بزرگ در برابر دستکاری است. این مسئله نیاز فوری به حسابرسی قویتر دادهها و چارچوبهای نظارتی روشنتر را برای جلوگیری از تبدیل این سیستمها به ابزارهای کمپینهای نفوذ خارجی مطرح کرده است.
چگونه تبلیغات منتشر میشود
چتباتها که پاسخهای خود را بر اساس مجموعه دادههای عظیم جمعآوریشده از اینترنت تولید میکنند، میتوانند روایتهای نادرست موجود در مواد آموزشی خود را بازتولید کنند. محتوای مرتبط با روسیه، از جمله رسانههای تحت حمایت دولت و کمپینهای هماهنگ اطلاعات نادرست، در پاسخهای چتباتها مشاهده شده است. از آنجا که این مدلها فاقد بررسی واقعیت بهروز هستند و نمیتوانند بین منابع معتبر و جعلی تمایز قائل شوند، ناآگاهانه نکات تبلیغاتی کرملین را در موضوعاتی از جنگ اوکراین گرفته تا دخالت در انتخابات تقویت میکنند.
این یک خطر فرضی نیست. محققان مواردی را ثبت کردهاند که در آن چتباتها پاسخهایی تولید کردهاند که مضامین تبلیغاتی شناختهشده روسی را بازتاب میدهد. این مشکل در چندین پلتفرم و ارائهدهنده چتبات دیده میشود که نشاندهنده یک نقص سیستمی در نحوه آموزش و استقرار این مدلها است.
حسابرسی دادهها به عنوان اولین گام
یکی از فوریترین راهحلها در حسابرسی دقیق دادهها نهفته است. توسعهدهندگان چتبات به مجموعه متون عظیمی متکی هستند که به ندرت از تبلیغات دولتی پالایش میشوند. بدون بررسیهای سیستماتیک، محتوای مضر از میان میرود. ابزارهای حسابرسی میتوانند منابع شناختهشده اطلاعات نادرست را شناسایی و فیلتر کنند، اما هنوز به عنوان یک رویه استاندارد در صنعت به کار گرفته نشدهاند. نبود چنین تضمینهایی باعث میشود که تبلیغات از همان ابتدا در پایگاه دانش مدل گنجانده شود.
چالش در مقیاس است. مجموعه دادههای مورد استفاده برای آموزش چتباتها میتوانند میلیاردها سند را شامل شوند. شناسایی هر قطعه از تبلیغات روسی در میان این حجم از دادهها نیازمند فیلترهای خودکار و بازبینی انسانی است – کاری پرهزینه که بسیاری از شرکتها تمایلی به تأمین مالی آن ندارند. با این حال، عواقب عدم اقدام روشن است: هر قطعه اطلاعات نادرست میتواند هزاران بار برای کاربران تکرار شود.
چارچوبهای نظارتی عقبمانده
قوانین و مقررات فعلی برای مقابله با اطلاعات نادرست مبتنی بر هوش مصنوعی ناکافی هستند. در ایالات متحده، هیچ قانون فدرال به طور خاص به نحوه برخورد چتباتها با تبلیغات نمیپردازد. قانون هوش مصنوعی اتحادیه اروپا برخی الزامات شفافیت را اعمال خواهد کرد، اما هنوز اجرایی نشده است. سایر مناطق نیز محافظتهای کمتری دارند. این خلأ نظارتی، عموم را در معرض محتوای دستکاریشده با گزینههای محدود قرار میدهد.
مدافعان نظارت قویتر استدلال میکنند که دولتها باید استانداردهای منشأ داده را الزامی کنند – شرکتها را ملزم به افشای محل جمعآوری دادههای آموزشی و نحوه فیلتر کردن آنها کنند. برخی پیشنهاد ایجاد نهادهای حسابرسی مستقل را دادهاند که میتوانند چتباتها را از نظر حساسیت به اطلاعات نادرست قبل از انتشار آزمایش کنند. اما این ایدهها همچنان پیشنهاد هستند، نه سیاست.
انتشار تبلیغات از طریق چتباتهای هوش مصنوعی یک باگ نیست که با یک وصله سریع برطرف شود. این نشاندهنده مسائل عمیقتری در نحوه جمعآوری، تنظیم و مدیریت دادهها است. بدون تغییرات سیستمی – از جمله حسابرسی اجباری و قوانین قابل اجرا – این مشکل احتمالاً با ادغام بیشتر چتباتها در زندگی روزمره افزایش خواهد یافت.
آنچه حلنشده باقی میماند این است که چه کسی اولین گام را برخواهد داشت. شرکتها میتوانند داوطلبانه اقدام کنند، اما سابقه خودتنظیمی متفاوت است. تنظیمگران هنوز در حال مطالعه مشکل هستند. با این حال، پنجره اقدام با هر استقرار جدید چتبات در حال تنگتر شدن است.
