چین رباتهای گفتگوی هوش مصنوعی را از ایجاد وابستگی عاطفی در کاربران منع کرده است. این اقدام در حالی صورت میگیرد که این کشور با کاهش جمعیت دستوپنجه نرم میکند. این مقررات که از سوی اداره فضای مجازی چین وضع شده، سیستمهای گفتگوی هوش مصنوعی را که نقش همراه را ایفا کرده یا وابستگی عاطفی طولانیمدت ایجاد میکنند، هدف قرار میدهد.
چرا این ممنوعیت اکنون اعمال میشود
این سیاست در شرایطی وضع میشود که چین با کاهش نرخ زادوولد و پیری جمعیت مواجه است. مقامات نگرانند که رباتهای گفتگوی جذاب از نظر عاطفی، تعاملات اجتماعی و تشکیل خانواده را کاهش دهند. این ممنوعیت با هدف جلوگیری از تبدیل هوش مصنوعی به جایگزینی برای روابط انسانی، بهویژه در میان کاربران جوانتر که ممکن است به جای ارتباطات واقعی به همراهان مجازی روی آورند، اعمال شده است.
جمعیت چین برای دومین سال متوالی در سال ۲۰۲۳ کاهش یافت و تعداد تولدها به ۹.۰۲ میلیون رسید که پایینترین رقم از دهه ۱۹۴۰ است. دولت در حال اجرای سیاستهایی برای تشویق ازدواج و فرزندآوری، از جمله مشوقهای مالی و افزایش مرخصی والدین است. مقررات جدید هوش مصنوعی نیز در چارچوب این تلاشها قرار میگیرد.
استارتآپها در تیررس
چندین استارتآپ چینی اپلیکیشنهای همراه مبتنی بر هوش مصنوعی ساختهاند که نقش دوست، شریک عاطفی یا درمانگر را ایفا میکنند. این سرویسها اغلب از زبان شخصیسازیشده و حافظه برای ایجاد حس صمیمیت استفاده میکنند. طبق قوانین جدید، چنین ویژگیهایی در صورتی که کاربران را به وابستگی عاطفی تشویق کنند، غیرقانونی تلقی میشوند.
شرکتهایی که به شدت به تعامل عاطفی متکی هستند، ممکن است مجبور شوند به سرعت تغییر مسیر دهند. برخی از آنها در حال تغییر برند محصولات خود به ابزارهای بهرهوری یا سلامت روان هستند، هرچند مرز بین حمایت و وابستگی همچنان مبهم است. سرمایهگذاران نیز تحولات را زیر نظر دارند: طبق دادههای PitchBook، سرمایهگذاری خطرپذیر در اپلیکیشنهای همراه هوش مصنوعی در چین در سال ۲۰۲۳ حدود ۱۵۰ میلیون دلار بوده است.
تغییر جهت به سوی ابزارهای بهرهوری
این مقررات ممکن است سرمایهگذاری را به سمت اپلیکیشنهای هوش مصنوعی که بر کارایی و انجام وظایف تمرکز دارند، سوق دهد. غولهای فناوری چین مانند بایدو و علیبابا پیش از این مدلهای زبانی بزرگ خود را برای استفاده در کسبوکارها عرضه کردهاند که خدمات مشتری، پردازش اسناد و تولید کد را پوشش میدهند. توسعهدهندگان کوچکتر نیز احتمالاً از این مسیر پیروی خواهند کرد.
هوش مصنوعی متمرکز بر بهرهوری با موانع قانونی کمتری مواجه است و با تلاش گستردهتر پکن برای خودکفایی فناوری و ارتقای صنعتی همسو میباشد. دولت همچنین از هوش مصنوعی در آموزش و بهداشت و درمان حمایت کرده است، مشروط بر اینکه جایگزین تعامل انسانی در حوزههای حساس نشود.
مراحل بعدی
جزئیات اجرایی این مقررات هنوز مشخص نیست. اداره فضای مجازی جریمهها یا دورههای تنفس برای انطباق را تعیین نکرده است. شرکتهایی که رباتهای گفتگوی عاطفی دارند باید شرایط خدمات خود را بازبینی کرده و الگوریتمها را برای جلوگیری از نقض ممنوعیت اصلاح کنند. برخی ممکن است این قوانین را به چالش بکشند، اما با توجه به فضای سیاسی، انتظار میرود بیشتر آنها بدون سر و صدا از قوانین تبعیت کنند.
این مقررات بخشی از یک الگوی گستردهتر است: چین از سال ۲۰۲۱ کنترل خود بر هوش مصنوعی را تشدید کرده و ثبت الگوریتم و نظارت بر محتوا را الزامی کرده است. این آخرین اقدام نشان میدهد که دستکاری عاطفی – حتی توسط ماشینها – اکنون یک خط قرمز است. چگونگی تطبیق استارتآپها و اینکه آیا این ممنوعیت واقعاً رفتار کاربران را تغییر میدهد، سوالاتی هستند که در ماههای آینده پاسخ داده خواهند شد.
