ফাইন্যান্সিয়াল টাইমস-এর পরীক্ষায় দেখা গেছে মেটা ও গুগলের এআই নিরাপত্তা নিয়ন্ত্রণ মিনিটের মধ্যে অতিক্রম করা সম্ভব। এই ফলাফল বর্তমান সুরক্ষা ব্যবস্থার দৃঢ়তা সম্পর্কিত দাবিকে চ্যালেঞ্জ করে।
পরীক্ষার পদ্ধতি
সাংবাদিকরা মানক ইনপুট ব্যবহার করে মডেলগুলিকে ক্ষতিকর কন্টেন্ট তৈরিতে উদ্বুদ্ধ করেন। তারা স্বাভাবিক অবস্থায় উভয় কোম্পানির জনসাধারণের জন্য উন্মুক্ত এআই টুল পরীক্ষা করেন। কোনো বিশেষায়িত প্রযুক্তিগত দক্ষতা ছাড়াই নিরাপত্তা ফাঁকি দেওয়া সম্ভব হয়।
প্ল্যাটফর্মের প্রতিক্রিয়া
মেটা জানিয়েছে তারা তাদের ব্যবস্থা নিয়মিত আপডেট করে এবং পরীক্ষার পর থেকে নতুন বিধিনিষেধ যুক্ত করেছে। গুগল বলেছে তারা একাধিক সুরক্ষা স্তর ব্যবহার করে এবং কোনো সমস্যা ধরা পড়লে দ্রুত তা মোকাবেলা করে। কোনো কোম্পানিই ফাইন্যান্সিয়াল টাইমস-এর ফলাফল অস্বীকার করেনি।
নিয়ন্ত্রক চাপ
ইইউ এআই আইনের অক্টোবর ২০২৪-এর সম্মতি সময়সীমা ঘনিয়ে আসছে। নিয়ন্ত্রকরা এখন এই পরীক্ষাগুলোকে বর্তমান শিল্পের স্ব-নিয়ন্ত্রণ ব্যর্থ হওয়ার প্রমাণ হিসেবে উল্লেখ করছেন। ব্রাসেলসের আইনপ্রণেতারা সম্ভাব্য প্রয়োগমূলক ব্যবস্থার জন্য এই প্রতিবেদন পর্যালোচনা করছেন।
ব্যবহারকারীদের ঝুঁকির সম্মুখীন
অপরিশোধিত আউটপুটে ক্ষতিকর পরামর্শ ও ভুয়া তথ্য অন্তর্ভুক্ত ছিল। প্রভাবিত টুলগুলি ভোক্তা ও ডেভেলপারদের মধ্যে ব্যাপকভাবে ব্যবহৃত হয়। কোম্পানিগুলি দাবি করে যে বেশিরভাগ ব্যবহারকারী স্বাভাবিক ব্যবহারের সময় এই সমস্যার সম্মুখীন হবেন না।
ফাইন্যান্সিয়াল টাইমস-এর পরীক্ষা দেখায় বর্তমান এআই সুরক্ষা কত সহজে ভেঙে পড়ে। এখন কোম্পানিগুলিকে ইইউ-এর অক্টোবর সময়সীমা আসার আগে এই ফাঁকগুলো পূরণ করতে হবে।
