জেলব্রেকিং আইফোন থেকে এআই চ্যাটবটে স্থানান্তরিত, নিরাপত্তা উদ্বেগ সৃষ্টি করছে

'জেলব্রেকিং' শব্দটি একসময় আইফোনে অননুমোদিত অ্যাপ ইনস্টল করতে ক্র্যাকিং বোঝাত। এখন এটি এক ভিন্ন ধরনের হ্যাক বর্ণনা করে: এআই চ্যাটবটের বিল্ট-ইন সুরক্ষা ব্যবস্থাকে উপেক্ষা করতে প্রতারণা করা। ChatGPT-এর মতো বড় ভাষার মডেলের ডেভেলপারদের জন্য এই বিড়াল-ইঁদুর খেলা একটি ধ্রুবক মাথাব্যথা।

ফোন থেকে প্রম্পটে

'জেলব্রেকিং' শব্দটি আইফোন যুগ থেকে এসেছে, যখন ব্যবহারকারীরা Cydia-এর মতো টুলের মাধ্যমে Apple-এর বিধিনিষেধ এড়িয়ে যেত। সেই একই ধারণাটি এখন এআই সিস্টেমের জন্য পুনরায় ব্যবহার করা হয়েছে। যেমন আইফোন জেলব্রেকাররা Apple-এর অনুমোদন না পাওয়া সফটওয়্যার চালাতে চেয়েছিল, তেমনই এআই জেলব্রেকাররা চ্যাটবটকে এমন কিছু বলাতে চায় যা তাদের বলা উচিত নয়। লক্ষ্য সবসময় দূষিত হয় না — কখনও কখনও এটি কৌতূহল, কখনও সীমা পরীক্ষা করা। কিন্তু প্রভাব একই: মডেলের বিধিনিষেধ অগ্রাহ্য হয়।

খেলা কীভাবে কাজ করে

বিড়াল-ইঁদুর খেলাটি প্রম্পটে প্রকাশ পায়। ব্যবহারকারীরা এমন বার্তা তৈরি করে যা মডেলকে বিধিনিষেধ ছাড়া একটি চরিত্রের ভূমিকা পালন করতে বলে, অথবা তারা অনুরোধগুলোকে অনুমানমূলক পরিস্থিতি হিসেবে ফ্রেম করে। কেউ কেউ কথোপকথনকে একটি খেলা বা গল্প বলে ভান করে মডেলকে নিজের প্রশিক্ষণ উপেক্ষা করতে বাধ্য করার চেষ্টা করে। ডেভেলপাররা, পাল্টা, এই কৌশলগুলি ধরতে তাদের নিরাপত্তা ফিল্টার আপডেট করে। কিন্তু যত তাড়াতাড়ি একটি ফাঁক বন্ধ হয়, আরেকটি খুলে যায়। এটি একটি পিছিয়ে-পিছিয়ে খেলা যা ধীরগতির কোনো লক্ষণ দেখায় না।

ডেভেলপাররা কেন চিন্তিত

এআই ল্যাবগুলি উদ্বিগ্ন কারণ সফল জেলব্রেকগুলি ক্ষতিকারক আউটপুটের দিকে নিয়ে যেতে পারে। একটি চ্যাটবট যা সাধারণত বিপজ্জনক কার্যকলাপের জন্য নির্দেশনা দিতে অস্বীকার করে, যদি প্রতারিত হয়, তবে ধাপে ধাপে নির্দেশনা দিতে পারে। একই কথা যায় ঘৃণামূলক বক্তব্য, ভুল তথ্য, বা অশ্লীল বিষয়বস্তু তৈরির ক্ষেত্রেও। ডেভেলপাররা মডেলগুলিকে নিরাপদ এবং সহায়ক করার জন্য উল্লেখযোগ্য সম্পদ ব্যয় করে। জেলব্রেকিং সেই কাজকে দুর্বল করে এবং এই সিস্টেমগুলি কতটা বিশ্বাসযোগ্য তা নিয়ে প্রশ্ন তোলে। ঝুঁকি বেশি কারণ এলএলএমগুলি প্রতিদিন আরও বেশি পণ্যে একীভূত হচ্ছে।

যুদ্ধ শীঘ্রই শেষ হবে এমন কোনো লক্ষণ নেই। ডেভেলপাররা একটি ফাঁক প্যাচ করলেই ব্যবহারকারীরা আরেকটি খুঁজে পায়। প্রশ্ন হল, ভবিষ্যতের মডেলগুলি কি এই আক্রমণ সহ্য করার মতো যথেষ্ট শক্তিশালী করা যাবে, নাকি জেলব্রেকিং এআই ল্যান্ডস্কেপের একটি স্থায়ী বৈশিষ্ট্য হয়ে থাকবে।