Anthropic ক্লড থেকে ডিস্টিলেশন ডেটা চুরি ৯৯% পর্যন্ত কমিয়েছে

Anthropic জানিয়েছে, তারা নতুন প্রতিরক্ষা ব্যবস্থা চালু করেছে যা ডিস্টিলেশনের মাধ্যমে তাদের ক্লড মডেল থেকে আক্রমণকারীরা যে প্রশিক্ষণ ডেটা সংগ্রহ করতে পারে তা ৯০ থেকে ৯৯ শতাংশ পর্যন্ত কমিয়ে দেয়। কোম্পানিটি মডেলের অখণ্ডতা এবং নিজস্ব প্রযুক্তি সুরক্ষার বৃহত্তর প্রচেষ্টার অংশ হিসেবে এই পদক্ষেপ ঘোষণা করেছে।

ডিস্টিলেশন আক্রমণে একটি মডেলকে বারবার কোয়েরি করে তার আউটপুট সংগ্রহ করা হয়, তারপর সেই ডেটা ব্যবহার করে প্রতিদ্বন্দ্বী সিস্টেম প্রশিক্ষণ দেওয়া হয়। এই কৌশলটি কাউকে অন্য কোম্পানির গবেষণার উপর বিনা মূল্যে ভর করে সুবিধা নিতে দেয়। Anthropic-এর নতুন সুরক্ষা ব্যবস্থার উদ্দেশ্য সেই প্রক্রিয়াটিকে অনেক কম কার্যকর করা।

আক্রমণগুলি কীভাবে কাজ করে

একটি ডিস্টিলেশন আক্রমণে, আক্রমণকারীর মডেলের অন্তর্নিহিত কোড বা ওয়েটে অ্যাক্সেসের প্রয়োজন হয় না। তাদের শুধু কোয়েরি পাঠানোর এবং প্রতিক্রিয়া রেকর্ড করার ক্ষমতা দরকার। একটি মডেলের মাধ্যমে লক্ষ লক্ষ প্রম্পট চালিয়ে, তারা একটি ডেটাসেট তৈরি করতে পারে যা মডেলের অনেক আচরণ ধারণ করে। সেই ডেটাসেট তখন প্রতিদ্বন্দ্বী মডেলের প্রশিক্ষণ উপাদান হয়ে ওঠে, যা উন্নয়ন ব্যয়ের একটি ভগ্নাংশে মূল মডেলের ক্ষমতা অনুকরণ করতে পারে।

এআই কোম্পানিগুলির জন্য, এটি একটি নিরাপত্তা এবং ব্যবসায়িক সমস্যা উভয়ই। আউটপুটগুলি মাসের পর মাস গবেষণা এবং উল্লেখযোগ্য কম্পিউট ব্যয়ের প্রতিনিধিত্ব করে। যদি একটি প্রতিযোগী সেই আউটপুটগুলি সস্তায় সংগ্রহ করতে পারে, তবে ফ্রন্টিয়ার মডেলে বিনিয়োগের প্রণোদনা কমে যায়। Anthropic-এর প্রতিরক্ষার লক্ষ্য হল সংগৃহীত ডেটাকে কম উপযোগী বা বড় আকারে সংগ্রহ করা কঠিন করে সেই শৃঙ্খল ভাঙা।

Anthropic কী পরিবর্তন করেছে

কোম্পানিটি সঠিক প্রযুক্তিগত পদ্ধতির বিস্তারিত জানায়নি, তবে বলেছে যে প্রতিরক্ষাগুলি রিয়েল টাইমে ডিস্টিলেশন প্রচেষ্টা সনাক্ত এবং ব্যাহত করার জন্য ডিজাইন করা হয়েছে। এর অর্থ হতে পারে সন্দেহজনক কোয়েরি প্যাটার্নে রেট-লিমিটিং করা, আউটপুটে নয়েজ যোগ করা, বা প্রতিক্রিয়াগুলি ওয়াটারমার্ক করা যাতে সেগুলি ট্রেস করা যায়। Anthropic দাবি করেছে যে ফলস্বরূপ আক্রমণকারীরা সফলভাবে যে ডেটা সংগ্রহ করতে পারে তা ৯০ থেকে ৯৯ শতাংশ হ্রাস পেয়েছে।

পরিসরটি বিস্তৃত কারণ কার্যকারিতা আক্রমণ পদ্ধতির উপর নির্ভর করে। একটি অপরিশোধিত, উচ্চ-ভলিউম স্ক্র্যাপিং অপারেশন প্রায় সম্পূর্ণভাবে অবরুদ্ধ হতে পারে, যখন আরও সতর্ক, ধীর-গতির পদ্ধতি এখনও পার হতে পারে। Anthropic বলেছে যে প্রতিপক্ষের অভিযোজনের সাথে সাথে তারা সিস্টেমটি টিউন করতে থাকবে।

এটি প্রথমবার নয় যে একটি এআই কোম্পানি ডিস্টিলেশন নিয়ে কথা বলছে। OpenAI এবং Google উভয়ই তাদের মডেলের আউটপুট প্রতিদ্বন্দ্বী সিস্টেম প্রশিক্ষণে ব্যবহারের জন্য প্রতিদ্বন্দ্বীদের অভিযুক্ত করেছে। তবে প্রকাশ্য, পরিমাণগত ফলাফল বিরল। Anthropic-এর সংখ্যাগুলি একটি প্রতিরক্ষা সেট কতটা ভালো কাজ করে তার একটি সুনির্দিষ্ট বেঞ্চমার্ক দেয়, অন্তত কোম্পানির নিজস্ব পরিমাপ অনুযায়ী।

মডেল চুরি নিরাপত্তা, মেধাস্বত্ব এবং জাতীয় প্রতিযোগিতার সংযোগস্থলে অবস্থান করে। সরকারগুলি উন্নত এআই মডেলকে কৌশলগত সম্পদ হিসেবে বিবেচনা করতে শুরু করেছে। যদি ডিস্টিলেশন কমানো যায়, তবে এটি কোম্পানিগুলির জন্য বৃহত্তর, আরও ব্যয়বহুল মডেলে বিনিয়োগ চালিয়ে যাওয়ার পক্ষে যুক্তিকে শক্তিশালী করে, এই ভয় ছাড়াই যে তাদের কাজ রাতারাতি কপি হয়ে যাবে।

একটি নিরাপত্তা দিকও রয়েছে। যদি একটি দূষিত অভিনেতা একটি মডেল ডিস্টিল করে এবং নিরাপত্তা ফাইন-টিউনিং সরিয়ে দেয়, তবে তারা একটি অসংলগ্ন সংস্করণ তৈরি করতে পারে যা নিরীক্ষণ করা কঠিন। Anthropic-এর প্রতিরক্ষাগুলি সরাসরি সেই পরিস্থিতি সম্বোধন করে না, তবে ডিস্টিলেশন কঠিন করে তোলার মাধ্যমে, তারা যে কেউ এটি চেষ্টা করে তার ব্যয় বাড়িয়ে দেয়।

এই ঘোষণাটি এমন সময়ে এসেছে যখন Anthropic মুক্ত-ওয়েট মডেলগুলির ক্রমবর্ধমান প্রতিযোগিতার মুখোমুখি হচ্ছে যা ব্যবহার এবং পরিবর্তন করতে свободно। সেই মডেলগুলিকে কোনো API কোয়েরি ছাড়াই ডিস্টিল করা যায়, তাই নতুন প্রতিরক্ষাগুলি তাদের ক্ষেত্রে প্রযোজ্য নয়। কোম্পানির পদ্ধতি হল একটি বাজি যে মালিকানাধীন, API-ভিত্তিক মডেলগুলি যথেষ্ট মূল্যবান থাকবে যে গ্রাহকরা অ্যাক্সেসের জন্য অর্থ প্রদান করবেন, এবং সেগুলি সুরক্ষিত রাখা প্রকৌশল প্রচেষ্টার যোগ্য।

Anthropic বলেনি যে তারা একটি প্রযুক্তিগত কাগজ প্রকাশ করবে বা প্রতিরক্ষা সরঞ্জামগুলি ওপেন-সোর্স করবে। আপাতত, ৯০ থেকে ৯৯ শতাংশ সংখ্যাটি একটি দাবি যা বাইরের গবেষকরা সহজে যাচাই করতে পারবেন না। কোম্পানি বলেছে যে আক্রমণকারীরা কীভাবে কাজ করে সে সম্পর্কে তারা আরও জানার সাথে সাথে সিস্টেমটি আপডেট করতে থাকবে।

প্রতিযোগীরা সম্ভবত ঘনিষ্ঠভাবে নজর রাখছে। যদি প্রতিরক্ষাগুলি টিকে থাকে, তবে সেগুলি বাণিজ্যিক এআই API-এর একটি মানক বৈশিষ্ট্য হয়ে উঠতে পারে। যদি না হয়, তবে মডেল প্রদানকারী এবং ডেটা সংগ্রহকারীদের মধ্যে বিড়াল-ইঁদুরের খেলা চলতে থাকবে, প্রতিটি পক্ষ অন্য পক্ষের সর্বশেষ পদক্ষেপের সাথে নিজেকে খাপ খাইয়ে নেবে।