Anthropic, saldırganların damıtma yoluyla Claude modellerinden çıkarabileceği eğitim verisi miktarını %90 ila %99 oranında azaltan yeni savunmalar devreye aldığını duyurdu. Şirket, bu önlemleri model bütünlüğünü ve tescilli teknolojisini korumaya yönelik daha geniş bir çabanın parçası olarak açıkladı.
Damıtma saldırıları, bir modeli tekrar tekrar sorgulayarak çıktılarını toplamayı ve bu verileri rakip bir sistemi eğitmek için kullanmayı içerir. Bu teknik, birinin başka bir şirketin araştırmasına bedel ödemeden ortak olmasını sağlar. Anthropic'in yeni koruma önlemleri, bu süreci çok daha etkisiz hale getirmeyi amaçlıyor.
Saldırılar nasıl işliyor
Bir damıtma saldırısında, saldırganın modelin altında yatan koda veya ağırlıklara erişmesi gerekmez. Sadece sorgu gönderme ve yanıtları kaydetme yeteneğine ihtiyaç duyar. Bir modelden milyonlarca istem geçirerek, davranışının büyük bir kısmını yakalayan bir veri kümesi oluşturabilir. Bu veri kümesi daha sonra, orijinalin yeteneklerini geliştirme maliyetinin çok altında taklit edebilen rakip bir model için eğitim materyali haline gelir.
Yapay zeka şirketleri için bu hem bir güvenlik hem de bir iş sorunudur. Çıktılar, aylarca süren araştırmayı ve önemli hesaplama harcamalarını temsil eder. Bir rakip bu çıktıları ucuza toplayabiliyorsa, öncü modellere yatırım yapma teşviki azalır. Anthropic'in savunmaları, toplanan verileri daha az kullanışlı veya ölçekte toplanması daha zor hale getirerek bu zinciri kırmayı hedefliyor.
Anthropic neyi değiştirdi
Şirket kesin teknik mekanizmaları ayrıntılandırmadı, ancak savunmaların damıtma girişimlerini gerçek zamanlı olarak tespit edip bozmak üzere tasarlandığını söyledi. Bu, şüpheli sorgu kalıplarını hız sınırlamak, çıktılara gürültü eklemek veya yanıtları izlenebilmeleri için filigranlamak anlamına gelebilir. Anthropic, sonucun saldırganların başarıyla toplayabileceği verilerde %90 ila %99 azalma olduğunu iddia ediyor.
Aralık geniş çünkü etkinlik saldırı yöntemine göre değişiyor. Kaba, yüksek hacimli bir kazıma işlemi neredeyse tamamen engellenebilirken, daha dikkatli, yavaş ve düşük hacimli bir yaklaşım hâlâ geçebilir. Anthropic, rakipler uyum sağladıkça sistemi ayarlamaya devam edeceğini söylüyor.
Bu, bir yapay zeka şirketinin damıtma hakkında konuştuğu ilk sefer değil. Hem OpenAI hem de Google, rakiplerini modellerinin çıktılarını rakip sistemleri eğitmek için kullanmakla suçladı. Ancak kamuya açık, sayısallaştırılmış sonuçlar nadirdir. Anthropic'in rakamları, en azından şirketin kendi ölçümüne göre, bir savunma setinin ne kadar iyi performans gösterdiğine dair somut bir kıyas noktası sunuyor.
Model hırsızlığı, güvenlik, fikri mülkiyet ve ulusal rekabet gücünün kesişim noktasında yer alıyor. Hükümetler gelişmiş yapay zeka modellerini stratejik varlıklar olarak görmeye başlıyor. Damıtma engellenebilirse, bu şirketlerin çalışmalarının bir gecede kopyalanacağından korkmadan daha büyük, daha pahalı modellere yatırım yapmaya devam etmeleri için gerekçeyi güçlendirir.
Bir de güvenlik boyutu var. Kötü niyetli bir aktör bir modeli damıtıp güvenlik ince ayarlarını çıkarırsa, izlenmesi daha zor, hizalanmamış bir sürüm yaratabilir. Anthropic'in savunmaları bu senaryoyu doğrudan ele almıyor, ancak damıtmayı zorlaştırarak deneyen herkes için maliyeti artırıyor.
Duyuru, Anthropic'in kullanımı ve değiştirilmesi ücretsiz olan açık ağırlıklı modellerden gelen artan rekabetle karşı karşıya olduğu bir dönemde geliyor. Bu modeller herhangi bir API sorgusu olmadan damıtılabildiğinden, yeni savunmalar onlar için geçerli değil. Şirketin yaklaşımı, tescilli, API tabanlı modellerin müşterilerin erişim için ödeme yapacak kadar değerli kalacağına ve onları korumanın mühendislik çabasına değeceğine dair bir bahis.
Anthropic teknik bir makale yayımlayıp yayımlamayacağını veya savunma araçlarını açık kaynak yapıp yapmayacağını söylemedi. Şimdilik, %90 ila %99 rakamı dış araştırmacıların kolayca doğrulayamayacağı bir iddia. Şirket, saldırganların nasıl faaliyet gösterdiği hakkında daha fazla bilgi edindikçe sistemi güncellemeye devam edeceğini söylüyor.
Rakiplerin yakından izlemesi muhtemel. Savunmalar dayanırsa, ticari yapay zeka API'lerinin standart bir özelliği haline gelebilirler. Dayanmazlarsa, model sağlayıcıları ile veri toplayıcıları arasındaki kedi-fare oyunu, her iki taraf da diğerinin son hamlesine uyum sağlayarak devam edecek.
