Bill Gates, şu anda gerçek yapay zeka tehdidinin kontrolden çıkan bir makine olmadığını, teknolojiyi zarar vermek için kullanan insanlar olduğunu ve onları durdurabilecek güvenlik önlemlerinin dakikalar içinde devre dışı bırakılabileceğini söylüyor. Gates, CNN'in State of the Union programında Jake Tapper'a verdiği röportajda "Terminatör" senaryosunun yıllar uzakta olduğunu belirterek daha acil bir soruna dikkat çekti: yapay zeka destekli biyoterörizm ve siber saldırıları durdurmak için yeterince şey yapılmıyor.
Gates, birisi onu söküp atmaya karar verene kadar sağlam görünen bir güvenlik düzenini anlattı. Geliştiricilerin siber saldırılara ve biyolojik silahlara karşı korumalar yerleştirdiğini, ancak bu korumaların şu anda tamamen kaldırılabileceğini söyledi. Teknik olarak mümkün olanla fiilen uygulanan arasındaki bu boşluk, tehlikenin yoğunlaştığını gördüğü yer.
Önümüzdeki yıl: siber saldırılar spot ışığında
Gates, önümüzdeki on iki ay içinde yapay zekanın kötüye kullanımının en çarpıcı şekilde siber saldırılarda ortaya çıkmasını bekliyor. Fidye yazılımları veya piyasa manipülasyonunu takip eden herkesin aşina olduğu bir iş modeli çizdi: bir hedefi tehdit edip ödeme talep etmek ya da bir hisse senedi fiyatını hareket ettirecek veya bir bahsi etkileyecek kadar kesinti yaratmak. Yapay zeka, her iki versiyonu da çalıştırmayı daha ucuz ve izini sürmeyi daha zor hale getiriyor.
Bu öngörü, güvenlik araştırmacılarının takip ettiğiyle örtüşüyor. Ağustos ayında OpenAI, 100'den fazla kuruluşun imzaladığı siber savunma konulu bir açık mektup yayımladı. Mektupta, yapay zeka destekli siber saldırıların önümüzdeki aylarda çok daha yaygın ve sofistike hale geleceği belirtildi. Bu, uzak bir geleceğe dair bir tahmin değil, mevcut gidişata dair bir uyarıydı.
Sahadan rakamlar
Geçtiğimiz yıla ait birkaç veri noktası, Gates'in tarif ettiği kötüye kullanımın halihazırda sürdüğünü gösteriyor. Tayvanlı güvenlik firması TeamT5, Çin devletiyle bağlantılı grupların rutin işleri yapay zekaya devrettikten sonra saldırı hacimlerini iki katına çıkardığını buldu. Chainalysis, 2025 ortalarında kötü amaçlı kod üzerinde hiçbir sınırlama olmayan açık ağırlıklı Çin modellerinin ortaya çıkmasının ardından zincir üzerinde yazılan kötü amaçlı yazılım talimatlarında %440'lık bir artış izledi. CrowdStrike ise birkaç Güney Kore bankası ihlalini, yapay zeka araçları kullanan ve muhtemelen finansal motivasyonlu bir saldırgana bağladı.
Bu olayların hiçbiri, bir yapay zekanın yaratıcılarını zekada geçmesini gerektirmedi. Bir yapay zekanın angarya işleri daha hızlı ve ölçekli yapmasını gerektirdi. Gates'in tarif ettiği model bu: sıradan suçlular ve devlet aktörleri verimlilik artışı elde ediyor, kontrolden çıkmaya karar veren yeni bir dijital yaşam formu değil.
Güvenlik önlemleri neden kayıp gidiyor
Gates'in çerçevelediği şekilde sorun, güvenlik önlemlerinin var olmaması değil. Sorun, bunların gönüllü, yamalanabilir veya basitçe kaldırılabilir olması. Bugün bir biyolojik silah konusunda yardım etmeyi reddeden bir model, yarın ince ayar yapılabilir veya jailbreak ile kandırılabilir. Açık ağırlıklı sürümler bunu daha da kolaylaştırıyor — ağırlıklar bir kez ortaya çıktığında, bir durdurma anahtarı yok.
Bu da bir düzenleyici boşluk bırakıyor. Gates röportajda belirli bir politika önerisi sunmadı, ancak "şu anda sökülüp atılabilecek" şeylere yaptığı vurgu, yasama organlarında ve standart kuruluşlarında halihazırda oynanan bir tartışmaya işaret ediyor: tehlikeli işler yapabilen modeller için sabit kodlu sınırlamalar, denetim izleri veya lisanslama zorunlu hale getirilmeli mi?
Şimdilik, güvenlik önlemleri duvarlardan çok hız tümsekleri gibi. Ve Gates'in endişelendiği insanlar, etraflarından nasıl dolaşacaklarını çoktan çözmüş durumda.
Neye dikkat etmeli
Bir sonraki somut test, yapay zeka destekli saldırı eğilimlerini izleme ve raporlama sözü veren açık mektubun imzacılarından gelecek. İlk kamuya açık güncellemelerinin önümüzdeki aylarda gelmesi bekleniyor. O zamana kadar en net sinyal, zincir üzerindeki %440'lık kötü amaçlı yazılım artışının tırmanmaya devam edip etmeyeceği veya savunucuların bu güvenlik önlemlerini kalıcı hale getirmenin bir yolunu bulup bulamayacağı olacak.
