Project Glasswing i Anthropic ka identifikuar më shumë se 10,000 dobësi të softuerit duke përdorur sistemin e tij Claude AI, sipas njoftimit të kompanisë. Ky zbulim nxjerr në pah një hendek në rritje: AI mund të zbulojë defekte shumë më shpejt se sa ekipet njerëzore mund t'i rregullojnë ato.
Çfarë gjeti Project Glasswing
Brenda projektit, Claude shqyrtoi bazat e kodit dhe shënoi dobësi sigurie me një ritëm që asnjë rishikim njerëzor nuk mund ta përputhte. Më shumë se 10,000 dobësi përfshijnë një gamë të gjerë ashpërsie, megjithëse kompania nuk specifikoi sa prej tyre ishin kritike. Ajo që ka rëndësi, sipas të përfshirëve, është vëllimi i madh. Zbulimi i automatizuar në këtë shkallë është i ri dhe shtron pyetjen se si të mbash ritmin.
Hendeku i rregullimit
Numrat zbulojnë një pengesë. Zbulimi i drejtuar nga AI tani tejkalon shumë aftësinë e ekipeve të zhvillimit dhe sigurisë për të rregulluar ose zbutur çdo problem. Një dobësi e vetme mund të marrë ditë ose javë për t'u rregulluar siç duhet, në varësi të kompleksitetit dhe sistemit që prek. Shumëzojeni këtë me 10,000 dhe matematika nuk funksionon me stafin dhe mjetet aktuale. Rezultati është një radhë e papërfunduar që i lë organizatat të ekspozuara.
Ekipet e sigurisë kibernetike tashmë përballen me lodhje nga alarmet dhe burime të kufizuara. Project Glasswing tregon se AI mund të fuqizojë pjesën e zbulimit të problemit, por pjesa e rregullimit mbetet e mbërthyer në procese manuale. Pa një përparim paralel në rregullimin ose triazhimin e automatizuar, hendeku do të zgjerohet. Anthropic nuk ka propozuar një zgjidhje specifike, por gjetjet e projektit e bëjnë çekuilibrin të pamundur për t'u injoruar.
Kompania pritet të publikojë më shumë detaje teknike për dobësitë e zbuluara në javët e ardhshme. Për momentin, industria përballet me një pyetje të drejtpërdrejtë por të vështirë: si të rregullosh më shpejt se sa AI mund të gjejë?
