Anthropic's Project Glasswing har identifisert mer enn 10 000 programvarefeil ved hjelp av sitt Claude AI-system, opplyser selskapet. Funnet understreker en økende kløft: AI kan oppdage feil langt raskere enn menneskelige team kan fikse dem.
Hva Project Glasswing fant
Innenfor prosjektet gjennomsøkte Claude kodebasene og identifiserte sikkerhetssvakheter med en fart ingen menneskelig gjennomgang kan matche. De over 10 000 feilene dekker ulike alvorlighetsgrader, selv om selskapet ikke oppga hvor mange var kritiske. Det som er viktig, ifølge involverte, er den rene mengden. Automatisert deteksjon i denne skalaen er ny, og den stiller spørsmålet om hvordan man kan holde tritt.
Korrigeringskløften
Tallene avslører en flaskehals. AI-drevet oppdagelse overstiger nå langt kapasiteten til utviklings- og sikkerhetsteam for å korrigere eller avbøte hver enkelt feil. En enkelt feil kan ta dager eller uker å fikse ordentlig, avhengig av dens kompleksitet og det systemet den påvirker. Multipliser det med 10 000, og matematikken fungerer ikke med dagens personell og verktøy. Resultatet er en oppsatt liste som etterlater organisasjoner utsatt.
Cybersikkerhetsteam kampes allerede med advarselstrøtthet og begrensede ressurser. Project Glasswing viser at AI kan dramatisk forbedre deteksjonsdelen av problemet, men korrigeringsdelen sitter fortsatt fast i manuelle arbeidsflyter. Uten en tilsvarende fremgang i automatisert korrigeringsprosess eller prioritering, vil kløften bare videre. Anthropic har ikke foreslått en spesifikk løsning, men prosjektets funn gjør ubalansen umulig å overse.
Selskapet forventes å gi ut flere tekniske detaljer om de oppdagede feilene de kommende ukene. For nå står bransjen overfor et enkelt, men vanskelig spørsmål: hvordan kan man korrigere raskere enn en AI kan finne?
