De New York Stock Exchange en haar moederbedrijf ICE Markets brengen een nieuw AI-systeem genaamd Claude Mythos, ontwikkeld door Anthropic, in om cyberbeveiligingstaken te verzorgen. De implementatie markeert een van de meest prominente toepassingen van generatieve AI in de verdedigingsoperaties van de financiële sector.
Wat Claude Mythos aan Financiële Veiligheid Bijdraagt
Claude Mythos is ontworpen om kwetsbaarheden sneller te detecteren dan traditionele tools. De NYSE en ICE Markets willen het inzetten om bedreigingen te scannen op hun netwerken, die onder andere handelsplatforms en clearing systemen omvatten die dagelijks biljoenen dollars verwerken. Voorstanders van de integratie zeggen dat het de manier waarop financiële instellingen beveiligingsgaten identificeren en aanpakken, kan revolutioneren.
Het gereedschap is gebaseerd op Anthropic's grote taalmodeltechnologie, specifiek aangepast voor cyberbeveiligingstaken. Het kan logs analyseren, afwijkingen signaleren en correctiestappen voorstellen. De bedrijven hopen dat het de tijd tussen het opduiken van een kwetsbaarheid en de toepassing van een patch zal verkorten.
Zorgen over Systematische Afhankelijkheid van AI
Niet iedereen in de sector viert dit. De implementatie werpt vragen op over wat er gebeurt als een kritieke beveiligings-AI een fout maakt of een bedreiging overziet. Financiële markten functioneren op snelheid en vertrouwen, en een valse alarm van Claude Mythos zou onnodige handelsstopzettingen kunnen veroorzaken of resources naar denkbeeldige bedreigingen kunnen sturen.
Er is ook een dieper liggende zorg over systematische afhankelijkheid. Als elke grote beurs begint te vertrouwen op vergelijkbare AI-systemen, zou een enkele fout in het model door de hele markt kunnen doorlopen. Regulatoren hebben nog geen formele richtlijnen uitgegeven over het gebruik van generatieve AI in dit kader, en de stap van de NYSE zet hen onder druk om dat te doen.
Anthropic heeft niet onthuld hoe Claude Mythos omgaat met randgevallen of of zijn besluitvorming volledig kan worden geauditeerd. Deze details zullen belangrijk zijn naarmate het systeem begint met het filteren van echte financiële verkeer.
De implementatie is al van start gegaan. Hoe het presteert in de komende maanden zal bepalen of andere beurzen het voorbeeld zullen volgen — of dat voorzichtigheid de overhand krijgt.
