Společnost Anthropic tento týden vydala svůj nejnovější model umělé inteligence Claude Mythos, který se pyšní vestavěnými bezpečnostními zárukami. Toto uvedení však již vyvolává ostrá varování ze světa kryptoměnové bezpečnosti. Rizikový kapitalista Simon Dedic uvedl, že nová generace modelů Anthropicu snižuje náklady a dovednosti potřebné k nalezení krypto exploitů na „v podstatě nulu“ – tvrzení, které staví celé odvětví do pohotovosti.
Co přináší Claude Mythos
Model je vybaven tím, co Anthropic nazývá „ústavními zábranami“, které mají zabránit zneužití. Společnost Mythos prezentuje jako dosud nejbezpečnější verzi. Ale základní schopnost, která přitahuje pozornost bezpečnostních výzkumníků, je tato: stejná uvažovací síla, která pomáhá vývojářům psát bezpečný kód, může v nesprávných rukou najít jeho slabiny.
Dedicovo varování
Simon Dedic, rizikový kapitalista zaměřený na krypto infrastrukturu, nebral servítky. Tento týden v prohlášení uvedl, že nejnovější modely Anthropicu fakticky demokratizují objevování exploitů – činí je levnými a dostupnými komukoli se zlými úmysly. Neuvedl konkrétní testy ani příklady, ale jeho tvrzení přichází v době, kdy kryptoplatformy už tak sotva stíhají dostatečně rychle opravovat zranitelnosti.
Prostředí exploitů
Není to poprvé, co byla umělá inteligence označena za rostoucí hrozbu pro bezpečnost blockchainu. Ale Dedicovo vyjádření – „v podstatě nulové“ náklady a dovednosti – naznačuje, že laťka brzy prudce klesne. Pokud je přesné, znamená to, že malí útočníci by brzy mohli operovat na úrovni dříve vyhrazené elitním hackerským týmům. Načasování není ideální: průmysl se stále potýká s nevyřešenými chybami v chytrých kontraktech z minulého roku.
Co bude dál
Anthropic na Dedicovy poznámky nereagoval. Bezpečnostní záruky v Claude Mythos nebyly ve velkém měřítku testovány proti motivovanému protivníkovi. Zda obstojí – nebo zda se kryptosektor bude muset urychleně pustit do vlastních obranných AI nástrojů – zůstává otevřenou otázkou bez jasného termínu.
