Donald Trump se vyslovil pro nezávislé audity bezpečnosti AI v rámci přelomové dohody se Silicon Valley a upřednostnil samoregulaci před novou legislativou. Dohoda oznámená tento týden znamená posun v přístupu USA k řízení umělé inteligence, když prezident vyjádřil podporu dobrovolným kontrolám namísto zákonných pravidel.
Dohoda nevytváří nové agentury ani donucovací pravomoci. Místo toho žádá společnosti, aby se podrobily externím auditům svých systémů AI a dodržovaly bezpečnostní pokyny, na jejichž tvorbě se samy podílejí. Tento přístup získal podporu průmyslových lídrů, kteří se obávají přílišné regulace, ale ponechává otevřené otázky, kdo audity provádí a co se stane, pokud společnost u auditu neuspěje.
Tlak na samoregulaci
Trumpův souhlas zazněl během setkání s technologickými manažery v Silicon Valley, podle lidí obeznámených s jednáním. Prezident opakovaně varoval, že přísná pravidla pro AI by mohla přesunout inovace do zahraničí, zejména do Číny. Tím, že podpořil audity místo legislativy, se přiklání k názoru, který je v odvětví populární: nechat společnosti, aby se samy kontrolovaly, s vnějším ověřením.
Dohoda zdůrazňuje, že vývojáři AI by měli dobrovolně přijmout bezpečnostní standardy a otevřít své systémy nezávislému přezkumu. Nespecifikuje sankce za nedodržení ani nenařizuje účast. To se liší od návrhů v Kongresu a Evropské unii, které prosazovaly závazné požadavky a pokuty.
Co dohoda vlastně říká
Podrobnosti zůstávají nejasné. Dohoda, popsaná jako soubor principů spíše než závazná smlouva, vyzývá k nezávislým auditům k posouzení rizik, jako jsou předsudky, bezpečnostní zranitelnosti a možné zneužití. Rovněž vybízí společnosti ke sdílení osvědčených postupů a k vytváření interních bezpečnostních týmů.
Není však jasné, kdo by audity prováděl. Nezávislé firmy existují, ale samy nejsou regulovány. A bez právní síly by společnosti mohly dohodu ignorovat bez následků. Zastánci tvrdí, že veřejný tlak a reputační riziko udrží firmy v souladu. Kritici říkají, že to nestačí pro technologii, která již mění ekonomiky a armády.
Dohoda by mohla vytvořit precedent pro řízení technologií daleko za hranicemi AI. Pokud zde samoregulace funguje, mohla by se stát modelem pro další vznikající technologie, od kvantových počítačů po biotechnologie. Pokud selže, mohla by podnítit volání po přísnějších zákonech.
Trumpova angažovanost také signalizuje, že politika AI bude politickým tématem v nadcházejících volbách. Vsází na to, že lehká regulace osloví jak technologické dárce, tak voliče znepokojené přílišným zasahováním vlády. Zda se tato sázka vyplatí, závisí na tom, zda audity přinesou důvěryhodné výsledky – a zda jim veřejnost bude důvěřovat.
Prozatím je dohoda prohlášením o záměru. Společnosti, které se připojí, čeká první zkouška, až nezávislí auditoři zahájí svou práci, pravděpodobně v příštím roce. Bílý dům neuvedl, jak bude sledovat dodržování nebo zda zveřejní výsledky auditů.
Kongres mezitím stále zvažuje vlastní zákony o AI. Někteří zákonodárci kritizovali přístup samoregulace jako příliš slabý a mohli by prosazovat legislativu, pokud audity nepřinesou výsledky. Technologický průmysl pozorně sleduje – mnoho firem preferuje dohodu před alternativou nových zákonů, ale také vědí, že vysoce sledované selhání by mohlo vyvolat právě to.
Další konkrétní krok? Sledujte první kolo auditů a zda některá velká společnost AI odmítne účast. To ukáže, zda má tato dohoda zuby, nebo je jen dalším tiskovým prohlášením.
