Papež Lev XIV. tento týden zveřejnil encykliku o umělé inteligenci, v níž varuje, že tato technologie představuje závažná etická rizika, pokud zůstane nekontrolovaná. Dokument s názvem Veritatis et Machinae rovněž oznamuje partnerství s AI společností Anthropic, což signalizuje snahu Vatikánu vnést morální odpovědnost do návrhu a nasazení systémů AI.
Proč Vatikán zasáhl
Encyklika rámuje AI jako více než jen technický nástroj – je to nástroj morální. Papež argumentuje, že bez jasných etických mantinelů by AI mohla prohloubit nerovnost, narušit soukromí a soustředit moc v rukou několika málo lidí. Text vyzývá k vytvoření rámce postaveného na spravedlnosti a lidské důstojnosti, nikoli pouze na efektivitě nebo zisku.
Nejde o první případ, kdy se katolická církev vmísila do etiky technologií, ale je to ten nejpřímější. Partnerství s Anthropic dává dokumentu konkrétní průmyslové propojení – se společností známou svým přístupem „konstituční AI“, který se snaží sladit modely s explicitními hodnotami.
Co partnerství znamená
Anthropic bude Vatikánu poskytovat technické rady ohledně bezpečnosti AI. Na oplátku církev propůjčuje morální autoritu práci Anthropicu. Encyklika nepodporuje žádnou konkrétní společnost, ale tato spolupráce je pro papežský dokument neobvyklá. Naznačuje, že Vatikán chce praktické vstupy, nejen abstraktní principy.
Zmíněna jsou také digitální aktiva. Encyklika varuje, že kryptoměny a systémy založené na blockchainu mohou udržovat stejné nerovnosti jako AI – pokud nejsou navrženy s ohledem na spravedlnost. Papež vyzývá k „spravedlnosti od samotného návrhu“ v obou oblastech.
Potenciální dopady
Papežské encykliky mají váhu daleko za hranicemi katolických kruhů. Čtou je diplomaté, etici a někdy i regulátoři. Tato by mohla formovat debaty v OSN a Evropské unii, kde se stále píší zákony o AI. Důraz na spravedlnost by mohl posunout vyjednavače směrem k silnější ochraně spotřebitelů.
Je příliš brzy říci, zda některá vláda encykliku v legislativě uvede. Vatikán má ale historii ovlivňování sociální politiky – v oblasti klimatu, oddlužení a lidských práv. Etika AI by mohla být další na řadě.
Papež neuvedl časový rámec pro další kroky. Encyklika prozatím slouží jako ukazatel, soubor principů, které mohou technologické společnosti a zákonodárci buď přijmout, nebo ignorovat. Partnerství s Anthropic poskytuje jednu konkrétní cestu; zda ji budou následovat i další, je otevřenou otázkou, kterou církev nyní postavila přímo před svět.
