Podle zdrojů obeznámených s touto záležitostí se společnosti Anthropic a OpenAI údajně snaží získat kontrolu nad publikacemi hodnotitelů. Tyto dvě přední AI společnosti chtějí mít slovo v tom, co mohou nezávislí hodnotitelé o jejich modelech publikovat. Tento krok vyvolal obavy, že by mohl podkopat transparentnost a důvěru v AI průmysl, a otevírá ožehavé otázky ohledně obchodního tajemství.
Tlak na kontrolu publikací hodnotitelů
Hodnotitelé – často výzkumníci nebo organizace třetích stran – testují AI systémy z hlediska bezpečnosti, zaujatosti a výkonu. Jejich zjištění jsou obvykle zveřejňována otevřeně, což umožňuje veřejnosti, regulátorům a dalším společnostem posoudit technologii. Nyní se však Anthropic a OpenAI údajně snaží získat větší kontrolu nad tím, co bude zveřejněno. Přesný mechanismus není jasný: může zahrnovat smlouvy, procesy kontroly nebo omezení zveřejňování určitých podrobností. Obě společnosti zdůraznily potřebu chránit obchodní tajemství s argumentem, že neomezené zveřejnění by mohlo dát konkurentům výhodu nebo odhalit citlivé metody. Stejné utajení však také může skrývat nedostatky.
Proč je transparentnost důležitá pro důvěru v AI a inovace
Transparentnost je základním kamenem AI výzkumu. Když hodnotitelé zveřejní své metody a výsledky, ostatní mohou testy reprodukovat, odhalit slabiny a stavět na úspěších. Tento cyklus pohání inovace a buduje důvěru veřejnosti. Pokud mohou společnosti vetovat nebo ovlivňovat publikace hodnotitelů, tento cyklus se rozpadá. Nezávislí výzkumníci mohou váhat upozornit na problémy, pokud se obávají negativní reakce. Uživatelé se nemusí o rizicích dozvědět, dokud nebude pozdě. A regulátoři, kteří již tak obtížně drží krok s AI, by měli méně materiálu, se kterým by mohli pracovat. Dotčenými stranami nejsou jen společnosti a hodnotitelé; zahrnují každého, kdo se spoléhá na AI systémy – což je stále více každý.
Dilema obchodního tajemství
Zde existuje skutečné napětí. AI modely jsou nákladné na vývoj a společnosti mají oprávněné zájmy na ochraně proprietárních technik. Právo obchodního tajemství umožňuje podnikům uchovávat určité informace v důvěrnosti, pokud podniknou přiměřené kroky k jejich ochraně. Ale aplikovat tento rámec na publikace hodnotitelů je složité. Hodnotitelé potřebují dostatečný přístup k výkonu své práce a veřejnost potřebuje dostatek informací, aby důvěřovala výsledkům. Příliš široké nároky na utajení by mohly potlačit právě tu kontrolu, která činí AI bezpečnější. Anthropic a OpenAI veřejně nepodrobně popsaly své návrhy, takže není jasné, kde by stanovily hranici. Co se počítá jako obchodní tajemství versus veřejný bezpečnostní zájem? O tuto otázku se pravděpodobně povedou spory ve smlouvách, u soudů a v politických debatách.
Co je v sázce pro AI průmysl
AI průmysl bedlivě sleduje. Pokud Anthropic a OpenAI uspějí v kontrole publikací hodnotitelů, mohou je následovat další společnosti. To by mohlo vytvořit precedens pro to, jak AI firmy komunikují s nezávislými testery. Startupy a menší hráči by mohli cítit tlak přijmout podobné politiky, aby zůstali konkurenceschopní. Mezitím by akademičtí a neziskoví hodnotitelé mohli zjistit, že jejich práce je omezena. Někteří mohou odmítnout podepsat restriktivní dohody, což sníží počet nezávislých odborníků. Jiní mohou vyhovět, ale cenzurovat sami sebe. Ať tak či onak, kvalita a množství veřejných hodnocení by mohly utrpět. Výsledek ovlivní nejen to, co víme o AI systémech, ale také to, kdo rozhoduje o tom, co je bezpečné.
Zatím žádné jasné řešení
Ani Anthropic, ani OpenAI neoznámily formální politiku nebo časový plán. Diskuse údajně pokračují a žádné dohody nebyly zveřejněny. Prozatím je situace proměnlivá. Hodnotitelé, výzkumníci a watchdogové skupiny pravděpodobně vystoupí proti, pokud se objeví konkrétní omezení. Regulátoři v USA i v zahraničí, kteří již připravují pravidla pro AI, mohou projevit zájem. Základní konflikt – mezi ochranou obchodního tajemství a zachováním transparentnosti – nebude snadné vyřešit. Jak budou Anthropic a OpenAI postupovat, bude testovacím případem pro celé odvětví. A pro každého, kdo používá AI, je v sázce hodně: méně transparentnosti by mohlo znamenat více skrytého rizika.
