Anthropic Institute nastínil novou výzkumnou agendu, která přesouvá pozornost od čistě technického pokroku k ekonomickým, společenským a bezpečnostním dopadům umělé inteligence. Agenda zveřejněná institutem klade důraz na transparentnost a veřejnou spolupráci jako základní principy.
Širší pohled na dopad AI
Agenda pokrývá tři hlavní oblasti. Na ekonomické frontě plánují výzkumníci zkoumat, jak by AI mohla přetvořit trhy práce, rozdělení příjmů a konkurenci v průmyslu. Společenská část se zaměří na dopady na sociální soudržnost, dezinformace a nerovnost. Bezpečnostní obavy zahrnují rizika zneužití, nepřátelské útoky a možnost, že AI zesílí stávající hrozby.
Institut uvádí, že cílem je vytvořit praktická zjištění, která přesahují typické debaty o bezpečnosti AI. Chtějí pochopit nejen to, jak učinit systémy bezpečnějšími, ale také jak je nasměrovat k širokému veřejnému prospěchu. To znamená studovat jak výhody, tak nevýhody s ohledem na politiku a regulaci.
Transparentnost a veřejná spolupráce jako pilíře
Klíčovým bodem agendy je výzva k otevřenosti. Anthropic Institute uvedl, že bude své metody, data a zjištění sdílet veřejně, kde to bude možné. Chce také spolupracovat s externími výzkumníky, komunitními skupinami a vládními orgány – nejen s obvyklými hráči z technologického průmyslu.
„Transparentnost je nezbytná, pokud si má výzkum AI získat důvěru veřejnosti,“ stojí v prohlášení institutu. Agenda výslovně zve ke spolupráci zainteresované strany, které byly v minulých debatách o AI opomíjeny, včetně pracovníků, malých podniků a organizací občanské společnosti.
Co agenda znamená pro správu AI
Tento krok přichází v době, kdy vlády po celém světě usilovně vytvářejí pravidla pro AI. Zaměření institutu na ekonomické a společenské dopady je v souladu s obavami regulátorů v USA, EU i jinde. Agenda však nepodporuje žádnou konkrétní politiku. Místo toho nabízí rámec pro shromažďování důkazů, které by mohly informovat budoucí zákony.
Institut rovněž poznamenává, že současný výzkum často ignoruje dlouhodobé rozdělení přínosů AI. Jejich agenda se to snaží napravit tím, že upřednostňuje studie o tom, kdo vyhrává a kdo prohrává, jak se AI šíří.
Dalším krokem Anthropic Institute bude zahájení konkrétních projektů v rámci této agendy. Zatím neuvedli časový plán ani rozpočet. Samotná agenda je však jasným signálem, že institut plánuje hrát aktivnější roli při utváření toho, jak se společnost připraví na širší dopady AI.
