Anthropic Institute przedstawił nowy program badawczy, który przesuwa akcent z czystego postępu technicznego na ekonomiczne, społeczne i bezpieczeństwa implikacje sztucznej inteligencji. Program, opublikowany przez instytut, kładzie nacisk na przejrzystość i współpracę publiczną jako kluczowe zasady.
Szersze spojrzenie na wpływ AI
Program obejmuje trzy główne obszary. Na froncie ekonomicznym badacze planują zbadać, jak AI może przekształcić rynki pracy, dystrybucję dochodów i konkurencję branżową. Część społeczna skupi się na wpływie na spójność społeczną, dezinformację i nierówności. Kwestie bezpieczeństwa obejmują ryzyka związane z nadużyciami, atakami adversarialnymi oraz potencjałem AI do wzmacniania istniejących zagrożeń.
Instytut twierdzi, że celem jest uzyskanie praktycznych wniosków wykraczających poza typowe debaty na temat bezpieczeństwa AI. Chcą zrozumieć nie tylko, jak uczynić systemy bezpieczniejszymi, ale jak kierować je ku szerokiemu pożytkowi publicznemu. Oznacza to badanie zarówno zalet, jak i wad, z uwzględnieniem polityki i regulacji.
Przejrzystość i współpraca publiczna jako filary
Kluczowym punktem programu jest wezwanie do otwartości. Anthropic Institute oświadczył, że będzie publicznie udostępniać swoje metody, dane i wyniki tam, gdzie to możliwe. Chce także współpracować z zewnętrznymi badaczami, grupami społecznymi i organami rządowymi – nie tylko z typowymi graczami z branży technologicznej.
„Przejrzystość jest niezbędna, jeśli badania nad AI mają zdobyć zaufanie publiczne” – głosi oświadczenie instytutu. Program wyraźnie zaprasza do współpracy interesariuszy, którzy byli pomijani w dotychczasowych debatach o AI, w tym pracowników, małe firmy i organizacje społeczeństwa obywatelskiego.
Co program oznacza dla zarządzania AI
Ten krok następuje w momencie, gdy rządy na całym świecie starają się opracować przepisy dla AI. Skupienie instytutu na wpływie ekonomicznym i społecznym jest zgodne z obawami regulatorów w USA, UE i innych krajach. Program nie popiera jednak żadnej konkretnej polityki. Zamiast tego oferuje ramy do zbierania dowodów, które mogłyby pomóc w kształtowaniu przyszłych przepisów.
Instytut zauważa również, że obecne badania często ignorują długoterminową dystrybucję korzyści z AI. Ich program stara się to skorygować, priorytetowo traktując badania nad tym, kto zyskuje, a kto traci w miarę rozprzestrzeniania się AI.
Kolejnym krokiem Anthropic Institute będzie uruchomienie konkretnych projektów w ramach tego programu. Nie podano jeszcze harmonogramu ani budżetu. Sam program jest jednak wyraźnym sygnałem, że instytut planuje odgrywać bardziej aktywną rolę w kształtowaniu tego, jak społeczeństwo przygotowuje się na szersze skutki AI.
