교황 레오 14세가 이번 주 인공지능에 관한 회칙을 발표하며, 이 기술이 통제되지 않을 경우 심각한 윤리적 위험을 초래할 수 있다고 경고했다. Veritatis et Machinae라는 제목의 이 문서는 AI 기업 Anthropic과의 파트너십도 발표하는데, 이는 교황청이 AI 시스템의 설계와 배포에 도덕적 책임을 내재화하려는 움직임을 시사한다.
교황청이 나선 이유
회칙은 AI를 단순한 기술 도구가 아닌 도덕적 도구로 규정한다. 교황은 명확한 윤리적 가이드라인이 없다면 AI가 불평등을 심화하고, 프라이버시를 침해하며, 소수의 손에 권력을 집중시킬 수 있다고 주장한다. 문서는 효율성이나 이익만이 아니라 평등과 인간 존엄성에 기반한 프레임워크를 요구한다. 가톨릭 교회가 기술 윤리에 뛰어든 것은 이번이 처음이 아니지만, 가장 직접적인 개입이다. Anthropic과의 파트너십은 문서에 구체적인 산업 연계를 부여했다. Anthropic은 '헌법적 AI' 접근법으로 알려진 기업으로, 모델을 명시적 가치에 정렬시키려고 한다.
파트너십의 의미
Anthropic은 AI 안전성의 기술적 측면에 대해 교황청에 자문할 것이다. 그 대가로 교회는 Anthropic의 작업에 도덕적 권위를 빌려준다. 회칙은 특정 기업을 지지하지 않지만, 이 협력은 교황 문서로서는 이례적이다. 이는 교황청이 추상적 원칙뿐만 아니라 실질적인 의견을 원한다는 것을 시사한다. 디지털 자산도 언급된다. 회칙은 암호화폐와 블록체인 기반 시스템이 공정성을 염두에 두고 설계되지 않으면 AI와 동일한 불평등을 영속시킬 수 있다고 경고한다. 교황은 두 분야 모두에서 '설계 단계부터의 공정성(equity by design)'을 촉구한다.
잠재적 파급 효과
교황 회칙은 가톨릭계를 훨씬 넘어서는 영향력을 지닌다. 외교관, 윤리학자, 때로는 규제 당국자들도 읽는다. 이번 회칙은 AI 법률이 아직 작성 중인 유엔과 유럽연합의 논의에 영향을 미칠 수 있다. 공정성에 대한 강조는 협상가들을 더 강력한 소비자 보호 쪽으로 이끌 수 있다. 어떤 정부가 회칙을 입법에 인용할지 아직 판단하기 이르다. 그러나 교황청은 기후, 부채 경감, 인권 등 사회 정책에 영향을 미친 전력이 있다. AI 윤리가 다음이 될 수 있다. 교황은 다음 단계에 대한 일정을 제시하지 않았다. 현재로서 회칙은 하나의 지표, 즉 기술 기업과 입법자가 채택하거나 무시할 수 있는 원칙 세트로 남아 있다. Anthropic과의 파트너십은 하나의 구체적인 경로를 제공한다. 다른 이들이 따를지 여부는 교회가 이제 세계 앞에 명확히 제시한 열린 질문이다.
