교황의 AI 경고 바벨탑과 예루살렘 사이에서 선택해야 할 시대

2026년 5월 25일, 가톨릭 교회의 수장인 교황 레오 14세가 첫 회칙(Encyclical) ‘마니피카 후마니타스(Magnifica Humanitas)‘를 발표했습니다. 교황이 교회와 전 세계를 향해 발표하는 최고 수준의 공식 문헌인 회칙에서, 그는 인공지능(AI)을 성경 속 바벨탑에 비유했습니다.

레오 14세는 AI 시대를 인간이 바벨탑을 건설할지, 예루살렘을 재건할지 선택해야 하는 순간이라고 표현했습니다. 성경 속 바벨탑은 인간의 오만함, 권력 집중, 강제적 획일화를 상징합니다. 반면 예루살렘 재건은 공동체와 연대를 통해 사회를 복원하는 과정을 의미합니다.

이번 심층분석에서는 교황의 AI 경고 메시지를 자세히 살펴보고, 그것이 기술 기업들과 우리 사회에 던지는 의미를 분석하겠습니다.

회칙의 핵심 내용 세 가지 경고

첫째 권력 집중의 문제

레오 14세는 AI의 가장 큰 위험 중 하나로 소수의 빅테크 기업에 대한 권력 집중을 지목했습니다. 그는 AI가 이미 경제적 자원과 데이터, 기술력을 가진 이들의 힘을 더 키우는 방향으로 작동하고 있다고 지적했습니다.

교황은 보다 강력한 표현을 사용했습니다. 소수의 영향력 있는 집단이 정보와 소비, 민주주의와 경제 질서까지 자신들에게 유리한 방향으로 움직일 수 있습니다. 이는 실리콘밸리의 빅테크 기업들을 직접 겨냥한 비판으로 해석됩니다.

흥미롭게도 이 회칙 발표 현장에는 AI 스타트업 앤트로픽(Anthropic)의 공동창업자이자 안전 연구자인 크리스토퍼 올라(Christopher Olah)가 참석했습니다. 올라는 AI 기업들은 상업적 압력과 경쟁, 야망에 영향을 받을 수밖에 없다며, 기술 기업 바깥에서 비판적 목소리를 내는 존재가 필요하다고 말했습니다.

둘째 인간 존엄성의 위기

교황은 AI가 단순한 도구를 넘어 인간 삶의 근본적인 방식을 바꾸고 있다고 진단했습니다. AI를 새로운 인지 산업혁명으로 규정하며, 인간의 차이를 지우고 사람을 데이터와 성과로만 평가하는 방향으로 흘러가고 있다고 우려했습니다.

특히 그는 AI가 반인간적 비전을 정상화할 위험이 있다고 경고했습니다. 기술 발전 과정에서 인간의 한계와 불완전함 자체를 제거하려 해서는 안 된다는 것입니다. 효율성만을 추구하는 사회는 결국 인간을 시스템의 부품으로 전락시킬 수 있습니다.

셋째 자율무기 체계의 위험

교황은 자율무기 시스템에 대해서도 명확한 경고를 보냈습니다. 인간의 통제를 벗어난 자율무기 체계가 등장하고 있으며, AI가 전쟁을 더 비인간적이고 통제 불가능한 방향으로 만들 수 있다고 지적했습니다.

이는 기존의 자율무기 금지 캠페인에 종교적 권위자의 목소리가 더해진 것으로, 전 세계 군비 통제 논의에 상당한 영향을 미칠 전망입니다.

윤리 선언을 넘어 법적 규제를 요구하다

독립적 감독 체계의 필요성

교황의 이번 발언이 특히 주목받는 이유는 단순한 윤리적 권고를 넘어섰기 때문입니다. 그는 윤리라는 추상적 구호만으로는 충분하지 않다며, 강력한 법적 규제와 독립적인 감독 체계가 필요하다고 주장했습니다.

기술 기업들의 자발적 윤리 강령만으로는 이 문제를 해결할 수 없다는 판단입니다. 법의 강제력이 있는 규제와, 기업으로부터 독립된 감독 기관이 필요하다는 주장입니다.

10년간 이어진 바티칸-실리콘밸리 대화의 결정체

이번 회칙은 하루아침에 나온 것이 아닙니다. 지난 10여 년간 바티칸과 실리콘밸리 사이에서 계속되어 온 AI 윤리 논의의 결과물입니다.

바티칸은 비교적 이른 시기부터 AI의 윤리적 문제에 관심을 가져왔습니다. 2020년에는 로마 가톨릭 교회, IBM, 마이크로소프트가 함께 로마 AI 윤리 호칭(Rome Call for AI Ethics)을 발표하기도 했습니다. 이번 회칙은 그러한 논의를 교황 공식 문헌의 최고 수준으로 격상시킨 것입니다.

빅테크의 반응과 향후 영향

앤트로픽 공동창업자의 참석 의미

회칙 발표 현장에 앤트로픽의 공동창업자가 참석한 것은 우연이 아닙니다. 앤트로픽은 오픈AI 출신 연구자들이 설립한 AI 안전 스타트업으로, AI의 위험성에 대해 가장 적극적으로 목소리를 내는 기업 중 하나입니다.

올라의 발언, AI 기업들은 상업적 압력과 경쟁, 야망에 영향을 받을 수밖에 없다는 것은 중요한 자기 성찰로 읽힙니다. 기업 내부에서조차 AI 안전을 위해 목소리를 내는 사람들이 존재하며, 그들은 교황과 같은 외부의 목소리를 환영한다는 의미로 해석됩니다.

전 세계 AI 규제 논의에 미칠 영향

교황의 발언은 종교적 권위를 넘어 전 세계적인 정책 논의에 영향을 미칠 가능성이 높습니다. 특히 유럽연합(EU)의 AI 법안(AI Act)이나 유엔(UN)의 AI 거버넌스 논의에서 종교계의 목소리는 점점 더 중요한 변수가 되고 있습니다.

또한 가톨릭 신자가 많은 국가들(남미, 필리핀, 폴란드 등)에서는 정책 결정에 간접적 영향을 미칠 수 있습니다. AI 규제를 지지하는 시민사회 단체들은 이번 회칙을 중요한 근거 자료로 활용할 가능성이 높습니다.

한국 사회에 주는 의미

빅테크 의존도가 높은 한국의 현실

한국 사회는 세계적으로도 빅테크 기업의 서비스에 대한 의존도가 매우 높은 편입니다. 구글, 마이크로소프트, 오픈AI의 서비스는 이미 많은 기업과 학교에서 일상적으로 사용되고 있습니다.

교황의 경고는 이러한 의존도가 단순한 편의성의 문제를 넘어, 기술 기업들의 정책 변화나 서비스 중단이 우리 사회 전체에 영향을 미칠 수 있는 구조적 문제임을 상기시킵니다.

AI 윤리 교육과 인식 전환

한국 교육계와 기업들도 AI 윤리의 문제를 단순한 준수 사항이 아닌, 전략적 과제로 받아들여야 합니다. CSU의 사례에서 보듯, AI 도입에 대한 내부 구성원들의 우려는 무시할 수 없는 수준입니다.

단순히 AI 사용법을 가르치는 것을 넘어, AI가 사회와 인간 존엄성에 미치는 영향을 비판적으로 성찰할 수 있는 교육이 필요합니다. 이는 기술적 리터러시와 함께, 윤적 리터러시를 키우는 작업입니다.

마무리

교황의 바벨탑 비유는 극적이지만 적절합니다. AI는 분명 인류에게 엄청난 혜택을 가져올 수 있는 기술입니다. 하지만 그 혜택이 소수에게 집중되고, 많은 사람이 시스템의 부품으로 전락한다면, 그것은 바벨탑과 다르지 않을 것입니다. 우리는 지금 그 선택의 기로에 서 있습니다.

#교황AI경고 #레오14세 #마니피카후마니타스 #AI윤리 #바티칸AI #빅테크비판 #자율무기