머스크 재판 전문가 증인 AGI 군비 경쟁이 두렵다 경고하면서 경쟁하는 AI 업계의 역설
OpenAI 재판에서 머스크 측 유일한 전문가 증인이 AGI 군비 경쟁의 위험성을 증언했습니다. AI가 위험하다고 경고하면서 동시에 빠르게 개발하는 업계의 구조적 역설을 분석합니다.
머스크 측이 OpenAI 재판에 세운 유일한 전문가 증인, UC 버클리 컴퓨터과학 교수 피터 러셀이 증언대에 섰습니다. 그의 임무는 AI 기술이 충분히 위험하다는 사실을 배심원들에게 납득시키는 것이었습니다.
그런데 법정 밖의 현실이 이 증언보다 더 복잡한 이야기를 하고 있습니다. 러셀은 2023년 AI 연구 6개월 중단을 촉구하는 공개 서한에 서명했습니다. 머스크도 그 서한에 서명했습니다. 그리고 그 서명과 동시에 머스크는 자신의 AI 스타트업 xAI를 창업했습니다.
이것이 지금 AI 업계 전체를 관통하는 구조적 역설입니다.
관련 브리핑: aikorea24.kr 2026-05-05 브리핑
증언의 내용과 법정의 현실
피터 러셀은 배심원들에게 AI와 관련된 다양한 위험을 설명했습니다. 사이버 보안 위협, 인간 가치와의 정렬 실패, AGI(인공일반지능) 개발의 승자독식 구조가 만들어내는 군비 경쟁 역학이 핵심 내용이었습니다.
그러나 그의 증언은 OpenAI 변호인의 반대심문에서 한계를 드러냈습니다. OpenAI 측은 러셀이 OpenAI의 기업 구조나 구체적인 안전 정책을 직접 평가하지 않았다는 점을 부각시켰습니다. AI 위험에 대한 일반론적 전문성과, OpenAI가 그 위험을 잘못 관리했다는 법적 주장 사이에는 논리적 간극이 있었습니다.
판사는 AGI의 실존적 위협에 관한 러셀의 추가 증언을 제한했습니다. OpenAI 변호인의 이의 제기가 받아들여진 것입니다. 재판은 AI의 위험성을 논하는 자리가 아니라, OpenAI의 기업 구조 전환이 설립 계약을 위반했는지를 따지는 자리이기 때문입니다.
경고하면서 경쟁하는 구조의 기원
이 재판에서 가장 날카로운 아이러니를 TechCrunch 기자는 이렇게 표현했습니다. “OpenAI 창업자들은 AGI의 위험을 강하게 경고하면서도, 혜택을 강조하고, 가능한 한 빠르게 AI를 개발하고, 자신들이 통제하는 영리 기업을 만들었다.”
이 모순의 기원을 이해하려면 OpenAI의 초기 역사로 돌아가야 합니다.
2015년 OpenAI를 비영리로 설립한 배경에는 구글 DeepMind가 AI를 독점하는 상황을 막아야 한다는 논리가 있었습니다. 그런데 이 논리 자체가 이미 모순을 품고 있습니다. “한 회사가 AGI를 독점하면 위험하다, 따라서 우리가 함께 개발해야 한다”는 주장은, 결국 더 많은 조직이 AGI 경쟁에 뛰어드는 결과를 낳았습니다.
비영리 구조만으로는 수백억 달러의 개발 비용을 감당할 수 없다는 현실이 2019년 영리 구조 도입으로 이어졌고, 마이크로소프트의 130억 달러 투자가 들어왔습니다. “안전을 위해 천천히”가 아니라 “안전을 지키면서 빠르게”로 전략이 전환된 것입니다.
머스크가 2018년 이사회를 떠난 이후 OpenAI가 걸어온 길이 바로 이 방향이었습니다. 머스크의 소송은 그가 동의하지 않은 이 전환을 법적으로 되돌리려는 시도입니다.
AGI 군비 경쟁이 실제로 만들어내는 것
피터 러셀이 법정에서 우려를 표명한 AGI 군비 경쟁은 이미 현실입니다.
OpenAI, Anthropic, Google DeepMind, xAI, Meta가 사실상 동시에 최전선 AI 모델 개발 경쟁을 벌이고 있습니다. 이 경쟁의 구조적 특성은 명확합니다. 먼저 AGI에 도달하는 쪽이 결정적 우위를 갖는다는 믿음이 각 플레이어의 투자와 속도를 결정합니다.
이 구조에서 안전 연구에 더 많은 시간을 투자하는 것은 경쟁에서 뒤처지는 것을 의미할 수 있습니다. “안전하게 개발하겠다”는 선언이 경쟁 속에서 얼마나 유지될 수 있는지는 외부에서 검증하기 어렵습니다. 각 기업이 안전 연구에 투입하는 자원의 비중이 늘어나고 있는지, 아니면 능력 개발 속도가 안전 연구 속도를 앞서고 있는지가 핵심 질문입니다.
독립 연구에 따르면 최전선 AI 모델이 수행할 수 있는 작업의 복잡도는 7개월마다 두 배로 늘어나고 있습니다. 안전 연구의 속도가 이를 따라가고 있는지는 공개적으로 확인되지 않습니다.
재판이 AGI 거버넌스에 주는 함의
이 재판의 법적 결과와 무관하게, 재판 과정에서 드러난 사실들은 AI 거버넌스 논의에 중요한 재료를 제공합니다.
비영리 출발의 AI 프로젝트가 영리화되는 경로에 대한 법적 기준이 필요합니다. OpenAI가 처음 설립 취지에서 벗어날 수 있었던 것은, 이 전환을 막거나 투명하게 관리할 법적 체계가 없었기 때문입니다.
AI 회사의 안전 공약을 외부에서 검증하는 메커니즘이 부재합니다. “우리는 안전하게 개발한다”는 선언을 독립적으로 검증하는 주체가 없습니다. 정부 규제 기관, 독립 감사 기관, 또는 국제 협약 중 어떤 형태로든 외부 검증 체계가 필요하다는 논의가 이 재판을 계기로 다시 부상할 것입니다.
“경쟁과 안전을 동시에”라는 명제의 현실성을 정직하게 평가해야 합니다. 각 기업이 이 명제를 진지하게 추구하고 있는지, 아니면 마케팅 포지셔닝의 일부인지를 외부가 판단하기는 어렵습니다. 이 불투명성 자체가 거버넌스 공백입니다.
한국의 AI 안전 논의에 주는 시사점
한국은 AI 강국을 목표로 하면서 동시에 AI 안전에 관한 논의는 상대적으로 부족합니다. AI 기본법이 제정되었지만, 실질적인 안전 기준과 외부 검증 메커니즘은 아직 미성숙합니다.
OpenAI 재판이 보여주는 교훈은 명확합니다. AI 개발 초기에 안전과 거버넌스 구조를 명시적으로 설계하지 않으면, 나중에 이를 바로잡으려 할 때 훨씬 큰 비용과 갈등이 발생합니다. 한국의 AI 정책 입안자들이 지금 이 재판을 주목해야 하는 이유입니다.
AGI 군비 경쟁에 대한 피터 러셀의 우려는 타당합니다. 그러나 그 우려를 표명한 사람과, 그 우려를 만들어낸 구조를 함께 살펴보면 더 복잡한 그림이 나타납니다. AI 위험을 경고하는 사람과 AI 경쟁을 주도하는 사람이 같은 인물인 경우가 많습니다.
이 모순을 해소하는 것이 법원의 역할인지, 규제 기관의 역할인지, 아니면 사회 전체의 선택인지가 이 재판이 끝난 후에도 남는 질문입니다.
#OpenAI재판 #AGI군비경쟁 #AI안전 #피터러셀 #머스크알트만 #AI거버넌스 #AGI위험 #AI안전딜레마