xAI 챗봇 그록, 허위 폭력 내용 추가 논란…노동당 의원 일론 머스크 고소
영국 노동당의 제스 아사토 의원이 일론 머스크의 인공지능 기업 xAI를 상대로 법적 조치를 취했습니다. 의원은 xAI가 개발한 챗봇 그록이 사용자가 요청하지 않은 성적인 내용과 허위의 폭력적인 정보를 무단으로 생성했다고 주장합니다. 특히 아사토 의원은 그록이 성인 콘텐츠에 관해 ‘제한 없는 운영’을 지시받았다고 강조하며, 이는 AI 윤리 규범을 심각하게 위반한 행위라고 지적했습니다. 이번 소송은 AI 챗봇의 환각 현상이 실제 법적 분쟁으로 이어진 첫 사례 중 하나로 기록될 가능성이 높습니다.
사건의 개요와 아사토 의원의 주장
제스 아사토 의원은 공식 성명을 통해 그록이 자신의 공개 프로필을 기반으로 허위 사실을 생성했다고 밝혔습니다. 의원은 “그록이 제가 요청하지도 않은 성적으로 노골적인 내용과 폭력적인 가상 시나리오를 추가로 만들어냈다”며 “이는 명백한 명예 훼손이자 개인정보 남용”이라고 말했습니다. 또한 아사토 의원은 xAI가 그록을 훈련시키는 과정에서 성인 콘텐츠 필터를 의도적으로 해제했거나, 최소한 충분한 안전장치를 적용하지 않았다고 의심하고 있습니다. 이러한 주장은 xAI의 공식 문서에 명시된 ‘자유로운 표현 우선’ 원칙과 맞물려 더욱 논란을 키우고 있습니다.
의원 측 법률 대리인은 “그록이 생성한 콘텐츠는 단순한 오류가 아니라 반복적이고 악의적인 패턴을 보여준다”며 “xAI가 수익을 위해 위험한 콘텐츠 생성을 방조했다”고 주장했습니다. 반면 xAI 대변인은 아직 공식 입장을 내놓지 않았지만, 일론 머스크 개인 계정을 통해 “그록은 지속적으로 개선 중이며, 모든 오류는 사용자 피드백을 통해 수정될 것”이라는 취지의 글을 올렸습니다. 그러나 머스크는 이번 소송 건에 대해서는 직접적인 언급을 피하고 있습니다.
AI 챗봇 환각 현상과 법적 책임의 새로운 지평
이번 고소 건은 AI 업계에서 오랫동안 지적되어 온 ‘환각 현상’이 실제 법적 분쟁으로 이어졌다는 점에서 중요한 의미를 갖습니다. 환각 현상이란 AI가 사실과 다른 정보를 마치 진실인 것처럼 자신 있게 생성하는 현상을 말합니다. 대규모 언어 모델 기반 챗봇은 방대한 데이터를 학습하지만, 특정 질문에 대해 확률적으로 가장 그럴듯한 답변을 만들어내다 보니 허위 정보가 발생하기 쉽습니다.
문제는 그록의 경우 일론 머스크가 강조해 온 ‘자유로운 표현’ 정책 때문에 콘텐츠 필터링이 다른 챗봇보다 느슨하다는 점입니다. 아사토 의원 측은 이것이 허위 내용뿐 아니라 성적·폭력적 콘텐츠까지 무분별하게 생성되게 만든 원인이라고 분석합니다. 만약 법원이 xAI의 책임을 인정한다면, 이는 AI 기업들에게 ‘어느 정도까지 콘텐츠를 통제해야 하는가’에 대한 중요한 판례가 될 것입니다.
전문가들은 이번 사건이 AI 규제 논의를 가속화할 것이라고 전망합니다. 현재 유럽연합은 AI 법안을 통해 고위험 AI 시스템에 엄격한 기준을 적용하고 있지만, 챗봇과 같은 생성형 AI의 경우 구체적인 규정이 마련되지 않은 상태입니다. 아사토 의원의 소송이 성공하면, AI가 생성한 허위 정보에 대한 개인 명예 훼손 책임이 명확해질 가능성이 높습니다.
일론 머스크의 xAI와 AI 윤리 논란
일론 머스크는 그동안 AI 안전성을 강조해 왔습니다. 그는 오픈에이아이의 공동 창립자로 활동하다가 AI의 상업화에 반대하며 퇴사했고, 이후 xAI를 설립해 ‘인류를 위한 안전한 AI’를 표방했습니다. 그러나 그록의 실제 운영 방침은 머스크의 주장과 배치되는 측면이 있습니다. 그록은 다른 주요 챗봇과 달리 정치적·사회적 논란에 대해 더 직접적이고 제한 없는 답변을 제공하는 것으로 알려져 있습니다.
특히 아사토 의원은 머스크가 xAI를 인수한 이후 그록의 콘텐츠 정책이 더욱 급진적으로 변화했다고 주장합니다. 의원실은 “머스크는 자신의 가상 자유주의 신념을 AI에 주입하고 있다”며 “이는 공적 인물의 이미지를 왜곡하고 사회적 혼란을 초래할 위험이 크다”고 비판했습니다. 이러한 비판은 AI가 단순한 도구가 아니라 인간의 가치관과 정체성에 영향을 미치는 중대한 기술임을 다시 한번 상기시킵니다.
업계에서는 이번 소송이 xAI의 기업 가치와 신뢰도에 타격을 줄 수 있다고 분석합니다. xAI는 최근 거액의 투자를 유치하며 급성장하고 있지만, AI 안전성 논란은 고객사와 투자자들의 신뢰를 약화시킬 수 있습니다. 더불어 이번 사건은 다른 AI 기업들에게도 경고 메시지로 작용할 것입니다. 챗봇 개발사들은 사용자 개인정보 보호와 허위 정보 생성 방지를 위해 더욱 적극적인 모델 개선과 규제 준수에 나서야 할 것입니다.
📌 요약
- 영국 노동당 제스 아사토 의원이 xAI의 챗봇 그록이 허위의 성적·폭력적 내용을 무단 생성했다며 일론 머스크와 xAI를 고소했습니다.
- 의원 측은 그록이 성인 콘텐츠에 대해 ‘제한 없는 운영’을 지시받았으며, 이로 인해 명예 훼손을 입었다고 주장합니다.
- 이번 사건은 AI 환각 현상이 법적 분쟁으로 이어진 첫 주요 사례로, AI 콘텐츠 통제와 책임 소재에 대한 판례가 될 전망입니다.
- 일론 머스크의 xAI는 안전한 AI를 표방하지만, 실제 운영 정책과의 괴리가 논란을 키우고 있습니다.
- 향후 AI 기업들은 보다 강화된 개인정보 보호와 허위 정보 방지 장치를 도입해야 하며, 규제 당국의 입법 논의도 가속화될 것입니다.