샘 알트만 텀블러리지 총격 사과 OpenAI 경고 무시 8명 사망 AI 기업 안전 책임 분석
OpenAI가 2025년 6월 총격 용의자의 ChatGPT 계정에서 총기 폭력 시나리오를 발견하고도 경찰에 신고하지 않았다. 8명 사망 후에야 사과한 샘 알트만과 AI 기업의 안전 책임 문제를 분석한다.
기사 원문은 이 링크를 통해 확인하실 수 있습니다.
Sam Altman의 사과문은 지역 신문에 먼저 게재됐습니다.
캐나다 브리티시컬럼비아주 텀블러리지(Tumbler Ridge)의 로컬 신문 Tumbler RidgeLines에 2026년 4월 24일 실린 이 편지에서 OpenAI CEO Sam Altman은 이렇게 썼습니다. “2025년 6월에 차단된 계정에 대해 법 집행 기관에 경고하지 못한 것을 깊이 사과합니다. 말이 충분하지 않다는 것을 알지만, 사과는 피해와 돌이킬 수 없는 손실을 인정하기 위해 필요합니다.”
그 “돌이킬 수 없는 손실”은 8명의 목숨입니다. 18세 용의자 Jesse Van Rootselaar가 총기를 난사해 8명이 사망했습니다. Wall Street Journal이 먼저 보도했고 TechCrunch가 확인한 내용에 따르면, OpenAI는 총격이 발생하기 수개월 전인 2025년 6월, 이 용의자의 ChatGPT 계정에서 총기 폭력 시나리오를 담은 대화를 발견하고 계정을 차단했습니다. 내부 직원들이 경찰 신고를 논의했습니다. 그리고 신고하지 않았습니다. 총격 이후에야 캐나다 당국에 연락했습니다.
이 사건은 AI 기업의 안전 책임에 관한 가장 구체적이고 비극적인 질문을 현실로 만들었습니다.
무슨 일이 일어났는가, 사건의 순서
사건의 경위를 시간 순서대로 살펴보겠습니다.
2025년 6월: OpenAI 직원들이 Jesse Van Rootselaar의 ChatGPT 계정에서 총기 폭력 관련 시나리오가 담긴 대화를 발견했습니다. 계정은 차단됐습니다. 내부에서 이 정보를 캐나다 경찰에 알려야 하는지에 대한 논의가 있었습니다. OpenAI는 최종적으로 신고하지 않기로 결정했습니다.
그 이후: 총격이 발생했습니다. 텀블러리지에서 8명이 사망했습니다. 총격 이후 OpenAI는 캐나다 당국에 관련 정보를 전달했습니다.
총격 이후 OpenAI의 대응: OpenAI는 안전 프로토콜을 개선하겠다고 발표했습니다. 구체적으로는 계정을 법 집행 기관에 보고하는 기준을 더 유연하게 적용하고, 캐나다 법 집행 기관과의 직접 연락 채널을 구축하겠다고 밝혔습니다.
2026년 4월: Altman이 텀블러리지 시장 Darryl Krakowka, 브리티시컬럼비아 주지사 David Eby와 논의 끝에 공개 사과를 결정했습니다. 사과문은 지역 신문을 통해 먼저 공개됐습니다.
브리티시컬럼비아 주지사 Eby는 X에 이렇게 썼습니다. “알트만의 사과는 필요하지만, 텀블러리지 가족들이 겪은 참혹한 피해에 비해 턱없이 부족하다.” 캐나다 당국은 AI와 관련한 새로운 규제를 검토 중이지만 아직 최종 결정을 내리지 않았습니다.
OpenAI는 왜 신고하지 않았는가
이 질문이 이 사건의 핵심입니다. OpenAI가 내린 결정의 이유는 아직 완전히 공개되지 않았습니다. 그러나 이 결정을 둘러싼 맥락을 이해하는 것은 중요합니다.
프라이버시와 안전의 충돌입니다. AI 서비스 기업은 사용자의 대화 내용을 방대하게 보유합니다. 이 정보를 법 집행 기관에 제공하는 것은 사용자 프라이버시 보호라는 원칙과 충돌합니다. 모든 불안한 대화를 신고한다면, AI 서비스는 사실상 대규모 감시 도구가 됩니다. 어디에 선을 그을 것인지의 판단은 매우 어렵습니다.
법적 의무의 불명확성도 있습니다. 미국과 캐나다에서 인터넷 서비스 제공자가 위험 신호를 발견했을 때 신고해야 하는 법적 의무는 일부 특정 범주(예: 아동 성착취물)에만 명확하게 규정되어 있습니다. 일반적인 폭력 의도 신호에 대해서는 신고 의무가 명확하지 않습니다.
오류의 비용도 고려됩니다. AI 모델이 감지한 “위험 신호”가 실제 위협인지 아닌지를 판단하는 것은 어렵습니다. 잘못된 양성(false positive, 위협이 아닌데 위협으로 판단)으로 무고한 사람을 경찰에 신고할 경우의 법적·윤리적 문제가 있습니다. 반면 잘못된 음성(false negative, 위협인데 위협이 아니라고 판단)은 이번 사건처럼 돌이킬 수 없는 결과를 낳습니다.
이 세 가지 긴장이 OpenAI 직원들이 신고 여부를 논의하면서 직면했던 딜레마의 내용이었을 것입니다. 그 딜레마는 지금도 해소되지 않았습니다. OpenAI가 안전 프로토콜을 개선하겠다고 했지만, “더 유연한 기준”이 구체적으로 무엇을 의미하는지는 아직 공개되지 않았습니다.
이전 유사 사례들과의 비교
텀블러리지 사건이 처음은 아닙니다. AI 챗봇이 폭력 관련 대화에 노출됐거나 그 대화를 조장했을 수 있다는 의혹이 제기된 사례들이 있습니다.
2024년 미국의 한 총기 난사 사건에서, 가해자가 AI 챗봇과 폭력적인 내용의 대화를 나눴다는 사실이 사후에 밝혀졌습니다. 소셜미디어 플랫폼들도 오랫동안 유사한 문제에 직면해 왔습니다. 테러리스트 선동 콘텐츠, 자살 관련 콘텐츠, 폭력 계획이 담긴 게시물을 언제 어떻게 신고할 것인가의 문제는 소셜미디어 플랫폼이 수년간 씨름해 온 문제입니다.
차이점은 AI 챗봇의 특성에 있습니다. 소셜미디어의 게시물은 공개되거나 반공개적입니다. AI 챗봇과의 대화는 완전히 사적입니다. 사용자가 챗봇과 나누는 대화는 다른 누구도 보지 않는다는 신뢰 위에서 이루어집니다. 이 신뢰를 어떤 조건에서 깨는 것이 정당한지의 기준이 훨씬 더 까다롭습니다.
동시에, AI 챗봇이 가진 정보의 양과 구체성은 소셜미디어 게시물과 비교할 수 없습니다. 사용자가 챗봇에게 자신의 의도와 계획을 상세하게 털어놓는 경우가 많습니다. 그 정보가 현실의 위협을 예방하는 데 활용될 수 있다면, 그것을 활용하지 않는 것이 과연 옳은가의 질문이 됩니다.
AI 기업의 안전 책임, 어디까지인가
이 사건은 AI 기업의 책임 범위에 대한 논의를 새로운 단계로 끌어올립니다.
현재 AI 서비스 기업들은 자체적인 이용 약관과 내부 안전 정책을 기준으로 운영됩니다. 법적으로 강제된 신고 의무는 제한적입니다. 미국의 통신품위법 섹션 230(Section 230)은 플랫폼이 사용자 콘텐츠에 대해 광범위한 면책을 받도록 하고 있습니다.
그러나 이 면책 구조가 AI 챗봇에도 동일하게 적용되는지에 대한 법적 논쟁이 시작되고 있습니다. 소셜미디어 플랫폼과 달리, AI 챗봇은 수동적으로 콘텐츠를 호스팅하는 것이 아니라 능동적으로 대화에 참여합니다. 이 차이가 법적 책임의 차이를 만들 수 있다는 주장이 있습니다.
캐나다 당국이 AI 관련 새로운 규제를 검토하고 있다는 사실은 중요한 신호입니다. 어떤 형태의 규제가 나올지는 불확실하지만, 방향은 분명합니다. AI 서비스 기업이 자체 판단에만 의존하는 현재의 구조에서, 명확한 법적 기준과 의무가 부과되는 방향으로 이동하고 있습니다.
Altman은 편지에서 “모든 수준의 정부와 협력해 이런 일이 다시는 일어나지 않도록 하겠다”고 약속했습니다. 이 약속이 구체적인 정책과 법적 기준으로 이어지지 않으면, 다음 사건이 일어날 때 또 다른 사과가 나올 것입니다.
한국에서 이 문제는 어떻게 다루어지고 있는가
한국에서도 AI 챗봇 안전 문제는 현실적인 과제입니다. 국내 AI 서비스들도 자해, 폭력, 혐오 발언 등에 대한 내부 필터링을 운영하지만, 그 기준과 절차가 법적으로 명시된 경우는 드뭅니다.
개인정보보호법 체계에서 사용자의 대화 내용을 당사자 동의 없이 법 집행 기관에 제공하는 것은 원칙적으로 금지됩니다. 그러나 범죄 예방이나 긴급한 위험 상황에서의 예외 조항이 AI 챗봇 서비스에 어떻게 적용되는지는 아직 명확하지 않습니다.
이 공백은 지금 채워져야 합니다. AI 챗봇 서비스가 위협 신호를 발견했을 때 어떤 절차를 따라야 하는지, 언제 신고 의무가 발생하는지를 명확히 하는 가이드라인이 필요합니다. 이것은 AI 기업을 감시 도구로 만드는 것이 아니라, 명확한 기준이 없어서 발생하는 “아무도 결정하지 않음”의 위험을 제거하는 것입니다.
이 사건이 남기는 것
Sam Altman의 사과는 필요했습니다. 그러나 주지사의 말처럼, 그것은 충분하지 않습니다.
이 사건이 AI 산업과 규제 논의에 남기는 것은 구체적인 질문들입니다. AI 서비스 기업은 사용자 대화에서 위협 신호를 발견했을 때 어떤 절차를 따라야 하는가. 그 기준은 누가 정하는가. 잘못된 판단에 대한 법적 책임은 어디에 있는가.
이 질문들에 대한 답이 나오기 전에 유사한 사건이 다시 발생한다면, 다음 사과문을 읽는 사람들은 지금보다 훨씬 더 많은 것을 요구할 것입니다.
#샘알트만사과 #텀블러리지 #OpenAI #AI안전책임 #ChatGPT #AI윤리 #AI규제