AI 강국을 외치는 한국 딥페이크 성범죄에는 어떻게 대응하고 있나

AI 기술이 만들어낸 새로운 형태의 폭력

오늘 AI코리아24 브리핑에서 소개한 홍콩의 사례를 보면, 2026년 2월 말 홍콩 개인정보처리처(PCPD)가 60여 개 해외 기관과 공동으로 딥페이크 남용 증가에 주목하는 성명을 서명했습니다. 급속한 기술 발전과 AI의 빠른 통합, 접근 장벽의 하락으로 신속한 조치를 취해야 한다는 메시지가 담겼습니다. 이 공동 성명에는 61개국 개인정보 보호 기관이 참여했으며, 현행법이 딥페이크 남용에 대응하기에 불충분하고 이를 새로운 형태의 성폭력으로 규정해야 한다고 강조했습니다.

이 성명이 나온 배경에는 전 세계적으로 급증하는 딥페이크 피해가 있습니다. 2025년 8월에는 일론 머스크의 xAI가 만든 Grok Imagine이 명시적인 요청 없이도 테일러 스위프트의 노출 이미지를 자동 생성해 글로벌 논란이 되었습니다. 홍콩에서도 홍콩대학교 학생이 무료 AI 도구를 사용해 여학생들의 음란 이미지를 생성한 사건이 발생했습니다. UN Women은 “딥페이크 남용은 여성과 소녀를 겨냥한 디지털 폭력의 가장 날카로운 끝”이라고 규정하며, 기술 설계 단계부터 젠더 관점이 반영되어야 한다고 2026년 2월 공식 촉구했습니다.

한국도 예외가 아닙니다. 2024년 인하대학교 텔레그램 딥페이크 사건, 서울대 N번방 사건이 연이어 터지면서 전국의 학교가 딥페이크 공포에 휩싸였습니다. 그런데 이 사태가 1년 반이 지난 지금도 끝나지 않고 있습니다.

2025년 최신 통계가 보여주는 피해의 현실

2025년 4월 발간된 2024 디지털성범죄 피해자 지원 보고서는 문제의 심각성을 수치로 확인시켜 줍니다. 이 보고서에 따르면 2024년 한 해 동안 디지털 성범죄 피해 지원을 요청한 피해자 수가 처음으로 1만 305명을 넘어섰습니다. 이 중 여성이 7,428명(72.1%), 남성이 2,877명(27.9%)이었으며, 합성 및 편집 피해에 한정하면 여성(1,337건)이 남성(47건)보다 약 28배 많았습니다. 딥페이크 관련 피해는 전년 대비 227% 급증했고, 피해 영상물 삭제 건수도 처음으로 30만 건을 돌파했습니다.

연령대별로 보면 20대가 50.9%로 절반을 넘기고 10대가 27.8%를 차지합니다. 피해자 10명 중 8명이 10대와 20대입니다. 딥페이크 성범죄 피해자의 92.6%가 20대 이하라는 통계도 나왔습니다. 2026년 1월 조선일보 보도에 따르면 10대 딥페이크 피해자 수는 7년 사이 30배 가까이 늘었으며, 한겨레 보도에서는 대학생 15명 중 1명이 딥페이크 성적 허위영상물 피해를 경험한 적 있다고 조사되었습니다.

가해자 측 통계는 더 충격적입니다. 2025년 11월 경찰 발표에 따르면, 1년간 사이버 성폭력 집중 단속으로 3,557명이 검거되었는데 절반 가까운 피의자가 10대였습니다. 딥페이크 범죄 피의자의 90%가 10대와 20대였습니다. 2025년 9월에는 청소년 딥페이크 범죄 피의자의 절반이 18세 미만이라는 분석이 나오면서, 한국형사법무정책연구원은 2025년 연구보고서를 통해 “청소년 딥페이크가 왜 ‘장난’이 되었나”라는 문제를 정면으로 제기했습니다.

가장 최근인 2026년 3월 11일에는 경기도의 한 학생이 2022년부터 2025년까지 딥페이크 기술로 교사 대상 성 착취물을 제작한 사건에서 교육위원회 징계가 출석정지 15일에 그치면서 ‘솜방망이 처벌’ 논란이 다시 불거졌습니다.

한국의 법적 대응은 어디까지 왔나

한국은 2020년 성폭력처벌법 개정으로 딥페이크 성범죄 처벌의 법적 기틀을 마련한 뒤, 사태가 악화될 때마다 법률을 단계적으로 강화해 왔습니다.

가장 큰 전환점은 2024년 9월 국회를 통과한 이른바 딥페이크 성범죄 방지법입니다. 성폭력처벌법, 성폭력방지법, 청소년성보호법을 한꺼번에 개정한 이 법의 핵심은 세 가지입니다. 첫째, 딥페이크 합성물을 시청만 해도 3년 이하의 징역 또는 3천만 원 이하의 벌금으로 처벌합니다. 둘째, 제작자 처벌 시 기존에 필요했던 ‘반포할 목적’ 입증 요건이 삭제되어 제작 행위 자체로 처벌이 가능해졌습니다. 셋째, 법정형이 상향되고 범죄 수익 몰수 및 추징 조항이 신설되었습니다.

2024년 11월에는 디지털 성범죄에 대한 위장 수사가 성인 대상 사건에도 가능하도록 추가 개정되었고, 2025년 5월 미국이 제정한 TAKE IT DOWN Act(딥페이크 삭제 의무화법)의 영향도 국내 논의에 반영되고 있습니다.

그런데 2025년 10월, 개정법 시행 1년을 돌아본 YTN 분석에 따르면 유죄가 선고된 30건 가운데 제작만으로 판결이 내려진 건은 1건에 불과했습니다. 딥페이크 성범죄가 유포 형태로 벌어지는 경향이 뚜렷했다는 의미입니다. 2025년 8월에는 “AI 음란물이 실존 인물이 아니면 무죄”라는 법원 판결이 나와 현행법의 사각지대가 드러나기도 했습니다. 주간조선은 2025년 12월 “19금 AI는 딥페이크 생성 중인데 규제는 아직 ‘준비 중‘“이라는 제목의 기사를 내며, 기술 발전 속도와 법적 대응 사이의 격차를 지적했습니다.

세계 주요국은 어떻게 대응하고 있나

한국의 법적 대응을 평가하려면 주요국의 동향과 비교해야 합니다. 미국, 영국, EU는 2025년 하반기부터 2026년 초까지 공격적으로 입법을 강화하고 있습니다.

미국은 2025년 5월 TAKE IT DOWN Act(딥페이크 삭제 의무화법)를 제정해 플랫폼에 비동의 성적 이미지 삭제를 의무화했습니다. 2026년 1월에는 상원이 DEFIANCE Act를 만장일치로 통과시켜 딥페이크 피해자에게 최대 25만 달러의 민사 손해배상 소송권을 부여했습니다. 특히 DEFIANCE Act는 xAI의 Grok이 동의 없이 유명인 딥페이크를 생성한 논란 직후에 통과되어, AI 기업의 책임까지 확장하는 흐름을 보여주고 있습니다. 개별 주(州) 차원에서도 비동의 성적 딥페이크, 아동 성착취물(CSAM), 정치적 딥페이크를 규제하는 법안들이 빠르게 확산되고 있습니다.

영국은 형사 처벌과 플랫폼 규제를 동시에 추진하는 가장 적극적인 접근을 취하고 있습니다. 2025년 통과된 Data (Use and Access) Act로 비동의 친밀 이미지의 제작 및 제작 요청 자체가 형사 범죄로 규정되었고, 2026년 1월부터 시행에 들어갔습니다. 2026년 2월에는 테크 플랫폼에 비동의 친밀 이미지를 48시간 내 삭제하도록 의무화하는 법안이 제안되었으며, 통신규제기관 Ofcom이 Online Safety Act에 따라 플랫폼에 불법 이미지 차단 기술 도입을 빠르게 추진하고 있습니다. 영국 정부는 “딥페이크 위협에 대한 글로벌 대응을 주도한다”고 공식 선언했습니다.

EU는 2024년 채택된 EU AI Act이 2026년 8월 본격 시행을 앞두고 있습니다. AI 생성 콘텐츠에 대한 라벨링 의무가 핵심이며, 불법 딥페이크 유포에 대한 형사 처벌 규정도 포함됩니다. 2026년 1월에는 유럽의회가 AI 딥페이크와 소셜 미디어 성착취 대응을 의제로 채택했고, 딥페이크 라벨링 방법을 구체화하는 AI Code of Practice 초안이 공개되어 6월 최종안 확정을 앞두고 있습니다. EU의 접근은 개별 사건 처벌보다 시스템적 규제와 사전 예방에 무게를 두고 있습니다.

호주에서도 2026년 2월 연방법을 활용해 딥페이크 가해자를 기소하는 사례가 등장했습니다. UNICEF는 2026년 2월 “딥페이크 남용은 곧 학대”라는 입장을 공식 발표하며, AI로 생성된 아동 성착취물은 그 자체로 CSAM이라고 규정했습니다.

AI 강국의 위상에 법적 보호가 따라가고 있는가

한국 정부는 Artificial Analysis의 Intelligence Index를 근거로 한국을 미국, 중국에 이어 세계 AI 3위 국가로 선언하고 있습니다. 2026년 1월에는 이를 공식화하며 독자 AI 전략의 성과를 강조했고, 영국 Tortoise Media의 Global AI Index에서도 한국은 5위로 올라섰습니다. 기술 개발과 산업 적용 면에서 한국이 빠르게 전진하고 있는 것은 사실입니다.

그러나 AI 기술력 순위와 AI 안전 순위가 반드시 비례하지는 않습니다. IMD의 2025 세계 디지털 경쟁력 순위에서 한국의 규제 부문은 38위로 전년 대비 20계단 하락했고, 인재 부문은 49위까지 떨어졌습니다. IT조선은 2026년 1월 “세계 AI 3위를 놓고 정부와 업계 시각이 엇갈린다”고 보도하며, 기술 성과 이면의 구조적 문제를 지적했습니다.

딥페이크 대응을 각국과 비교하면, 한국이 뒤떨어지는 것은 아닙니다. 시청만으로도 처벌하는 규정이나 반포 목적 입증 요건 삭제 같은 조치는 세계적으로도 상당히 강력한 수준입니다. 그러나 핵심적인 격차가 존재합니다.

첫째, 플랫폼 의무가 약합니다. 영국이 48시간 내 삭제 의무를 추진하고 미국이 TAKE IT DOWN Act로 삭제를 의무화한 것에 비해, 한국에서는 해외 플랫폼에 대한 실효적 규제 수단이 부족합니다. 불법 촬영물 호스팅 사이트의 95%가 해외 서버에 있는 현실에서 가해자 처벌만으로는 피해 확산을 막기 어렵습니다.

둘째, 사전 예방 체계가 미흡합니다. EU AI Act처럼 AI 생성 콘텐츠에 라벨링을 의무화하거나, AI 모델 자체에 안전장치를 내장하도록 요구하는 시스템적 규제가 한국에는 아직 자리 잡지 못했습니다. 주간조선이 지적한 대로 “19금 AI는 이미 딥페이크를 생성 중인데 규제는 아직 준비 중”인 상태입니다.

셋째, 법원 판결의 사각지대가 드러나고 있습니다. “실존 인물이 아니면 무죄”라는 2025년 8월 판결은 AI가 생성하는 가상 이미지에 대한 법적 대응이 미비함을 보여줍니다. 개정법 시행 1년간 유죄 30건 중 제작만으로 처벌된 건이 1건에 불과하다는 것은 법률과 현실 사이의 괴리를 나타냅니다.

넷째, 청소년 가해자에 대한 실효적 대응이 부족합니다. 피의자의 절반이 10대이고 18세 미만이 절반을 차지하는 상황에서, 교육위원회 출석정지 15일이라는 징계는 억제력을 갖기 어렵습니다.

기술의 중심에 사람을 놓는다는 것

한국은 2024년 딥페이크 사태를 계기로 법률을 상당히 빠르게 강화했고, 경찰의 집중 단속으로 3,557명 이상을 검거하는 성과도 거두었습니다. 이는 분명 의미 있는 진전입니다. 그러나 피해자 수가 매년 역대 최고를 경신하고 있다는 것은, 현재의 대응이 기술 확산 속도를 따라잡지 못하고 있음을 뜻합니다.

AI 3대 강국을 선언하는 나라의 보호 체계로서 충분한지 묻는다면, 솔직하게 아직 갈 길이 남아 있다고 답해야 합니다. 기술은 개발하면서 기술이 만들어내는 피해에 대한 대응은 뒤따라가는 패턴이 반복되고 있습니다. AI 강국이라는 위상은 기술력만으로 완성되지 않습니다. 그 기술이 사회에 미치는 영향을 예측하고, 피해가 발생하기 전에 보호 장치를 마련하며, 피해가 발생했을 때 신속하고 효과적으로 구제할 수 있는 체계까지 갖추어야 비로소 AI 강국이라 할 수 있습니다.

홍콩 PCPD가 61개국 기관과 함께 발표한 공동 성명의 핵심 메시지는 간단합니다. 딥페이크 남용은 개인의 일탈이 아니라 시스템의 실패라는 것입니다. AI를 안전하게 발전시키려면 기술 설계 단계부터 다양한 관점, 특히 가장 취약한 위치에 있는 여성과 소녀의 관점이 반영되어야 합니다. 피해자의 90%가 여성이라는 통계는, 이 문제가 기술 문제이기 이전에 구조적 불평등의 문제임을 보여줍니다.

기술을 만드는 것과 기술로부터 사람을 지키는 것. 이 두 가지를 동시에 해내는 나라가 진정한 AI 강국입니다.

#딥페이크 #AI안전 #디지털성범죄 #AI규제 #여성인권 #성폭력처벌법 #AI강국 #EU_AI_Act #DEFIANCE_Act