국회 AI 기본법 개정안 워터마크 훼손 시 2000만원 벌금 시행 4개월 만에 보완 입법 나선 이유

---

AI 기본법이 시행된 지 4개월도 채 안 돼 개정 논의가 시작됐습니다. 2026년 1월 시행된 AI 기본법이 현장에서 작동하기 시작하자마자 공백이 드러나고 있다는 신호입니다. 국회에서 AI 워터마크 규제를 강화하는 개정안이 잇달아 발의되고 있습니다.

핵심은 두 가지입니다. 기존 법이 워터마크를 “붙여야 한다”고만 했다면, 개정안은 “어떻게 붙여야 한다”를 구체화했습니다. 그리고 워터마크를 훼손하거나 위변조하면 형사처벌합니다.

기사원문보기: 2026년 5월 20일 (수) AI 브리핑 - AI코리아24

현행법의 공백 어디가 문제였나

현행 AI 기본법은 생성형 AI 사업자에게 AI가 만든 결과물에 워터마크를 표시하도록 의무를 부과합니다. 문제는 구체성이 없다는 것입니다. “표시해야 한다”는 조항만 있고 어떤 방식으로 표시해야 하는지, 어느 위치에 삽입해야 하는지, 어떤 형식이어야 하는지가 명확하지 않았습니다.

그 결과 일부 사업자들은 눈에 보이지 않는 메타데이터에만 워터마크를 삽입하는 방식을 택했습니다. 사용자가 이미지나 영상을 볼 때 AI가 만든 것인지 알 수 없는 방식입니다. 딥페이크 피해를 막겠다는 법의 취지와 정반대의 결과입니다.

워터마크를 제거하거나 위변조해도 처벌 조항이 없었습니다. AI가 만든 딥페이크에서 워터마크를 지워 유포해도 기존 법 체계에서는 AI 기본법 위반이 아니었습니다.

개정안의 핵심 내용

국회 교육위원회 소속 김대식 국민의힘 의원이 발의한 개정안은 AI 워터마크 표시 방식을 구체화했습니다. 이용자가 명확하게 식별할 수 있는 코드, 문자, 부호 등을 결과물 자체에 삽입하는 방식을 명시했습니다. 비가시적 메타데이터만으로는 부족하고, 이용자가 직접 확인할 수 있어야 한다는 것입니다. 이를 훼손하거나 위변조하면 최대 2000만 원 이하 벌금을 부과하는 형사처벌 조항도 담겼습니다.

과학기술정보방송통신위원회 소속 조인철 더불어민주당 의원은 정보통신망법 개정안을 발의했습니다. AI 생성 콘텐츠의 유통 단계에서도 워터마크 표시 의무를 적용하는 내용입니다. AI가 만든 콘텐츠를 유포하는 플랫폼도 책임 주체로 포함시키는 방향입니다.

워터마크 의무화의 기술적 현실

워터마크 규제가 실효성을 갖추려면 기술적 한계를 직면해야 합니다. 현재 AI 워터마크 기술은 완벽하지 않습니다. 이미지를 캡처하거나 재편집하면 메타데이터 기반 워터마크는 쉽게 제거됩니다. 가시적 워터마크(화면에 보이는 표시)는 AI 도구로 지우는 것이 기술적으로 가능합니다.

C2PA(콘텐츠 출처 및 진위성 연합)가 만든 표준이 현재 가장 유망한 접근법입니다. 어도비, 마이크로소프트, 구글 등이 참여하는 이 표준은 콘텐츠 생성 시 암호화된 메타데이터를 포함해 출처를 추적하는 방식입니다. 그러나 한국 법이 이 표준을 명시적으로 채택하지 않으면 실무 기준이 모호해집니다.

법이 요구하는 “이용자가 명확하게 식별할 수 있는 방식”과 실제 기술 표준 사이의 간극을 어떻게 채울지가 시행령과 가이드라인에서 명확히 정해져야 합니다.

딥페이크 피해와 규제의 현실 격차

이 개정 논의의 배경에는 딥페이크 성범죄 피해의 심각성이 있습니다. 한국은 AI 생성 딥페이크 성범죄 피해가 세계적으로도 높은 수준으로 보고되는 국가입니다. 피해자가 자신의 얼굴이 AI로 합성된 영상에서 워터마크를 확인하고 AI 생성임을 증명할 수 있어야 법적 대응이 가능합니다.

워터마크 표시를 형사처벌 대상으로 강화하는 것은 이 맥락에서 필요한 방향입니다. 다만 처벌 수위가 실제 억지력이 되려면 충분해야 합니다. 2000만 원 벌금이 딥페이크 성범죄에 비례하는 처벌인지, 아니면 법적 공백을 메우는 최소한의 조치인지는 논의가 필요합니다.

법이 기술을 따라잡으려는 노력

시행 4개월 만의 보완 입법은 AI 기본법이 사회적 현실을 앞서가는 기술의 속도를 따라잡으려는 과정이라는 점을 보여줍니다. 구체성 없는 조항이 현장에서 어떻게 남용되는지를 확인하고, 빠르게 보완하는 입법 방식은 긍정적입니다.

과제는 남아 있습니다. 글로벌 AI 서비스를 제공하는 해외 기업들이 한국의 워터마크 표준을 어떻게 따를 것인가, AI 탐지 기술이 워터마크 위변조 기술과 속도 경쟁을 어떻게 따라갈 것인가, 유통 플랫폼의 책임 범위를 어디까지 설정할 것인가가 풀어야 할 과제입니다.

법 조문이 완성돼도 현장 집행의 실효성이 담보되지 않으면 종이 호랑이가 됩니다. AI 기본법과 그 개정안이 실제로 딥페이크 피해자를 보호하는 도구가 되려면, 법 집행 체계와 탐지 기술 표준화가 함께 발전해야 합니다.

#AI기본법개정 #AI워터마크 #딥페이크규제 #김대식의원 #조인철의원 #AI형사처벌 #생성형AI규제 #AI기본법