AI 생성 가짜 인플루언서 미국 중간선거 여론 조작 소셜미디어 틱톡 친트럼프 계정 300개 분석

---

기사 원문은 이 링크를 통해 확인하실 수 있습니다.

미국 중간선거를 앞두고 AI가 생성한 가짜 인플루언서 300개 이상이 틱톡에서 친트럼프 메시지를 대량 유포했다는 사실이 뉴욕타임스 조사를 통해 밝혀졌습니다. 게시물 한 건 제작비용은 고작 1~3달러. 저비용 고효율의 여론 공작이 현실이 되었습니다.

이 사건이 단순한 스팸 계정 문제가 아닌 이유는 분명합니다. AI 기술이 정치적 의도를 가진 콘텐츠 공장과 결합했을 때 민주주의의 정보 생태계 자체를 뒤흔들 수 있다는 것을 실증적으로 보여주었기 때문입니다. 이 글에서는 이번 사건의 구체적인 실태, 플랫폼의 대응, 그리고 우리가 주목해야 할 구조적 문제를 짚어봅니다.

틱톡 AI 가짜 계정 300개 이상, 실태는 어떠한가

퍼듀대학교 GRAIL 연구소와 보안기업 Alethea의 분석을 포함한 이번 조사에서 드러난 수치는 구체적입니다.

틱톡에서만 올해 1월 이후 304개의 가짜 친트럼프 계정이 확인되었으며, 인스타그램·페이스북·유튜브에서도 추가 계정들이 발견되었습니다. 일부 계정은 팔로워 3만 5천 명 이상을 확보했고, 개별 게시물 조회수가 50만 회를 넘긴 사례도 있습니다.

계정들은 단순 봇이 아닙니다. AI로 생성된 인물 이미지를 프로필 사진으로 사용하고, “급진 좌파”나 “America First” 같은 정치 슬로건을 반복적으로 삽입한 영상을 규칙적으로 올립니다. 동일한 언어 패턴, 동일한 음향 효과, 동일한 캐릭터 이미지가 여러 계정에서 반복되어 조직적 운영 정황이 명확합니다. 심지어 도널드 트럼프 전 대통령 본인이 이 계정 중 하나의 콘텐츠를 직접 공유하기도 했습니다.

운영 주체는 아직 특정되지 않았습니다. 그러나 AI 광고 스타트업 Doublespeed의 공동창업자에 따르면, 이 규모의 캠페인을 한 사람이 단독으로 운영하는 것이 기술적으로 충분히 가능하다고 합니다.

왜 지금 이 시점인가, AI 여론 조작의 구조 변화

AI 기반 여론 조작이 새로운 것은 아닙니다. 그러나 이번 사례는 이전과 질적으로 다릅니다.

과거의 정치적 허위 콘텐츠 캠페인은 대규모 인력과 예산이 필요했습니다. 전문 영상 제작팀, 스크립트 작가, SNS 운영 인력이 필요했고, 그만큼 추적도 가능했습니다. 지금은 다릅니다. AI 영상 생성 도구와 자동화 포스팅 도구의 결합으로 1인 운영, 건당 1~3달러의 비용으로 수백 개 계정을 동시 운영하는 것이 현실이 되었습니다.

특히 중요한 변화는 콘텐츠의 설득력입니다. AI로 생성된 인물은 실제 사람처럼 보이고 말하며, 특정 인구통계(예: 미국 농촌 백인 여성, 흑인 MAGA 지지자 등)를 정밀하게 모사합니다. 이는 단순 텍스트 봇보다 훨씬 높은 신뢰도와 공감을 유도합니다.

일본의 사례도 주목할 만합니다. 최근 일본 중의원 선거에서도 유사한 AI 가짜 정보가 확산되었으며, 국제대학 야마구치 신이치 교수의 조사에서 응답자의 51.5%가 해당 가짜 뉴스를 사실로 믿었다고 답했습니다. 이는 한국에도 직접적인 시사점을 갖습니다.

플랫폼 기업의 대응과 그 한계

틱톡은 해당 계정들을 “스팸”으로 규정하고 삭제 계획을 밝혔으나, “비밀 영향력 공작의 징후는 없다”는 입장을 유지했습니다. 이 표현이 핵심입니다.

**“비밀 영향력 공작이 아니다”**는 말은, 외국 정부나 조직이 배후에 있다는 증거가 없다는 뜻입니다. 그러나 조직적 여론 조작이 반드시 외국 세력의 개입을 필요로 하지 않는다는 점에서, 이 논리는 책임 회피에 가깝습니다. 동일한 언어, 동일한 이미지, 동일한 소리 효과를 쓰는 300여 개 계정이 “단순 스팸”이라는 설명은 납득하기 어렵습니다.

더 근본적인 문제는 탐지의 어려움입니다. AI 생성 이미지는 해상도와 자연스러움이 빠르게 개선되고 있어, 사람의 눈으로 식별하는 것이 점점 불가능해집니다. 플랫폼이 AI 생성 콘텐츠를 자동 탐지하고 표시하는 시스템을 갖추지 않는 한, 이 문제는 지속적으로 확대될 것입니다.

한국의 규제

텔레그램 AI 딥페이크 성착취 수익 구조 분석 누디파잉봇부터 아동학대 영상 판매까지 | AI코리아24

한국은 이미 딥페이크 관련 규제를 일부 도입했습니다. 선거 관련 딥페이크 영상 배포는 공직선거법상 처벌 대상입니다. 그러나 규제의 실효성과 집행 속도는 기술 발전 속도를 따라가지 못합니다.

미국 사례에서 드러난 위협은 몇 가지 핵심 특성을 가집니다. 제작 비용이 극히 낮아 소규모 정치 세력도 활용 가능하고, 계정 운영이 완전 자동화되어 있으며, AI 생성 인물을 활용해 실제 유권자층과 유사한 외형을 만들 수 있습니다. 이 세 가지 조건은 한국의 선거 환경에도 그대로 적용됩니다.

특히 국내외 유튜브, 틱톡, 인스타그램 등 플랫폼에서 활동하는 정치 콘텐츠 계정에 대한 AI 생성 여부 공시 의무화는 이미 논의를 시작해야 할 시점입니다.

이 뉴스를 관통하는 핵심 인사이트

AI 생성 인플루언서 문제는 기술 문제가 아니라 정보 생태계의 신뢰 문제입니다. 우리가 소셜미디어에서 보는 얼굴이 실제 사람인지 아닌지를 더 이상 눈으로 판별할 수 없는 시대가 되었습니다.

“스팸이니까 알아서 걸러진다”는 낙관론은 현실을 반영하지 않습니다. 50만 뷰를 기록한 가짜 콘텐츠가 이미 실질적인 영향을 미쳤고, 트럼프 전 대통령이 직접 공유했다는 사실이 그 증거입니다. 이제 필요한 것은 플랫폼의 자율 규제를 기대하는 것이 아니라, AI 생성 정치 콘텐츠에 대한 명확한 공시 의무와 탐지 기준을 법제화하는 것입니다.

기술의 민주화가 동시에 민주주의의 취약성을 심화하는 이 역설에, 사회 전체가 실질적인 답을 내놓아야 할 시간이 왔습니다.

#AI인플루언서 #선거여론조작 #틱톡가짜계정 #딥페이크정치 #미국중간선거 #AI소셜미디어 #AI안전