AI MAGA Girls 친트럼프 AI 인플루언서의 실체 Wired 분석과 정치적 여론 조작의 진화

기사 원문은 이 링크를 통해 확인하실 수 있습니다.

이들은 존재하지 않는 사람들입니다. 그러나 수만 명이 팔로우하고, 수십만 명이 콘텐츠를 봅니다.

Wired가 분석한 AI MAGA Girls는 소셜미디어에서 젊은 보수 여성처럼 보이도록 설계된 AI 생성 계정들입니다. 앞서 뉴욕타임스가 틱톡의 친트럼프 AI 계정 304개의 숫자를 보도했다면, Wired는 그 계정들이 어떻게 만들어지고 어떤 심리적 메커니즘으로 작동하는지를 들여다봤습니다. 이 차이가 중요합니다. 숫자보다 메커니즘을 이해해야 대응이 가능하기 때문입니다.

이 분석은 단순한 허위 계정 문제를 넘어섭니다. 정치적 AI 인플루언서가 어떻게 설계되고, 왜 효과가 있으며, 플랫폼과 사회가 어떻게 반응하고 있는지를 이해하는 것이 지금 필요한 논의입니다.

AI MAGA Girls는 어떻게 다른가

기존의 정치적 허위 계정, 즉 봇(bot)과 AI MAGA Girls의 차이는 외형과 콘텐츠 품질에 있습니다.

기존 정치 봇은 텍스트 중심이었고 프로필 이미지도 조잡하거나 없는 경우가 많았습니다. 계정 행동 패턴이 기계적이어서 훈련된 연구자가 비교적 쉽게 식별할 수 있었습니다.

AI MAGA Girls는 다릅니다. 프로필에는 AI로 생성된 사실적인 여성 이미지가 사용됩니다. 금발의 젊은 여성, 미국 농촌 분위기의 배경, MAGA 관련 액세서리가 담긴 사진들이 반복됩니다. 게시물은 단순 슬로건 반복이 아닙니다. 실제 사람이 운영하는 보수 성향 계정처럼 일상적인 이야기, 감정적 호소, 정치적 논평이 섞여 있습니다. 댓글 참여도 이루어지며, 팔로워와의 상호작용이 있는 것처럼 보입니다.

이 설계의 핵심은 정체성 기반의 신뢰 구축입니다. “나는 당신과 비슷한 미국 여성이고, 이 정치적 입장을 지지한다”는 메시지를 외형과 콘텐츠 스타일을 통해 전달합니다. 이것은 텍스트로 주장을 반복하는 봇과 질적으로 다릅니다. 공감과 동질감을 통한 설득이기 때문입니다.

왜 여성 캐릭터인가, 설계의 의도

AI MAGA Girls가 젊은 보수 여성 외형으로 설계된 데는 전략적 이유가 있습니다.

보수 정치 운동에서 젊은 여성 지지자의 존재는 특별한 설득력을 가집니다. 보수주의가 고령 남성 중심이라는 일반적 인식에 반하는 이미지를 만들기 때문입니다. “나 같은 젊은 여성도 트럼프를 지지한다”는 메시지는, 이미 보수 성향인 사람들에게는 결집 효과를 주고, 부동층에게는 보수 운동의 다양성을 보여주는 효과를 냅니다.

이것은 마케팅 이론에서 말하는 사회적 증거(social proof) 의 응용입니다. 사람들은 자신과 비슷해 보이는 사람의 행동과 의견을 더 쉽게 따라갑니다. AI가 생성한 특정 인구통계학적 외형의 계정이 특정 정치적 메시지를 반복적으로 표현하면, 그 인구층에 속하는 실제 사람들의 태도에 영향을 미칠 수 있다는 것이 이 전략의 논리입니다.

Wired의 분석은 여기서 더 나아갑니다. 일부 계정들은 흑인 MAGA 지지자, 라티나 보수주의자 등 다양한 소수 집단의 외형을 가진 AI 생성 캐릭터를 사용합니다. 각각의 인구통계 집단에 맞춘 설득 메시지를 그 집단의 구성원처럼 보이는 캐릭터가 전달하는 방식입니다. 이것은 단일 캐릭터 하나로 여러 집단을 공략하는 것보다 훨씬 정교한 전략입니다.

콘텐츠 제작 비용과 규모의 논리

앞서 뉴욕타임스 보도에서 나온 핵심 수치, 게시물 한 건 제작비 1~3달러는 이 전략의 확산성을 설명합니다.

1~~3달러는 AI 이미지 생성, 스크립트 작성, 음성 합성, 자동 포스팅까지 포함한 전체 콘텐츠 제작 비용입니다. 월 1,000달러 예산으로 300~~1,000개의 게시물을 수백 개 계정에 배포하는 것이 기술적으로 가능합니다.

이 비용 구조가 정치 AI 인플루언서를 기존의 정치 광고와 근본적으로 다르게 만듭니다. 기존 정치 광고는 방송이나 디지털 매체에 비용을 지불하고 광고임을 명시합니다. 정치 AI 인플루언서는 광고처럼 보이지 않습니다. 진짜 사람의 자발적 지지처럼 보입니다. 이 차이가 규제와 탐지를 어렵게 만드는 핵심입니다.

플랫폼의 현행 대응 방식도 이 비용 논리 앞에서 한계를 보입니다. 계정을 삭제하면 같은 비용으로 새 계정을 만들 수 있습니다. 플랫폼이 탐지 기술을 개선하면, 제작 측은 더 자연스러운 콘텐츠를 만드는 방향으로 AI를 개선합니다. 이 비대칭적 비용 구조에서 방어자인 플랫폼이 불리합니다.

플랫폼의 대응과 그 한계

틱톡은 해당 계정들을 “스팸”으로 규정하고 삭제 조치를 했습니다. 동시에 “비밀 영향력 공작의 징후는 없다”는 입장을 유지했습니다.

이 표현이 의미하는 것은 외국 정부나 조직된 정치 세력의 개입 증거가 없다는 것입니다. 그러나 이 논리에는 공백이 있습니다. 조직적 여론 조작이 반드시 외국 세력의 개입을 필요로 하지는 않습니다. 국내의 개인이나 소규모 집단이 저비용으로 같은 효과를 만들어낼 수 있는 것이 지금의 현실입니다.

더 근본적인 문제는 플랫폼이 수익 구조와 규제 필요성 사이에서 이해충돌을 안고 있다는 것입니다. AI 생성 콘텐츠는 참여도가 높고 알고리즘이 선호합니다. 플랫폼의 광고 수익 모델은 더 많은 콘텐츠, 더 높은 참여도를 필요로 합니다. AI가 만든 콘텐츠도 그 수익에 기여합니다. 이 구조에서 플랫폼이 자발적으로 AI 생성 정치 콘텐츠를 강력하게 제한하기를 기대하는 것은 현실적이지 않습니다.

메타와 유튜브도 유사한 패턴의 계정들을 제거하고 있지만, 제거 속도가 생성 속도를 따라가지 못한다는 것이 연구자들의 일반적인 평가입니다.

한국 선거 환경에 대한 시사점

AI MAGA Girls 사례가 한국에 직접적인 시사점을 갖는 이유는, 이 전략이 언어와 문화만 바꾸면 어느 환경에서도 재현 가능하기 때문입니다.

한국어로 생성된 AI 이미지와 텍스트, 한국의 특정 인구통계(예: 20대 여성 지지자, 중장년 남성 보수층 등)의 외형을 가진 AI 생성 계정이 특정 정당이나 후보를 지지하는 콘텐츠를 배포하는 것은 기술적으로 이미 가능합니다. 한국의 공직선거법은 딥페이크 영상을 이용한 선거 운동을 금지하고 있지만, AI 생성 이미지와 텍스트 콘텐츠를 활용하는 가짜 소셜미디어 계정 전반에 대한 규율은 아직 명확하지 않습니다.

특히 한국의 선거 환경에서 주목할 점이 있습니다. 한국은 유권자의 소셜미디어 활용도가 높고, 온라인 여론이 실제 투표 결정에 영향을 미친다는 연구 결과가 있습니다. 이 환경에서 AI 생성 정치 인플루언서가 대규모로 운영된다면, 그 영향은 미국보다 더 직접적일 수 있습니다.

중앙선거관리위원회와 플랫폼 기업들이 AI 생성 정치 콘텐츠에 대한 탐지와 규제 기준을 선거 전에 명확히 정립해야 할 시점입니다.

이 현상이 요구하는 것

AI MAGA Girls 현상은 기술 문제가 아닙니다. 민주주의 정보 환경의 신뢰 문제입니다.

소셜미디어에서 보이는 얼굴이 실제 사람인지 AI 생성 캐릭터인지를 구별하는 것이 점점 어려워지는 환경에서, 사람들이 접하는 정치적 의견의 진정성을 어떻게 확인할 수 있는가. 이 질문에 대한 답을 플랫폼 알고리즘에 맡기거나 개인의 미디어 리터러시에 위임하는 것은 충분하지 않습니다.

AI 생성 정치 콘텐츠에 대한 공시 의무화는 논의를 시작해야 할 최소한의 기준입니다. AI가 생성하거나 AI가 핵심적으로 관여한 정치적 콘텐츠임을 명시해야 한다는 요구는, 기존 광고 규제의 논리와 같습니다. 광고는 광고임을 표시해야 합니다. AI가 만든 정치 메시지도 같은 기준을 적용받아야 합니다.

기술이 민주주의보다 빠르게 발전하고 있는 지금, 그 간격을 줄이는 것은 기술 기업만의 책임이 아닙니다.

#AI인플루언서 #MAGAGirls #AI여론조작 #딥페이크정치 #AI가짜계정 #선거AI #AI민주주의