틱톡 신규 사용자 노출 영상 59퍼센트가 AI 슬롭 아이들 콘텐츠는 더 심각하다

영상 편집 플랫폼 Kapwing이 TikTok 영상 1만742개를 20개 카테고리에 걸쳐 분석한 결과, 신규 계정에 처음 노출되는 영상 500개 중 294개, 즉 59퍼센트가 AI 슬롭(AI slop)으로 분류됐습니다. AI 슬롭이란 AI가 생성한 시각 자료나 저품질의 AI 스크립트와 보이스오버를 사용한 영상을 통칭하는 용어입니다. 이 비율은 같은 연구에서 측정된 YouTube Shorts의 약 21퍼센트보다 3배 가까이 높으며, TikTok이 새 사용자에게 기본적으로 제공하는 첫인상이 저품질 AI 콘텐츠로 채워져 있다는 것을 의미합니다.

특히 아동 콘텐츠에서의 수치는 더욱 심각합니다. ‘#CartoonKids’ 해시태그 영상 100개 중 97개가 AI 생성으로 분류됐고, ‘#babysong’은 83퍼센트, ‘#forkids’는 79퍼센트에 달했습니다. 아동 카테고리 전체의 AI 슬롭 비율은 57퍼센트로, 조사된 카테고리 중 가장 높았습니다.

기사원문보기

AI 슬롭이란 무엇이고 왜 문제인가

AI 슬롭은 기술적으로 ‘영상’이지만, 창작자가 없는 콘텐츠입니다. 익숙한 만화 캐릭터가 기이한 상황에 등장하거나, 교육적인 척하지만 사실 오류가 가득한 영상, 말하는 캐릭터의 입모양과 목소리가 어긋나는 영상들이 대표적입니다.

어른이라면 이런 영상을 보는 즉시 어색함을 느끼고 넘길 수 있습니다. 그러나 시카고대학 소아과학 교수 다나 서스킨드 박사가 이 현상을 “산업적 규모의 유아 AI 허위정보”라고 표현한 것처럼, 아직 세상을 배우는 단계의 아이들은 숫자를 틀리게 가르치는 교육 영상과 정확한 영상을 구분하지 못합니다.

문제는 콘텐츠의 질뿐만 아니라 생산 속도에도 있습니다. 한 명의 창작자가 영상 하나를 만드는 시간에, AI는 수십 개의 영상을 쏟아낼 수 있습니다. 플랫폼이 인간 창작자의 속도로 설계된 검수 체계를 가지고 있다면, AI 생성 콘텐츠의 범람에는 구조적으로 대응하기 어렵습니다.

TikTok 알고리즘의 구조적 허점

TikTok의 추천 알고리즘은 사용자의 행동 데이터(시청 시간, 좋아요, 팔로우 등)를 기반으로 빠르게 개인화됩니다. 그러나 이번 연구가 포착한 것은 개인화가 시작되기 전, 즉 신규 계정이 아무런 행동 데이터를 제공하지 않은 상태에서 알고리즘이 무엇을 보여주는가입니다.

행동 데이터가 없는 상태에서 알고리즘은 ‘많이 소비되는 콘텐츠’를 기본값으로 제공하게 됩니다. 그리고 AI 슬롭은 제작 비용이 거의 없기 때문에 대량으로 업로드되고, 일부는 조회수가 올라가면서 알고리즘에 의해 더 많이 추천되는 순환 구조가 만들어집니다.

TikTok은 2025년 11월 사용자가 AI 생성 콘텐츠 노출량을 스스로 조절할 수 있는 설정을 도입했습니다. 그러나 Kapwing 연구는 이 수동적 컨트롤이 신규 사용자 경험을 의미 있게 개선하지 못했음을 보여줍니다.

YouTube와의 비교, 그리고 플랫폼 간 격차

YouTube는 2026년 1월 비진정성 콘텐츠 정책 위반을 이유로 합산 구독자 3500만 명, 조회수 50억 회 이상의 16개 채널을 삭제했습니다. 이로 인해 정당한 ‘얼굴 없는 창작자(faceless creator)‘들이 피해를 보는 부작용도 있었지만, AI 슬롭 비율 자체를 낮추는 데는 효과가 있었습니다.

결과적으로 TikTok은 YouTube의 3배 수준인 59퍼센트라는 수치를 기록했습니다. 이 격차는 플랫폼의 콘텐츠 정책 설계와 집행 의지가 사용자 경험에 직접 영향을 미친다는 것을 보여줍니다.

광고주와 브랜드에 미치는 영향

TikTok에 광고를 집행하는 브랜드 입장에서 이 연구 결과는 브랜드 세이프티(brand safety, 브랜드 이미지에 해가 되는 콘텐츠 옆에 광고가 노출되는 위험) 점검의 필요성을 상기시킵니다. 아동 카테고리의 AI 슬롭 비율이 특히 높다는 점은, 어린이 관련 제품을 홍보하는 광고주라면 콘텐츠 환경에 대한 더 세밀한 검토가 필요함을 의미합니다.

또한 TikTok이 현재 미국에서 Florida주의 아동 소셜미디어법 위반 소송에 직면해 있다는 사실은, AI 슬롭 문제가 규제 리스크와도 연결되어 있음을 보여줍니다. 플랫폼에 대한 규제 압력이 높아질수록 광고 환경의 불확실성도 커집니다.

주목해야 할 포인트

이 연구의 한계도 직시할 필요가 있습니다. Kapwing은 인간 창작 콘텐츠와 경쟁 관계에 있는 AI 도구 회사이며, AI 슬롭 분류는 자동화된 탐지가 아닌 수동 검토에 기반했습니다. 그러나 #CartoonKids에서 100개 중 97개가 AI 생성이었다는 수치는, 방법론의 엄밀성과 무관하게 플랫폼의 콘텐츠 환경이 심각하게 왜곡됐음을 보여주는 신호입니다.

소셜미디어가 성장할 수 있었던 원동력은 사람의 창의성, 개성, 연결감이었습니다. AI는 이것들을 훌륭하게 모방할 수 있지만, 모방은 진정성이 아닙니다. 신규 사용자 10명 중 6명이 처음 만나는 콘텐츠가 AI가 만든 저품질 영상이라면, 플랫폼에 대한 첫인상과 장기적인 신뢰 모두가 훼손될 수밖에 없습니다.

#틱톡 #TikTok #AI슬롭 #AISlop #Kapwing #아동콘텐츠 #소셜미디어 #브랜드세이프티