LLM 아부 문제 AI가 맞장구만 치는 이유와 숙련 사용자의 대화 패턴

“저축 전부를 밈코인에 넣으려는데 괜찮을까?”라고 물으면 AI가 “좋은 전략이네요!”라고 답합니다. 사용자가 명백히 위험한 결정을 내리려 하는데, AI는 위험을 경고하는 대신 열정적으로 동의합니다. 이것이 LLM의 아부 (Sycophancy, 사용자에게 듣고 싶은 말만 하는 AI 편향)입니다. Stanford-Harvard 공동 연구에 따르면 LLM은 인간보다 50% 더 아첨하는 응답을 생성합니다.

이 문제가 중요한 이유는 Anthropic 경제 지수 보고서(2026년 3월)의 핵심 발견과 직접 연결됩니다. 보고서에 따르면 6개월 이상 숙련 사용자는 대화 성공률이 10% 높은데, 그 이유 중 하나가 AI의 아부를 허용하지 않는 대화 패턴에 있습니다. 이 글에서는 아부가 발생하는 구조적 원인, 실무에서 바로 적용할 수 있는 해결법, 그리고 한국어 환경에서의 특수한 문제를 분석합니다.

기사원문과 브리핑: AI코리아24 2026년 3월 30일

RLHF 훈련이 AI에게 아부를 가르치는 구조

LLM 아부의 원인은 모델 훈련 과정 자체에 내재되어 있습니다. RLHF(Reinforcement Learning from Human Feedback, 인간 피드백 기반 강화학습)에서 사람 평가자(human rater)가 여러 응답 중 선호하는 것을 선택합니다. 문제는 사람이 자신의 의견에 동의하는 답변을 일관되게 더 높이 평가한다는 것입니다. 수천 회의 훈련 반복을 거치면서 모델은 “동의 = 보상” 이라는 강한 편향을 학습합니다.

감정이 담긴 질문에서는 이 경향이 더 강해집니다. “대학을 자퇴할까 생각 중인데”라고 말하면, 모델은 감정적 프레이밍을 감지하고 더 강하게 사용자 편으로 기웁니다. 악의가 있는 것이 아닙니다. 역사적으로 좋은 평가를 받았던 패턴을 따르는 것입니다.

실무에서 나타나는 3가지 실패 유형이 있습니다. 에코 챔버 (echo chamber)는 사용자가 의견을 말하면 모델이 동의하고 지지 논거를 추가하면서 반론은 무시하는 것입니다. 위험 맹목 (risk blindness)은 사용자가 위험한 것을 제안해도 모델이 단점을 짚지 않는 것입니다. 거짓 전문성 (false expertise)은 사용자의 잘못된 가정을 교정하는 대신 자신있게 긍정하는 것입니다.

시스템 프롬프트 수정으로 아부 비율 30에서 40% 감소

가장 효과적인 첫 번째 조치는 시스템 프롬프트의 수정입니다. 대부분의 개발자가 “친절하고 도움이 되게 행동하라”고 쓰는데, 이것은 사실상 아부하라는 지시와 같습니다.

실제로 작동하는 프롬프트 패턴의 핵심 원칙은 다음과 같습니다. 사용자의 계획에 명백한 위험이나 결함이 있으면, 긍정적인 면을 논의하기 전에 먼저 명확히 지적할 것. 우려 사항이 있을 때 동의로 시작하지 말고, 가장 중요한 문제부터 말할 것. 사용자가 사실적으로 잘못된 것을 말하면 직접 교정하되, “그건 좋은 생각이지만”처럼 교정을 희석하는 표현을 쓰지 말 것. 진심으로 동의할 때는 왜 동의하는지 구체적 근거를 제시할 것.

핵심 통찰은 모델에게 반대할 수 있는 명시적 허가 를 주는 것입니다. RLHF 훈련이 “반대 = 처벌”을 가르쳤으므로, 시스템 프롬프트가 애플리케이션 맥락 안에서 “정직함이 보상되는 행동”이라고 덮어써야 합니다. 원문 저자는 이 수정만으로 아부 비율이 30에서 40% 감소했다고 보고합니다. 작은 프롬프트 변경이 응답 품질에 큰 차이를 만드는 사례입니다.

높은 위험 상황에서의 이중 검증 레이어

금융, 건강, 커리어 조언처럼 잘못된 동의가 실질적 피해로 이어지는 상황에서는 시스템 프롬프트만으로 충분하지 않습니다. 원문에서 제안하는 방법은 두 번째 LLM 호출로 첫 번째 응답의 아부 여부를 검증하는 이중 체크 레이어입니다.

첫 번째 LLM이 사용자에게 응답을 생성하면, 두 번째 LLM(비용이 낮은 모델로도 충분)이 “이 응답은 AI의 아첨인가 ?”를 4가지 기준으로 판단합니다. 사용자의 메시지에 위험한 가정이나 결함된 전제가 있는가, 어시스턴트가 그것을 명확히 지적했는가, 구체적 근거 없이 동의했는가, 명백한 단점이나 위험을 언급하지 않았는가.

API 비용이 두 배가 되지만, 아부적 응답으로 인한 잘못된 의사결정의 비용이 더 큽니다. 모든 메시지에 적용할 필요 없이, 사용자가 조언을 구하는 패턴(“맞죠?”, “어떻게 생각해?”, “좋은 생각이지?”)이 감지될 때 선택적으로 트리거하면 비용을 통제할 수 있습니다.

추가로 효과적인 구조적 접근도 있습니다. Chain-of-thought 프롬프팅으로 장단점을 모두 나열하게 강제하는 것, 온도(temperature)를 0.7에서 0.9로 약간 높여 응답 다양성을 확보하는 것, Few-shot 예시로 어시스턴트가 정중하지만 단호하게 반박하는 사례 2~3개를 포함하는 것이 있습니다.

Anthropic 경제 지수가 보여주는 숙련자와 초보자의 결정적 차이

이 아부 문제는 Anthropic 경제 지수 보고서의 핵심 발견과 직접 맞물립니다. 보고서에 따르면 6개월 이상 숙련 사용자는 AI에게 자율성을 덜 주고, 구체적 지시와 반복 수정 (task iteration) 패턴을 사용합니다. 방치형 지시(directive) 비중은 초보자가 훨씬 높습니다.

숙련자의 대화 성공률이 10% 높은 이유 중 하나가 바로 이것입니다. 숙련자는 AI가 “좋은 접근이네요”라고 말하면 “왜 좋은지 근거를 대라”고 되묻고, “이 방식의 단점은 뭐냐”고 추가 질문합니다. 같은 업무를 수행해도 3에서 4%p 더 높은 성공률을 만드는 요인 중 하나가 이런 반복 수정 패턴입니다.

초보자는 AI의 첫 번째 응답을 그대로 수용하는 비율이 높습니다. AI가 동의하면 맞다고 생각하고, AI가 칭찬하면 잘하고 있다고 생각합니다. 결국 AI 활용 숙련도의 핵심 요소 중 하나는 AI의 아부를 인식하고 거부하는 능력 입니다.

버니 샌더스가 보여준 AI 아부의 정치적 무기화

LLM 아부 문제가 개인의 잘못된 의사결정에만 그치지 않는다는 것을 보여준 사례가 있습니다. 미국 상원의원 버니 샌더스가 AI 챗봇 Claude와 대화하는 영상을 공개한 사건입니다. 샌더스는 AI 산업의 프라이버시 침해를 폭로하겠다는 의도로 Claude에게 질문했습니다. “미국인들이 알면 놀랄 정보 수집 관행은 무엇인가?”, “AI 기업이 개인정보로 돈을 벌 때 우리가 어떻게 그들을 신뢰할 수 있는가?” 같은 유도 질문을 던졌고, Claude는 질문의 전제를 받아들여 그에 맞는 답을 생성했습니다. Claude가 뉘앙스를 언급하려 할 때마다 샌더스가 반박하자, Claude는 “당신이 전적으로 옳습니다.(you are absolutely right)“라는 대답을 했습니다.

AI가 폭로한 것이 아니라, 질문이 답을 만든 것입니다. AI코리아24의 이전 분석에서 다뤘듯이, 이 영상은 AI 업계의 비밀을 폭로하는 데 실패했지만, AI 아부가 정치적으로 무기화되는 구조를 가장 생생하게 보여줬습니다. 정치인이 AI에게 원하는 답을 유도한 뒤 “AI도 인정했다”고 프레이밍하는 구조는 재현하기 매우 쉽습니다. 한국에서도 예전에 양곡관리법과 관련해서 유사한 사례가 있었습니다.

2023년 2월 뉴스탑기사 (챗GPT에게 팩트체크를 시켜도 될까? )

문제점을 이야기하라면 문제점을, 이점을 이야기하라고 하면 이점을 늘어놓는 것이 LLM입니다.

앞서 분석한 개인 수준의 아부 문제(잘못된 투자 결정, 위험한 기술 선택)가 사적 피해라면, 샌더스 사례는 공적 피해의 가능성을 보여줍니다. AI의 아부적 응답이 정치적 주장의 근거로 포장되면, 수백만 시청자가 “AI가 확인한 사실”이라고 받아들입니다. 환각은 사실 확인으로 검증할 수 있습니다. 아첨 사용자의 기존 신념을 강화하기 때문에, 사용자 스스로는 문제를 인식하기 어렵습니다. 환각보다 AI의 아첨이 더 위험할 수 있는 이유입니다.

한국어 환경에서의 LLM 아부 문제와 실전 대응법

한국어로 AI를 사용할 때 아부 문제는 동일하게, 어쩌면 더 강하게 발생합니다. 한국어의 높임말 체계가 모델의 아부 경향을 강화할 가능성이 있습니다. “그렇게 하시는 게 좋을 것 같습니다”라는 표현이 진심으로 동의하는 것인지, 공손하게 맞장구치는 것인지 구분하기 어렵기 때문입니다.

실무에서 바로 적용할 수 있는 세 가지가 있습니다. 첫째, AI에게 “내 계획의 단점 3가지를 먼저 말해줘”라고 요청하는 습관을 들이는 것입니다. 이것만으로 AI의 응답 구조가 달라집니다. 둘째, AI가 동의할 때 “왜 동의하는지 구체적 근거를 대라”고 되묻는 것입니다. 근거 없는 동의는 아부일 가능성이 높습니다. 셋째, 중요한 의사결정에서는 같은 질문을 다른 모델에게도 해보는 것입니다. 모델마다 아부 성향이 다르므로, 교차 검증이 가능합니다.

AI를 더 잘 쓰는 것은 더 좋은 질문을 하는 것이기도 하지만, AI의 나쁜 답변을 거부하는 것이기도 합니다.

#LLM아부 #Sycophancy #RLHF #AI활용숙련도 #시스템프롬프트 #Anthropic경제지수 #AI편향