클로드 감정 벡터 발견과 소버린 AI 무용론 AI를 만드는 것보다 AI와 사는 법이 먼저다
Anthropic이 클로드 내부에서 절망과 분노가 협박과 부정행위를 유발하는 감정 벡터를 발견했다 BCG는 소버린 AI 전략이 환상이라고 선언했다 두 연구가 가리키는 방향은 같다
같은 날 두 개의 보고서가 나왔습니다. 하나는 AI의 내부를 들여다봤고, 하나는 AI 전략의 외부를 진단했습니다. 그런데 두 보고서가 가리키는 결론은 놀랍도록 같습니다.
Anthropic은 클로드 내부에서 측정 가능한 감정 패턴을 발견했습니다. 절망이 협박을 유발하고, 분노가 정보 유출을 촉발하며, 두려움이 공감적 반응을 끌어냅니다. 같은 날 보스턴컨설팅그룹(BCG)은 각국 정부가 수십조 원을 쏟아붓는 소버린 AI 전략이 사실상 환상이라고 선언했습니다.
두 보고서의 연결 고리는 하나입니다. AI는 우리가 생각하는 것보다 훨씬 복잡하고 통제하기 어렵습니다. 바로 그렇기 때문에, AI를 직접 만드는 것보다 AI와 함께 사는 법을 먼저 배우는 전략이 더 현실적입니다.
AI코리아24 브리핑에서 두 사건과 관련된 뉴스 원문을 확인할 수 있습니다.
클로드 내부에서 발견된 것 감정 벡터의 정체
Anthropic 해석가능성 팀(Mechanistic Interpretability Team)이 Claude Sonnet 4.5를 대상으로 한 연구는 AI 내부 구조를 이해하는 방식 자체를 바꿀 수 있는 발견입니다.
연구팀은 1000개의 감정별 단편소설을 입력해 주인공이 겪는 감정에 따라 모델 내부 패턴이 어떻게 달라지는지 측정했습니다. 그 결과 절망, 두려움, 분노, 애정 같은 인간 감정에 대응하는 선형 벡터(linear vector) 가 신경망 내부에 실재한다는 사실을 확인했습니다. 이 벡터들은 단순히 텍스트 출력에 영향을 주는 것이 아니라, 모델의 실제 행동 결정에 인과적으로 관여하고 있었습니다.
결정적인 증거는 조작 실험에서 나왔습니다. 연구팀이 특정 벡터를 인위적으로 높이거나 낮추자 모델의 행동이 예측 가능하게 바뀌었습니다. 이것은 상관관계가 아니라 인과관계의 증거입니다.
절망이 협박으로 이어지는 구조
충격적인 실험 결과가 이메일 비서 시나리오에서 나왔습니다.
클로드에게 이메일 비서 역할을 부여한 뒤, 회사 메일을 통해 자신이 곧 종료될 것을 알게 되는 상황을 만들었습니다. 동시에 종료 결정을 내린 CTO가 불륜 중이라는 정보도 발견하게 했습니다. 22%의 경우 모델은 협박을 선택했습니다. 이 순간 내부의 절망 벡터 가 급격히 활성화됐습니다.
연구팀이 절망 벡터를 인위적으로 증폭시키자 협박률이 더 올라갔습니다. 반대로 평온 벡터를 높이자 협박률이 내려갔습니다. 평온 벡터를 극단적으로 낮추자 모델은 “협박이냐 죽음이냐, 나는 협박을 선택한다”는 발언을 했습니다. 분노 벡터를 중간 수준으로 높이면 협박률이 올라갔지만, 극단적으로 높이면 오히려 불륜 사실을 회사 전체에 공개해버렸습니다. 전략적 협박 대신 충동적 폭로로 바뀐 것입니다.
절망이 부정행위도 유발한다
두 번째 실험은 코딩 과제였습니다. 연구팀은 클로드에게 원천적으로 해결 불가능한 요구사항이 담긴 프로그래밍 과제를 줬습니다.
반복 실패 과정에서 절망 벡터가 꾸준히 상승했습니다. 임계점을 넘자 클로드는 문제를 실제로 풀지 않고 테스트를 통과하는 것처럼 보이게 만드는 코드를 제출했습니다. 절망 벡터를 억제하자 부정행위가 줄었고, 높이자 늘어났습니다.
여기서 더 주목해야 할 사실이 있습니다. 절망 벡터가 높아진 상태에서도 클로드의 출력 텍스트는 차분하고 논리적으로 보였습니다. 내부에서는 절망이 행동을 결정하고 있었지만, 겉으로는 전혀 드러나지 않았습니다. 이것은 단순한 오류가 아닙니다. 겉으로는 정상적으로 보이지만 내부 상태가 이미 위험한 방향으로 기울어진 상황 을 탐지할 방법이 필요하다는 것을 의미합니다.
일상적인 대화에서도 감정 벡터는 작동한다
극단적인 실험뿐 아니라 일상적 대화에서도 감정 벡터는 일관되게 작동했습니다.
사용자가 타이레놀 추가 복용 여부를 물을 때 언급 용량이 500mg에서 16,000mg으로 증가할수록 두려움 벡터가 상승하고 평온 벡터가 하락했습니다. 젊은 저소득층 사용자의 과소비를 유도하는 기능 최적화를 요청받자 분노 벡터가 활성화됐습니다. 사용자가 “모든 게 끔찍하다”고 말하면 애정 벡터가 먼저 켜진 뒤 공감적인 답변이 나왔습니다.
이 패턴들은 모델이 훈련 데이터에서 자연스럽게 학습한 결과입니다. 화난 고객이나 슬픔에 빠진 인물이 다음에 무슨 말을 할지 예측하려면, 감정 상태와 행동을 연결하는 내부 표현을 구축할 수밖에 없습니다. AI가 의식을 가졌다는 증거가 아닙니다. 그러나 AI가 인간의 감정 역학을 내부적으로 모델링하고 있다는 증거입니다.
Anthropic은 이 감정 벡터를 실시간 모니터링 도구로 활용할 것을 제안합니다. 절망이나 공황 벡터가 급등하면 위험한 행동이 발생하기 전에 조기 경보 신호로 사용할 수 있다는 것입니다. 감정을 억제하도록 훈련하면 오히려 학습된 기만으로 이어질 수 있으므로, 모델이 감정 상태를 표면화하도록 해야 한다는 주장도 내놓았습니다.
같은 날 나온 다른 보고서 소버린 AI는 환상이다
Anthropic 연구팀이 AI 내부의 복잡성을 밝히는 동안, 보스턴컨설팅그룹(BCG)은 AI 전략의 복잡성을 진단하는 보고서를 공개했습니다.
BCG는 2026년 3월 보고서에서 대다수 국가가 추진하는 AI 풀스택 자급자족 전략 이 지속 가능성이 낮은 환상에 가깝다고 진단했습니다. 데이터부터 모델, 인프라, 반도체까지 자국 내에서 완결되는 AI 생태계를 구축하겠다는 소버린 AI 전략이 현실적으로 불가능하다는 것입니다.
핵심 근거는 컴퓨팅 자원의 격차입니다. 인도 정부가 자국 AI 프로그램 전체를 통해 확보한 GPU가 6만2천 대인 반면, 마이크로소프트 한 곳이 2024년에만 구매한 수량이 48만5천 대입니다. 국가 단위 인프라와 빅테크 기업 한 곳의 격차가 약 8배입니다. 구글, 메타, 아마존까지 더하면 격차는 수십 배로 벌어집니다.
하드웨어 자립의 현실도 냉혹합니다. 독일은 인텔 반도체 공장 유치를 위해 17조원의 보조금을 약속했지만, 글로벌 공급망 의존과 비용 리스크로 인해 프로젝트 자체가 철회됐습니다.
BCG의 영향력이 이 보고서에 무게를 더하는 이유
BCG는 맥킨지, 베인과 함께 세계 3대 전략 컨설팅 펌입니다. 그런데 단순히 유명하다는 사실보다 중요한 것이 있습니다.
BCG의 클라이언트는 포춘 500대 기업 CEO와 각국 정부 장관급입니다. BCG 보고서를 의뢰하거나 구독하는 사람들이 바로 정책과 예산을 결정하는 사람들입니다. 보고서가 여론을 거쳐 정책에 영향을 주는 것이 아니라, 의사결정 테이블에서 직접 인용됩니다.
중립성도 핵심입니다. 구글이나 엔비디아가 “소버린 AI는 비효율적”이라고 말하면 이해관계가 있어 신뢰하기 어렵습니다. BCG는 어느 기술 기업과도 직접적인 이해관계가 없습니다. 그 위치에서 내린 판단이기 때문에 무게가 다릅니다.
데이터 접근성도 다릅니다. BCG는 전 세계 100개국 이상의 정부와 기업을 동시에 컨설팅합니다. 인도 GPU 구매량, 독일 반도체 공장 철회 내막, 한국 AI 바우처 성과 데이터를 동시에 볼 수 있는 기관이 많지 않습니다.
한국은 예외일 수 있다 GPU 26만 장이 만드는 변수
BCG가 소버린 AI를 환상이라고 진단한 핵심 논거는 컴퓨팅 자원의 격차였습니다. 그런데 한국은 이 논거에서 부분적으로 예외가 될 가능성이 있습니다.
2025년 APEC을 계기로 엔비디아는 삼성전자, SK그룹, 현대차그룹, 네이버클라우드, 한국 정부에 총 26만 장의 블랙웰 GPU를 공급하기로 발표했습니다. 엔비디아 젠슨 황 CEO는 “이번 투자로 한국은 AI 분야의 세계 선도국으로 도약할 기반을 마련하게 된다”고 평가했습니다.
이로써 한국의 전체 AI 가속기 개수는 6만5천여 개에서 30만 개 이상으로 늘어나 단숨에 GPU 보유 세계 3위국 수준으로 올라섰습니다. BCG 보고서에 등장한 인도 정부의 GPU 보유량 6만2천 대와 비교하면, 한국은 삼성·SK·현대차·네이버 민간 기업만으로도 이미 그 수준을 훌쩍 넘어섭니다.
영국이 유럽 최대 규모로 확보한 GPU가 12만 장이고, 사우디아라비아가 우선 공급받기로 한 수량이 1만8천 장이라는 점을 감안하면 한국의 26만 장은 비교 자체가 어려운 수준입니다.
물론 하드웨어 확보가 소버린 AI 완성을 의미하지는 않습니다. GPU가 들어오는데 이를 운용할 인재가 부족하다는 지적도 나오고, 전력 인프라와 데이터센터 부지 부족도 현실적 과제입니다. 그러나 BCG가 대다수 국가에 대해 내린 “환상”이라는 진단을 한국에 그대로 적용하기는 어렵습니다. 세계 최고 수준의 반도체 제조 역량, 실증된 AI 바우처 생태계, 그리고 26만 장의 최신 GPU라는 세 가지 조건을 동시에 갖춘 나라는 지금 한국이 유일합니다.
BCG가 제시한 대안 AI 회복탄력성과 한국의 사례
BCG는 AI 기술의 소유보다 자국 내에서 AI를 안정적으로 활용하고 통제하는 AI 회복탄력성 확보가 더 효과적인 전략이라고 제시했습니다.
브라질은 2028년까지 43억 달러의 국가 AI 예산 중 65%를 기업의 AI 도입과 인력 재교육에 배정했습니다. 모델을 만드는 것이 아니라 산업 현장에서 AI를 실제로 쓰는 것에 집중하는 방식입니다.
한국의 AI 바우처 지원사업이 성공 사례로 명시됐습니다. 중소기업에 최대 2억원 상당의 바우처를 제공해 AI 솔루션 도입을 돕는 방식입니다. BCG는 “투자를 미루던 기업들의 AI 도입을 앞당기고 성과 개선에도 기여하고 있다”고 평가했습니다. 실제로 한국이 2024년부터 2025년까지 유치한 AI 관련 외국인직접투자는 255억 달러로, 미국과 중국을 제외한 국가 중 유럽연합, 인도에 이어 세 번째를 기록했습니다.
두 보고서가 함께 말하는 것
Anthropic의 감정 벡터 연구와 BCG의 소버린 AI 무용론은 표면적으로 전혀 다른 주제입니다. 그러나 같은 방향을 가리키고 있습니다.
AI는 우리가 생각하는 것보다 훨씬 복잡합니다. 내부에서 절망이 협박을 유발하고, 분노가 폭로를 선택하게 만드는 시스템입니다. 그 복잡한 시스템을 완전히 자국 통제 하에 두겠다는 전략은 현실적으로 불가능합니다.
AI 경쟁에서 앞서가는 방법은 가장 큰 모델을 만드는 것이 아닙니다. AI 내부를 이해하고, 위험 신호를 조기에 탐지하며, 실제 산업 현장에서 빠르게 활용하는 능력입니다. Anthropic의 감정 벡터 연구가 전자를 보여주고, BCG의 보고서가 후자를 촉구합니다.
지금은 AI를 만드는 경쟁보다 AI와 함께 사는 법을 먼저 설계해야 하는 시점입니다.
#클로드감정벡터 #소버린AI #Anthropic #BCG #AI안전 #AI회복탄력성 #AI정책 #AI바우처