Arcee AI Trinity Large Thinking 오픈 추론 모델 Claude Opus 성능 비교 분석

미국 스타트업 Arcee AI가 약 2,000만 달러(한화 약 280억 원)를 투자해 오픈소스 추론 모델 Trinity-Large-Thinking을 공개했습니다. 이 금액은 회사 전체 벤처캐피털 조달액의 절반에 해당합니다. 사실상 회사의 존폐를 건 베팅입니다.

이번 모델이 주목받는 이유는 성능 수치 때문만이 아닙니다. 오픈 모델 생태계가 중국 빅테크 랩(Qwen, MiniMax, Zhipu AI 등)에 편중된 현실에서, 미국 스타트업이 Apache 2.0 라이선스(상업적 이용과 수정이 자유로운 오픈소스 라이선스)로 이 시장에 정면 도전했다는 점이 핵심입니다.

2026년 4월 13일 (월) AI 브리핑 - AI코리아24

Arcee AI를 이전에 분석한 적이 있습니다. Arcee AI의 모델 전략과 배경은 여기서 확인할 수 있습니다.

Trinity-Large-Thinking의 구조와 핵심 수치

Trinity-Large-Thinking은 총 400억 파라미터(parameter, AI 모델의 학습 가중치 수로 모델 크기를 나타냄) 규모입니다. 그러나 실제로 작동 시 활성화되는 파라미터는 약 130억 개에 불과합니다.

이것이 가능한 이유는 혼합 전문가 아키텍처(MoE, Mixture of Experts) 때문입니다. 256개의 전문화된 하위 네트워크 중 토큰(단어 단위)당 4개만 선택적으로 활성화됩니다. 쉽게 말하면, 256명의 전문가 팀이 있지만 질문마다 가장 적합한 4명만 투입하는 방식입니다. 모델 전체 규모의 성능을 유지하면서 연산 비용을 대폭 낮출 수 있습니다.

훈련 규모도 상당합니다. 엔비디아 B300 GPU 2,048개를 33일간 가동해 총 17조 토큰을 학습시켰습니다. 이 중 절반 이상인 8조 토큰 이상이 다른 AI 모델이 생성한 합성 데이터(synthetic data)입니다.

에이전트 벤치마크에서 Claude Opus와의 비교

Arcee AI가 이 모델을 “에이전트 작업 특화”로 내세운 데는 이유가 있습니다. 실제 수치가 이를 뒷받침합니다.

에이전트 성능을 측정하는 Tau2-Airline 벤치마크에서 88점으로 1위를 기록했습니다. PinchBench에서는 91.9점으로 Claude Opus 4.6(93.3점)에 불과 1.4점 차이로 근접했습니다. 수학 추론 벤치마크인 AIME25에서는 96.3점을 기록했습니다.

그러나 일반 추론 영역에서는 격차가 벌어집니다. 과학적 추론을 측정하는 GPQA-Diamond에서 76.3점으로 Claude Opus 4.6의 89.2점에 크게 미치지 못했습니다. 광범위한 지식을 측정하는 MMLU-Pro도 83.4점 대 89.1점으로 차이가 납니다.

정리하면, 에이전트가 도구를 호출하고 멀티스텝 작업을 수행하는 영역에서는 최상위권이지만, 폭넓은 지식과 일반 추론이 필요한 영역에서는 아직 격차가 존재합니다.

훈련 과정에서 해결한 기술적 난제

대형 모델 훈련에서 가장 두려운 현상은 손실 스파이크(loss spike) 입니다. 훈련 중 갑자기 모델 성능이 급락하는 현상으로, 최악의 경우 전체 훈련을 처음부터 다시 시작해야 합니다.

Arcee AI는 훈련 초기에 전문가 붕괴(expert collapse) 문제에 직면했습니다. 256개 전문가 네트워크 중 일부가 아예 사용되지 않게 되면서 학습이 정체되는 현상입니다. 기존 부하 분산(load balancing) 방식이 256개라는 큰 수에서 안정적으로 작동하지 않았기 때문입니다.

이를 해결하기 위해 자체 개발한 기법이 SMEBU(Soft-clamped Momentum Expert Bias Updates) 입니다. 불균형 정도에 비례해 보정 강도를 조절하고, 그 변화를 시간에 걸쳐 완만하게 적용하는 방식입니다. 결과적으로 17조 토큰 전체 훈련 동안 손실 스파이크가 단 한 번도 발생하지 않았습니다.

또한 긴 문서가 훈련 데이터를 편향시키는 문제를 해결하기 위해 RSDB(Random Sequential Document Buffer) 라는 데이터 처리 방식도 새로 개발했습니다. 기술 논문에 따르면 이 방법이 훈련 단계 간 변동성을 유의미하게 낮췄습니다.

오픈 모델 생태계에서의 위치

현재 고성능 오픈 모델 시장은 중국 빅테크가 주도하고 있습니다. Qwen, MiniMax, Zhipu AI 등이 대형 오픈 모델을 연속으로 출시하며 생태계를 장악하고 있습니다.

Trinity-Large-Thinking이 출시 직전, 구글도 Gemma 4를 Apache 2.0 라이선스로 공개했습니다. 마찬가지로 혼합 전문가 아키텍처를 활용한 모델입니다. Arcee AI 입장에서는 빅테크와의 경쟁이 출시 전부터 시작된 셈입니다.

그럼에도 시장 반응은 긍정적이었습니다. 이전 미리보기 버전이 OpenRouter(다양한 AI 모델을 하나의 API로 접근할 수 있는 플랫폼)에서 두 달간 3조 3,700억 토큰을 처리했고, 미국 내 가장 많이 사용된 오픈 모델 중 하나로 올라섰습니다.

한계와 앞으로의 과제

Arcee AI 스스로 현재 버전의 한계를 인정했습니다. 에이전트 특화 파인튜닝(fine-tuning, 특정 목적에 맞게 모델을 추가 학습시키는 과정) 단계가 GPU 클러스터 사용 시간 제약으로 계획보다 짧게 끝났습니다. 현재 공개된 버전은 “예비 버전”이며, 더 충분한 파인튜닝을 거친 다음 버전을 준비 중입니다.

가장 근본적인 질문은 지속 가능성입니다. 전체 자본의 절반을 단일 모델 훈련에 투입한 스타트업이 다음 훈련 사이클을 어떻게 감당할지는 아직 불분명합니다. 오픈소스 모델의 수익화 구조 자체가 업계 전반의 미해결 과제이기도 합니다.

결론

Arcee AI의 Trinity-Large-Thinking은 에이전트 작업에서 최상위 상용 모델에 근접한 오픈소스 추론 모델이라는 점에서 의미 있는 성과입니다. SMEBU 같은 자체 기술 개발도 단순한 파인튜닝이 아닌 기초 연구 역량을 갖추고 있음을 보여줍니다.

그러나 벤처캐피털 절반을 쏟아부은 베팅의 결과가 “에이전트 벤치마크 2위, 일반 추론 격차 존재”라면, 투자자들이 이 도전을 계속 지지할지가 진짜 시험대입니다. 오픈 모델 생태계의 미래는 이런 스타트업들이 살아남을 수 있는 수익 구조를 찾느냐에 달려 있습니다.

#ArceeAI #TrinityLargeThinking #오픈소스AI #추론모델 #에이전트AI #ClaudeOpus #오픈웨이트 #MoE