ZML의 AI 추론 가속기 무료 출시, NVIDIA 독점 깨다
세계 AI 칩 시장은 현재 NVIDIA가 사실상 표준을 지배하고 있는 형국입니다. 그러나 최근 몇 년간 AMD, 구글 TPU, 애플의 Metal, 인텔 Arc 등 다양한 경쟁 칩이 등장하며, 개발자와 기업들에게 선택지를 제공하고 있습니다. 문제는 이 다양한 하드웨어를 활용하기 위해 소프트웨어를 맞추는 과정이 복잡하고, 이로 인해 특정 칩 제조사에 종속되는 ‘벤더 락인( Vendor Lock-in)’ 현상이 심화되었다는 점입니다. 바로 이 지점에서, 프랑스의 신생 기업 ZML이 등장하여 혁신적인 해결책을 제시하고 있습니다.
구글의 코피일보, ZML/LLMD가 만든 새로운 현실
ZML이 새로 출시한 ZML/LLMD는 LLM 추론 서버(Inference Server)로, 이름처럼 LLM(대규모 언어 모델, Large Language Model) 을 various 칩 위에서 최고 속도로 실행할 수 있게 해주는 소프트웨어입니다. 핵심은 추론(Inference) 과정을 최적화하는 데 있습니다. 여기서 ‘추론’이란, 훈련(Training)된 AI 모델에게 질문을 던지고 답을 생성하는 과정을 말하며, 우리의 일상적인 AI 활용(챗봇 사용, 번역, 이미지 생성 등)은 모두 이 단계에 의존합니다.
ZML의 창업자 스티브 모린은 “다양한 칩에서 최고 성능을 끌어내는 것은 기술적 업적일 뿐만 아니라, AI 관련 비용에 대한 우려가 커지는 상황에서 시장을 뒤흔드는 요소”라고 설명합니다. 비유하자면, 과거에는 NVIDIA 칩이라는 ‘특정 연료’에 맞는 ‘엔진’만 있었으나, ZML은 여러 종류의 연료(다양한 칩)를 모두 최대 효율로 사용할 수 있는 범용 엔진을 제공하는 셈입니다. 기업들은 비용이 더 저렴하거나 전력 소모가 적은 칩을 섞어 쓰는 등 자율성을 되찾을 수 있게 됩니다.
경쟁의 지평: vLLM, SGLang 그리고 ZML의 차별점
추론 속도 향상 경쟁은 ‘추론 황금광(Inference Gold Rush)‘이라 불릴 정도로 치열합니다. ZML의 주요 경쟁자로는 밸류에이션(기업가치) 130억 달러로 평가받는 베이스텐(Baseten), 오픈소스 프로젝트 vLLM의 창립자들이 만든 인페랙트(Inferact), 그리고 SGLang 뒤의 상용 기업 래디섹스아크(RadixArk) 등이 있습니다. 특히 vLLM과 SGLang은 현재 널리 사용되는 오픈소스 추론 서버 프레임워크로, ZML의 LLMD와 직접적으로 경쟁 관계에 있습니다.
그러나 모린은 ZML의 야심이 훨씬 더 넓다고 강조합니다. “우리는 이제 실리콘(반도체 칩)을 공동 설계하는 단계에 이르렀습니다.” ZML은 단순히 소프트웨어를 제공하는 것을 넘어, 칩 제조사들과 하드웨어와 소프트웨어를 함께 최적화하는 작업을 진행 중입니다. 20명의 소규모 팀으로 빠르게 움직일 수 있었던 배경에는, 모린이 스냅챗에 인수된 **젠리(Zenly)**에서의 엔지니어링 VP 경험과 이를 바탕으로 유명 벤처캐피탈로부터 2,000만 달러의 초기 투자를 유치한 이력이 있습니다. ZML은 엔비디아와도 좋은 관계를 유지하며, 엔비디아의 추론 강화 전략과도 보조를 맞추고 있습니다.
한국 산업에 미치는 영향과 시사점
ZML의 행보는 한국의 AI 생태계에도 직접적인 파급력을 가질 것으로 예상됩니다. 첫째, 비용 효율성 제고가 가능해집니다. 국내 기업들이 클라우드 비용 또는 자체 인프라 구축 비용을 절감하면서, 다양한 칩을 활용한 AI 서비스를 구현할 수 있는 길이 열립니다. 둘째, 공급망 다변화가 가속화됩니다. NVIDIA 외에도 AMD, 인텔 등의 칩을 적극 활용할 수 있는 소프트웨어적 기반이 마련되면서, 국내 하드웨어 파트너십 전략에도 변화가 불어올 수 있습니다. 셋째, 유럽 중심의 신규 칩 생태계와의 협력 가능성이 높아집니다. ZML이 언급한 엑셀레라, 프랙타일 등 유럽의 여러 AI 칩 스타트업들이 한국 기업과의 협업 기회를 모색할 수 있는 발판이 마련될 수 있습니다. 이는 한국의 반도체 강점을 AI 칩 생태계의 새로운 허브로 확장할 수 있는 기회로도 해석됩니다.
마무리: 능력 너머, 선택의 자유를 위한 경쟁의 서막
ZML의 무료 추론 가속기 출시는 단순한 기술 발표를 넘어, AI 인프라 시장의 구조적 변화를 예고하는 신호탄으로 보입니다. ‘성능’이라는 단일 가치에 더해 ‘비용 효율성’, ‘에너지 소비’, ‘공급망 자율성’이라는 다중 가치가 AI 도입의 핵심 기준으로 부상하고 있습니다. 이는 NVIDIA의 독점 체제를 완전히 흔들기는 어렵겠지만, 기업들에게 더 나은 효율과 선택권을 쥐어주는 경쟁의 서막을 알리는 것입니다. 궁극적으로, AI 기술이 더 널리 퍼지고 실용화되기 위해서는 하드웨어의 다양성과 소프트웨어의 유연성이 조화를 이루어야 하며, ZML과 같은 도전자들은 이 균형을 맞추는 데 중요한 역할을 수행할 것으로 기대됩니다.
#AI추론 #AI칩 #ZML #NVIDIA #오픈소스LLM #인프라경쟁 #기술분석