AI 토큰 모델 비판, 팔란티어 카프 CEO의 경고와 변화의 조짐

최근 미국의 대표적 AI 기업인 팔란티어의 최고 경영자 알렉스 카프가 CNBC 방송에서 강한 비판의 목소리를 냈습니다. 그는 OpenAI나 앤스로픽 같은 주요 AI 연구소들이 사용하는 ‘토큰 모델’에 대해 “무언가가 완전히 잘못되었다”고 지적했습니다. 이 발언은 단순한 불만을 넘어, 현재 AI 산업의 지속 가능성과 기업들의 실제 수요 사이에 존재하는 균열을 정확히 보여주는 신호입니다. 많은 기업들이 비싼 비용을 지불하며 AI를 도입했지만, 정작 기대한 만큼의 실질적인 투자 대응(ROI)을 거두지 못하고 있다는 현실을 반영하고 있습니다.

비용 폭증과 ‘토큰 맥시즘’의 한계

카프 CEO의 비판이 나오게 된 배경에는 AI 모델을 활용할 때 발생하는 비용의 급격한 상승이 있습니다. AI 모델은 정보를 처리할 때 ‘토큰’이라는 단위를 사용하는데, 최신 모델일수록 토큰 하나당 가격이 비싸지는 추세입니다. 여기서 ‘토큰 맥시즘’이란, 토큰의 양을 무작정 많이 사용해야 더 좋은 결과가 나올 것이라는 믿음에 기반한 접근 방식을 말합니다. 마치 음료수를 살 때 컵이 클수록 내용물이 더 좋을 것이라고 생각하는 것과 비슷합니다. 그러나 실제로는 컵만 크고 내용물의 질이 낮을 수도 있으며, 기업들은 이 엄청난 비용을 지불하면서도 제을 못 느끼는 상황에 놓이게 됩니다. 이로 인해 기업들의 관심은 단순한 성능 비교를 넘어, ‘얼마를 투자하고 얼마의 효과를 얻을 것인가’라는 실용적인ROI로 이동하고 있습니다.

오픈 가중치 모델과 대안의 부상

카프 CEO는 이러한 비용 문제에 대한 해결책으로 ‘오픈 가중치 모델’을 주목합니다. 이는 AI 모델의 핵심인 가중치(학습된 데이터 패턴)를 공개하여, 기업이 이를 기반으로 저렴한 비용으로 자체 모델을 구축하거나 수정할 수 있게 해주는 방식입니다. 앞서 비유한 음료수 예시를 이어 말하자면, 음료수 레시피와 재료를 공개하여 직접 만들어 마시는 것과 같습니다. 비용은 훨씬 적게 들면서도, 특정 목적에 맞는 최적의 맛(성능)을 낼 수 있는 장점이 있습니다. 이러한 오픈 가중치 모델의 부상은 AI 기술의 민주화와 함께, 특정 대형 AI 연구소에 대한 과도한 의존을 줄이는 데 기여할 것으로 보입니다.

‘생산 수단의 주권’에 대한 강조

카프 CEO의 발언 중 핵심은 ‘생산 수단에 대한 통제권’입니다. 그는 기업들이 자신의 연산 능력, 모델, 데이터 스택, 그리고 최종적인 알파(이익)를 소유하기를 원한다고 강조합니다. 이는 AI를 단순히 외부 서비스로 사들이는 것이 아니라, 자사의 핵심 자산으로 만들겠다는 선언과 같습니다. 팔란티어는 최근 엔비디아와의 협력을 확대해 미국 정부 기관들을 위한 맞춤형 모델을 구축하는 프로젝트를 발표했는데, 이는 자사의 데이터와 연산을 자신들이 주도하겠다는 의지의 구체적인 사례입니다. 이러한 움직임은 기업들이 AI를 활용하면서 겪는 ‘데이터 유출’이나 ‘기술 종속’이라는 우려를 해소하려는 시도로도 해석됩니다.

중국의 도전과 글로벌 AI 경쟁 지형

카프 CEO는 인터뷰에서 중국의 AI 모델 개발 속도를 과소평가해서는 안 된다고 경고했습니다. 현재 중국 기업들은 상대적으로 저렴한 비용으로 성능을 빠르게 끌어올리고 있으며, 이는 곧 미국의 첨단 AI 연구소들과의 격차를 줄일 수 있음을 의미합니다. 이는 한국 기업들에게도 시사하는 바가 큽니다. 글로벌 AI 경쟁이 심화되는 상황에서, 한국 기업들이 어떤 전략을 취하느냐에 따라 산업의 경쟁력이 달라질 수 있기 때문입니다. 자국의 AI 산업을 지키고 발전시키기 위한 ‘AI 주권’의 중요성이 더욱 부각되는 대목입니다.

한국 기업들이 주목해야 할 점

이번 논의는 한국 기업들에게 몇 가지 중요한 질문을 던집니다. 첫째, 현재 도입한 AI 서비스들이 정말로 효율적인 투자 대응을 제공하고 있는지 냉정하게 재평가해야 합니다. 둘째, 오픈 가중치 모델이나 자체 모델 구축과 같은 대안을 적극적으로 검토하여, 비용 효율성과 데이터 주권을 동시에 확보할 때입니다. 셋째, 기술 발전 상황을 면밀히 모니터링하면서, 글로벌 기술 경쟁 속에서 한국만의 강점과 전략을 세워야 합니다. 네이버, 카카오, 삼성전자 등 국내 주요 기업들이 이미 자체적인 AI 모델 개발에 힘을 쏟고 있는 이유도 바로 이러한 맥락과 연결됩니다.

마무리: 비용에서 가치로, 통제에서 주권으로

팔란티어 카프 CEO의 발언은 AI 산업의 ‘성숙기’가 시작되었음을 알리는 신호탄일 수 있습니다. 기업들은 더 이상 화려한 기능만을 쫓는 단계를 넘어, 비용 대비 실질적 가치와 데이터 및 기술에 대한 통제권이라는 본질적 요구로 돌아가고 있습니다. 토큰 기반의 폐쇄적 생태계에서 벗어나, 오픈 가중치 모델이나 자체 개발 등 보다 주권적이고 효율적인 방향으로의 전환은 불가피해 보입니다. 이 변화의 흐름 속에서, 한국의 기업들이게 ‘AI 주권’을 확보하고 글로벌 경쟁력을 키워나갈지 귀추가 주목됩니다.