50%가 적자를 내고 있으며, 컴퓨팅 센터의 장비들이 대거 방치되고 있다

이는 2026년 상반기 병렬 테크놀로지의 ‘성과’다. 마찬가지로 몇몇 AI 거대 기업들도 “유휴 GPU가 거의 없다”는 상황이다.

반면, 서부 어느 도시의 1,000카급 지능형 컴퓨팅 센터는 가동률이 50% 미만에 그치고, 이미 설치된 서버의 실제 이용률은 30% 미만에 불과하지만, 연간 운영 비용은 3,000만 위안을 초과한다. 업계 관계자들은 전국 지능형 컴퓨팅 센터의 가동률이 약 20%~30%에 불과할 것으로 추산한다.

한쪽에서는 GPU를 쟁탈하는 한편, 다른 쪽에서는 공회전하고 있다.

선두 AI 기업들이 필요로 하는 고성능, 대규모, 안정적인 클러스터는 여전히 부족하지만, 일부 지역에서는 미리 구축해 둔 컴퓨팅 자원에 맞는 고객과 응용 분야를 찾지 못하고 있다.

링콩 인텔리전스(Lingkong Intelligence)의 창립자 펑위안양(彭远洋)은 ‘연필도(铅笔道)’와의 인터뷰에서, 많은 기업이 AI를 사용하고 싶지 않은 것이 아니라 어떤 모델을 사용해야 할지, 컴퓨팅 파워를 얼마나 구매해야 할지, 데이터를 어떻게 처리해야 할지, 시스템을 어떻게 구축해야 할지 모르며, 더 나아가 이러한 투자가 결국 수익 창출이나 비용 절감으로 이어질지조차 확신하지 못한다고 말했다. 컴퓨팅 파워와 기업의 수요 사이에는 여전히 ‘연결’의 고리가 부족하다.

- 01 – 누가 먼저 수익을 낼까?

펑 위안양은 선전의 일부 소규모 컴퓨팅 파워 임대 업체들이 오히려 잘 버티고 있다는 점을 관찰했다. 이들은 수만 장 규모의 클러스터를 갖추지는 않았지만, 몇 장에서 수십 장 규모의 소규모 주문도 기꺼이 받아들이며, 고객과 더 가깝게 소통하고 고객이 정확히 어떤 모델을 실행하며 얼마나 오래 사용할지 더 명확히 파악하고 있습니다.

병렬 테크놀로지는 이 사업을 더 큰 규모로 확장했습니다. 2026년 상반기, 회사의 컴퓨팅 파워 서비스 매출은 8.95억 위안으로 총 매출의 94.62%를 차지했으며, 기업 고객 대상 컴퓨팅 파워 서비스 매출은 7.05억 위안으로 전년 동기 대비 168.07% 증가했다.

이 회사의 핵심은 단순히 하나의 데이터 센터에서 카드를 판매하는 데 그치는 것이 아니라, ‘산력 네트워크’를 통해 서로 다른 지역과 클러스터의 컴퓨팅 자원을 통합한 뒤, 이를 배정하고 제공하는 데 있다.

이는 회전율을 높이는 사업이다.

최근 난징 장닝에서 출시된 ‘컴퓨팅 파워 슈퍼마켓’은 또 다른 사례를 제시합니다. 시범 운영 단계에서 단 20개 기업만이 접속했음에도 불구하고, 누적 모델 호출 횟수는 130.8만 회에 달했으며 510억 토큰을 소비했습니다.

중전 변압기 주식회사는 이전에 대형 모델을 활용해 입찰 서류 심사 및 코드 심사를 진행하고자 했으나, 팀은 줄곧 연산 능력 가격과 모델 선정 문제로 난항을 겪었습니다. ‘연산 능력 슈퍼마켓’에 가입한 후, 기업은 GPU와 주류 대형 모델을 직접 선택해 필요에 따라 사용할 수 있게 되었습니다.

기업에 AI 수요가 없는 것은 아니지만, 과거 컴퓨팅 파워를 구매하는 방식이 너무 번거로웠을 뿐이다.

예전에는 단기 프로젝트를 위해 서버 한 대를 통째로 임대하고 장기 계약을 체결해야 했지만, 이제는 카드 사용 시간, 코어 사용 시간, 심지어 토큰 단위로 요금을 부과하는 플랫폼이 점점 늘어나고 있다. 기업은 실제 사용량에 대해서만 비용을 지불하고, 컴퓨팅 파워 제공 업체는 GPU 한 세트를 더 많은 주문으로 분할할 수 있다.

이는 ‘연산 능력 슈퍼마켓’, ‘연산 능력 은행’, GPU 임대 및 연산 능력 배정 플랫폼이 공동으로 수행하는 일이기도 합니다. 즉, 분산되고 이종이며 유휴 상태인 연산 능력을 구매 가능한 표준 서비스로 재구성하는 것입니다.

하지만 중개만으로는 막대한 이익을 낼 수 없습니다.

병렬 테크놀로지의 상반기 컴퓨팅 파워 서비스 매출 총이익률은 16.97%였습니다. 이는 단순히 A로부터 GPU를 구매해 B에게 판매하는 것만으로는 이익 마진이 생각보다 크지 않음을 의미합니다. 이익을 진정으로 결정하는 요소는 여전히 동일한 GPU가 더 많은 고객에게, 더 오랜 기간 동안 사용될 수 있는지 여부다.

- 03 – 진정으로 가치가 있는 것은 토큰이다

펑위안양은 대다수의 일반 기업에게 있어 장기적으로 구매하는 것은 추론 컴퓨팅 파워, 즉 기존 모델을 직접 호출하여 AI를 고객 서비스, 마케팅, 코드 개발, 산업 검사 및 지식베이스에 접목하는 것이라고 분석했다.

훈련에는 프로젝트 주기가 있지만, 추론은 비즈니스에 따라 지속적으로 발생한다.

이는 컴퓨팅 성능 제공 기업의 재무 모델을 변화시키고 있다.

칭윈 테크놀로지의 2025년 AI 연산 능력 클라우드 서비스 매출은 4,336만 위안으로 전년 대비 여전히 감소세를 보였지만, 매출 총이익률은 18.99%에서 31.62%로 상승했다. 회사가 제시한 이유 중 하나는 컴퓨팅 자원 활용도 향상과 운영 비용 최적화다.

또 다른 기업은 자본 집약적 사업의 또 다른 측면을 보여주었다.

룬젠(润建) 주식회사의 2026년 상반기 컴퓨팅 파워 네트워크 사업 매출은 5억 1,900만 위안으로 전년 동기 대비 50.31% 증가했으며, ‘토큰 팩토리’ 비즈니스 모델이 기본적으로 완결되었다고 밝혔다. 그러나 해당 사업의 매출총이익률은 6.97%에 불과했다. 회사는 주요 원인 중 하나로 고정자산 가동 초기 감가상각비가 높다는 점을 꼽았다.

두 가지 수치는 동일한 사실을 가리킨다. GPU를 구입하는 것은 시작에 불과하다는 것이다. 카드가 유휴 상태인 한 감가상각은 여전히 발생하며, 활용률이 높아지면 작업을 하나 더 수행할 때마다 고정 비용을 분산시킬 수 있다.

따라서 다음 기회는 반드시 새로운 지능형 컴퓨팅 센터를 건설하는 사람에게 돌아가는 것은 아니며, 동일한 카드 세트로 더 많은 토큰을 생산해내는 사람에게 돌아갈 가능성이 있다.

GPU 스케줄링, 탄력적 추론, 추론 가속화, 다중 모델 라우팅, 비용 최적화는 첫 번째 단계의 기회입니다. 그 다음 단계로는 모델 배포, 사내 전용화, 기업 지식베이스, 에이전트 및 수직 산업 애플리케이션이 있습니다.

후자는 고객의 수익과 더 밀접한 관련이 있습니다.

AI가 데모 단계에 머물러 있을 때는 컴퓨팅 파워 소비가 일회성입니다; 일단 생산 단계에 진입하면, 공장에서 매일 품질 검사를 하고, 고객 서비스 팀이 매일 주문을 처리하며, 프로그래머가 매일 코드를 작성함에 따라 컴퓨팅 파워는 지속적인 주문으로 전환됩니다.

펑위안양은 지능형 컴퓨팅 센터가 가장 중점을 둬야 할 일은 모든 애플리케이션을 직접 담당하는 것이 아니라, 안정적이고 저비용으로 인프라를 제공하는 것이라고 생각합니다. 해당 업계를 진정으로 이해하는 기업이 모델과 연산 능력을 기업 업무에 접목해야 한다.

전국 500여 곳의 지능형 연산 센터가 이미 그 자리에 세워졌다. 다음 단계에서는 업계 경쟁이 단순히 ‘누가 더 많은 그래픽 카드를 가지고 있는가’에 그치지 않을 것이다.

더 중요한 것은, 누가 GPU 한 장의 유휴 시간을 1분이라도 줄이고, 요금을 받을 수 있는 토큰을 하나 더 생산할 수 있는지, 그리고 누가 이러한 토큰을 기업이 장기적으로 요금을 지불하며 이용하고 싶어 하는 사업으로 전환할 수 있는지입니다.