지출 한도를 설정하지 않아 한 회사가 한 달 만에 Claude에서 5억 달러를 날려버렸다

글쓴이: 바오 이롱; 출처: 월스트리트지언

기업용 AI 열풍이 처음으로 진정한 의미의 비용 위기를 맞고 있다.

5월 28일, Axios가 한 AI 컨설턴트의 말을 인용한 바에 따르면, 그의 고객사 중 한 곳이 최근 한 달 동안 Claude에 5억 달러를 지출했는데, 그 원인은 단순히 직원들의 사용량에 대한 상한선을 설정하지 않았기 때문이었다.

분석에 따르면, 많은 기업이 AI 도구를 빠르게 도입하는 과정에서 기능과 홍보에 집중하는 반면, 비용 관리 체계 구축은 소홀히 하고 있다.

마이크로소프트, 아마존 등 기술 대기업들은 '토큰맥싱(tokenmaxxing)'이라 불리는 과도한 소비 행위를 억제하기 위해 내부 AI 도구를 축소하거나 AI 사용량 추적 프로젝트를 중단하는 조치를 잇달아 취하고 있다.

아마존의 한 수석 부사장은 직원들에게 다음과 같은 경고를 보내야만 했다:

AI를 쓰기 위해 AI를 쓰지 마십시오.

현재 시장이 직면한 핵심 문제는 더 이상 'AI를 받아들일 것인가'가 아니라, '이토록 많은 돈을 쏟아부었는데 도대체 무엇을 얻었는가'입니다.

아마존, 순위표 폐쇄… 내부 '점수 부풀리기'가 초래한 실제 비용

아마존의 사례는 또 다른 각도에서 기업 AI 거버넌스의 난제를 드러내고 있다.

보도에 따르면 두 명의 내부 관계자가 밝힌 바에 의하면, 아마존 산하 개발자 플랫폼 Kiro에는 직원들의 AI 사용 활동도를 기준으로 점수를 매기는 'Kirorank'라는 내부 순위표가 있었다.

그러나 이 순위는 직원들이 순위를 높이기 위해 AI 에이전트에게 무의미한 작업을 수행하게 하는 행위를 유발했고, 이는 회사의 컴퓨팅 리소스 소비 증가로 직결되었다.

아마존의 데이브 트레드웰(Dave Treadwell) 수석 부사장은 이번 주 직원들에게 이 순위표의 의도는 좋았으나, 결국 직원들이 '토큰맥싱(tokenmaxxing)'을 통해 회사의 운영 비용을 부풀렸다고 인정했다.

그는 직원들에게 토큰 소비량에 주의를 기울이지 말고 더 나은 제품을 만드는 데 집중하라고 명확히 지시했으며, "AI를 쓰기 위해 AI를 쓰지 말라"고 강조했다.

아마존은 이후 성명을 통해 이 베타판 대시보드가 "공식적이거나 승인된 도구가 아니며, 이미 서비스가 중단되었다"고 확인했다.

메타(Meta)에서도 유사한 상황이 발생했으며, 직원들은 마찬가지로 토큰 소비량을 늘려 회사 내부 순위에서 유리한 위치를 차지하려 시도했다.

이러한 현상은 기업이 AI 사용량을 평가 지표에 포함시킬 때, 오히려 역효과를 낳아 직원들의 동기를 계산 능력의 비효율적인 소비로 왜곡할 수 있음을 보여준다.

아마존은 이후 토큰 소비량을 대체하는 "정규화된 배포" 지표로 전환하여, 엔지니어들이 AI를 통해 실질적인 가치를 지닌 코드를 지속적으로 생성할 수 있는지 여부에 중점을 두고 추적하고 있다.

주목할 점은, 아마존의 올해 자본 지출이 2,000억 달러에 달할 것으로 예상되며, 그 대부분이 AI 및 데이터 센터 인프라로 흘러들어간다는 사실이다.

네 가지 핵심 문제: 왜 AI에 돈을 썼는데도 수익이 나지 않는가

Axios의 분석에 따르면, 기업 AI 도입은 네 가지 구조적 장벽에 직면해 있다.

용례 선택의 오류. Velastegui Ventures CEO이자 전 마이크로소프트 최고 AI 책임자인 소피아 벨라스테기(Sophia Velastegui)는 대다수가 회사에 가장 가치 있는 업무가 아닌, 자신이 싫어하는 업무를 AI로 자동화하는 경향이 있다고 말했다.

그녀는 기업이 AI 자원을 무분별하게 확대하기보다는 매출을 직접 창출할 수 있는 분야에 집중해야 한다고 주장한다.

비용 관리 부재. AI 쿼리는 비용이 들지 않는 것이 아니다. 엔터프라이즈급 요금제는 토큰 단위로 과금되므로, 일상적인 간단한 쿼리조차도 금세 상당한 비용으로 누적되지만, 대다수의 사업부는 이에 대해 명확한 인식을 가지고 있지 않다.

사람이 가장 큰 병목이다. Velastegui는 현재 기업에서 보편적으로 채택하고 있는 "무분별한" AI 도입 방식을 실질적인 성과를 가져오지 못하는 경로로 규정했다.

기업은 직원들에게 수많은 AI 도구를 제공하지만, 효과적인 안내와 집중이 부족하여 실제 도입 효율이 떨어진다.

데이터 개방에 대한 우려가 존재한다. 금융 업계 AI 도구에 주력하는 Boosted.ai의 CEO 조시 판토니(Josh Pantony)는 기업이 데이터 보안에 대한 우려로 AI 에이전트에게 내부 독점 데이터를 개방하기를 꺼릴 경우, 에이전트의 실제 효율성이 크게 떨어지게 되어 투자 수익은 당연히 기대할 수 없다고 지적했다.

토큰 경제학: AI 서사의 새로운 핵심 변수

이 논쟁의 이면에는 더욱 복잡한 투자 논리가 재구성되고 있다.

월스트리트 저널은 골드만삭스 One-Delta 부서 책임자 리치 프리보로츠키(Rich Privorotsky)의 최신 견해를 인용해, AI 거래의 핵심 변수가 "기술적 실현 가능성"에서 "비용의 감당 가능성"으로 전환되었다고 전했다.

DeepSeek은 토큰 가격을 75% 인하한 것으로 알려졌으며, 샤오미 MiMo의 인하 폭은 99%에 육박하는데, 이러한 비용 절감은 보조금 경쟁 이후의 "가격 전쟁" 논리와 유사한 현상을 촉발할 수 있다.

그는 인프라 병목 현상은 결국 해소될 것이므로, 시장은 "곧 해결될 문제"에 대해 과도한 프리미엄을 지불해서는 안 된다고 지적했다.

Rich Privorotsky는 더 저렴한 토큰이 고비용 추론 서비스를 먼저 대체할 수 있을지 가설을 제시했다. 만약 수요 확대에 시간적 시차가 존재한다면, 클라우드 서비스 제공업체, 모델 기업 및 AI 인프라의 매출 성장은 일시적인 압박에 직면할 수 있다.

그는 토큰 지출의 합리화가 올해 2, 3분기에 이사회 차원의 중요한 의제가 될 수 있으며, 그 중요성은 AI 성장 서사 자체에 못지않을 것이라고 보았다.

블룸버그 실리콘 데이터(Bloomberg Silicon Data)의 LLM 토큰 지출 지수에 따르면, 토큰 가격은 올해 2월 말 이후 약 65% 상승했으며, 미국 AI 소프트웨어 가격은 지난 1년간 20%에서 37%까지 누적 상승했다.

이러한 비용 추세는 기업들이 AI 조달 전략을 재검토하도록 촉발하고 있다. "10%의 비용으로 90%의 성과를 얻는" 것이 점점 더 실현 가능해짐에 따라, 기업들이 고비용의 최첨단 모델에 대한 의존도는 체계적으로 감소할 것으로 보인다.

AI 모델 훈련 기업 Micro1의 CEO 알리 안사리(Ali Ansari)는 기업들이 AI의 과도한 사용에서 합리적인 사용으로 전환하는 "건강한 반동"을 겪고 있다고 말했다. 그는 다음과 같이 생각했다:

현재 AI가 진정으로 효과적인 분야는 사실 프로그래밍뿐이다.

강세와 약세의 대립: 같은 현실, 두 가지 해석

AI 투자 수익률에 있어, 동일한 데이터가 서로 다른 분석 프레임워크 하에서 정반대의 결론을 가리키고 있다.

강세론자의 관점에서는 현재의 혼란이 단지 전환 과정에서의 정상적인 진통에 불과하다고 본다.

골드만삭스의 짐 슈나이더(Jim Schneider)가 5월 초에 내놓은 분석에 따르면, 2030년까지 에이전트형 AI가 토큰 소비량을 24배 증가시킬 것이며, 초대형 클라우드 서비스 제공업체와 모델 제공업체의 매출 총이익률은 향후 3~12개월 내에 흑자로 전환될 것이다.

JP모건의 경제 연구에서도 2026년 초 PyPI에서 Python 패키지가 급증하는 현상이 관찰되었는데, 이는 2022년 ChatGPT 출시 당시에는 나타나지 않았던 추세로, 실질적인 생산성 향상이 진행 중임을 시사한다.

비관론적 관점은 골드만삭스 반도체 애널리스트 짐 코벨로(Jim Covello)가 4월 보고서에서 체계적으로 설명했습니다.

그는 AI 공급망에서 거의 모든 가치가 반도체 기업으로 흘러가고 있으며, 이는 역사상 전례가 없고 지속 가능하지 않다고 지적했습니다. 칩 기업들은 고객이 이익을 볼 때 함께 이익을 얻어야 하지만, 이번 사이클에서 그들의 호황은 전체 산업 사슬 상류의 소모를 대가로 이루어지고 있다.

두 가지 서사가 동시에 전개되고 있으며, 승패는 아직 불분명하다. 확실한 것은 "토큰 소비량 증가가 곧 AI 전환의 성공"이라는 단순한 등식이 깨졌다는 점이다.

한 달에 5억 달러를 소진하는 극단적인 사례부터 아마존이 점수 조작 순위표를 중단한 사례에 이르기까지, AI 투자는 더욱 엄격한 성과 심사를 받고 있다. 다음 AI 투자 비용이 얼마나 많은 실질적인 가치를 창출할 수 있을지가 이 거액의 도박에 대한 진정한 결판의 순간이 될 것이다.