최근 실리콘밸리를 비롯한 글로벌 기업들의 재무제표를 보면 조용히, 하지만 무지막지하게 폭증하고 있는 청구서가 하나 있다. 바로 LLM(거대언어모델) API 사용료, 즉 '토큰(Token) 비용'이다.
AI 모델의 토큰당 가격은 지난 1~2년간 80% 가까이 하락했다. 하지만 아이러니하게도 기업의 총 지출은 지수함수적으로 급증하고 있다. 우버(Uber) 같은 기업이 1년 치 AI 예산을 단 4개월 만에 소진해버리는 이른바 '토큰맥싱(Tokenmaxxing)' 현상이 실리콘밸리의 화두가 되었고, 클라우드 비용 분석 기관들에 따르면 연간 1,000만 달러(약 130억 원) 이상을 AI에 쏟아붓는 기업이 40%에 달한다.
이제 경영진의 입에서 모두가 두려워하던 질문이 나오기 시작했다.
"이렇게 엄청난 토큰을 쓰고 있는데, 이게 결국 우리 매출이나 이익으로 돌아오고 있는 게 맞는가?"
이른바 ROT(Return on Tokens), 즉 '토큰 대비 투자 수익률'이라는 새로운 비즈니스 언어가 수면 위로 떠오르는 순간이다.
회계 기준은 언제나 현실보다 늦게 발전한다. 글로벌 표준을 맞춰야 하는 재무회계는 더더욱 그렇다.
과거 우리가 지불하던 돈은 '사람의 인건비'이거나 '소프트웨어의 구독료'였다. 명확했다. 하지만 토큰은 다르다. 토큰은 곧 '지능'이다. 우리는 이제 일이 처리된 만큼, 지능을 가져다 쓴 만큼 돈을 낸다. 일부 핵심 엔지니어 한 명이 연간 25만 달러(약 3억 원)어치의 토큰을 소모하는 일도 심심치 않게 벌어진다. 인건비에 맞먹는 지능 비용을 쓰는 셈이다.
문제는 1494년 루카 파치올리가 고안한 복식부기 장부에는 이 '외주화된 지능'을 집어넣을 예쁜 칸이 없다는 것이다. 토큰은 부서 예산에 깔끔하게 묶이지도 않고, 연 단위로 단가를 후려칠 수 있는 계약도 아니다. 개발자의 프롬프트 구조 하나가 바뀌면 하룻밤 새 비용이 세 배로 뛰기도 하는 완전히 새로운 형태의 변동비다.
현재 대부분의 기업은 이를 운영비(판매관리비)로 즉시 처리하고 있다. 이것을 그해 털어버리는 소모성 비용으로 볼 것인가, 아니면 기업의 시스템과 데이터를 고도화한 무형자산으로 자본화할 것인가?
AI 모델의 토큰당 가격은 지난 1~2년간 80% 가까이 하락했다. 하지만 아이러니하게도 기업의 총 지출은 지수함수적으로 급증하고 있다. 우버(Uber) 같은 기업이 1년 치 AI 예산을 단 4개월 만에 소진해버리는 이른바 '토큰맥싱(Tokenmaxxing)' 현상이 실리콘밸리의 화두가 되었고, 클라우드 비용 분석 기관들에 따르면 연간 1,000만 달러(약 130억 원) 이상을 AI에 쏟아붓는 기업이 40%에 달한다.
이제 경영진의 입에서 모두가 두려워하던 질문이 나오기 시작했다.
"이렇게 엄청난 토큰을 쓰고 있는데, 이게 결국 우리 매출이나 이익으로 돌아오고 있는 게 맞는가?"
이른바 ROT(Return on Tokens), 즉 '토큰 대비 투자 수익률'이라는 새로운 비즈니스 언어가 수면 위로 떠오르는 순간이다.
 |
| 메타가 임직원 8만 5000여 명이 참여하는 토큰 리더보드를 운영했다는 보도가 나왔다. 토큰 사용량이 AI 활용의 정량적 지표로 쓰일 수 있다는 의미이다. 사진은 마크 저커버그 메타 최고경영자. 출처: 메타 |
500년 된 복식부기 장부, '지능'을 마주하다
회계 기준은 언제나 현실보다 늦게 발전한다. 글로벌 표준을 맞춰야 하는 재무회계는 더더욱 그렇다.
과거 우리가 지불하던 돈은 '사람의 인건비'이거나 '소프트웨어의 구독료'였다. 명확했다. 하지만 토큰은 다르다. 토큰은 곧 '지능'이다. 우리는 이제 일이 처리된 만큼, 지능을 가져다 쓴 만큼 돈을 낸다. 일부 핵심 엔지니어 한 명이 연간 25만 달러(약 3억 원)어치의 토큰을 소모하는 일도 심심치 않게 벌어진다. 인건비에 맞먹는 지능 비용을 쓰는 셈이다.
문제는 1494년 루카 파치올리가 고안한 복식부기 장부에는 이 '외주화된 지능'을 집어넣을 예쁜 칸이 없다는 것이다. 토큰은 부서 예산에 깔끔하게 묶이지도 않고, 연 단위로 단가를 후려칠 수 있는 계약도 아니다. 개발자의 프롬프트 구조 하나가 바뀌면 하룻밤 새 비용이 세 배로 뛰기도 하는 완전히 새로운 형태의 변동비다.
현재 대부분의 기업은 이를 운영비(판매관리비)로 즉시 처리하고 있다. 이것을 그해 털어버리는 소모성 비용으로 볼 것인가, 아니면 기업의 시스템과 데이터를 고도화한 무형자산으로 자본화할 것인가?
2030년경 글로벌 회계 가이드라인이 명확해지기 전까지, 이 질문에 완벽히 대답할 수 있는 CFO는 없다.
토큰 비용을 어디에 기입할 것인가는 단순한 회계적 분류가 아니다. 기업의 운명을 가를 철학적 결단이다.
토큰을 '비용(Cost)'의 칸에 넣는 순간, 줄이는 것이 미덕이 된다. 구매 부서는 더 싼 모델을 찾도록 압박할 것이고, 직원들은 눈치를 보며 AI 사용을 줄일 것이다. 토큰을 아낄수록 일 잘하는 직원이 된다.
반대로 토큰을 '선투자(Investment)'의 칸에 넣으면 질문이 완전히 뒤집힌다. 세일즈포스(Salesforce)의 CEO 마크 베니오프는 앤스로픽(Anthropic) 모델 하나에만 3억 달러 지출 계획을 밝혔다. 이들에게 토큰은 "어디에 더 부어야 압도적으로 많은 가치가 돌아오는가?"를 묻는 투자금이다.
실제로 엔비디아의 젠슨 황 CEO는 "엔지니어 1인당 생산성을 극대화하려면 연봉의 절반 수준(약 7만 5,000달러)에 달하는 토큰을 적극적으로 써야 한다"고 단언했다. 그는 AI를 쓰지 않는 개발자를 향해 "반도체 칩 설계자가 첨단 도구를 거부하고 종이와 연필만 쓰겠다고 고집하는 것과 같다"며 일갈하기도 했다.
이러한 철학을 바탕으로 메타(Meta)와 아마존(Amazon) 등 앞서가는 빅테크 기업들은 개발자들이 사용하는 '토큰 소비량'을 집계해 사내 리더보드(순위표)를 만들고 있다. 토큰을 덜 쓰는 직원을 칭찬하는 것이 아니라, 오히려 뒤처진 것으로 간주하여 남들보다 경쟁적으로 '외주화된 지능'을 끌어다 쓰도록 구조를 만든 것이다.
같은 지출이라도 장부의 어느 칸에 넣었느냐에 따라 한쪽은 예산을 깎고, 한쪽은 예산을 붓는다. 구조가 행동을 만든다. 기업이 토큰을 어떻게 정의하느냐가 AI 시대에 그 기업이 어떻게 움직일지를 결정한다.
"일단 써보면서 감을 잡자"는 낭만적인 시대는 끝났다. 글로벌 기업들은 이미 자신들만의 내부 잣대를 세우고 'AI FinOps(재무 운영)'를 도입하고 있다.
모든 토큰 지출이 같은 성격을 띠지 않는다. 선도 기업들은 비용의 성격을 내부적으로 가르마 탄다.
투자(Investment): 새로운 제품 로직을 설계하고 코드를 짜는 데 들어간 혁신용 토큰 (적극 장려)
운영비(Opex): 단순 이메일 요약, 일상적 반복 업무에 들어가는 루틴형 토큰 (ROI 엄격 평가)
중앙 IT 부서에서 무한정 예산으로 태우는 '보여주기식(Theater)' AI 도입은 끝났다. 각 사업부가 창출한 성과(매출 증가, 비용 절감)에서 자신들이 끌어다 쓴 토큰 비용을 직접 차감하여 진짜 부서별 수익성을 평가한다.
가장 비싸고 똑똑한 모델을 모든 업무에 쓰는 것은 낭비다. 프롬프트 캐싱(Caching), 작업 난이도에 따라 모델을 배분하는 모델 라우팅(Model Routing), 그리고 목적에 맞게 파인튜닝된 경량화 오픈소스 모델(Llama, DeepSeek 등)을 혼합하여 토큰 비용의 50~90%를 깎아내는 기술적 최적화가 병행되어야 진짜 ROT가 높아진다.
토큰은 21세기 기업의 새로운 전기이자 에너지다.
남들이 짙은 안개 속에서 외부의 가이드라인만 기다릴 때, 먼저 자신만의 잣대로 ROT를 정의하고 장부의 칸을 새로 그리는 기업만이 안개가 걷혔을 때 살아남을 것이다. 500년 전 복식부기가 상업혁명을 이끌었다면, 오늘 우리는 '지능 복식부기(Intelligence Double-entry Bookkeeping)'를 새로 써야 하는 역사적 변곡점에 서 있다.
당신, 혹은 당신의 회사는 지금, 그 막대한 토큰을 단순한 '비용'으로 털어내고 있는가, 아니면 미래를 위한 '지능 자산'으로 쌓아가고 있는가?
본 포스팅은 자본주의 시장의 데이터 분석 및 개인의 투자 기록을 목적으로 작성되었습니다.
특정 종목의 매수/매도 추천이나 금융 투자 권유가 절대 아니며, 모든 투자의 선택과 책임은 투자자 본인에게 있습니다.
구조가 행동을 만든다: 깎을 것인가, 투입할 것인가
토큰 비용을 어디에 기입할 것인가는 단순한 회계적 분류가 아니다. 기업의 운명을 가를 철학적 결단이다.
토큰을 '비용(Cost)'의 칸에 넣는 순간, 줄이는 것이 미덕이 된다. 구매 부서는 더 싼 모델을 찾도록 압박할 것이고, 직원들은 눈치를 보며 AI 사용을 줄일 것이다. 토큰을 아낄수록 일 잘하는 직원이 된다.
반대로 토큰을 '선투자(Investment)'의 칸에 넣으면 질문이 완전히 뒤집힌다. 세일즈포스(Salesforce)의 CEO 마크 베니오프는 앤스로픽(Anthropic) 모델 하나에만 3억 달러 지출 계획을 밝혔다. 이들에게 토큰은 "어디에 더 부어야 압도적으로 많은 가치가 돌아오는가?"를 묻는 투자금이다.
 |
| 젠슨 황 엔비디아 최고경영자가 지난 3월 열린 엔비디아 GTC 행사에서 ‘올인 팟캐스트’에 참석해 토큰 소비와 관련된 의견을 내비쳤다. 출처: 올인팟캐스트 |
실제로 엔비디아의 젠슨 황 CEO는 "엔지니어 1인당 생산성을 극대화하려면 연봉의 절반 수준(약 7만 5,000달러)에 달하는 토큰을 적극적으로 써야 한다"고 단언했다. 그는 AI를 쓰지 않는 개발자를 향해 "반도체 칩 설계자가 첨단 도구를 거부하고 종이와 연필만 쓰겠다고 고집하는 것과 같다"며 일갈하기도 했다.
이러한 철학을 바탕으로 메타(Meta)와 아마존(Amazon) 등 앞서가는 빅테크 기업들은 개발자들이 사용하는 '토큰 소비량'을 집계해 사내 리더보드(순위표)를 만들고 있다. 토큰을 덜 쓰는 직원을 칭찬하는 것이 아니라, 오히려 뒤처진 것으로 간주하여 남들보다 경쟁적으로 '외주화된 지능'을 끌어다 쓰도록 구조를 만든 것이다.
같은 지출이라도 장부의 어느 칸에 넣었느냐에 따라 한쪽은 예산을 깎고, 한쪽은 예산을 붓는다. 구조가 행동을 만든다. 기업이 토큰을 어떻게 정의하느냐가 AI 시대에 그 기업이 어떻게 움직일지를 결정한다.
앞서가는 기업들이 도입 중인 ROT 최적화 프레임워크
"일단 써보면서 감을 잡자"는 낭만적인 시대는 끝났다. 글로벌 기업들은 이미 자신들만의 내부 잣대를 세우고 'AI FinOps(재무 운영)'를 도입하고 있다.
명확한 ROT(Return on Tokens) 계산식의 도입
R&D 토큰과 운영 토큰의 철저한 분리
모든 토큰 지출이 같은 성격을 띠지 않는다. 선도 기업들은 비용의 성격을 내부적으로 가르마 탄다.
투자(Investment): 새로운 제품 로직을 설계하고 코드를 짜는 데 들어간 혁신용 토큰 (적극 장려)
운영비(Opex): 단순 이메일 요약, 일상적 반복 업무에 들어가는 루틴형 토큰 (ROI 엄격 평가)
내부 과금(Internal Chargeback) 체계 전환
중앙 IT 부서에서 무한정 예산으로 태우는 '보여주기식(Theater)' AI 도입은 끝났다. 각 사업부가 창출한 성과(매출 증가, 비용 절감)에서 자신들이 끌어다 쓴 토큰 비용을 직접 차감하여 진짜 부서별 수익성을 평가한다.
무지성 지출을 막는 LLMOps 기술의 결합
가장 비싸고 똑똑한 모델을 모든 업무에 쓰는 것은 낭비다. 프롬프트 캐싱(Caching), 작업 난이도에 따라 모델을 배분하는 모델 라우팅(Model Routing), 그리고 목적에 맞게 파인튜닝된 경량화 오픈소스 모델(Llama, DeepSeek 등)을 혼합하여 토큰 비용의 50~90%를 깎아내는 기술적 최적화가 병행되어야 진짜 ROT가 높아진다.
500년 만에 다시 쓰는 '지능 복식부기'
토큰은 21세기 기업의 새로운 전기이자 에너지다.
남들이 짙은 안개 속에서 외부의 가이드라인만 기다릴 때, 먼저 자신만의 잣대로 ROT를 정의하고 장부의 칸을 새로 그리는 기업만이 안개가 걷혔을 때 살아남을 것이다. 500년 전 복식부기가 상업혁명을 이끌었다면, 오늘 우리는 '지능 복식부기(Intelligence Double-entry Bookkeeping)'를 새로 써야 하는 역사적 변곡점에 서 있다.
당신, 혹은 당신의 회사는 지금, 그 막대한 토큰을 단순한 '비용'으로 털어내고 있는가, 아니면 미래를 위한 '지능 자산'으로 쌓아가고 있는가?
본 포스팅은 자본주의 시장의 데이터 분석 및 개인의 투자 기록을 목적으로 작성되었습니다.
특정 종목의 매수/매도 추천이나 금융 투자 권유가 절대 아니며, 모든 투자의 선택과 책임은 투자자 본인에게 있습니다.
