토크노믹스 개요
토크노믹스(Token Economics, 토큰 경제학)는 AI가 한 번의 작업에 토큰을 얼마나 쓰는지, 그 비용을 어떻게 줄이고 지켜내는지를 다루는 영역입니다. 친구에게 한 문장으로 말하자면 “똑같은 품질을 더 적은 토큰으로 뽑아내는 방법"이 토크노믹스입니다. 모델 가격이 내려가도 에이전트(스스로 일하는 AI 도우미)가 여럿 돌고 컨텍스트(한 번에 기억하는 정보)가 길어지면 한 세션의 토큰 소비는 가파르게 늘어납니다. 그래서 비용을 가르는 것은 단가표가 아니라 토큰을 어떻게 굴리느냐입니다. 이 페이지는 토크노믹스의 전체 구조를 짚고, 각 주제의 심화 페이지로 이어줍니다.
정보한 줄 요약: 토크노믹스는 “어떤 일에 어떤 모델을 얼마만큼 깊게 생각시킬지를 가르고(라우팅), 컨텍스트를 가볍게 유지하며(다이어트), 위험한 순간에 안전하게 멈추는(예산 가드)” 네 층의 토큰 운용 방식입니다.
토큰 단가는 해마다 내려갑니다. 하지만 에이전틱 개발은 한 자리에서 대화하는 챗봇과 토큰 소비 양상이 다릅니다. 에이전트가 여러 개 돌고, 매 턴마다 지침과 규칙과 대화 기록이 누적되고, 추론이 깊어질수록 한 세션이 쓰는 토큰은 챗봇 한 턴과는 비교가 되지 않습니다. 단가 하락 속도보다 사용량 증가 속도가 빠른 상황에서는, 모델 하나의 가격을 깎는 것보다 “어떤 일에 어떤 모델을, 얼마만큼 깊게 생각시킬지"를 가르는 것이 비용을 훨씬 크게 줄입니다.
여기에 컨텍스트 윈도우(한 번에 담을 수 있는 정보의 양)라는 물리적 한계가 겹칩니다. 컨텍스트가 천장에 닿으면 스트림이 멈추거나 이전 맥락이 잘려 나갑니다. 그러면 같은 설명을 반복하게 되고, 반복이 곧 토큰 낭비로 이어집니다. 그래서 토크노믹스는 단순히 “싸게 쓰자"가 아니라 “품질을 유지하면서 토큰을 덜 쓰고, 위험한 순간에는 안전하게 멈추자"는 문제를 풉니다.
MoAI-ADK가 이 문제에 대하는 세 가지 접근은 이렇습니다.
- 세션에 맞는 모델과 추론 깊이를 정합니다 — 메인 세션의 모델과 effort가 모든 서브에이전트에 그대로 이어지므로, 세션 하나를 잘 고르는 것이 곧 전체 배정입니다.
- 컨텍스트를 다이어트합니다 — 항상 로드되는 지침을 최소화하고, 검증 출력은 디스크로 돌립니다.
- 예산을 시스템이 지켜냅니다 — 토큰 사용을 추적하고, 임계를 넘기 전에 안전하게 멈춥니다.
MoAI-ADK v3.0의 가치는 세 가지 핵심으로 요약됩니다. 토크노믹스는 그 가운데 비용을 맡은 영역이고, 나머지 둘과 촘촘히 맞물려 돌아갑니다. 비용만 깎으면 품질이 무너지고 재작업이 따라오는데, 모든 토큰 지출 가운데 가장 비싼 것이 바로 재작업입니다. 그래서 비용은 품질 게이트가 재작업을 막아 줄 때 유지되고, 품질은 자율 루프가 검증된 패턴을 기억할 때 강제할 수 있으며, 자율 루프는 예산 가드가 한도를 넘기 전에 멈춰 줄 때 적정 가격에 머뭅니다.
토크노믹스 (이 페이지, 비용) — 측정하고, 라우팅하고, 다이어트하고, 예산 초과 전에 중단합니다.
에이전틱 루프 엔지니어링 (자기 개선) — 언제 멈추고 언제 계속할 것인가. 자율 연속 루프 페이지에서 다룹니다.
에이전틱 하네스(품질 검증 자동 장치) (품질·통제) — 어떤 에이전트가, 어떤 프로필로, 어떻게 진화하는가. 3-티어 아키텍처, 프로필 매트릭스, 하네스 자가 진화 페이지에서 다룹니다.
토크노믹스는 네 개의 층으로 이뤄집니다. 각 층은 따로 작동하면서도 서로를 보완합니다. 위에서 아래로 흐르는 한 줄로 읽으면 “무엇을 썼는지 알아야(계측) 줄일 수 있고, 줄이려면 어디에 얼마나 쓸지 가른 뒤(라우팅), 쓰는 동안 컨텍스트를 가볍게 유지하며(다이어트), 끝까지 지키지 못할 것 같으면 미리 멈춘다(예산 가드)“가 됩니다.
flowchart TD
A["A층 — 계층 Metering
SPEC별 토큰 회계"]
B["B층 — 라우팅 Routing
작업에 맞는 모델·추론 깊이 배정"]
C["C층 — 다이어트 Verify-diet
검증 출력은 디스크, 컨텍스트엔 요약"]
D["D층 — 예산 가드 Budget defense
임계 초과 전 안전한 중단"]
A --> B
B --> C
C --> D 모든 에이전트 호출의 토큰 사용량을 SPEC(요구사항 명세서) 단위로 회계합니다. moai spec audit 출력의 토큰 컬럼과 progress.md의 토큰 회계 섹션이 이 층의 산출물입니다. 무엇이 토큰을 썼는지 모르면 줄일 수도 없습니다. 그래서 계층은 네 층 가운데 가장 먼저 자리잡습니다.
세션이 쓸 모델과 추론 깊이(effort, 모델이 한 번에 얼마만큼 깊이 생각할지를 정하는 단계)를 정합니다. v3.2부터 라우팅의 단위는 에이전트가 아니라 세션입니다 — 메인 세션의 모델과 effort가 모든 서브에이전트에 그대로 상속되고, 세션 effort는 /effort·ultrathink로 조절하며, 프로필 위자드의 세션 모델 정책은 추론 강도를 따로 고르지 않았을 때의 기본 폴백을 정합니다. 예전처럼 에이전트마다 배정표를 관리할 필요가 없어졌습니다. 판단이 무거운 단계에 깊은 추론을 몰아 주는 비용·품질 판단 기준은 유지되고, 상세는 프로필 매트릭스와 모델 정책 페이지를 보세요.
검증 명령이 쏟아내는 긴 출력을 디스크 파일로 흘려보내고, 컨텍스트에는 exit code와 bounded tail(최대 50줄)만 남깁니다. 이 파일-리다이렉트 계약 덕분에 검증 증거는 그대로 지키면서 컨텍스트 소비만 줄일 수 있습니다. 다이어트는 검증 출력에만 국한되지 않습니다. 항상 로드되는 지침을 줄이고, 프롬프트 캐시 적중률을 높이는 일도 이 층에 속합니다. 자세한 메커니즘은 토큰 예산 관리와 안전한 중단 페이지를 보세요.
에이전트별 토큰 사용량이 hard-limit(기본 90%)에 닿으면 안전한 중단(graceful abort)을 수행합니다. 진행 상태를 progress.md에 저장하고 붙여넣기 가능한 핸드오프 메시지(paste-ready resume)를 발행하되, 자동 /clear는 하지 않습니다. 멈춤은 시스템이 권고하고 실행은 사용자가 판단합니다. 자세한 절차는 토큰 예산 관리와 안전한 중단 페이지를 보세요.
토크노믹스에서 자주 간과되는 비용 구조가 프롬프트 캐시(이전에 보낸 입력을 잠시 저장해 두는 기능)입니다. Anthropic의 프롬프트 캐싱은 렌더링된 요청의 앞부분(tools → system → messages 순서)에 대해 접두사 일치로 작동합니다. 처음 한 번은 그 접두사를 캐시에 기록해야 하므로 1.25배의 비용이 들지만, 이후 같은 접두사를 재사용하는 턴에서는 0.1배 비용으로 읽어 옵니다. 한 턴의 입력을 10배 가까이 싸게 만들 수 있는 구조입니다.
여기에는 두 가지 함정이 있습니다.
첫째, 캐시 수명은 5분입니다. 그런데 이 5분은 “5분 뒤에 만료"가 아니라 “5분 넘는 빈 시간이 끼면 만료"입니다. 사용자 게이트에서 답을 기다리는 시간이 길어지면 캐시가 만료되고, 다음 턴은 접두사 전체를 다시 1.25배로 기록해야 합니다. 그래서 늦게 물어보는 질문일수록 비용이 큽니다.
둘째, 캐시는 쓰는 중에는 읽을 수 없습니다. 같은 정의를 가진 에이전트 여럿을 한 번에 띄우면, 동시에 출발한 요청들은 첫 번째가 캐시에 기록하는 동안 기다려 주지 않으므로 모두가 차가운 상태(cold)로 접두사를 각자 다시 기록하게 됩니다.
flowchart TD
T1["턴 1
지침·규칙 접두사를
처음으로 전송"]
W["캐시 기록
비용 1.25배"]
T2["턴 2 ~ N
같은 접두사 재사용"]
H["캐시 적중
비용 0.1배"]
GAP["5분 넘는 공백
사용자 게이트 대기 등"]
MISS["캐시 만료
다시 1.25배로 재기록"]
T1 --> W
W --> T2
T2 --> H
H --> T2
T2 --> GAP
GAP --> MISS
MISS --> W이 구조 때문에 MoAI-ADK는 실행 순서를 의식적으로 조정합니다. 사용자 게이트는 컨텍스트가 작을 때 일찍 물어보고, 같은 종류 에이전트를 병렬로 띄울 때는 하나를 먼저 띄워 캐시를 따뜻하게 만든 뒤 나머지를 이어 띄우며(stagger-spawn), 세션 시작에 로드되는 지침 파일을 중간에 편집하지 않고 작업 끝으로 미룹니다. 캐시는 게이트 의미를 바꾸지 않습니다. 승인 게이트는 그대로 필수이고, 다만 그 게이트를 “언제, 어떤 순서로” 물을지만 다이어트하는 것이 캐시 인식 실행입니다.
예산 가드가 언제 멈출지를 정하는 운영 임계값은 모델마다 다릅니다. 윈도우가 크면 높은 사용률까지 버틸 수 있고, 윈도우가 작으면 남는 여유 자체가 적습니다.
| 모델 클래스 | 윈도우 | 핸드오프 임계 | 절대 천장 |
|---|---|---|---|
| Opus 5.5 (1M) | 1,000,000 토큰 | 50% | ~500,000 토큰 |
| GLM-5.3 (1M) | 1,000,000 토큰 | 50% | ~500,000 토큰 |
| Fable / Sonnet 5.5 (1M) | 1,000,000 토큰 | 50% | ~500,000 토큰 |
| Sonnet 4.5 이하 (200K) | 200,000 토큰 | 90% | ~180,000 토큰 |
1M 컨텍스트 모델(Opus 5.5, GLM-5.3)은 50%에서 핸드오프를 권고합니다. 윈도우가 넓다고 끝까지 쓰는 것이 아니라, 오히려 더 일찍 접어서 캐시와 여유를 지키는 것이 안정적입니다. statusline의 컨텍스트 게이지(CW%)를 보고 임계에 가까워지면 /clear를 준비합니다. 자세한 절차와 핸드오프 메시지 구조는 토큰 예산 관리와 안전한 중단 페이지에 있습니다.
moai cg는 폐기되었습니다. Claude나 GLM을 실행하지 않고 설정 이전 안내와 함께 종료합니다. moai cc의 별칭이 아닙니다. llm.team_mode: cg가 남은 프로젝트는 세션을 실행하기 전에 이전할 구성을 명시적으로 선택해야 합니다. CG 폐기와 설정 이전
llm.team_mode: claude, llm.gateway.teammate_mode: in-process, llm.gateway.teammate_provider: inherit을 저장합니다. 기존 혼합 역할 배정을 없애는 변경이며, Claude 리더와 GLM 팀원 창의 분업을 보존하는 이전이 아닙니다.
claude-glm 대상은 Claude 리더와 tmux의 GLM 팀원 구성을 뜻합니다. 현재 TEAMMATE 통합 검증을 통과하지 않아 적용과 실행은 사용할 수 없으며 미리보기만 가능합니다. tmux를 설치하거나 verified: true를 적어도 이 제한은 해제되지 않습니다.
이 페이지에 적힌 내용의 구현 상태를 분명히 갈라 둡니다.
구현 완료 (배포 중) — 4-층 구조(A/B/C/D) 전 층, 세션 상속 모델 정책(세션 모델·effort가 서브에이전트에 상속, 세션 모델 정책은 effort 폴백), 검증 다이어트 파일-리다이렉트 계약, 예산 가드의 안전한 중단 메커니즘.
설계 단계 (로드맵) — GLM 백엔드에서 effort 오버레이가 실제로 어떻게 내려가는지는 라이브 GLM 세션의 아웃바운드를 직접 관찰해야 확인할 수 있는 실증 과제입니다. 프로필 매트릭스 페이지에도 이 구분을 함께 적어두었습니다.
- 토큰 예산 관리와 안전한 중단 — D층 심화 (모델별 임계치, paste-ready resume 구조, 검증 다이어트)
- 3-티어 에이전트 아키텍처 — 왜 Haiku를 배제했는가, B층 라우팅의 모델 정책 기초
- 프로필 매트릭스 — 예전 매트릭스가 물러난 자리와 세션 상속 규칙
- 자율 연속 루프 — 에이전틱 루프 엔지니어링 (세 가지 핵심 가운데 자기 개선)