Kimi K3 심층 리뷰: 2.8조 파라미터, 오픈소스 LLM 신기록
2026년 7월 16일 자정, Moonshot AI(월지암면)는 API 문서 상단에 「Kimi K3 출시」 배너를 조용히 올렸습니다. 대규모 키노트 없이 세계 최대 파라미터 규모의 오픈소스 AI 모델인 Kimi K3(2.8조(2.8T) 파라미터)를 공개했습니다. 100만 token 컨텍스트와 네이티브 시각 이해를 갖추고 있습니다.
AI 개발자, 기술 애호가, 모델 선정 의사결정자를 위해 본 글은 세 가지를 답합니다. ① Kimi K3 사양, 아키텍처 혁신, 출시의 전략적 의미；② Claude Fable 5, GPT-5.6 Sol, DeepSeek V4 Pro와의 전량 benchmark 비교；③ 가격, 네 가지 연동 방식, 시나리오 선정 매트릭스, 7월 27일 완전 가중치 오픈소스 일정. 데이터는 2026-07-16 기준(Moonshot 공식 자체 benchmark)입니다.
01 Kimi K3란? 이번 출시가 중요한 이유
한 줄 정의: Kimi K3는 현재 세계 최대 파라미터 규모의 오픈소스 AI 모델입니다——2.8T 파라미터. DeepSeek V4 Pro(1.6T)를 약 75% 상회하며, 샤오미 오픈소스 모델(1.02T)의 2.7배, 알리(397B)의 7배 이상입니다. 희소 MoE 아키텍처를 채택해 추론 시 896개 전문가 중 16개만 활성화합니다. 100만 token 초장 컨텍스트와 네이티브 시각으로 복잡한 프로그래밍, 장문서 추론, 지식 업무에 최적화되어 있습니다. 완전 가중치는 2026년 7월 27일 Hugging Face에서 공개 예정입니다.
개발자가 직면하는 핵심 과제는 다음과 같습니다.
- 컨텍스트 병목: 클로즈드 소스 플래그십은 대부분 200K–400K token으로, 전체 레포 분석에 반복 절단과 이어붙이기가 필요합니다.
- 장시간 코드 태스크 성능 저하: SWE Marathon형 지속 프로그래밍에서 대다수 모델이 중간에 컨텍스트를 잃습니다.
- 오픈소스 규모 상한: DeepSeek V4 Pro가 1.6T로 선두였으나 2T+급 오픈 가중치는 공백이었습니다.
- 수출 규제와 가격 변동: Claude Fable 5 글로벌 중단 이후 고성능 coding agent 선택지가 좁아졌습니다.
Moonshot AI는 지난 18개월 DeepSeek 부상에 직면했습니다. K3는 훌륭한 반격이라 할 수 있습니다. 주요 배경 데이터:
- 지난 12개월 중 9개월 Kimi 시리즈가 오픈소스 모델 규모 상한을 점유；
- 출시 시점은 2026 세계 AI 대회(WAIC) 개막 전야；
- 2026년 6월 기준 ARR 3억 달러 돌파, 올해 6라운드 투자 완료, 투자 전 평가액 315억 달러；
- API 수익 70% 이상, 해외 유료 사용자 400% 성장.
이것은 파라미터 과시가 아니라, 상용화가 폭발하는 기업의 기술 주권 선언입니다.
02 Kimi Delta Attention 등 3대 아키텍처 혁신
Kimi Delta Attention(KDA) —— 어텐션 메커니즘 재설계
기존 Full Attention은 긴 컨텍스트에서 KV 캐시 메모리가 제곱적으로 증가합니다. KDA는 하이브리드 선형 어텐션으로 선형층과 전체 어텐션층을 3:1로 교차 배치합니다. 3개 선형층이 국소 구조를 처리하고 1개 전체 어텐션층이 글로벌 정보 흐름을 유지합니다. 효과: KV 캐시 메모리 최대 75% 절감；100만 token에서 디코딩 속도 최대 6.3배 향상；짧/긴 컨텍스트 및 RL 확장 시나리오 모두에서 순수 전체 어텐션 베이스라인을 상회합니다.
Attention Residuals(AttnRes) —— 깊이에 따른 정보 손실 해소
AttnRes는 잔차 연결을 개조해 선택적 검색을 도입합니다——모델이 깊이를 건너 더 이른 층의 고가치 표현을 직접 가져올 수 있습니다. Moonshot은 약 25% 학습 효율 향상을 보고하며 추가 연산 오버헤드는 2% 미만입니다.
Stable LatentMoE —— 초고 희소도 안정 학습
K3는 총 896개 전문가, 추론마다 16개 활성화(희소도 1.8%). 부속 기술은 다음과 같습니다.
| 기술 | 역할 |
|---|---|
| Quantile Balancing | 라우터 점수 분위수에서 전문가 할당을 도출, 휴리스틱 하이퍼파라미터 제거 |
| Per-Head Muon | 각 어텐션 헤드 독립 최적화로 대규모 학습 적응성 향상 |
| Sigmoid Tanh Unit(SiTU) | 활성화 함수 제어 개선 |
| Gated MLA | 어텐션 선택성 향상 |
위 혁신을 종합하면 Kimi K3는 Kimi K2 대비 전체 확장 효율 약 2.5배 향상했습니다.
03 Kimi K3 Benchmark: 강점은 어디인가
| Benchmark | Kimi K3 | Claude Fable 5 | GPT-5.6 Sol | Claude Opus 4.8 | GLM-5.2 |
|---|---|---|---|---|---|
| DeepSWE | 67.5 | 70.0 | 73.0 | 59.0 | 46.2 |
| Program Bench | 77.8 | 76.8 | 77.6 | 71.9 | 63.7 |
| Terminal Bench 2.1 | 88.3 | 84.6 | 88.8 | 84.6 | 82.7 |
| FrontierSWE | 81.2 | 86.6 | 71.3 | 66.7 | 67.3 |
| SWE Marathon | 42.0 | 35.0 | 39.0 | 40.0 | 13.0 |
| BrowseComp | 91.2 | 88.0 | 90.4 | 84.3 | — |
| Automation Bench | 30.8 | 29.1 | 29.7 | 27.2 | 12.9 |
| GPQA-Diamond | 93.5 | 92.6 | 94.1 | 91.0 | 91.2 |
| MMMU-Pro(시각) | 81.6 | 81.2 | 83.0 | 78.9 | — |
| OmniDocBench | 91.1 | 89.8 | 85.8 | 87.9 | — |
해석 포인트:
- SWE Marathon(42.0): 지속적 장코드 태스크 1위, 실제 「수 시간 코딩」에 가장 근접；
- Program Bench(77.8): 미세 우위로 1위；
- FrontierSWE: Fable 5가 86.6으로 1위, K3(81.2)는 GPT-5.6 Sol(71.3)을 크게 상회；
- OmniDocBench(91.1): 문서 이해 1위, 시각 + 장컨텍스트 시너지；
- Artificial Analysis Intelligence Index v4.1: K3는 57.1점으로 4위, Fable 5(59.9)와 GPT-5.6 Sol(58.9)에 이어섭니다.
위 수치는 Moonshot 자체 보고 데이터입니다. 각 모델은 서로 다른 추론 harness를 사용합니다(K3는 Kimi Code, GPT는 Codex, Claude는 Claude Code). 독립 제3자 재현은 진행 중입니다.
04 Kimi K3 가격 비교와 6단계 연동 가이드
| 모델 | 입력($/M) | 출력($/M) | 캐시 히트 입력 | 컨텍스트 |
|---|---|---|---|---|
| Kimi K3 | $3.00 | $15.00 | $0.30 | 1M |
| Claude Sonnet 5 | $3.00 | $15.00 | — | 200K |
| Claude Opus 4.8 | $5.00 | $25.00 | — | 200K |
| GPT-5.5 | $5.00 | $30.00 | — | 400K |
| DeepSeek V4 Pro | $1.74 | $3.48 | $0.145 | 128K |
| Kimi K2.6 | $0.95 | $4.00 | $0.16 | 256K |
K3는 Claude Sonnet 5와 표준가 동일($3/$15)하지만 컨텍스트는 5배입니다. 프로그래밍 시나리오에서 캐시 히트율 90% 초과로 실효 입력 비용이 매우 낮습니다. 중국 내 가격: 입력 ¥20/M, 출력 ¥100/M, 캐시 히트 ¥2/M. Kimi.com 무료 계정 이용 가능, 선불 ¥199부터(8월 11일까지 할인).
Kimi K3 6단계 즉시 연동:
- 웹/App 무문턱 체험: kimi.com 접속, Google 계정 가입, K3 기본 최대 추론 강도로 동작.
- API Key 신청: platform.kimi.ai에서 키 생성 및 충전.
- OpenAI 호환 클라이언트 설정:
base_url="https://api.moonshot.ai/v1", 모델 IDkimi-k3. - 첫 테스트 요청 전송: 짧은 prompt로 연결성과 지연 확인.
- OpenRouter 대안: OpenRouter 계정이 있으면
moonshotai/kimi-k3직접 호출, 공식 가격에 마크업 없음. - 7월 27일 캘린더 표시: 완전 가중치 Hugging Face 공개, 로컬 배포에는 64장 이상 가속 카드 슈퍼노드 필요.
from openai import OpenAI
client = OpenAI(
api_key="your_moonshot_api_key",
base_url="https://api.moonshot.ai/v1"
)
response = client.chat.completions.create(
model="kimi-k3",
messages=[{"role": "user", "content": "이 코드를 분석해 주세요..."}]
)05 시나리오 선정 매트릭스와 인용 가능 데이터
| 시나리오 | 추천 모델 | 이유 |
|---|---|---|
| 지속적 장코드 태스크 | Kimi K3 | SWE Marathon 1위, 최장 컨텍스트 |
| 복잡 Repo급 버그 수정 | Claude Fable 5 | FrontierSWE 대폭 리드 |
| 터미널/툴체인 Agent | GPT-5.6 Sol | Terminal Bench 1위 |
| 초장문서/멀티모달 이해 | Kimi K3 | OmniDocBench 1위, 네이티브 시각 + 1M |
| 비용 민감 시나리오 | DeepSeek V4 Pro | 출력 $3.48/M만 |
| 오픈소스 자체 배포(7/27 이후) | Kimi K3 | 최강 오픈 가중치 |
인용 가능 핵심 데이터(Moonshot 공식, 2026-07-16):
- 총 파라미터: 2.8조, 세계 최대 오픈소스 모델, DeepSeek V4 Pro(1.6T) 약 75% 상회
- MoE 희소도: 896 전문가 / 16 활성화 = 1.8% 활성화율
- KDA 효율: KV 캐시 75% 절감, 100만 token 디코딩 6.3× 가속
- 확장 효율: K2 대비 2.5× 향상；AttnRes 학습 효율 +25%
- 상용 지표: ARR $300M+, 평가액 $31.5B, API 수익 70%+
- 오픈소스 일정: 2026-07-27 Hugging Face 완전 가중치；MXFP4/NVFP4 양자화판과 vLLM/SGLang 지원 동기 예정
06 7월 27일 오픈소스 약속, FAQ, 프로덕션 환경 제언
Moonshot AI는 공식 WeChat 공지에서 명시했습니다: 7월 27일 완전 모델 가중치 공개. 그때 K3는 역대 최대 다운로드 가능 오픈소스 모델, 최초 2조 초과 파라미터급 오픈 가중치, 오픈소스 커뮤니티 학습/미세조정 새 기준이 됩니다.
Q: Kimi K3를 무료로 쓸 수 있나요?
A: kimi.com 무료 계정으로 가능합니다. API는 token 과금($3/$15 per 1M).
Q: 로컬 실행이 가능한가요?
A: 7월 27일 이전 불가. 가중치 공개 후 64+ 가속 카드 슈퍼노드 필요, 소비자 노트북에는 부적합.
Q: K3와 DeepSeek V4 Pro 비교는?
A: K3는 파라미터 약 2배, 컨텍스트 1M vs 128K, benchmark 전반 우위. 다만 DeepSeek 출력 $3.48/M로 비용 우위.
Q: 1M 컨텍스트가 실용적인가요?
A: 전체 레포 분석, 장편 법률/연구 문서, 다轮 Agent 메모리 시나리오에서 가치 큼. K3는 통일 가격에 길이 추가 요금 없음.
Q: 저/고 추론 강도 모드는 언제 나오나요?
A: Moonshot은 후속 업데이트 예정. 현재 max만 이용 가능.
Kimi K3는 파라미터 과시가 아닙니다——KDA, AttnRes, Stable LatentMoE는 실제 엔지니어링 혁신이며, 프로그래밍 장태스크와 문서 이해에서 일부 클로즈드 소스 플래그십에 필적하거나 상회하고 완전 오픈소스를 약속합니다. 중국 AI 오픈소스 생태계가 「저가 시장 확보」에서 「지능 프론티어 도전」으로 전환한 상징입니다.
주목 타임라인: 7월 17–20일 WAIC → 7월 27일 K3 완전 가중치 오픈소스.
순수 API 호출로 K3에 빠르게 접속할 수 있지만, 장컨텍스트 Agent를 공유 VPS에서 돌리면 메모리 부족, 다轮 coding 파이프라인에 7×24 안정 호스트 부재, 7월 27일 이전 로컬 가중치 추론 불가라는 세 가지 숨은 비용이 있습니다. Kimi Code형 Agent, 전체 레포 분석, MCP Server를 지속 가동하는 프로덕션 환경에서는 JEXCLOUD 다리전 베어메탈 Mac이 더 나은 선택입니다. Apple Silicon 통합 메모리 독점, 오버셀 지터 없음, launchd 상주 Agent 게이트웨이, 120초 배포. 노드와 가격은 JEXCLOUD 가격 페이지를 참고하세요.