Kimi K3 완전분석, 2.8조 파라미터의 두 얼굴

Kimi K3 완전분석, 2.8조 파라미터의 두 얼굴

인트로: 역대급 스펙 vs 역대급 뻥카

7월 27일, 조용히 트리거가 당겨졌다. 중국 Moonshot AI가 Kimi K3의 가중치를 통째로 공개해버린 것이다. 파라미터 2.8조 개. 지금까지 나온 오픈웨이트 모델 중 가장 크다. "역시 중국"이라는 감탄이 나오기 전에, 딱 한 줄만 더 읽어보자. 이 모델, 환각률이 51%다. 동전 던지기보다 살짝 나은 수준으로 헛소리를 지어낸다는 뜻이다. 스펙표는 화려한데 뒷면은 안 보여주는, 딱 인스타 사진 같은 모델이 나타났다.

핵심 개념: 숫자는 큰데 실제로 돌아가는 건 작다

Kimi K3는 Mixture-of-Experts(MoE) 구조다. 총 896개의 전문가 서브네트워크 중 토큰 하나당 딱 16개만 깨어난다. 그래서 "2.8조 파라미터"라는 헤드라인 숫자와 실제 추론 시 활성화되는 약 1040억 파라미터는 완전히 다른 이야기다. 체감 연산량은 대략 500억 파라미터짜리 밀집 모델 수준이라고 보면 된다. 여기에 1백만 토큰 컨텍스트, 텍스트·이미지·영상까지 처리하는 네이티브 멀티모달을 얹었다.

독립 벤치마크인 Artificial Analysis Intelligence Index에서는 57.1점을 받아 GPT-5.6 Sol Max(58.9), Claude Fable 5(59.9)와 불과 몇 점 차이로 따라붙었다. 코딩과 프론트엔드 아레나에서는 오히려 앞서는 구간도 있다. 오픈웨이트 모델이 클로즈드 프론티어 모델의 뒤통수를 잡은 셈이다.

실전 팁: 셀프호스팅하려면 이 정도는 알고 가자

가중치가 풀렸으니 vLLM으로 직접 띄워볼 수 있다. 대략적인 명령어는 이런 모양이다.

vllm serve moonshotai/Kimi-K3 \
  --tensor-parallel-size 8 \
  --max-model-len 1000000 \
  --quantization mxfp4 \
  --trust-remote-code

물론 8장짜리 GPU 클러스터가 뒷마당에 없다면 그림의 떡이다. Together AI, Modal 같은 곳이 데이 제로 호스팅을 붙였으니 API로 맛만 보는 것도 방법이다.

주의사항: 화려한 스펙 뒤에 숨은 세 가지 함정

1. 환각률 51%. Moonshot이 공개한 벤치마크 차트에는 이 숫자가 없다. 정확도는 전작보다 좋아졌지만, "더 자신 있게 틀리는" 방향으로 좋아졌다는 게 독립 테스트 결과다. 중요한 작업은 반드시 재검증이 필요하다.
2. 속도. Artificial Analysis 측정 기준 초당 약 32.6토큰, 첫 토큰까지 걸리는 시간은 무려 161초. 동급 모델 평균이 2.87초인 걸 감안하면 실시간 서비스에 붙이기엔 상당히 부담스러운 수치다.
3. 라이선스와 데이터 위치. "Kimi K3 라이선스"는 MIT를 표방하지만 연 매출 2천만 달러 이상 기업은 별도 계약이 필요한 상업적 제한 버전이다. API로 쓰면 요청이 중국 서버를 거치므로, 국가정보법 적용 대상이라는 점도 기업 도입 시 반드시 체크해야 한다.

업계 반응: 오픈웨이트 논쟁에 다시 불붙다

흥미로운 건 이 릴리스 다음 날, Anthropic CEO 다리오 아모데이가 직접 입장을 냈다는 점이다. "Anthropic은 오픈웨이트 모델 금지를 주장한 적이 없다"며, 위험하지 않은 오픈모델은 "공공재"라고 선을 그었다. 다만 칩 수출 통제, 증류 방지, 필수 안전성 테스트는 계속 요구한다는 입장이다. 오픈소스 진영과 프론티어 랩 사이의 줄다리기가, 이번 K3 릴리스를 계기로 다시 수면 위로 올라온 셈이다.

결론: 써봐도 되지만, 믿지는 말자

Kimi K3는 분명 상징적인 모델이다. 오픈웨이트 진영이 처음으로 3조 파라미터급 문턱을 넘었고, 코딩·프론트엔드 벤치마크에서는 GPT-5.6이나 Claude와 견줄 만한 결과도 보여준다. 하지만 절반에 가까운 환각률과 161초짜리 첫 응답 지연, 데이터 위치 리스크까지 감안하면 "일단 프로덕션에 바로 투입"은 시기상조다. 실험용 셀프호스팅이나 코딩 어시스턴트 보조용으로 찔러보는 정도가 현재로선 가장 현실적인 활용법이다. 화려한 숫자에 홀리지 말고, 뒷면부터 확인하고 쓰자.