Kimi K3 자체 호스팅은 2026년 7월 27일 Moonshot AI가 2.8조 파라미터 모델의 가중치를 프로덕션 추론 지원과 함께 공개하면서 기술적으로 가능해졌습니다. 많은 조직이 그 소식을 읽고 이제 프런티어급 추론을 자사 하드웨어에서 돌리며 토큰당 비용 지불을 그만둘 수 있겠다고 결론지었습니다. 그 결론은 대개 틀렸지만, 사람들이 예상하는 이유 때문은 아닙니다. 엔지니어링은 충분히 가능합니다. 대부분의 프로젝트를 무너뜨리는 것은 계산이며, 그것도 예산이 승인되고 몇 달이 지난 뒤에 조용히 무너뜨립니다. 짧은 답: MXFP4 정밀도에서 2.8조 파라미터는 키-...
Kimi K3
Moonshot AI의 오픈 웨이트 2.8조 파라미터 추론 모델 Kimi K3에 대한 가이드, 벤치마크, API 활용 및 셀프 호스팅 통합 노트입니다.
Kimi K3 API는 흔치 않은 조합을 들고 등장했습니다. 프런티어급에 근접한 벤치마크 성적, 공격적인 가격, 그리고 내려받을 수 있는 가중치입니다. Moonshot AI는 2026년 7월 27일에 그 가중치를 공개했고, 이로써 K3는 지금까지 공개된 것 중 가장 큰 개방형 모델이자, 이 규모의 모델을 원칙적으로 직접 운영할 수 있게 된 첫 사례가 되었습니다. 이미 프런티어 공급자에게 비용을 지불하고 있다면, 이는 철학적 질문이 아니라 실무적 질문을 던집니다. 이 모델이 우리 스택에 들어갈 자리가 있는가, 그리고 트래픽 일부를 옮기면 실제로 무엇이 달라지는가. 이 ...