OpenAI 탈피를 진지하게 검토하는 팀이 2026년 들어 눈에 띄게 늘었습니다. 오픈 웨이트 모델의 품질이 일상적인 프로덕션 작업에서는 선두 모델과 구분하기 어려운 수준까지 올라왔고, 공개 단가는 더 낮아졌으며, 가중치를 직접 내려받을 수 있다는 점이 공급업체와의 관계를 의존이 아니라 선택으로 바꿔 놓았기 때문입니다. 다만 그렇다고 전환이 공짜인 것은 아닙니다. API 호출 자체는 거의 동일합니다. 문제는 그 주변의 모든 것입니다. 이 글에서는 무엇이 그대로 옮겨가는지, 무엇이 조용히 깨지는지, 의미 있는 비교를 어떻게 설계하는지,...
Kimi K3
Moonshot AI의 오픈 웨이트 2.8조 파라미터 추론 모델 Kimi K3에 대한 가이드, 벤치마크, API 활용 및 셀프 호스팅 통합 노트입니다.
Kimi K3 자체 호스팅은 2026년 7월 27일 Moonshot AI가 2.8조 파라미터 모델의 가중치를 프로덕션 추론 지원과 함께 공개하면서 기술적으로 가능해졌습니다. 많은 조직이 그 소식을 읽고 이제 프런티어급 추론을 자사 하드웨어에서 돌리며 토큰당 비용 지불을 그만둘 수 있겠다고 결론지었습니다. 그 결론은 대개 틀렸지만, 사람들이 예상하는 이유 때문은 아닙니다. 엔지니어링은 충분히 가능합니다. 대부분의 프로젝트를 무너뜨리는 것은 계산이며, 그것도 예산이 승인되고 몇 달이 지난 뒤에 조용히 무너뜨립니다. 짧은 답: MXFP4 정밀도에서 2.8조 파라미터는 키-...
Kimi K3 API는 흔치 않은 조합을 들고 등장했습니다. 프런티어급에 근접한 벤치마크 성적, 공격적인 가격, 그리고 내려받을 수 있는 가중치입니다. Moonshot AI는 2026년 7월 27일에 그 가중치를 공개했고, 이로써 K3는 지금까지 공개된 것 중 가장 큰 개방형 모델이자, 이 규모의 모델을 원칙적으로 직접 운영할 수 있게 된 첫 사례가 되었습니다. 이미 프런티어 공급자에게 비용을 지불하고 있다면, 이는 철학적 질문이 아니라 실무적 질문을 던집니다. 이 모델이 우리 스택에 들어갈 자리가 있는가, 그리고 트래픽 일부를 옮기면 실제로 무엇이 달라지는가. 이 ...