进入 2026 年后，认真考虑迁移出 OpenAI 的团队明显变多了。开放权重模型在日常生产任务上的质量已经很难与头部模型区分开来，公开单价更低，而权重本身可以下载这一点，把与厂商的关系从依赖变成了选择。 但这并不意味着切换是免费的。API 调用本身几乎一模一样，真正要干活的是它周围的一切。本文讲清楚:哪些东西能原样搬过去,哪些会悄悄出问题,怎样设计一次有意义的比较,以及什么时候留在原地才是正确答案。 先把预期对齐。 换厂商就是换一个基础 URL、一个模型名、一份凭据。但要拿回同样的输出质量,那是以天为单位计的提示词工程。给一个范围明确的功能预留一到三周。任何假设可以即时替换的估算,都是乐观估算。 哪些东西能原样搬过去比你想的多,这...
开源
关于开源软件的指南、工具和见解，包括贡献、许可和协作开发的最佳实践。涵盖范围、工作量与实际成本。
自托管 Kimi K3 在 2026 年 7 月 27 日成为技术上可行的选项，那天 Moonshot AI 连同生产级推理支持一起公开了这个 2.8 万亿参数模型的权重。许多机构读到这条消息后得出结论：现在可以在自家硬件上运行前沿级推理，不必再按 token 付费了。 这个结论通常是错的，但原因并非人们预想的那样。工程上是可以做到的。真正击垮多数项目的是那笔账，而且它往往在预算批下来好几个月后才悄无声息地发作。 简短回答： 在 MXFP4 精度下，2.8 万亿参数在计入键值缓存之前就已占用约 1.4TB。一个八卡 H100 节点只有 640GB，因此根本无法服务这个模型。现实的部署要从约 1.7TB 显存起步，...
Kimi K3 API 带着一个不寻常的组合登场：接近前沿水平的基准成绩、激进的定价，以及可供下载的权重。Moonshot AI 于 2026 年 7 月 27 日公开了这些权重，使 K3 成为迄今公开发布的最大模型，也是这一规模的模型首次在原则上可以由你自己运行。 对于已经在向前沿供应商付费的团队来说，这提出的是一个务实问题，而非哲学问题：它在你的技术栈里有没有位置，把一部分流量迁过去究竟会改变什么。本文讨论成本测算、集成工作，以及那些公开数字无法转化为生产表现的环节。 简而言之： Kimi K3 的缓存未命中输入约为每百万 token 3 美元，缓存命中输入约为 0.30 美元，输出约为 15 美元，...
在 2026 年构建企业级应用时，选择合适的软件授权许可模式是创始人在商业布局中最重要的战略决策之一。一旦选错合同形式，可能会限制您的分发渠道、阻碍 SaaS 的扩张，甚至在法律层面上意外迫使您将核心的商业独占（闭源）代码公诸于世。因此，创始人需要在保护核心知识产权（IP）与维持运营利润率之间进行仔细权衡。本指南为您深入分析在商业软件许可中常用的法律结构、开源许可协议约束以及独占条款。 许可漏洞警告： 引入使用强传染性开源协议（如 GPL）的开源库，在法律上有可能要求您的公司向公众公开整个独占应用的全部源代码。 核心要点提炼： 科学的许可模式能妥善保护您的知识产权，并为实现可扩展的业务收入奠定基础。 商业独占许...
Drupal 网站开发在内容管理领域占据独特地位：虽然没有 WordPress 那样广为人知，但在结构、安全性和规模至关重要的网站方面，它深受政府、大学和大型组织的信赖。对 Drupal 网站开发的搜索兴趣不断增长，原因正在于此，该平台适用于一类简单工具难以应对的项目。本指南将为您解释 Drupal 真正擅长什么、与 WordPress 的比较、何时是正确选择，以及英国组织在做出承诺之前需要了解的事项。 核心要点 Drupal 是一款功能强大的开源 CMS，专为结构化内容、复杂权限和大规模网站而构建 受到政府、教育机构和企业的青睐，尤其是在安全性和内容建模是优先考虑因素的场合 与 WordPress 相比，Drupal 提供更多功能...
Tiny BPE Trainer 介绍如今，从 GPT 到 RoBERTa，大多数现代 NLP 模型都依赖于使用字节对编码 (BPE) 的子词标记化。但是，如果您想用纯 C++ 训练自己的词汇表，该怎么办？ 认识一下Tiny BPE Trainer——一款速度超快、仅包含头文件的 BPE 训练器，采用现代 C++ 17/20 编写，零依赖，完全支持UTF-8 编码，并兼容 HuggingFace 的输出（vocab.txt、merges.txt）。 为什么要添加另一个 BPE Trainer？因为现有的方案通常： 仅支持 Python，运行时依赖性很强（Rust、Protobuf 等） 不易嵌入到 C++ 应用程序 不注重速度、简洁...
现代文本分词器简介BERT、DistilBERT 和其他基于 Transformer 的架构等现代自然语言处理 (NLP) 模型高度依赖于有效的分词。但 C++ 开发者经常面临诸多限制，例如依赖项过多、Unicode 支持不佳，或与基于词汇的编码器缺乏兼容性。 正因如此，我创建了 现代文本分词器——一款速度超快、仅使用标头文件的 C++ 分词器，它支持 UTF-8 编码、零依赖，并且开箱即用，机器学习就绪。 它的独特之处？ 零依赖 – 无需 Boost、无需 ICU、无需外部库。 UTF-8 安全 – 可正确处理多语言文本、表情符号和多字节字符。 仅使用标头文件 – 将其添加到您的项目中即可使用。 词汇编码 –...