一、为什么2B模型值得重新审视
长期以来，业界默认参数越大能力越强。但当模型能力的提升从参数堆叠转向数据治理与训练算法时，单位参数所能承载的智能密度就成了新的竞争点。MiniCPM5-2B以约一半的参数量跑出了优于多数4B模型的综合表现，并在Agent任务上拉开明显差距。这一变化意味着，在端侧设备有限算力下，复杂任务不再只能依赖云端大模型。
对用户而言，高密度端侧模型的价值在于：同样的硬件预算，能跑出更强的能力；同样的任务，消耗更少的token，响应更快、长期成本更低。
二、用户关心的三件事：隐私、确定性、成本
端侧模型和云端模型的使用场景并不完全重叠，选择的关键在于任务特性。
隐私安全：在用户授权与系统权限允许的范围内，端侧模型可以直接读取屏幕、调用本地应用，并处理本机数据。对于敏感信息处理、实时感知用户状态等场景，本地推理能减少数据外传带来的顾虑。
离线可用与确定性响应：核心推理不依赖网络连接，可以规避网络波动、云端限流或服务故障。对于需要长期驻留的操作系统级、车机、机器人等Agent，确定性比绝对速度更重要。
成本结构：本地推理通常不需要按调用次数或token量持续支付云端API费用。对于每日自动化流程、个人常驻助理等高频Agent任务，端侧方案有望摊薄长期使用成本。一个复杂Agent任务动辄消耗数十万token，若高密度端侧模型能承接相当一部分任务，整个应用层的成本结构会发生实质性变化。
三、性能表现与Agent能力实测
MiniCPM5-2B在AA Intelligence Index上取得23分，是4B参数以下开源模型的最高分，超过参数量数倍于己的Gemma 4 12B、Qwen3.5 9B等模型。
更值得关注的是Agent能力：在AA Agentic Index上拿到20分，是第二名的两倍以上，并超过gpt-oss-20b等十倍参数量的模型；在以人类基线为锚点的GDPval-AA v2上拿到891分，是所有参评模型中最接近人类水平的一个，领先第二名近190分。
在效率方面，完成相同任务时平均仅消耗21k输出token（推理14k、回答7k），处于全场最低一档。这意味着更快的响应速度和更低的推理开销，特别契合端侧设备的资源约束。
四、选择标准：什么时候适合用2B端侧模型
端侧模型不是要替代云端大模型，而是补足云端无法覆盖的场景。建议按以下标准判断：
- 任务是否涉及敏感数据或本地应用联动：如个人文档处理、本地文件整理、设备控制类Agent，优先考虑端侧。
- 任务是否需要长期在线、低延迟响应：如实时翻译、智能输入法、随身的个人助理，端侧更稳定。
- 是否追求可控的长期成本：如每日运行的自动化工作流、自部署的内部工具，本地推理能避开云端计费。
- 是否需要在弱网或离线环境工作：端侧天然适配。
反之，如果任务对知识广度、复杂逻辑推理、长链规划要求极高，且对延迟不敏感，云端大模型仍是更稳妥的选择。实际项目中，端侧与云端的混合调度，往往是性价比最高的方案。
五、如何用起来
MiniCPM5-2B在工程支持上做了较完整的适配，开发者可以按以下路径上手：
- 权重与数据集获取：模型权重与UltraData系列数据集已在Hugging Face和GitHub开源，可直接下载。
- 推理框架选择：已覆盖vLLM、SGLang、llama.cpp、Ollama等主流推理框架，可根据硬件条件选择。如果想在个人电脑快速体验，Ollama是最轻量的入口
如何用起来：通过 OpenStarry 接入
如果你想直接用上 qwen 这类模型/工具，可以通过 OpenStarry 用一个 Key 快速接入，无需各自注册多个平台：
- 一个 Key 接入 13 款模型，完整兼容 OpenAI SDK，两行代码即可迁移；
- 官方原厂通道与自动容灾，节点异常时自动切换；
- 按量付费、人民币结算，模型调用费用以 OpenStarry 官网标价为准。
接入示例：
base_url: https://api.openstarry.com/v1
api_key: <你的 OpenStarry Key>
model: qwen3.7-max