精巧的 2B 級模型
此模型是具備 2,516,756,480 個參數的密集 Transformer，為不需要更大型模型的應用提供精巧替代方案。
概覽
MiniCPM5-2B 是 MiniCPM5 系列中的 2B 級密集因果語言模型。它採用標準 LlamaForCausalLM 架構，專為本地助理、程式編碼代理、工具使用流程，以及適合使用精巧模型的推理情境而設計。
此模型結合了小型部署目標與 131,072-token 原生上下文長度。其已發布的比較結果顯示，在所述評估集上的平均分數為 53.9，測試範圍涵蓋程式編碼、數學、指令遵循、知識、長上下文任務、工具使用與代理流程。這些結果描述的是作者的比較集，並不保證適用於每種應用。
主要功能
長上下文支援
131,072-token 原生上下文長度支援涉及長文件、延長對話及其他大量文字輸入的任務。
以本地與邊緣部署為重點
此模型以本地助理、裝置端部署與資源受限情境為定位，使本地執行成為核心目標，而不僅是託管式流程。
廣泛的任務涵蓋範圍
已發布的評估表涵蓋程式碼推理、數學、指令遵循、一般知識、長上下文理解、工具使用與代理任務。
多階段後訓練與開放資料
最終檢查點據描述經過監督式微調、強化學習與 OPD 的後訓練；該專案也發布 UltraData 系列中的相關訓練資料集。
多種執行格式
模型目錄提供 BF16、GGUF、MLX/4-bit、GPTQ/4-bit、DSpark 與 LiteRT-LM 變體，以適應不同部署環境。
使用情境
本地助理
當應用需要語言互動，且不希望預設選用更大型模型時，可將此模型作為本地執行的對話助理。來源明確將 MiniCPM5-2B 定位於裝置端與本地部署。
程式編碼支援與編碼代理
將其應用於程式編碼導向的流程，例如程式碼推理與編碼代理任務。已發布結果包含 LiveCodeBench、LCB-Pro、OJBench、SciCode 與軟體工程代理評估，但仍需進行應用層面的驗證。
工具使用流程
建立結合模型回應、外部工具或結構化動作的流程。模型卡中的工具使用基準包括 τ³-Bench、τ²-Bench 與 BFCL v4，為此預期流程類別提供依據。
長上下文文字處理
在單一模型上下文中處理長文件、延長對話或其他大量文字輸入。131,072-token 上下文長度是此情境中已發布的相關能力。
精巧推理與代理原型
製作需要涵蓋數學、一般知識、搜尋與一般代理任務的精巧推理或代理系統原型。模型卡報告了這些領域的評估結果，但實際適用性取決於任務與執行環境。
Pros and Cons
Pros
- 以本地與資源受限部署為目標的精巧 2B 級密集架構。
- 131,072-token 原生上下文長度，適用於長文字流程。
- 已發布的評估涵蓋程式編碼、數學、長上下文理解、工具使用及多種代理類別。
- 提供多種格式，包括 BF16、GGUF、MLX/4-bit、GPTQ/4-bit、DSpark 與 LiteRT-LM。
- 模型儲存庫中繼資料標示採用 Apache-2.0 授權。
Cons
- 來源資料未提供硬體需求、實測延遲、記憶體用量或完整設定流程，因此必須針對所選執行環境與量化方式驗證部署成本。
- 基準測試結果是依特定比較集與評估方法所報告，不應視為普遍適用的效能保證。
- 模型廣泛的任務涵蓋範圍並不能免除針對程式編碼、推理與工具使用應用驗證輸出的必要性。
FAQ
什麼是 MiniCPM5-2B？
MiniCPM5-2B 是採用標準 LlamaForCausalLM 架構的因果語言模型。它是具備 2,516,756,480 個參數、42 層、16 個查詢注意力頭與 2 個鍵／值頭的密集 Transformer。
MiniCPM5-2B 的設計用途是什麼？
此模型 предназнач於本地助理、程式編碼代理、工具使用流程、推理任務、裝置端部署，以及偏好精巧模型的其他資源受限情境。
MiniCPM5-2B 支援多長的上下文？
模型卡列出的原生上下文長度為 131,072 個 token，可支援長上下文語言任務，以及需要處理相對大量輸入的流程。
有哪些模型格式可用？
列出的模型變體包括 BF16 最終版本、適用於 llama.cpp、Ollama 與 LM Studio 的 GGUF、適用於 Apple Silicon 的 MLX/4-bit、GPTQ/4-bit、用於推理加速的 DSpark 草稿模型，以及 LiteRT-LM 版本。適合的選擇取決於目標執行環境。
此模型採用什麼授權？
模型卡標示的授權為 Apache-2.0。在特定專案中部署前，使用者仍應檢閱儲存庫的授權與相關條款。
Quick Facts
- 類別
- 因果語言模型
- 架構
- 標準 LlamaForCausalLM；密集 Transformer
- 參數
- 總計 2,516,756,480；非嵌入參數 1,981,982,720
- 上下文長度
- 131,072 個 token
- 注意力
- 42 層；GQA，具備 16 個 Q 頭與 2 個 KV 頭
- 授權
- Apache-2.0
MiniCPM5-2B 替代品
CreateOS Sandbox
CreateOS Sandbox 是以 Firecracker micro-VM 執行程式與 agent 工作負載的隔離運算環境，支援私有網路、SDK、CLI 與 MCP 程式化控制。
AakarDev AI
AakarDev AI 讓團隊透過單一儀表板管理 AI 供應商權限、專案設定、日誌與分析，支援 BYOK 工作流程，並可連接 OpenAI、Google Gemini、Anthropic、Groq、Mistral AI、Perplexity AI。
ByteAsk
ByteAsk 是專為 C 與 C++ 打造的終端機優先 AI coding agent，先編輯儲存庫再用真實編譯器、除錯器、sanitizer 與測試驗證變更，並提供免費方案與付費方案。
MeetStream
MeetStream 是一款會議 bot API，支援 Zoom、Google Meet、Microsoft Teams 與 Webex。協助開發者以程式化方式錄製、串流與分析會議，採用按量計費，並提供 5 美元免費額度開始使用。
Codex Plugins
Codex Plugins 將可重用技能、應用程式整合與 MCP 伺服器打包成可安裝到 Codex app 或在 Codex CLI 使用的工作流程，方便延伸 Codex 的連線服務任務、重複使用指令與團隊共享流程。
hob
hob 是一個獨立的 coding agents 工作區，整合 agent sessions、終端機、歷史紀錄與後續工作，並維持你既有的工具與供應商設定。適合想保有本機路由、歷史與工作區結構控制權的開發者。