ENTERPRISE AI INFRA企业AI成本测算
10 / 100 / 1,000 / 10,000 人企业的 AI Infra 怎么配：按行业样本测算 Token 用量，对比直接用 API 与开源模型在 17 款 GPU 上自部署（公有云、私有云、本地）的月成本。
数据更新时间：2026-10-15 01:34| 规模 | 企业样本 | 月 Token | API 优选 | API 开源同款 | 公有云按需 | 私有云包年 | 本地自购 |
|---|
| 10人 | AI 应用开发工作室软件/互联网 · 使用强度高 | 12亿 | 约¥1.6万 | 约¥2,900 | 约¥5,200 | 约¥1.1万 | 约¥1.7万 |
| 10人 | 精品律师事务所法律服务 · 使用强度中 | 2000万 | 约¥780 | 约¥55 | 约¥5,200 | 约¥1.1万 | 约¥1.7万 |
| 10人 | 连锁烘焙品牌总部餐饮零售 · 使用强度低 | 140万 | 约¥2.1 | 约¥5.3 | 约¥5,200 | 约¥1.1万 | 约¥1.7万 |
| 100人 | 跨境电商公司电商/出海 · 使用强度高 | 11亿 | 约¥1,900 | 约¥3,800 | 约¥5,200 | 约¥1.1万 | 约¥1.7万 |
| 100人 | 区域会计师事务所财税服务 · 使用强度中 | 1亿 | 约¥260 | 约¥310 | 约¥5,200 | 约¥1.1万 | 约¥1.7万 |
| 100人 | 精密零部件制造厂制造业 · 使用强度低 | 2000万 | 约¥24 | 约¥64 | 约¥5,200 | 约¥1.1万 | 约¥1.7万 |
| 1,000人 | 企业软件/云服务公司企业软件 · 使用强度高 | 710亿 | 约¥60万 | 约¥17万 | 约¥16万 | 约¥33万 | 约¥57万 |
| 1,000人 | 三甲医院医疗 · 使用强度中 | 12亿 | 约¥1.1万 | 约¥3,500 | 约¥5,200 | 约¥1.1万 | 约¥1.7万 |
| 1,000人 | 区域连锁超市零售 · 使用强度低 | 1.7亿 | 约¥250 | 约¥640 | 约¥5,200 | 约¥1.1万 | 约¥1.7万 |
| 10,000人 | 互联网科技集团互联网 · 使用强度高 | 7300亿 | 约¥740万 | 约¥180万 | 约¥160万 | 约¥330万 | 约¥580万 |
| 10,000人 | 全国性股份制银行金融 · 使用强度中 | 320亿 | 约¥14万 | 约¥8.7万 | 约¥8.5万 | 约¥17万 | 约¥30万 |
| 10,000人 | 汽车零部件制造集团制造业 · 使用强度低 | 58亿 | 约¥1.5万 | 约¥1.6万 | 约¥2.1万 | 约¥4.2万 | 约¥5.8万 |
每月成本；绿色为该样本最省方案。自部署均为 DeepSeek V4.1 Flash，硬件取各方案下最省的一款，明细见各样本。
HARDWARE
17 款 GPU 跑 DeepSeek V4.1 Flash每款按一份模型副本估算；绿色为 7×24 满载时比官方 API（同比例约 ¥2.44/百万 Token）更便宜
GPU 价格 →| GPU | 精度 × 卡数 | 估算吞吐 输出 tok/s | 副本硬件价 | 本地月成本 | ¥/百万 Token
工作时段满载 | ¥/百万 Token
7×24 满载 | ¥/百万 Token
云按需满载 |
|---|
| B200 180GB不可得 | FP8 × 2 卡 | 2,092输入 22,500 | 约¥85万市场价 | 约¥2.7万/月 | ¥2.6 | ¥0.77 | ¥2.1 |
| H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 × 4 卡 | 2,511输入 19,780 | 约¥84万市场价 | 约¥2.9万/月 | ¥2.8 | ¥0.82 | ¥2.4 |
| RTX 5090 32GB不可得 · PCIe | INT4 × 8 卡 | 2,250输入 10,056 | 约¥48万市场价 | 约¥2.3万/月 | ¥3.7 | ¥1.1 | ¥1.1 |
| RTX 4090D 24GB可采购 · PCIe | INT4 × 8 卡 | 1,265输入 7,056 | 约¥28万市场价 | 约¥1.7万/月 | ¥4 | ¥1.2 | ¥1.3 |
| RTX 5090D 24GB可采购 · PCIe | INT4 × 8 卡 | 1,687输入 7,128 | 约¥34万市场价 | 约¥1.9万/月 | ¥4.2 | ¥1.3 | ¥1.6 |
| B300 288GB不可得 | FP8 × 2 卡 | 2,092输入 22,500 | 约¥180万市场价 | 约¥5.3万/月 | ¥5.1 | ¥1.5 | ¥2.8 |
| H100 SXM5 80GB不可得 | FP8 × 8 卡 | 3,505输入 39,560 | 约¥290万市场价 | 约¥9.1万/月 | ¥5.1 | ¥1.5 | ¥2.6 |
| H800 SXM 80GB不可得 | FP8 × 8 卡 | 3,505输入 39,560 | 约¥290万市场价 | 约¥9.1万/月 | ¥5.1 | ¥1.5 | — |
| RTX PRO 6000 Blackwell 96GB不可得 · PCIe | FP8 × 4 卡 | 562输入 6,000 | 约¥45万出厂价 | 约¥1.7万/月 | ¥6.3 | ¥1.9 | ¥3.5 |
| RTX PRO 5000 Blackwell 48GB未明确 · PCIe | FP8 × 8 卡 | 844输入 6,192 | 约¥49万市场价 | 约¥2.2万/月 | ¥6.5 | ¥1.9 | ¥2.9 |
| RTX PRO 5500 Blackwell 84GB未明确 · PCIe | FP8 × 8 卡 | 878输入 10,848 | 约¥78万市场价 | 约¥3.2万/月 | ¥6.7 | ¥2 | — |
| H20 96GB可采购 | FP8 × 4 卡 | 2,092输入 2,960 | 约¥46万市场价 | 约¥1.7万/月 | ¥7.5 | ¥2.2 | — |
| L40S 48GB可采购 · PCIe | FP8 × 8 卡 | 542输入 8,688 | 约¥59万市场价 | 约¥2.5万/月 | ¥7.5 | ¥2.2 | ¥2.5 |
| A800 PCIe 80GB多变/需核实 · PCIe | INT8 × 8 卡 | 1,215输入 7,488 | 约¥130万市场价 | 约¥4.4万/月 | ¥10 | ¥3.1 | — |
| L20 48GB可采购 · PCIe | FP8 × 8 卡 | 542输入 2,868 | 约¥39万市场价 | 约¥1.9万/月 | ¥11 | ¥3.2 | — |
| 昇腾910B 64GB可采购 | INT8 × 8 卡 | 418输入 12,800 | 约¥110万市场价 | 约¥3.8万/月 | ¥12 | ¥3.6 | — |
| 昇腾910C 128GB可采购 | INT8 × 4 卡 | 1,674输入 15,040 | —无价格 | — | — | — | — |
输入:输出按本页样本整体 ≈ 13:1；吞吐为规格推算的估计值，不是实测；INT4 量化有精度损失，与 8bit 方案不完全可比；本地月成本含 36 个月折旧、电费与运维分摊；云按需时租取 vast.ai 国际市场，消费级卡大规模可租量有限。
10 PEOPLE
10 人企业3 个样本都是直接用 API 最省
AI 应用开发工作室
使用强度 高软件/互联网 · 10人 · 全员是开发者，编程 agent 是主要生产工具- 月 Token 合计
- 12亿输入 11亿 · 输出 8000万
- 人均月 Token
- 1.2亿
- 本地自部署最省配置
- RTX 4090D 24GB8 卡 · 1 台机器
最省：API · DeepSeek V4.1 Flash 官方（约¥2,900/月）。数据不出域时最省：开源自部署 · 公有云按需（约¥5,200/月，约为最省方案的 1.8 倍）。
| 方案 | 月成本 | 人均/月 | 相对最省 |
|---|
| API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥1.6万/月 | 约¥1,600 | 5.6× |
| API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥2,900/月 | 约¥290 | 最省 |
| 开源自部署 · 公有云按需8 张 RTX 4090D 24GB（INT4，1 台机器），只在工作时段开机 | 约¥5,200/月 | 约¥520 | 1.8× |
| 开源自部署 · 私有云包年8 张 RTX 4090D 24GB（INT4，1 台机器），7×24 专属 | 约¥1.1万/月 | 约¥1,100 | 3.6× |
| 开源自部署 · 本地自购8 张 RTX 4090D 24GB（INT4，1 台机器），国内可采购中最省 | 约¥1.7万/月 | 约¥1,700 | 5.7× |
各硬件自部署方案（16 款 GPU）
| GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 |
|---|
| RTX 4090D 24GB可采购 | INT4 · 8 卡 / 1 台 | 约¥1.7万/月 | 约¥5,200/月 |
| RTX 5090 32GB不可得 | INT4 · 8 卡 / 1 台 | 约¥2.3万/月 | 约¥7,000/月 |
| RTX 5090D 24GB可采购 | INT4 · 8 卡 / 1 台 | 约¥1.9万/月 | 约¥7,000/月 |
| L40S 48GB可采购 | FP8 · 8 卡 / 1 台 | 约¥2.5万/月 | 约¥8,400/月 |
| RTX PRO 6000 Blackwell 96GB不可得 | FP8 · 4 卡 / 1 台 | 约¥2.1万/月 | 约¥9,700/月 |
| RTX PRO 5000 Blackwell 48GB未明确 | FP8 · 8 卡 / 1 台 | 约¥2.2万/月 | 约¥9,700/月 |
| B200 180GB不可得 | FP8 · 2 卡 / 1 台 | 约¥3.4万/月 | 约¥2.2万/月 |
| H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 4 卡 / 1 台 | 约¥3.4万/月 | 约¥2.5万/月 |
| B300 288GB不可得 | FP8 · 2 卡 / 1 台 | 约¥6.1万/月 | 约¥2.9万/月 |
| RTX PRO 5500 Blackwell 84GB未明确 | FP8 · 8 卡 / 1 台 | 约¥3.2万/月 | — |
| H20 96GB可采购 | FP8 · 8 卡 / 1 台 | 约¥3.4万/月 | — |
| L20 48GB可采购 | FP8 · 16 卡 / 2 台 | 约¥3.7万/月 | — |
| 昇腾910B 64GB可采购 | INT8 · 8 卡 / 1 台 | 约¥3.8万/月 | — |
| A800 PCIe 80GB多变/需核实 | INT8 · 8 卡 / 1 台 | 约¥4.4万/月 | — |
| H100 SXM5 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | 约¥4.6万/月 |
| H800 SXM 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | — |
人员构成与使用度（5 类）
| 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 |
|---|
| 后端/全栈开发 | 4 | 重度 | 1.4亿 | MiMo-V2.6-Pro小米 · AA46 | 约¥430/月 |
| 算法/机器学习工程师 | 2 | 重度 | 2.1亿 | Claude Opus 5.5Anthropic · AA58 | 约¥7,000/月 |
| 前端/移动端开发 | 2 | 重度 | 1.2亿 | MiMo-V2.6-Pro小米 · AA46 | 约¥360/月 |
| 产品经理 | 1 | 中度 | 63万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.95/月 |
| 内容运营/新媒体运营 | 1 | 中度 | 91万 | Claude Haiku 5.5Anthropic · AA43 | 约¥1.7/月 |
精品律师事务所
使用强度 中法律服务 · 10人 · 律师用 AI 检索与起草，行政财务偶尔使用- 月 Token 合计
- 2000万输入 1800万 · 输出 240万
- 人均月 Token
- 200万
- 本地自部署最省配置
- RTX 4090D 24GB8 卡 · 1 台机器
最省：API · DeepSeek V4.1 Flash 官方（约¥55/月）。数据不出域时最省：开源自部署 · 公有云按需（约¥5,200/月，约为最省方案的 94.9 倍）。
| 方案 | 月成本 | 人均/月 | 相对最省 |
|---|
| API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥780/月 | 约¥78 | 14.3× |
| API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥55/月 | 约¥5.5 | 最省 |
| 开源自部署 · 公有云按需8 张 RTX 4090D 24GB（INT4，1 台机器），只在工作时段开机 | 约¥5,200/月 | 约¥520 | 94.9× |
| 开源自部署 · 私有云包年8 张 RTX 4090D 24GB（INT4，1 台机器），7×24 专属 | 约¥1.1万/月 | 约¥1,100 | 191.2× |
| 开源自部署 · 本地自购8 张 RTX 4090D 24GB（INT4，1 台机器），国内可采购中最省 | 约¥1.7万/月 | 约¥1,700 | 302.8× |
各硬件自部署方案（16 款 GPU）
| GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 |
|---|
| RTX 4090D 24GB可采购 | INT4 · 8 卡 / 1 台 | 约¥1.7万/月 | 约¥5,200/月 |
| RTX 5090 32GB不可得 | INT4 · 8 卡 / 1 台 | 约¥2.3万/月 | 约¥7,000/月 |
| RTX 5090D 24GB可采购 | INT4 · 8 卡 / 1 台 | 约¥1.9万/月 | 约¥7,000/月 |
| L40S 48GB可采购 | FP8 · 8 卡 / 1 台 | 约¥2.5万/月 | 约¥8,400/月 |
| RTX PRO 6000 Blackwell 96GB不可得 | FP8 · 4 卡 / 1 台 | 约¥2.1万/月 | 约¥9,700/月 |
| RTX PRO 5000 Blackwell 48GB未明确 | FP8 · 8 卡 / 1 台 | 约¥2.2万/月 | 约¥9,700/月 |
| L20 48GB可采购 | FP8 · 8 卡 / 1 台 | 约¥1.9万/月 | — |
| B200 180GB不可得 | FP8 · 2 卡 / 1 台 | 约¥3.4万/月 | 约¥2.2万/月 |
| H20 96GB可采购 | FP8 · 4 卡 / 1 台 | 约¥2.2万/月 | — |
| H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 4 卡 / 1 台 | 约¥3.4万/月 | 约¥2.5万/月 |
| B300 288GB不可得 | FP8 · 2 卡 / 1 台 | 约¥6.1万/月 | 约¥2.9万/月 |
| RTX PRO 5500 Blackwell 84GB未明确 | FP8 · 8 卡 / 1 台 | 约¥3.2万/月 | — |
| 昇腾910B 64GB可采购 | INT8 · 8 卡 / 1 台 | 约¥3.8万/月 | — |
| A800 PCIe 80GB多变/需核实 | INT8 · 8 卡 / 1 台 | 约¥4.4万/月 | — |
| H100 SXM5 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | 约¥4.6万/月 |
| H800 SXM 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | — |
人员构成与使用度（5 类）
| 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 |
|---|
| 律师 | 4 | 中度 | 440万 | Claude Opus 5.5Anthropic · AA58 | 约¥170/月 |
| 律师 | 2 | 轻度 | 52万 | Claude Opus 5.5Anthropic · AA58 | 约¥23/月 |
| 法务/合规 | 2 | 中度 | 63万 | Claude Opus 5.5Anthropic · AA58 | 约¥28/月 |
| 文员/行政 | 1 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.12/月 |
| 财务/会计 | 1 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.2/月 |
连锁烘焙品牌总部
使用强度 低餐饮零售 · 10人 · 总部职能团队，AI 主要用于写方案和查资料- 月 Token 合计
- 140万输入 97万 · 输出 42万
- 人均月 Token
- 14万
- 本地自部署最省配置
- RTX 4090D 24GB8 卡 · 1 台机器
最省：API · 按岗位优选模型（约¥2.1/月）。数据不出域时最省：开源自部署 · 公有云按需（约¥5,200/月，约为最省方案的 2544.4 倍）。
| 方案 | 月成本 | 人均/月 | 相对最省 |
|---|
| API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥2.1/月 | 约¥0.21 | 最省 |
| API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥5.3/月 | 约¥0.53 | 2.6× |
| 开源自部署 · 公有云按需8 张 RTX 4090D 24GB（INT4，1 台机器），只在工作时段开机 | 约¥5,200/月 | 约¥520 | 2544.4× |
| 开源自部署 · 私有云包年8 张 RTX 4090D 24GB（INT4，1 台机器），7×24 专属 | 约¥1.1万/月 | 约¥1,100 | 5123.9× |
| 开源自部署 · 本地自购8 张 RTX 4090D 24GB（INT4，1 台机器），国内可采购中最省 | 约¥1.7万/月 | 约¥1,700 | 8115.8× |
各硬件自部署方案（16 款 GPU）
| GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 |
|---|
| RTX 4090D 24GB可采购 | INT4 · 8 卡 / 1 台 | 约¥1.7万/月 | 约¥5,200/月 |
| RTX 5090 32GB不可得 | INT4 · 8 卡 / 1 台 | 约¥2.3万/月 | 约¥7,000/月 |
| RTX 5090D 24GB可采购 | INT4 · 8 卡 / 1 台 | 约¥1.9万/月 | 约¥7,000/月 |
| L40S 48GB可采购 | FP8 · 8 卡 / 1 台 | 约¥2.5万/月 | 约¥8,400/月 |
| RTX PRO 6000 Blackwell 96GB不可得 | FP8 · 4 卡 / 1 台 | 约¥2.1万/月 | 约¥9,700/月 |
| RTX PRO 5000 Blackwell 48GB未明确 | FP8 · 8 卡 / 1 台 | 约¥2.2万/月 | 约¥9,700/月 |
| L20 48GB可采购 | FP8 · 8 卡 / 1 台 | 约¥1.9万/月 | — |
| B200 180GB不可得 | FP8 · 2 卡 / 1 台 | 约¥3.4万/月 | 约¥2.2万/月 |
| H20 96GB可采购 | FP8 · 4 卡 / 1 台 | 约¥2.2万/月 | — |
| H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 4 卡 / 1 台 | 约¥3.4万/月 | 约¥2.5万/月 |
| B300 288GB不可得 | FP8 · 2 卡 / 1 台 | 约¥6.1万/月 | 约¥2.9万/月 |
| RTX PRO 5500 Blackwell 84GB未明确 | FP8 · 8 卡 / 1 台 | 约¥3.2万/月 | — |
| 昇腾910B 64GB可采购 | INT8 · 8 卡 / 1 台 | 约¥3.8万/月 | — |
| A800 PCIe 80GB多变/需核实 | INT8 · 8 卡 / 1 台 | 约¥4.4万/月 | — |
| H100 SXM5 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | 约¥4.6万/月 |
| H800 SXM 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | — |
人员构成与使用度（5 类）
| 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 |
|---|
| 门店运营/店长 | 4 | 轻度 | 5.2万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.082/月 |
| 市场/品牌营销 | 2 | 轻度 | 30万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.48/月 |
| 财务/会计 | 2 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.2/月 |
| 采购/供应链 | 1 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.23/月 |
| 文员/行政 | 1 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.12/月 |
100 PEOPLE
100 人企业3 个样本都是直接用 API 最省
跨境电商公司
使用强度 高电商/出海 · 100人 · 多语言上新、内容生产与海外客服都大量依赖 AI- 月 Token 合计
- 11亿输入 7.8亿 · 输出 2.8亿
- 人均月 Token
- 1100万
- 本地自部署最省配置
- RTX 4090D 24GB8 卡 · 1 台机器
最省：API · 按岗位优选模型（约¥1,900/月）。数据不出域时最省：开源自部署 · 公有云按需（约¥5,200/月，约为最省方案的 2.7 倍）。
| 方案 | 月成本 | 人均/月 | 相对最省 |
|---|
| API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥1,900/月 | 约¥19 | 最省 |
| API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥3,800/月 | 约¥38 | 2.0× |
| 开源自部署 · 公有云按需8 张 RTX 4090D 24GB（INT4，1 台机器），只在工作时段开机 | 约¥5,200/月 | 约¥52 | 2.7× |
| 开源自部署 · 私有云包年8 张 RTX 4090D 24GB（INT4，1 台机器），7×24 专属 | 约¥1.1万/月 | 约¥110 | 5.4× |
| 开源自部署 · 本地自购8 张 RTX 4090D 24GB（INT4，1 台机器），国内可采购中最省 | 约¥1.7万/月 | 约¥170 | 8.6× |
各硬件自部署方案（16 款 GPU）
| GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 |
|---|
| RTX 4090D 24GB可采购 | INT4 · 8 卡 / 1 台 | 约¥1.7万/月 | 约¥5,200/月 |
| RTX 5090 32GB不可得 | INT4 · 8 卡 / 1 台 | 约¥2.3万/月 | 约¥7,000/月 |
| RTX 5090D 24GB可采购 | INT4 · 8 卡 / 1 台 | 约¥1.9万/月 | 约¥7,000/月 |
| L40S 48GB可采购 | FP8 · 16 卡 / 2 台 | 约¥4.9万/月 | 约¥1.7万/月 |
| RTX PRO 6000 Blackwell 96GB不可得 | FP8 · 8 卡 / 1 台 | 约¥3.5万/月 | 约¥1.9万/月 |
| RTX PRO 5000 Blackwell 48GB未明确 | FP8 · 16 卡 / 2 台 | 约¥4.3万/月 | 约¥1.9万/月 |
| B200 180GB不可得 | FP8 · 2 卡 / 1 台 | 约¥3.4万/月 | 约¥2.2万/月 |
| H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 4 卡 / 1 台 | 约¥3.4万/月 | 约¥2.5万/月 |
| B300 288GB不可得 | FP8 · 2 卡 / 1 台 | 约¥6.1万/月 | 约¥2.9万/月 |
| RTX PRO 5500 Blackwell 84GB未明确 | FP8 · 8 卡 / 1 台 | 约¥3.2万/月 | — |
| H20 96GB可采购 | FP8 · 8 卡 / 1 台 | 约¥3.4万/月 | — |
| A800 PCIe 80GB多变/需核实 | INT8 · 8 卡 / 1 台 | 约¥4.4万/月 | — |
| H100 SXM5 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | 约¥4.6万/月 |
| L20 48GB可采购 | FP8 · 24 卡 / 3 台 | 约¥5.6万/月 | — |
| 昇腾910B 64GB可采购 | INT8 · 16 卡 / 2 台 | 约¥7.7万/月 | — |
| H800 SXM 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | — |
人员构成与使用度（10 类）
| 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 |
|---|
| 电商运营 | 25 | 重度 | 1500万 | Claude Haiku 5.5Anthropic · AA43 | 约¥22/月 |
| 内容运营/新媒体运营 | 15 | 重度 | 870万 | Claude Haiku 5.5Anthropic · AA43 | 约¥15/月 |
| 客服/售前咨询 | 20 | 重度 | 910万 | Claude Haiku 5.5Anthropic · AA43 | 约¥9.6/月 |
| 翻译/本地化 | 5 | 重度 | 2600万 | Claude Haiku 5.5Anthropic · AA43 | 约¥52/月 |
| 后端/全栈开发 | 8 | 中度 | 2600万 | MiMo-V2.6-Pro小米 · AA46 | 约¥84/月 |
| 市场/品牌营销 | 10 | 中度 | 160万 | Claude Haiku 5.5Anthropic · AA43 | 约¥2.5/月 |
| 数据分析师 | 5 | 中度 | 81万 | MiMo-V2.6-Pro小米 · AA46 | 约¥2.8/月 |
| 财务/会计 | 4 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.2/月 |
| HR/招聘 | 3 | 轻度 | 18万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.26/月 |
| 文员/行政 | 5 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.12/月 |
区域会计师事务所
使用强度 中财税服务 · 100人 · 审计与税务人员日常用 AI 核对与写底稿，少数骨干重度使用- 月 Token 合计
- 1亿输入 8900万 · 输出 1600万
- 人均月 Token
- 100万
- 本地自部署最省配置
- RTX 4090D 24GB8 卡 · 1 台机器
最省：API · 按岗位优选模型（约¥260/月）。数据不出域时最省：开源自部署 · 公有云按需（约¥5,200/月，约为最省方案的 20.2 倍）。
| 方案 | 月成本 | 人均/月 | 相对最省 |
|---|
| API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥260/月 | 约¥2.6 | 最省 |
| API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥310/月 | 约¥3.1 | 1.2× |
| 开源自部署 · 公有云按需8 张 RTX 4090D 24GB（INT4，1 台机器），只在工作时段开机 | 约¥5,200/月 | 约¥52 | 20.2× |
| 开源自部署 · 私有云包年8 张 RTX 4090D 24GB（INT4，1 台机器），7×24 专属 | 约¥1.1万/月 | 约¥110 | 40.6× |
| 开源自部署 · 本地自购8 张 RTX 4090D 24GB（INT4，1 台机器），国内可采购中最省 | 约¥1.7万/月 | 约¥170 | 64.3× |
各硬件自部署方案（16 款 GPU）
| GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 |
|---|
| RTX 4090D 24GB可采购 | INT4 · 8 卡 / 1 台 | 约¥1.7万/月 | 约¥5,200/月 |
| RTX 5090 32GB不可得 | INT4 · 8 卡 / 1 台 | 约¥2.3万/月 | 约¥7,000/月 |
| RTX 5090D 24GB可采购 | INT4 · 8 卡 / 1 台 | 约¥1.9万/月 | 约¥7,000/月 |
| L40S 48GB可采购 | FP8 · 8 卡 / 1 台 | 约¥2.5万/月 | 约¥8,400/月 |
| RTX PRO 6000 Blackwell 96GB不可得 | FP8 · 4 卡 / 1 台 | 约¥2.1万/月 | 约¥9,700/月 |
| RTX PRO 5000 Blackwell 48GB未明确 | FP8 · 8 卡 / 1 台 | 约¥2.2万/月 | 约¥9,700/月 |
| L20 48GB可采购 | FP8 · 8 卡 / 1 台 | 约¥1.9万/月 | — |
| B200 180GB不可得 | FP8 · 2 卡 / 1 台 | 约¥3.4万/月 | 约¥2.2万/月 |
| H20 96GB可采购 | FP8 · 4 卡 / 1 台 | 约¥2.2万/月 | — |
| H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 4 卡 / 1 台 | 约¥3.4万/月 | 约¥2.5万/月 |
| B300 288GB不可得 | FP8 · 2 卡 / 1 台 | 约¥6.1万/月 | 约¥2.9万/月 |
| RTX PRO 5500 Blackwell 84GB未明确 | FP8 · 8 卡 / 1 台 | 约¥3.2万/月 | — |
| 昇腾910B 64GB可采购 | INT8 · 8 卡 / 1 台 | 约¥3.8万/月 | — |
| A800 PCIe 80GB多变/需核实 | INT8 · 8 卡 / 1 台 | 约¥4.4万/月 | — |
| H100 SXM5 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | 约¥4.6万/月 |
| H800 SXM 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | — |
人员构成与使用度（7 类）
| 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 |
|---|
| 财务/会计 | 60 | 中度 | 33万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.41/月 |
| 财务/会计 | 10 | 重度 | 750万 | Claude Haiku 5.5Anthropic · AA43 | 约¥7.6/月 |
| 数据分析师 | 5 | 中度 | 81万 | MiMo-V2.6-Pro小米 · AA46 | 约¥2.8/月 |
| 法务/合规 | 5 | 中度 | 63万 | Claude Opus 5.5Anthropic · AA58 | 约¥28/月 |
| 销售/客户经理 | 8 | 轻度 | 16万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.25/月 |
| HR/招聘 | 4 | 轻度 | 18万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.26/月 |
| 文员/行政 | 8 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.12/月 |
精密零部件制造厂
使用强度 低制造业 · 100人 · 产线员工只用规程问答，工程师用 AI 写工艺文件- 月 Token 合计
- 2000万输入 1600万 · 输出 390万
- 人均月 Token
- 20万
- 本地自部署最省配置
- RTX 4090D 24GB8 卡 · 1 台机器
最省：API · 按岗位优选模型（约¥24/月）。数据不出域时最省：开源自部署 · 公有云按需（约¥5,200/月，约为最省方案的 217.2 倍）。
| 方案 | 月成本 | 人均/月 | 相对最省 |
|---|
| API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥24/月 | 约¥0.24 | 最省 |
| API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥64/月 | 约¥0.64 | 2.7× |
| 开源自部署 · 公有云按需8 张 RTX 4090D 24GB（INT4，1 台机器），只在工作时段开机 | 约¥5,200/月 | 约¥52 | 217.2× |
| 开源自部署 · 私有云包年8 张 RTX 4090D 24GB（INT4，1 台机器），7×24 专属 | 约¥1.1万/月 | 约¥110 | 437.4× |
| 开源自部署 · 本地自购8 张 RTX 4090D 24GB（INT4，1 台机器），国内可采购中最省 | 约¥1.7万/月 | 约¥170 | 692.8× |
各硬件自部署方案（16 款 GPU）
| GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 |
|---|
| RTX 4090D 24GB可采购 | INT4 · 8 卡 / 1 台 | 约¥1.7万/月 | 约¥5,200/月 |
| RTX 5090 32GB不可得 | INT4 · 8 卡 / 1 台 | 约¥2.3万/月 | 约¥7,000/月 |
| RTX 5090D 24GB可采购 | INT4 · 8 卡 / 1 台 | 约¥1.9万/月 | 约¥7,000/月 |
| L40S 48GB可采购 | FP8 · 8 卡 / 1 台 | 约¥2.5万/月 | 约¥8,400/月 |
| RTX PRO 6000 Blackwell 96GB不可得 | FP8 · 4 卡 / 1 台 | 约¥2.1万/月 | 约¥9,700/月 |
| RTX PRO 5000 Blackwell 48GB未明确 | FP8 · 8 卡 / 1 台 | 约¥2.2万/月 | 约¥9,700/月 |
| L20 48GB可采购 | FP8 · 8 卡 / 1 台 | 约¥1.9万/月 | — |
| B200 180GB不可得 | FP8 · 2 卡 / 1 台 | 约¥3.4万/月 | 约¥2.2万/月 |
| H20 96GB可采购 | FP8 · 4 卡 / 1 台 | 约¥2.2万/月 | — |
| H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 4 卡 / 1 台 | 约¥3.4万/月 | 约¥2.5万/月 |
| B300 288GB不可得 | FP8 · 2 卡 / 1 台 | 约¥6.1万/月 | 约¥2.9万/月 |
| RTX PRO 5500 Blackwell 84GB未明确 | FP8 · 8 卡 / 1 台 | 约¥3.2万/月 | — |
| 昇腾910B 64GB可采购 | INT8 · 8 卡 / 1 台 | 约¥3.8万/月 | — |
| A800 PCIe 80GB多变/需核实 | INT8 · 8 卡 / 1 台 | 约¥4.4万/月 | — |
| H100 SXM5 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | 约¥4.6万/月 |
| H800 SXM 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | — |
人员构成与使用度（7 类）
| 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 |
|---|
| 一线/产线员工 | 60 | 轻度 | 1.5万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.022/月 |
| 制造/工艺工程师 | 15 | 中度 | 100万 | Claude Haiku 5.5Anthropic · AA43 | 约¥1.2/月 |
| 采购/供应链 | 5 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.23/月 |
| 销售/客户经理 | 6 | 轻度 | 16万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.25/月 |
| 财务/会计 | 5 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.2/月 |
| HR/招聘 | 3 | 轻度 | 18万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.26/月 |
| 文员/行政 | 6 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.12/月 |
1,000 PEOPLE
1,000 人企业3 个样本中 2 个直接用 API 最省，1 个自部署更省
企业软件/云服务公司
使用强度 高企业软件 · 1,000人 · 研发全面使用编程 agent，客服与销售也接入 AI- 月 Token 合计
- 710亿输入 660亿 · 输出 48亿
- 人均月 Token
- 7100万
- 本地自部署最省配置
- RTX 4090D 24GB272 卡 · 34 台机器
最省：开源自部署 · 公有云按需（约¥16万/月）。
| 方案 | 月成本 | 人均/月 | 相对最省 |
|---|
| API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥60万/月 | 约¥600 | 3.7× |
| API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥17万/月 | 约¥170 | 1.1× |
| 开源自部署 · 公有云按需184 张 RTX 5090 32GB（INT4，23 台机器），只在工作时段开机 | 约¥16万/月 | 约¥160 | 最省 |
| 开源自部署 · 私有云包年184 张 RTX 5090 32GB（INT4，23 台机器），7×24 专属 | 约¥33万/月 | 约¥330 | 2.0× |
| 开源自部署 · 本地自购272 张 RTX 4090D 24GB（INT4，34 台机器），国内可采购中最省 | 约¥57万/月 | 约¥570 | 3.5× |
各硬件自部署方案（16 款 GPU）
| GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 |
|---|
| RTX 5090 32GB不可得 | INT4 · 184 卡 / 23 台 | 约¥53万/月 | 约¥16万/月 |
| RTX 4090D 24GB可采购 | INT4 · 272 卡 / 34 台 | 约¥57万/月 | 约¥18万/月 |
| RTX 5090D 24GB可采购 | INT4 · 248 卡 / 31 台 | 约¥59万/月 | 约¥22万/月 |
| B200 180GB不可得 | FP8 · 28 卡 / 4 台 | 约¥38万/月 | 约¥30万/月 |
| H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 56 卡 / 7 台 | 约¥40万/月 | 约¥35万/月 |
| L40S 48GB可采购 | FP8 · 344 卡 / 43 台 | 约¥110万/月 | 约¥36万/月 |
| H100 SXM5 80GB不可得 | FP8 · 64 卡 / 8 台 | 约¥73万/月 | 约¥37万/月 |
| B300 288GB不可得 | FP8 · 28 卡 / 4 台 | 约¥75万/月 | 约¥41万/月 |
| RTX PRO 5000 Blackwell 48GB未明确 | FP8 · 336 卡 / 42 台 | 约¥91万/月 | 约¥41万/月 |
| RTX PRO 6000 Blackwell 96GB不可得 | FP8 · 200 卡 / 25 台 | 约¥87万/月 | 约¥49万/月 |
| H800 SXM 80GB不可得 | FP8 · 64 卡 / 8 台 | 约¥73万/月 | — |
| RTX PRO 5500 Blackwell 84GB未明确 | FP8 · 240 卡 / 30 台 | 约¥95万/月 | — |
| H20 96GB可采购 | FP8 · 252 卡 / 32 台 | 约¥110万/月 | — |
| A800 PCIe 80GB多变/需核实 | INT8 · 264 卡 / 33 台 | 约¥150万/月 | — |
| L20 48GB可采购 | FP8 · 656 卡 / 82 台 | 约¥150万/月 | — |
| 昇腾910B 64GB可采购 | INT8 · 344 卡 / 43 台 | 约¥160万/月 | — |
人员构成与使用度（16 类）
| 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 |
|---|
| 后端/全栈开发 | 300 | 重度 | 1.4亿 | MiMo-V2.6-Pro小米 · AA46 | 约¥430/月 |
| 前端/移动端开发 | 100 | 重度 | 1.2亿 | MiMo-V2.6-Pro小米 · AA46 | 约¥360/月 |
| 算法/机器学习工程师 | 60 | 重度 | 2.1亿 | Claude Opus 5.5Anthropic · AA58 | 约¥7,000/月 |
| 数据工程师 | 40 | 重度 | 8400万 | MiMo-V2.6-Pro小米 · AA46 | 约¥260/月 |
| 测试/QA工程师 | 80 | 中度 | 98万 | Claude Haiku 5.5Anthropic · AA43 | 约¥1.1/月 |
| 运维/SRE | 60 | 中度 | 610万 | MiMo-V2.6-Pro小米 · AA46 | 约¥20/月 |
| 安全工程师 | 20 | 中度 | 570万 | Claude Opus 5.5Anthropic · AA58 | 约¥210/月 |
| 产品经理 | 70 | 中度 | 63万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.95/月 |
| UI/UX 设计师 | 30 | 中度 | 91万 | Claude Haiku 5.5Anthropic · AA43 | 约¥1.3/月 |
| 销售/客户经理 | 120 | 中度 | 110万 | Claude Haiku 5.5Anthropic · AA43 | 约¥1.4/月 |
| 客服/售前咨询 | 60 | 重度 | 910万 | Claude Haiku 5.5Anthropic · AA43 | 约¥9.6/月 |
| 市场/品牌营销 | 20 | 中度 | 160万 | Claude Haiku 5.5Anthropic · AA43 | 约¥2.5/月 |
| 法务/合规 | 5 | 中度 | 63万 | Claude Opus 5.5Anthropic · AA58 | 约¥28/月 |
| HR/招聘 | 15 | 轻度 | 18万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.26/月 |
| 财务/会计 | 12 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.2/月 |
| 文员/行政 | 8 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.12/月 |
三甲医院
使用强度 中医疗 · 1,000人 · 医生用 AI 写病历和查文献，护士与行政轻度使用- 月 Token 合计
- 12亿输入 11亿 · 输出 1.7亿
- 人均月 Token
- 120万
- 本地自部署最省配置
- RTX 4090D 24GB8 卡 · 1 台机器
最省：API · DeepSeek V4.1 Flash 官方（约¥3,500/月）。数据不出域时最省：开源自部署 · 公有云按需（约¥5,200/月，约为最省方案的 1.5 倍）。
| 方案 | 月成本 | 人均/月 | 相对最省 |
|---|
| API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥1.1万/月 | 约¥11 | 3.2× |
| API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥3,500/月 | 约¥3.5 | 最省 |
| 开源自部署 · 公有云按需8 张 RTX 4090D 24GB（INT4，1 台机器），只在工作时段开机 | 约¥5,200/月 | 约¥5.2 | 1.5× |
| 开源自部署 · 私有云包年8 张 RTX 4090D 24GB（INT4，1 台机器），7×24 专属 | 约¥1.1万/月 | 约¥11 | 3.0× |
| 开源自部署 · 本地自购8 张 RTX 4090D 24GB（INT4，1 台机器），国内可采购中最省 | 约¥1.7万/月 | 约¥17 | 4.8× |
各硬件自部署方案（16 款 GPU）
| GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 |
|---|
| RTX 4090D 24GB可采购 | INT4 · 8 卡 / 1 台 | 约¥1.7万/月 | 约¥5,200/月 |
| RTX 5090 32GB不可得 | INT4 · 8 卡 / 1 台 | 约¥2.3万/月 | 约¥7,000/月 |
| RTX 5090D 24GB可采购 | INT4 · 8 卡 / 1 台 | 约¥1.9万/月 | 约¥7,000/月 |
| RTX PRO 5000 Blackwell 48GB未明确 | FP8 · 8 卡 / 1 台 | 约¥2.2万/月 | 约¥9,700/月 |
| L40S 48GB可采购 | FP8 · 16 卡 / 2 台 | 约¥4.9万/月 | 约¥1.7万/月 |
| RTX PRO 6000 Blackwell 96GB不可得 | FP8 · 8 卡 / 1 台 | 约¥3.5万/月 | 约¥1.9万/月 |
| B200 180GB不可得 | FP8 · 2 卡 / 1 台 | 约¥3.4万/月 | 约¥2.2万/月 |
| H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 4 卡 / 1 台 | 约¥3.4万/月 | 约¥2.5万/月 |
| B300 288GB不可得 | FP8 · 2 卡 / 1 台 | 约¥6.1万/月 | 约¥2.9万/月 |
| RTX PRO 5500 Blackwell 84GB未明确 | FP8 · 8 卡 / 1 台 | 约¥3.2万/月 | — |
| H20 96GB可采购 | FP8 · 8 卡 / 1 台 | 约¥3.4万/月 | — |
| L20 48GB可采购 | FP8 · 16 卡 / 2 台 | 约¥3.7万/月 | — |
| A800 PCIe 80GB多变/需核实 | INT8 · 8 卡 / 1 台 | 约¥4.4万/月 | — |
| H100 SXM5 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | 约¥4.6万/月 |
| 昇腾910B 64GB可采购 | INT8 · 16 卡 / 2 台 | 约¥7.7万/月 | — |
| H800 SXM 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | — |
人员构成与使用度（9 类）
| 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 |
|---|
| 临床医生 | 300 | 中度 | 120万 | MiMo-V2.6-Pro小米 · AA46 | 约¥4.4/月 |
| 护士 | 450 | 轻度 | 4.8万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.067/月 |
| 科研人员 | 30 | 中度 | 720万 | Claude Opus 5.5Anthropic · AA58 | 约¥260/月 |
| 后端/全栈开发 | 20 | 中度 | 2600万 | MiMo-V2.6-Pro小米 · AA46 | 约¥84/月 |
| 运维/SRE | 10 | 中度 | 610万 | MiMo-V2.6-Pro小米 · AA46 | 约¥20/月 |
| 客服/售前咨询 | 30 | 轻度 | 26万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.44/月 |
| 财务/会计 | 40 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.2/月 |
| HR/招聘 | 20 | 轻度 | 18万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.26/月 |
| 文员/行政 | 100 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.12/月 |
区域连锁超市
使用强度 低零售 · 1,000人 · 门店与一线员工为主，AI 用于排班盘点问答和总部文案- 月 Token 合计
- 1.7亿输入 1.2亿 · 输出 4900万
- 人均月 Token
- 17万
- 本地自部署最省配置
- RTX 4090D 24GB8 卡 · 1 台机器
最省：API · 按岗位优选模型（约¥250/月）。数据不出域时最省：开源自部署 · 公有云按需（约¥5,200/月，约为最省方案的 21.1 倍）。
| 方案 | 月成本 | 人均/月 | 相对最省 |
|---|
| API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥250/月 | 约¥0.25 | 最省 |
| API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥640/月 | 约¥0.64 | 2.6× |
| 开源自部署 · 公有云按需8 张 RTX 4090D 24GB（INT4，1 台机器），只在工作时段开机 | 约¥5,200/月 | 约¥5.2 | 21.1× |
| 开源自部署 · 私有云包年8 张 RTX 4090D 24GB（INT4，1 台机器），7×24 专属 | 约¥1.1万/月 | 约¥11 | 42.6× |
| 开源自部署 · 本地自购8 张 RTX 4090D 24GB（INT4，1 台机器），国内可采购中最省 | 约¥1.7万/月 | 约¥17 | 67.4× |
各硬件自部署方案（16 款 GPU）
| GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 |
|---|
| RTX 4090D 24GB可采购 | INT4 · 8 卡 / 1 台 | 约¥1.7万/月 | 约¥5,200/月 |
| RTX 5090 32GB不可得 | INT4 · 8 卡 / 1 台 | 约¥2.3万/月 | 约¥7,000/月 |
| RTX 5090D 24GB可采购 | INT4 · 8 卡 / 1 台 | 约¥1.9万/月 | 约¥7,000/月 |
| L40S 48GB可采购 | FP8 · 8 卡 / 1 台 | 约¥2.5万/月 | 约¥8,400/月 |
| RTX PRO 6000 Blackwell 96GB不可得 | FP8 · 4 卡 / 1 台 | 约¥2.1万/月 | 约¥9,700/月 |
| RTX PRO 5000 Blackwell 48GB未明确 | FP8 · 8 卡 / 1 台 | 约¥2.2万/月 | 约¥9,700/月 |
| L20 48GB可采购 | FP8 · 8 卡 / 1 台 | 约¥1.9万/月 | — |
| B200 180GB不可得 | FP8 · 2 卡 / 1 台 | 约¥3.4万/月 | 约¥2.2万/月 |
| H20 96GB可采购 | FP8 · 4 卡 / 1 台 | 约¥2.2万/月 | — |
| H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 4 卡 / 1 台 | 约¥3.4万/月 | 约¥2.5万/月 |
| B300 288GB不可得 | FP8 · 2 卡 / 1 台 | 约¥6.1万/月 | 约¥2.9万/月 |
| RTX PRO 5500 Blackwell 84GB未明确 | FP8 · 8 卡 / 1 台 | 约¥3.2万/月 | — |
| 昇腾910B 64GB可采购 | INT8 · 8 卡 / 1 台 | 约¥3.8万/月 | — |
| A800 PCIe 80GB多变/需核实 | INT8 · 8 卡 / 1 台 | 约¥4.4万/月 | — |
| H100 SXM5 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | 约¥4.6万/月 |
| H800 SXM 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | — |
人员构成与使用度（8 类）
| 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 |
|---|
| 一线/产线员工 | 650 | 轻度 | 1.5万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.022/月 |
| 门店运营/店长 | 200 | 轻度 | 5.2万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.082/月 |
| 电商运营 | 30 | 中度 | 230万 | Claude Haiku 5.5Anthropic · AA43 | 约¥3.3/月 |
| 市场/品牌营销 | 20 | 中度 | 160万 | Claude Haiku 5.5Anthropic · AA43 | 约¥2.5/月 |
| 采购/供应链 | 40 | 中度 | 83万 | Claude Haiku 5.5Anthropic · AA43 | 约¥1/月 |
| 客服/售前咨询 | 15 | 中度 | 70万 | Claude Haiku 5.5Anthropic · AA43 | 约¥1.2/月 |
| 财务/会计 | 25 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.2/月 |
| HR/招聘 | 20 | 轻度 | 18万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.26/月 |
10,000 PEOPLE
10,000 人企业3 个样本中 1 个直接用 API 最省，2 个自部署更省
互联网科技集团
使用强度 高互联网 · 10,000人 · 研发、内容与客服全线 AI 化，编程 agent 覆盖大部分工程师- 月 Token 合计
- 7300亿输入 6800亿 · 输出 500亿
- 人均月 Token
- 7300万
- 本地自部署最省配置
- RTX 4090D 24GB2784 卡 · 348 台机器
最省：开源自部署 · 公有云按需（约¥160万/月）。
| 方案 | 月成本 | 人均/月 | 相对最省 |
|---|
| API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥740万/月 | 约¥740 | 4.5× |
| API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥180万/月 | 约¥180 | 1.1× |
| 开源自部署 · 公有云按需1840 张 RTX 5090 32GB（INT4，230 台机器），只在工作时段开机 | 约¥160万/月 | 约¥160 | 最省 |
| 开源自部署 · 私有云包年1840 张 RTX 5090 32GB（INT4，230 台机器），7×24 专属 | 约¥330万/月 | 约¥330 | 2.0× |
| 开源自部署 · 本地自购2784 张 RTX 4090D 24GB（INT4，348 台机器），国内可采购中最省 | 约¥580万/月 | 约¥580 | 3.6× |
各硬件自部署方案（16 款 GPU）
| GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 |
|---|
| RTX 5090 32GB不可得 | INT4 · 1840 卡 / 230 台 | 约¥530万/月 | 约¥160万/月 |
| RTX 4090D 24GB可采购 | INT4 · 2784 卡 / 348 台 | 约¥580万/月 | 约¥180万/月 |
| RTX 5090D 24GB可采购 | INT4 · 2560 卡 / 320 台 | 约¥610万/月 | 约¥230万/月 |
| B200 180GB不可得 | FP8 · 278 卡 / 35 台 | 约¥370万/月 | 约¥300万/月 |
| H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 556 卡 / 70 台 | 约¥400万/月 | 约¥350万/月 |
| L40S 48GB可采购 | FP8 · 3504 卡 / 438 台 | 约¥1100万/月 | 约¥370万/月 |
| H100 SXM5 80GB不可得 | FP8 · 648 卡 / 81 台 | 约¥740万/月 | 约¥370万/月 |
| B300 288GB不可得 | FP8 · 278 卡 / 35 台 | 约¥740万/月 | 约¥400万/月 |
| RTX PRO 5000 Blackwell 48GB未明确 | FP8 · 3464 卡 / 433 台 | 约¥940万/月 | 约¥420万/月 |
| RTX PRO 6000 Blackwell 96GB不可得 | FP8 · 2072 卡 / 259 台 | 约¥900万/月 | 约¥500万/月 |
| H800 SXM 80GB不可得 | FP8 · 648 卡 / 81 台 | 约¥740万/月 | — |
| RTX PRO 5500 Blackwell 84GB未明确 | FP8 · 2456 卡 / 307 台 | 约¥970万/月 | — |
| H20 96GB可采购 | FP8 · 2592 卡 / 324 台 | 约¥1100万/月 | — |
| A800 PCIe 80GB多变/需核实 | INT8 · 2704 卡 / 338 台 | 约¥1500万/月 | — |
| L20 48GB可采购 | FP8 · 6744 卡 / 843 台 | 约¥1600万/月 | — |
| 昇腾910B 64GB可采购 | INT8 · 3552 卡 / 444 台 | 约¥1700万/月 | — |
人员构成与使用度（18 类）
| 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 |
|---|
| 后端/全栈开发 | 2,800 | 重度 | 1.4亿 | MiMo-V2.6-Pro小米 · AA46 | 约¥430/月 |
| 前端/移动端开发 | 1,000 | 重度 | 1.2亿 | MiMo-V2.6-Pro小米 · AA46 | 约¥360/月 |
| 算法/机器学习工程师 | 800 | 重度 | 2.1亿 | Claude Opus 5.5Anthropic · AA58 | 约¥7,000/月 |
| 数据工程师 | 400 | 重度 | 8400万 | MiMo-V2.6-Pro小米 · AA46 | 约¥260/月 |
| 测试/QA工程师 | 600 | 中度 | 98万 | Claude Haiku 5.5Anthropic · AA43 | 约¥1.1/月 |
| 运维/SRE | 500 | 中度 | 610万 | MiMo-V2.6-Pro小米 · AA46 | 约¥20/月 |
| 安全工程师 | 200 | 中度 | 570万 | Claude Opus 5.5Anthropic · AA58 | 约¥210/月 |
| 产品经理 | 800 | 中度 | 63万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.95/月 |
| UI/UX 设计师 | 400 | 中度 | 91万 | Claude Haiku 5.5Anthropic · AA43 | 约¥1.3/月 |
| 数据分析师 | 400 | 重度 | 1800万 | Claude Haiku 5.5Anthropic · AA43 | 约¥18/月 |
| 市场/品牌营销 | 300 | 中度 | 160万 | Claude Haiku 5.5Anthropic · AA43 | 约¥2.5/月 |
| 内容运营/新媒体运营 | 300 | 重度 | 870万 | Claude Haiku 5.5Anthropic · AA43 | 约¥15/月 |
| 销售/客户经理 | 400 | 中度 | 110万 | Claude Haiku 5.5Anthropic · AA43 | 约¥1.4/月 |
| 客服/售前咨询 | 500 | 重度 | 910万 | Claude Haiku 5.5Anthropic · AA43 | 约¥9.6/月 |
| HR/招聘 | 200 | 中度 | 100万 | Claude Haiku 5.5Anthropic · AA43 | 约¥1.3/月 |
| 财务/会计 | 150 | 中度 | 33万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.41/月 |
| 法务/合规 | 100 | 中度 | 63万 | Claude Opus 5.5Anthropic · AA58 | 约¥28/月 |
| 文员/行政 | 150 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.12/月 |
全国性股份制银行
使用强度 中金融 · 10,000人 · 客户经理与客服日常使用，受合规约束，研发中度使用- 月 Token 合计
- 320亿输入 280亿 · 输出 38亿
- 人均月 Token
- 320万
- 本地自部署最省配置
- RTX 4090D 24GB144 卡 · 18 台机器
最省：开源自部署 · 公有云按需（约¥8.5万/月）。
| 方案 | 月成本 | 人均/月 | 相对最省 |
|---|
| API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥14万/月 | 约¥14 | 1.6× |
| API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥8.7万/月 | 约¥8.7 | 1.0× |
| 开源自部署 · 公有云按需96 张 RTX 5090 32GB（INT4，12 台机器），只在工作时段开机 | 约¥8.5万/月 | 约¥8.5 | 最省 |
| 开源自部署 · 私有云包年96 张 RTX 5090 32GB（INT4，12 台机器），7×24 专属 | 约¥17万/月 | 约¥17 | 2.0× |
| 开源自部署 · 本地自购144 张 RTX 4090D 24GB（INT4，18 台机器），国内可采购中最省 | 约¥30万/月 | 约¥30 | 3.5× |
各硬件自部署方案（16 款 GPU）
| GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 |
|---|
| RTX 5090 32GB不可得 | INT4 · 96 卡 / 12 台 | 约¥28万/月 | 约¥8.5万/月 |
| RTX 4090D 24GB可采购 | INT4 · 144 卡 / 18 台 | 约¥30万/月 | 约¥9.4万/月 |
| RTX 5090D 24GB可采购 | INT4 · 128 卡 / 16 台 | 约¥31万/月 | 约¥11万/月 |
| B200 180GB不可得 | FP8 · 16 卡 / 2 台 | 约¥21万/月 | 约¥17万/月 |
| H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 32 卡 / 4 台 | 约¥23万/月 | 约¥20万/月 |
| L40S 48GB可采购 | FP8 · 216 卡 / 27 台 | 约¥67万/月 | 约¥23万/月 |
| H100 SXM5 80GB不可得 | FP8 · 40 卡 / 5 台 | 约¥46万/月 | 约¥23万/月 |
| B300 288GB不可得 | FP8 · 16 卡 / 2 台 | 约¥42万/月 | 约¥23万/月 |
| RTX PRO 5000 Blackwell 48GB未明确 | FP8 · 192 卡 / 24 台 | 约¥52万/月 | 约¥23万/月 |
| RTX PRO 6000 Blackwell 96GB不可得 | FP8 · 120 卡 / 15 台 | 约¥52万/月 | 约¥29万/月 |
| H800 SXM 80GB不可得 | FP8 · 40 卡 / 5 台 | 约¥46万/月 | — |
| H20 96GB可采购 | FP8 · 116 卡 / 15 台 | 约¥50万/月 | — |
| RTX PRO 5500 Blackwell 84GB未明确 | FP8 · 144 卡 / 18 台 | 约¥57万/月 | — |
| A800 PCIe 80GB多变/需核实 | INT8 · 144 卡 / 18 台 | 约¥80万/月 | — |
| L20 48GB可采购 | FP8 · 344 卡 / 43 台 | 约¥80万/月 | — |
| 昇腾910B 64GB可采购 | INT8 · 232 卡 / 29 台 | 约¥110万/月 | — |
人员构成与使用度（10 类）
| 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 |
|---|
| 银行客户经理/理财 | 3,500 | 中度 | 83万 | Claude Haiku 5.5Anthropic · AA43 | 约¥1/月 |
| 客服/售前咨询 | 2,000 | 中度 | 70万 | Claude Haiku 5.5Anthropic · AA43 | 约¥1.2/月 |
| 数据分析师 | 500 | 中度 | 81万 | MiMo-V2.6-Pro小米 · AA46 | 约¥2.8/月 |
| 后端/全栈开发 | 900 | 中度 | 2600万 | MiMo-V2.6-Pro小米 · AA46 | 约¥84/月 |
| 运维/SRE | 300 | 中度 | 610万 | MiMo-V2.6-Pro小米 · AA46 | 约¥20/月 |
| 安全工程师 | 200 | 中度 | 570万 | Claude Opus 5.5Anthropic · AA58 | 约¥210/月 |
| 法务/合规 | 300 | 中度 | 63万 | Claude Opus 5.5Anthropic · AA58 | 约¥28/月 |
| 财务/会计 | 600 | 中度 | 33万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.41/月 |
| HR/招聘 | 200 | 轻度 | 18万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.26/月 |
| 文员/行政 | 1,500 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.12/月 |
汽车零部件制造集团
使用强度 低制造业 · 10,000人 · 七成是产线员工，AI 主要服务工程与职能部门- 月 Token 合计
- 58亿输入 51亿 · 输出 7.2亿
- 人均月 Token
- 58万
- 本地自部署最省配置
- RTX 5090D 24GB24 卡 · 3 台机器
最省：API · 按岗位优选模型（约¥1.5万/月）。数据不出域时最省：开源自部署 · 公有云按需（约¥2.1万/月，约为最省方案的 1.4 倍）。
| 方案 | 月成本 | 人均/月 | 相对最省 |
|---|
| API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥1.5万/月 | 约¥1.5 | 最省 |
| API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥1.6万/月 | 约¥1.6 | 1.1× |
| 开源自部署 · 公有云按需32 张 RTX 4090D 24GB（INT4，4 台机器），只在工作时段开机 | 约¥2.1万/月 | 约¥2.1 | 1.4× |
| 开源自部署 · 私有云包年32 张 RTX 4090D 24GB（INT4，4 台机器），7×24 专属 | 约¥4.2万/月 | 约¥4.2 | 2.8× |
| 开源自部署 · 本地自购24 张 RTX 5090D 24GB（INT4，3 台机器），国内可采购中最省 | 约¥5.8万/月 | 约¥5.8 | 3.9× |
各硬件自部署方案（16 款 GPU）
| GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 |
|---|
| RTX 4090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥6.7万/月 | 约¥2.1万/月 |
| RTX 5090 32GB不可得 | INT4 · 24 卡 / 3 台 | 约¥6.9万/月 | 约¥2.1万/月 |
| RTX 5090D 24GB可采购 | INT4 · 24 卡 / 3 台 | 约¥5.8万/月 | 约¥2.1万/月 |
| L40S 48GB可采购 | FP8 · 40 卡 / 5 台 | 约¥12万/月 | 约¥4.2万/月 |
| B200 180GB不可得 | FP8 · 4 卡 / 1 台 | 约¥5.9万/月 | 约¥4.3万/月 |
| H100 SXM5 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | 约¥4.6万/月 |
| RTX PRO 5000 Blackwell 48GB未明确 | FP8 · 40 卡 / 5 台 | 约¥11万/月 | 约¥4.9万/月 |
| H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 8 卡 / 1 台 | 约¥5.7万/月 | 约¥5万/月 |
| B300 288GB不可得 | FP8 · 4 卡 / 1 台 | 约¥11万/月 | 约¥5.8万/月 |
| RTX PRO 6000 Blackwell 96GB不可得 | FP8 · 24 卡 / 3 台 | 约¥10万/月 | 约¥5.8万/月 |
| H800 SXM 80GB不可得 | FP8 · 8 卡 / 1 台 | 约¥9.1万/月 | — |
| H20 96GB可采购 | FP8 · 24 卡 / 3 台 | 约¥10万/月 | — |
| RTX PRO 5500 Blackwell 84GB未明确 | FP8 · 32 卡 / 4 台 | 约¥13万/月 | — |
| L20 48GB可采购 | FP8 · 64 卡 / 8 台 | 约¥15万/月 | — |
| A800 PCIe 80GB多变/需核实 | INT8 · 32 卡 / 4 台 | 约¥18万/月 | — |
| 昇腾910B 64GB可采购 | INT8 · 48 卡 / 6 台 | 约¥23万/月 | — |
人员构成与使用度（9 类）
| 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 |
|---|
| 一线/产线员工 | 7,000 | 轻度 | 1.5万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.022/月 |
| 制造/工艺工程师 | 1,200 | 中度 | 100万 | Claude Haiku 5.5Anthropic · AA43 | 约¥1.2/月 |
| 采购/供应链 | 300 | 中度 | 83万 | Claude Haiku 5.5Anthropic · AA43 | 约¥1/月 |
| 销售/客户经理 | 400 | 轻度 | 16万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.25/月 |
| 数据分析师 | 100 | 中度 | 81万 | MiMo-V2.6-Pro小米 · AA46 | 约¥2.8/月 |
| 后端/全栈开发 | 150 | 中度 | 2600万 | MiMo-V2.6-Pro小米 · AA46 | 约¥84/月 |
| 财务/会计 | 250 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.2/月 |
| HR/招聘 | 200 | 轻度 | 18万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.26/月 |
| 文员/行政 | 400 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA43 | 约¥0.12/月 |
企业样本是真实企业吗?
企业样本为示例性画像（行业、岗位构成与每类人员的使用度为假设），非特定企业实测数据，用于比较不同规模/行业的 AI Infra 配置与月度成本量级。
五种方案分别怎么算?
API · 按岗位优选：沿用岗位Token预算的选型算法，按每类人员的使用度取用量、按官方牌价计费。API · DeepSeek V4.1 Flash 官方：全部用量按该开源模型的官方 API 牌价计费，和自部署是同一个模型。公有云按需 / 私有云包年：在有云端时租数据的 GPU 里取该样本最省的一款；按需只在工作时段（每月 218 小时）开机，包年 7×24、单价按按需的 60% 估。本地自购：在国内可采购的 GPU 里取最省的一款，整机 = 卡价(优先市场价) + CPU/内存/网络/存储等其他部件；36 个月直线折旧；电费按卡 TDP + 每台 1.2kW、PUE 1.4、¥0.8/kWh；运维按每台机器每月 ¥5,000 分摊。每个样本下展开「各硬件自部署方案」可看全部 GPU。
吞吐和卡数怎么估?
每款 GPU 先按显存选精度（优先 8bit，8 卡装不下改 INT4）和一份模型需要的卡数；解码吞吐按显存带宽、预填充吞吐按 FP16 算力估算，系数用 8×H100 的保守量级校准，无 NVLink 的 PCIe 卡多卡并行再乘 0.6。按工作时段 218 小时/月、峰值系数 2 折算需要几份副本。吞吐为按规格推算的保守估计，未经本站实测。参考上限：DeepSeek 官方披露其大规模专家并行集群中每台 H800 节点平均约 73.7k tok/s 输入（含缓存命中）、14.8k tok/s 输出；单机/小规模部署达不到这个水平。
价格从哪来?
API 牌价取自 Token 报价（每日）；GPU 市场价/出厂价与时租取自 GPU 价格（时租每日、整卡报价每周检索）。本地成本优先用市场价，没有市场价的用出厂价；没有价格的卡不参与比较。API 成本按官方牌价、不计缓存命中折扣(编程 agent 实际缓存命中率常很高, 真实 API 成本通常更低), 是 API 方案的保守上限。
什么时候该自部署?
只看成本，自部署要在硬件被持续用满时才可能比 API 便宜；小团队连一台机器都用不满。实际决定自部署的通常是数据不出域、合规审计、定制微调和稳定时延，而不是省钱。每个样本都单独给出「数据不出域时最省的自部署方案」。
估算，非实测。用量按岗位使用场景假设推算，价格按官方牌价；数字取两位有效数字，用于比较量级。假设和来源见页底问答。