把大模型搬到办公室
想用大模型，又不想把资料传到外面，不一定非要建机房。小的 AI 一体机放在办公桌上就能跑，硬件、模型和软件都在里面。你告诉我们多少人用、主要做什么，我们帮你挑配置。
从一台 NVIDIA GB10 开始
它和 NVIDIA DGX Spark 用的是同一款芯片。如果想先让一个部门或一个场景试起来，我们会建议先看它。
- 比 A4 纸还小
- 长宽各 15 厘米，高 5 厘米，1.2 公斤。办公桌上、会议室的柜子上都放得下。
- 插上插座就行
- 电源 240W，用普通插座，不用腾一间机房出来。
- 开着也不吵
- 官方标的声功率是满载 35 分贝、空闲 19 分贝，放在办公室里一直开着也不太打扰人。
- 内存够大
- 128GB 统一内存，官方说单台最高能跑 200B 参数的模型，算力标称 1 PFLOP。
- 不够再加一台
- 两台用一根 200Gbps 的线直接连起来，不用交换机，内存合到 256GB，能跑到 400B 参数的模型。
以上规格来自 NVIDIA 官方资料。1 PFLOP 是理论峰值，200B 和 400B 是官方给的上限，真跑起来多快还要看模型和量化方式。它更适合小团队：按原厂测试，1 台做文档问答，约 40 人用着流畅；2 台跑办公智能体，约 6 人。人再多，或者要长时间写代码，就该看下面的 RTX Pro 5000 工作站了。
为什么要放在本地
资料不用往外传
制度、客户资料和业务数据都在自己的机器上，模型也在本地跑，这些东西不用发给外面的服务。
账算得明白
AI 用得越多，按量付费的账单涨得越快。硬件花多少钱一开始就清楚，每个部门用了多少也查得到。
不会写代码也能用
可以接到企业微信、钉钉和飞书里，员工在平时用的软件里直接提问就行。
先想好主要拿它做什么
同一台机器，做不同的事，能带的人数差很多。这几样迟早都可能用到，但总有一样是最先要解决的。
知识库问答
员工或客户来查制度、问产品。一问一答，人等不了太久。
小模型就够用
AI 工作流
把固定的流程交给 AI 跑。一次几分钟到十分钟，晚一点出结果也没关系。
小模型就够用
AI 编程
让 AI 长时间写代码、改代码。多等几秒没关系，但代码质量要过关，也最吃显存。
要编程和推理能力强的模型
AI 办公
让 AI 自己安排步骤、调用工具把活干完，经常要读很长的文档。月底这种忙的时候要留点余量。
要会用工具、能读长文档的模型
多少人用，选哪一档
同样两张显卡，做文档问答约 160 人用着流畅，写代码就只有 12 人左右。所以先看主要做什么，再看人数。
| 配置 | 测试模型 | 文档问答 | AI 工作流 | AI 办公 | AI 编程 |
|---|---|---|---|---|---|
| 1 台 NVIDIA GB10 | Qwen3.6-35B-A3B | 40 / 100 | — | — | — |
| 2 台 NVIDIA GB10 | DeepSeek-V4-Flash | — | — | 6 / 12 | 3 / 6 |
| 1 张 RTX Pro 5000 | Qwen3.8-27B | 80 / 240 | 40 / 80 | 12 / 24 | 6 / 12 |
| 2 张 RTX Pro 5000 | Qwen3.8-Flash-Next | 160 / 320 | 80 / 200 | 24 / 84 | 12 / 42 |
| 4 张 RTX Pro 5000 | Qwen3.8-Flash-Next | 240 / 480 | 120 / 240 | 48 / 120 | 24 / 60 |
| 8 张 RTX Pro 5000（液冷） | 按需测算 | — | — | — | — |
这些人数是从原厂测试的并发数换算来的，数据到 2026 年 8 月，选型时当参考，不是承诺。换算比例：文档问答 10 人算 1 个并发，工作流 20 人，AI 办公 6 人，AI 编程 3 人。“用着流畅”是第一个字 5 秒内出来、每人每秒超过 25 token；“还能用”是 5 到 10 秒、每秒 15 到 25 token。文档问答按短文档算，长文档人数差不多要打对折，甚至更少。写“—”的是还没有测试数据，我们可以按你们的情况单独算。
机器里装了什么
- 智能体软件
- 知识库问答和工作流都在这里搭。做好以后可以接到企业微信、钉钉、飞书、微信公众号，也能放到网页上，或者用 API 调。
- 管理平台
- 从硬件到智能体都在一个后台管：AI 门户、AI 网关、技能和工具市场，还有显卡监控和模型服务管理。
- 大模型
- 挑的是能在本地跑的开源模型，比如 Qwen3.8 和 DeepSeek-V4-Flash，按用途来配。
- 硬件
- 小的是 NVIDIA GB10，128GB 统一内存；大的是 RTX Pro 5000 工作站，每张卡 72GB 显存，带 ECC 纠错，长时间跑更稳。
我们怎么做
先问清楚
谁用、多少人用、用来做什么、哪些数据不能出去。
定配置
对着人数和用途定硬件和模型，费用一项项列给你。
装好接上
把机器装好，再把知识库、业务系统和办公软件接上。
用起来
教大家怎么用。上线后我们会巡检，不够用了告诉你怎么加。