工厂把大模型放到本地，常见需求是让维修、工艺和服务人员在受控网络中检索手册、解释报警、生成工单草稿。真正的选型问题是模型、知识库和并发用户要占多少内存、响应能否满足使用场景，以及敏感资料如何分权管理。边缘算力平台负责推理与检索服务，不应被描述为自动掌握所有设备知识。
现场任务与数据条件
一次可信的问答至少包含检索、引用、回答和人工判断。若手册版本过期、设备型号映射错误，模型会给出貌似流畅却不适用的建议。因此知识库要按设备型号、工厂、版本和生效日期管理，并能显示来源段落。
现场离线部署可减少对外网的依赖，但并不自动保证数据安全。账号权限、日志、文档加密、备份和模型文件来源仍需管理。涉及操作指令的问答要明确“建议”与“已执行”的区别，危险操作不得仅凭自然语言自动触发。
系统架构与数据闭环
先选定一个具体模型及量化版本，测量加载时内存、长上下文占用、并发下响应时间和检索延迟。文档经解析、切分与索引后进入检索库；提问时按用户权限过滤，再把检索片段交给模型生成带出处的回答。无法检索到可信材料时，应明确提示缺少依据。
中心可以管理模型包和知识库版本，车间节点保留本地服务和必要文档。升级采用版本签名、试运行、备份与回退；多用户并发时设置队列、超时和资源限额，避免一个长请求拖慢所有操作。
模型选型应使用企业真实提问和文档，而不是只用公开演示题。维修问答要覆盖多设备同名部件、含图表的手册、模糊报警描述和完全没有依据的问题；还要测试长文档和多人同时提问时的高分位响应时间。若无法满足时延，可缩小模型、优化检索或将部分任务移至中心节点。
知识库更新有两个维度：文档内容版本和索引构建版本。更换手册后应能定位受影响设备和问答，先在测试环境复核再发布。旧索引保留回退窗口，避免升级后现场突然查不到关键步骤。
环节 | 建议明确的交付内容 | 现场核对重点 |
|---|
输入与采集 | 设备清单、信号或图像、设备ID和时间戳 | 数据权限、缺失值、同步与协议 |
边缘处理 | 预处理、模型或规则、事件缓存 | 并发、时延、版本、断网恢复 |
业务与执行 | 结果接收、人工复核、控制器边界 | 权限、联锁、日志与异常回退 |
工控机选型与集成
N-BOX-S9可作为本地推理平台候选；如果模型需要独立加速卡、更多扩展或机箱定制，可评估PIMB-Q670C主板方案。具体能否运行目标模型必须核对内存、加速器、供电、散热、驱动与运行时版本，不能根据“支持AI”字样推断模型规模或并发数。
知识库占用与模型权重是两类不同负载，存储既要容纳索引和日志，也要预留版本回退空间。模型和索引同时访问时，用实际数据测试持续读写及温升。
采购配置时建议同时提供目标模型及运行时版本、摄像头或传感器清单、现有PLC/MES/SCADA接口、现场供电与安装尺寸，以及连续运行和数据留存要求。派勤可据此核对标准整机、工业主板及x86 OEM/ODM改型方向。实际软件、采集卡、加速器和现场协议的兼容性以联合测试为准。
软硬件联调时，应先建立一份逐项可核对的接口清单：信号来自何处、由谁授权读取、数据以什么单位和周期产生、结果送往哪个系统、消息失败后怎样重试。对每个接口指定负责人和测试样例，保存正常、缺失、重复、延迟及错误格式的处理记录。涉及第三方算法或平台时，明确部署包、驱动、操作系统、协议适配与远程升级分别由哪一方提供。这样在扩线、换机或故障排查时，现场人员可以按记录定位问题。
实施步骤与验收
从一个部门、一个设备族的手册问答开始，建立含标准答案与引用位置的测试集。分别验收检索命中、引用准确、错误拒答、权限隔离、平均与高分位响应时间以及断网运行。数据准备、模型许可、应用开发和硬件供货属于不同工作包，应在项目范围中写清。
项目可按需求确认、样机联调、现场试点、批量部署四步推进。样机阶段冻结硬件版本与软件镜像，记录接口、驱动、资源占用和热状态；试点阶段保留人工复核与旧流程对照。进入批量前，按量产配置确认开机、接口、温度、存储与恢复日志，并落实现场维护、版本回退和备件机制。
需要定制时，先明确不能由标准机型满足的接口、结构、散热或供货条件，再评审主板、整机、BIOS、外壳与连接器改型。派勤制造测试可采用12小时高温负载连续开机老化测试；这是硬件出厂流程的表述，不代表本应用的算法效果或项目现场测试结果。
常见问题
问：大模型本地部署一定需要独立GPU吗？
答：取决于模型参数量、量化方式、上下文长度、并发和响应目标。应先固定模型与测试集，再实测CPU、NPU或GPU方案。
问：能否把设备手册直接放进模型？
答：通常采用检索增强与权限控制，让回答引用已审核的文档；手册更新时可维护索引，而不是假定模型参数已同步最新版本。
如需评估现场部署，请提供业务目标、设备与数据清单、模型和软件环境、目标节拍或响应时间、安装供电条件及预期数量。这样可以先验证最关键的接口与计算负载，再确定整机或定制方案。
