生产中的边缘 AI：衡量完整系统，而不只是模型

在采集数据的机器附近运行模型，可以减少对网络连接的依赖，并让响应时间更可控。这就是设备端 AI 或边缘 AI 的思路。但决策不能只看模型是否能装进内存。工业应用需要持续运行数小时、处理错误与更新，并保持符合流程要求的性能。

完整的信息路径

考虑一个假设的传送带视觉检测场景：相机采集图像，系统预处理，模型产生结果，应用将结果关联到正确零件，再由其他组件作出流程规定的决定。只测模型运行时间，会遗漏传输、排队和同步。即使预测本身很快，其他环节过慢也会让结果迟到。

需要区分单次处理的延迟与持续处理输入流的能力。系统可能能快速处理一张图片，却在传送带加速后不断积压。试验应复现合理的输入频率、数据大小与负载。如果丢失图像，软件必须检测并执行既定处理流程。

MLCommons 的 MLPerf Tiny为资源受限系统提供共同测量方法，考虑准确性、延迟和能耗。这是方法论参考，其任务并不自动等同于工业产线或大型语言模型。基准有助于建立比较，但完整系统仍须在目标任务上验证。

降低数值精度或简化模型，可能改善有限硬件上的执行表现，但质量影响不能想当然。如果罕见却重要的缺陷更容易漏判，平均速度提升可能没有价值。应使用相同输入比较不同版本，并保留它们作出不同决定的案例。

几分钟的演示未必反映稳定运行状态。温度、资源饱和和队列增长都可能改变性能。应在有代表性的时间段内观察，包括启动、暂停与恢复。能耗还影响散热和机壳选择，而不仅是电费。

真实数据还会随光照、镜头、振动和材料变化。在实验室相机上有效的模型，采集配置变化后可能需要重新验证。如果只记录模型版本而不记录相机设置，历史就不完整。诊断错误需要知道当时实际使用的组件和配置组合。

现场处理可以减少某些传输，但本身不保证隐私和安全。日志、诊断副本及更新服务仍可能发送数据。设计应说明哪些信息留在设备上、哪些发送出去以及用途，同时考虑物理访问、凭据和数据保存期限。

更新流程应能够识别已安装版本，并在必要时恢复前一版本。先向少量设备逐步部署，可以减少错误影响。连接中断时，哪些功能继续运行、哪些服务不可用，必须明确。混合架构可以把关键功能保留在本地，将延后分析交给远端资源。

EL-AI 将工业与协作机器人视为未来探索方向，因此研究感知和分析在哪里执行具有意义，但不代表公司已有边缘平台或生产部署可展示。应从物理任务和约束出发，联系此前关于首个协作机器人项目的讨论。

初步评估应列出输入流、最晚有用响应时间、质量标准、错误处理方式和更新机制，再比较平台。这样可以避免只凭单项硬件参数作选择，把工作集中在应用如何在真实环境中持续可靠运行。

本文借助 AI 撰写，并核验了所列来源。除非另有说明，应用示例均为假设场景。来源查阅日期：2026 年 9 月 20 日。

封面为 AI 生成的示意图，并非 EL-AI 真实人员、场所或部署的照片。