← 首页 · 硬件与算力 硬件与算力

边缘板实测选型矩阵(FPS / 功耗 / 导出路径)

调研日期:约 2026-10-25(Asia/Shanghai)
方法:WebSearch / WebFetch 交叉核验厂商博客、Ultralytics Jetson 指南、RKNN Model Zoo(及 Seeed 复述表)、Hailo Model Zoo 官方 RST、Coral 延迟表、STM32Cube.AI wiki、Espressif YOLO26 component、部分第三方整机评测。
读表须知:下文给出的是公开条件下的量级,多数为 model-only(不含相机采集、视频解码、前处理、NMS 与业务逻辑)。真实端到端通常再打 0.3~0.7 折。不同主机总线(桌面 PCIe×4 vs 树莓派 PCIe×1)、batch、精度、功耗模式不可混排成「绝对冠军榜」。凡未在公开源核到同条件数字的,一律写 「未找到公开数」,禁止脑补。


0. 电力边缘怎么选(先看结论)

电力边缘不是「TOPS 越大越好」,而是把路数、时延、功耗、供货与工具链放在同一约束里。站端机柜能供几十瓦、要吃多路国标摄像头时,优先能硬解又能稳定量化的 SoC;巡检机器人和光伏点位则更吃瓦特与整机重量;开关柜内局部智能终端往往只允许百毫瓦到数瓦,且可能根本没有 Linux。

场景 优先平台 一句话理由
站端多路摄像头(约 4~16 路 IVA) Jetson Orin NX / Orin Nano Super,或 RK3588 工控盒 硬解+推理一体;Orin 有 DeepStream;RK 性价比与国产化友好
巡检机器人 / 无人机载荷 Orin Nano Super 或 Pi5 + Hailo-8L 算力与功耗折中;Hailo 加速卡本身可到瓦特级
柜内 / 就地 MCU 前端 STM32N6(轻视觉)或 STM32G4/H7(1D/关键词) 公开表已到数百 mW;G4 不扛 640 YOLO
极低成本传感节点 ESP32-S3 / P4 小输入检测或关键词;640 YOLO 仅约 1 FPS 量级
既有 x86 工控升级 Intel Core Ultra + OpenVINO 一份 IR 可在 CPU / iGPU / NPU 间切换
遗留 Coral 产线 Coral USB / PCIe 对 SSD-MobileNet 友好;现代 YOLO 算子极易踩坑

选型时建议同时打开此前《厂商深挖》《GStreamer/OTA》文档:FPS 矩阵解决「能不能实时」,中间件矩阵解决「多路怎么粘」,OTA 矩阵解决「模型怎么日更」。


1. 常见电力任务「量级」总表

默认口径:检测 640×640、batch=1、优先 INT8;分类多为 224×224。数字后括注来源类型。表计 Pose 行若无专用公开数,不把检测 FPS 冒充姿态 FPS。

平台 YOLO-n / YOLO11n 检测 640 分类 MobileNet / EfficientNet-lite 表计 Pose / 小输入 可选:1D 电弧或关键词
Orin Nano Super YOLO11n TensorRT FP16 ≈ 4.53 ms(约 220 FPS);INT8 ≈ 3.70 ms(约 270 FPS)(Ultralytics Jetson 指南,model-only) 未单独摘录与 YOLO 同文的官方分类表;同板分类吞吐通常明显高于检测 未找到与电力指针表同条件的公开 Pose 表;工程上可把输入缩到 320~480 再估 未找到 Orin 上 AFCI 波形公开金标准 FPS
Orin NX 16GB DeepStream 指南:YOLO11n TRT INT8 4.54 ms、FP16 5.27 ms 同上 同上 同上
RK3588 NPU Zoo 单核 INT8:YOLOv8n ≈ 73 FPS、YOLO11n ≈ 60 FPS(Seeed 复述 rknn_model_zoo);社区 三核+MPP/RGA 零拷贝 称 YOLOv8n ≈ 199、YOLO11n ≈ 162(GitHub issue,须自复现) MobileNetV2 224 INT8 单核 ≈ 450 FPS yolov8n-pose 640 INT8 单核 ≈ 56 FPS(同 Zoo 表) 振动/1D 多在 CPU;NPU 电弧波形统一公开表未找到
Hailo-8(官方:PCIe Gen3×4 + 桌面 CPU 主机) YOLOv8n 1036 FPS、YOLO11n 185 FPS(BS1,hailo_model_zoo HAILO8 RST) EfficientDet-Lite0@320:108 FPS;SSD-MobileNetV2@300:784 FPS 未找到表计 Pose 专用行;常用 nano 检测+几何读数 未找到官方 1D 电弧
Hailo-8L YOLOv8n 182 FPS、YOLOv8s 88 FPS(BS1,HAILO8L RST) SSD-MobileNetV1@300:367 FPS 同上 同上
Pi5 + Hailo 官方桌面 FPS 不能直接搬到 Pi(链路多为 PCIe×1);第三方整机 sync 功耗约数瓦,吞吐低于桌面表 异步高 batch 下 MobileNet / EfficientNet-Lite 可达数百~上千 FPS量级(宿主实现强相关) 未找到表计专用公开数 未找到
Coral USB 现代 YOLOv8/11:编译与算子限制大;Ultralytics 在 Pi+Coral 上 YOLOv8n@320 ≈ 32 ms(约 31 FPS)(inference-only) MobileNet V2 分类 USB3 ≈ 2.6 ms;SSD-MNv2 检测 ≈ 7.3 ms(Coral 官方旧表) 小输入可行;表计 Pose 未找到 未找到
Intel NPU / OpenVINO 公开数分散:有材料称 Core Ultra 上 YOLOv8n INT8 NPU 约百 FPS 量级;亦有 Meteor Lake NPU INT8 ≈ 14.6 ms(约 68 FPS) — 必须以目标工控复测 OpenVINO 生态分类模型多,本文未统一摘录可横比 FPS OMZ 人体姿态可冷启动;电力表计专用 未找到 1D 多跑 CPU;NPU 电弧 未找到公开金标准
STM32N6 不是 640:YOLOv8n@256 名义 28 FPS / 225 mW、性能 34 FPS / 322 mW;@320 为 21 / 26 FPS(Cube.AI wiki) MobileNetV2@224:43 / 48 FPS 小输入检测可行;表计 Pose 未找到 N6 公开表 YamNet 类 ≈ 100 次/秒量级;AFCI 专用集未找到
STM32G4 无实用 640 YOLO 公开数(资源不够) 仅 MLPerf Tiny 级小分类(数十~百 ms) 不适用视觉表计 KWS ≈ 66 ms、异常检测 ≈ 4 ms(G474 wiki)— 柜内关键词/简单 1D
ESP32-P4 / S3 YOLO26n INT8:P4@512 ≈ 930 ms(约 1.1 FPS);S3@512 ≈ 2.3 s;P4@640 ≈ 1.5 s(espressif/yolo26) 小分类可行;与 YOLO 同文的精确 FPS 未统一 社区轻检测(约 224)宣传 P4 >18 FPS、S3 >7 FPS(须自核条件) 关键词 TinyML 可行;电弧金标准未找到

如何用这张表做电力 POC:安全帽/人员/车辆检测先看「YOLO-n 640」列是否稳住 15~25 FPS 端到端;指针表优先看 Pose 或「小输入」列,并把 ROI 裁到表盘;柜内异音或开关声用 G4/N6/ESP 的关键词列;电弧波形在公开侧几乎空白,不要用视觉 PPE 数据集里的 “arc” 类别冒充 AFCI。


2. 分平台手册:导出路径、INT8、功耗、电力位

2.1 NVIDIA Jetson Orin Nano / Orin NX

Orin 系列仍是「站端要稳、还想碰端侧小 LLM」时摩擦成本最低的选择。导出路径通常是:训练侧 PyTorch 或 Ultralytics → ONNX → 板端用 TensorRT 生成与架构绑定的 engine;多路摄像头走 DeepStream,推理插件为 nvinfer。换 Nano 与 NX、或换 JetPack 大版本,都要重建 engine。

INT8 注意点:校准集必须像现场——光照、污秽绝缘子、红外伪彩、安全帽角度都要覆盖。公开评测里出现过「校准/验证集过小导致 INT8 mAP 断崖」的教训;YOLO11 在更大校准集上数字好看很多,但不等于你的电力类别也安全。许多项目最终以 FP16 作为上线默认,只对确认过的头/层开 INT8。

功耗量级:模组参考档常见叙述为 7 W / 15 W / 25 W;Super/MAXN 模式可更高并受热设计限制。第三方在 Orin Nano 上跑 YOLOv8n TensorRT 时,整板功耗曾测到约 12~15 W 量级(含板卡外设,点位因人而异)。标书若写「7 W 跑满多路 YOLO」需谨慎,应写清功耗模式与路数。

电力推荐位:变电站视频分析主机、巡检机器人主脑、需要 DeepStream 编排或多模型级联(检测→OCR→小 LLM 告警句)的场景。表计可用检测+OCR 或姿态关键点,不必强求单模型。

2.2 Rockchip RK3588

RK3588 在国内电力边缘盒子里出镜率很高,关键是 MPP 硬解 + RGA 缩放 + 三核 NPU 是否打通零拷贝。导出路径:ONNX → RKNN Toolkit2 → .rknn → rknn_runtime。

INT8 注意点:布局(NCHW/NHWC)、部分自定义检测头、动态 shape 都可能逼你改图。Zoo 公布的是单核友好对比数;营销材料若写「200 FPS」往往来自三核管线或更小输入,投标对比必须写明核数与是否含解码。

功耗量级:公开行业实测里,单路 640/1080p 检测盒子常见约 4~6 W 板级;CPU+NPU+多路解码拉满可到约 8~10 W+。这不是瑞芯微合同保证值,只能当量级。

电力推荐位:国产化站端多路盒子、性价比巡检边缘;指针表可直接试 Zoo 的 yolov8n-pose 再加角度几何。油位、异物等仍缺金标准集,需自采。

2.3 Hailo-8 / Hailo-8L(含树莓派 AI HAT)

Hailo 的优势是「树莓派/工控机加一张卡就能上视觉」,官方 Zoo 数字非常亮眼,但测量主机是桌面 PCIe Gen3×4。导出路径:ONNX 或 TF → Hailo Dataflow Compiler → HEF → HailoRT;GStreamer 侧常见 hailonet。

INT8 注意点:8 与 8L 的 HEF 不通用,要分别编译;DFC 访问通常在客户区。树莓派 5 单通道 PCIe 会成为瓶颈,社区已多次报告「达不到官网 FPS」。看标书时要写清「Hailo 官方主机」还是「Pi5 实测」。

功耗量级:第三方对比里,加速器在持续 YOLOv8s 负载下约 Hailo-8 ~5.5 W、Hailo-8L ~2.5 W;Pi5+8L 整机平均可到约 6 W 量级。适合电池/太阳能预算紧的巡检点。

电力推荐位:中小型巡检机器人、杆塔/光伏补点摄像头主机;超多路变电站仍更看 Orin 或 RK 整盒。

2.4 Google Coral USB / PCIe

Coral 历史地位重要,但 Edge TPU 算子白名单极严。导出路径:全整型量化 TFLite → edgetpu_compiler → edgetpu.tflite。SSD-MobileNet、EfficientDet-Lite 仍是「能跑且文档全」的主路径;把 YOLO11 硬编进去,经常大量 CPU fallback,FPS 会塌到个位数到数十(视输入而定)。

功耗量级:典型约 2 W,峰值电流公开资料约 900 mA 量级。USB 2.0 口会严重拖慢。

电力推荐位:只建议维护既有 Coral 产线或做极简人员检测演示;新开电力视觉项目不优先。

2.5 Intel 工控 NPU + OpenVINO

适合「站里已经是 Windows/Linux 工控机,只想加模型不换整机」。导出路径:ONNX → OpenVINO IR → Runtime 指定 NPU(也可回退 GPU/CPU);量化用 NNCF。

INT8 与口径注意:不同代 Core Ultra、不同 OpenVINO 版本,NPU 上 YOLO 的公开 FPS 互相差一截。本文因此只给「数十到约百 FPS」量级,并强调 本机 benchmark_app / Ultralytics 导出复测。整机功耗是笔记本/工控电源级别(常十五瓦起步到数十瓦),未找到可横比的「仅 NPU 瓦特」金标准表。

电力推荐位:已有 x86 的集控/站端主机,兼做 OCR、安防检测与本地小 LLM 摘要。

2.6 STM32N6 与 STM32G4(TinyML)

N6 把 MCU 级视觉推到「可公开表」的程度:官方 wiki 用 YOLOv8n 256/320 给出 FPS 与 mW(含外部存储)。导出路径:TFLite/ONNX → ST Edge AI Core / Cube.AI → Neural-ART 可执行。G4 则是经典控制 MCU,适合 MLPerf Tiny 级关键词与异常检测,不要指望柜内 640 检测。

INT8 注意:N6 数字全部是小输入;强行 640 会爆内存或掉到不可用。量功耗时认准 wiki 是否计入外部 Flash/RAM。

电力推荐位:开关柜就地摄像头(人靠近、柜门、小烟火需自研)、声纹/振动关键词前端、与上层 Orin/RK 盒子协同的「第一道过滤」。

2.7 ESP32-S3 / ESP32-P4

乐鑫路线适合物联网节点。官方 yolo26 component 已给出冷酷数字:即使 P4,512 输入也要约 0.9 s 级推理,640 更慢;S3 再差一截。这决定了它只能做抓拍/触发式检测,不能做站端实时多路。

导出路径:按 ESP-DL 量化并打包;注意 PSRAM 带宽与 Flash 摆放。功耗:与 YOLO26 同行的官方 mW 表 未找到,需用电源监控自测。

电力推荐位:传感器唤醒、柜门/刀闸小目标、本地语音关键词;与 STM32 类似,做「前端」而不是「站端大脑」。


3. 跨平台阅读陷阱(标书与验收)

  1. FPS 口径:NPU-only、含前处理、含解码、DeepStream 多路,四套数差几倍。验收协议应写清输入源(文件/RTSP)、是否硬件解码、是否画框、统计窗口。
  2. 官方峰值 ≠ 现场:Hailo 桌面表、RK 单核表、Orin Super 模式,都可能被总线、散热、电源骗过。
  3. 电力业务模型几乎都无厂商 FPS:绝缘子、指针表、油位、电缆接头红外、AFCI 波形——公开的是通用骨干。POC 必须带自有几十~几百张再谈指标。
  4. 红外:分辨率低但伪彩/温度映射预处理重;未找到各板在同一热成像数据集上的对照 FPS。
  5. 功耗:模组 TDP、加速卡轨、整机 USB-C 口,三种测点不要写进同一格。散热不良会先降频再「看起来省电」。

4. 继续深挖建议

  1. 固定三套业务权重(安全帽 YOLO11n、指针 Pose、自研 1D/关键词)在 Orin Nano Super、RK3588、Pi5+Hailo-8L、STM32N6 上跑同一脚本,输出 p50/p95 延迟、整机瓦特、业务 mAP。
  2. 把本表与既有 GStreamer 元素矩阵对齐,专门测「解码+推理」管线,而不是 Zoo 纯推理。
  3. 补齐 Qualcomm RB/QCS、算能 Sophon、爱芯 Axera 等国内站端常见 NPU 的公开 Zoo 数,形成短名单。
  4. 电弧专题:检索 AFCI/局部放电公开波形在 MCU DSP 与小 NPU 上的 ms/窗,与视觉「电弧/闪光」检测严格分列。
  5. 建立版本化复测 CI(Ultralytics / RKNN / Hailo DFC 升级后自动重跑),防止文档数字随工具链漂移。

5. 主要来源(便于复核)

  • Ultralytics《NVIDIA Jetson》《DeepStream on Jetson》指南中的 YOLO11 延迟表
  • 第三方 Orin Nano TensorRT 复测博客(含功耗点,仅作量级)
  • airockchip/rknn_model_zoo 与 Seeed reComputer AI Lab 复述表;社区 issue 中的三核管线数
  • hailo_model_zoo 之 HAILO8 / HAILO8L object_detection.rst
  • Coral Edge TPU benchmarks / object detection 模型页;Ultralytics Coral on Raspberry Pi 指南
  • STM32Cube.AI model performances
  • Espressif Component Registry:espressif/yolo26 benchmark
  • NVIDIA JetPack 6.2 Super Mode 技术博客(功耗档叙述)
  • Sixfab / SpecPicks 等 Pi + Hailo 整机功耗对比(第三方,非官网合同值)

本文为公开资料汇编,不构成任何厂商性能担保或投标承诺。上线与验收前,必须在目标硬件、目标功耗模式与业务数据上复测。

← 边缘 AI:按芯片供应商整理的开源模型与数据集 首页