变电站 / 电力场景可见光 + 红外(双光)融合边缘 AI 手册
调研日期:约 2026-10-25(Asia/Shanghai)
定位:站端双光谱(可见光 VIS + 长波红外 LWIR)相机选型、时空对齐、配准、融合策略、模型路径,以及与 RTSP 管线、证据仓、统一事件 Schema 的衔接。
衔接:edge-ai-multistream-rtsp-scheduling.md、edge-ai-time-sync-ntp-ptp.md、edge-ai-evidence-store-snapshot-retention.md、edge-ai-vlan-network-isolation.md、edge-ai-substation-gateway-bom.md、edge-ai-ppe-smoke-fire-model-shortlist.md、edge-ai-oil-level-thermal-sop.md、edge-ai-meters-and-thermal-catalog.md、edge-ai-event-schema-acceptance.md、edge-ai-d60-d90-acceptance-checklist.md。
温度告警定值以业主规程 / DL/T 664 类细则为准,本文一律标 unknown;厂商未公开端到端 FPS 禁止编造。
0. 一句话结论与红线
结论:试点默认走 L0 分路独立推理 + 事件关联,有稳定外参后再上 L1 框级晚期融合;温度主路径读温度矩阵/SDK,可见光负责定位与外观确认;共用可信 ts(NTP/PTP)与 calib_id,证据仓成对留可见峰帧 + 热图伪彩,MQTT 只带 media_refs。
| 红线 ID | 禁止项 | 说明 |
|---|---|---|
| R1 | 禁止仅用未标定红外做人检金标准 | 未完成外参/calib_id 的热像人员框不得进验收金标准或事故对标;可作旁路可疑线索 |
| R2 | 禁止双光路径进保护跳闸 | VIS/IR 事件、温升告警、烟火联合判定均不得写 GOOSE/软压板/跳闸;走辅控/安监旁路(对齐 BOM「禁止跨保」、VLAN) |
| R3 | 温度阈值 = unknown,以业主规程为准 | t_abs / delta_t / 相对温差 δ 写入可配置规则表,禁止把示例数字写进合同或固件默认跳闸级 |
| R4 | 禁止伪彩当测温真值 | 训练/OSD 可用 Iron 等伪彩;定量必须温度矩阵或厂商 radiometric 流 |
| R5 | 时钟未同步 → quality=suspect | clock_quality 为 unsync / step_recent 时,双光关联事件默认可疑,不进金标准 |
1. 硬件选型短表
1.1 形态对比
| 形态 | 典型组成 | 优点 | 风险 / 约束 | 试点建议 |
|---|---|---|---|---|
| 一体双光枪/球 | 同壳体 VIS + LWIR,常双 RTSP 通道 | 基线视差小、预置位易固化、运维一体 | 热像分辨率常低于可见;云台抖动时两路同步策略需验 | 首选试点 |
| 分体 VIS 枪 + 热像仪 | 独立 IP 相机 + 独立热像 | 可分别选型/更换;热像可更高分辨率 | 基线大、视差大;外参易漂;两路时钟更易漂 | 仅固定支架、短基线、定期重标 |
1.2 分辨率 / 帧率 / 接口(选型 checklist,非保证值)
| 项 | 可见光 VIS | 红外 LWIR | 备注 |
|---|---|---|---|
| 分辨率 | 常用 1080p / 4K(按招标) | 站内比对建议 ≥320×240;热点目标 ≥10~15 px | 一体机热像常更低,以实测为准 |
| 帧率 | 常见 25 fps 国标编码 | 常见数~十余 fps 量级(以厂商规格为准,勿编造) | 关联以共同 ts 窗口,不要求同 fps |
| 编码 | H.264 / H.265 | 伪彩视频流 + 优先 radiometric / 温度矩阵接口 | 仅伪彩流 → 定量能力降级 |
| 发现/拉流 | ONVIF + RTSP | 多数双光为双通道 RTSP(如 ch0/ch1 或 /vis + 热通道;以该机说明书为准) | 对齐多路 RTSP 手册:TCP 优先 |
| 测温 | — | ε、距离、大气修正;点/框测温 SDK | 发射率记入元数据 |
| 安装 | 枪机固定优先;球机固化预置位 | 尽量共轴或短基线;避免阳光直射镜头 | 见 §2.3 |
边缘算力注意(两路解码预算)
- 一体双光 = 至少 2 路硬解配额;分体同理。按 BOM:A=1–2 / B=4–8 / C=16–32 路总量计价(见
edge-ai-multistream-rtsp-scheduling.md)。 - 1 套双光占用 2 路:B 档若已跑 4 路可见,再加 2 套双光会顶满——优先 热像降帧 / VIS 隔帧推理 / ROI,勿默认同板上再堆检测模型。
- 热像若另走 USB/千兆专用 SDK 而非 RTSP,仍计入「传感器通道」与 CPU/内存,勿只算 NPU TOPS。
- 端到端 FPS:现场实测;Zoo / 单模型 FPS 不进合同。
公开工具线索(可核验,非站端认证):OpenCV findHomography / 棋盘角点;社区热–可见叠加标定示例见 openmv-projects thermal-overlay-calibration。双光 RTSP 通道命名因厂而异,以说明书为准。
2. 时空对齐
2.1 共用时间 ts
| 要求 | 做法 |
|---|---|
| 同源时钟 | 边缘盒 + 相机(若支持)跟站内 NTP(最低)/ PTP(有条件);见 edge-ai-time-sync-ntp-ptp.md |
| 事件键 | 两路帧打 ts_utc(RFC3339)+ ts_mono_ms;关联窗口建议 ±1~2 帧周期(按较慢一路) |
| 质量位 | 任一路或主机 clock_quality≠sync → 双光联合事件 quality=suspect |
| 不同 fps | 以热像触发为主、可见光取最近邻帧;或固定「热像 ts → 可见最近帧」策略并写入配置 |
2.2 外参标定(空间)
| 方法 | 适用 | 产出 | 验收 |
|---|---|---|---|
| 平面 Homography | 远场、近似平面场景(母线/构架正面) | 3×3 H,热→可见或可见→热 |
角点重投影误差中位数目标 ≤1~2 px(热像尺度);超差重标 |
| 棋盘 / 加热标定板 | 近距精确标定 | 角点对应 + RANSAC Homography | 双模态均能检出完整内角点 |
| 站内特征点 | 停电窗不便摆板时 | 人工点对应 ≥8 对 + RANSAC | 定期抽检;云台预置位变更必重标 |
| 立体外参(可选) | 基线大、近距视差大 | R,t + 可选深度 | 成本高;试点一般不做 |
calib_id = cam_pair + 日期 + 方法哈希(例:bay3-dualA-20261025-H)。变更预置位、拆装镜头、大幅调焦 → 作废旧 calib。
2.3 视差与安装约束
- 基线:一体机基线短,优先;分体尽量平行光轴、间距最小化。
- 工作距:标定距离 ≈ 日常监视距离;近距设备(柜门前)勿套用远场 H。
- 角度:测温入射角过大(经验 >45° 慎用数值)→ 只作定性或降级。
- 云台:每预置位独立
calib_id;运动中禁止出定量温升金标准。 - 视差失败模式:人员/设备在景深剧烈变化时框漂移 → L1 关联加大 IoU/距离容差或退回 L0 仅时间关联。
3. 融合策略分层(模型路径)
| 层级 | 名称 | 做法 | 算力 / 工程成本 | 推荐 |
|---|---|---|---|---|
| L0 | 分路独立推理 + 事件关联 | VIS:检测/分割/OCR;IR:温度矩阵阈值 + 可选热点框;用 ts + bay/part/track 关联 |
低;两路模型可独立升级 | 默认试点 |
| L1 | 框级晚期融合 | 用 H 把 IR 框投到 VIS(或反向);IoU / 中心距融合;联合规则升/降级 |
中;需稳定 calib | 有标定后推荐 |
| L2 | 特征 / 像素级融合 | 早期拼接双通道、或中间层融合网络 | 高;数据与标注贵;边缘解码+模型双倍压力 | 仅专项课题;非 D60 默认 |
分路 vs 早期/晚期(选型口诀)
- 要快上线、要可审计 → L0:每路事件自带
modality,主站/工单侧关联。 - 要降误报(热异常 + 可见确认) → L1:规则如「IR 超阈 且 VIS 对应为刀闸触头 ROI」才升
severity。 - 要端到端融合网络 → L2:先解决标定与成对数据集,再谈量化上板。
推理调度:对齐多路 RTSP——热像可 低 fps 常开阈值,可见光 告警触发补帧 或隔帧;过载丢帧保推理,断 MQTT 不堵。
4. 典型场景
| 场景 | VIS 作用 | IR 作用 | 融合层级 | 事件码建议 | 注意 |
|---|---|---|---|---|---|
| 刀闸触头 / 接头温升 | 部位定位、分合状态外观 | t_max / delta_t / 同相比对 |
L0→L1 | THERMAL_HOTSPOT |
阈值 unknown;负荷过低热点可隐身,记 load_pct |
| 主变油位观察窗 + 红外 | 液面/翻板读数(油位 SOP) | 油枕/套管异常温区辅助 | L0 关联 | OIL_LEVEL_ABNORMAL + 可选热事件 |
禁止替代瓦斯保护 |
| 人员 + 热源 | PPE / 电子围栏人检 | 人体热区辅助夜间 | L0/L1 | INTRUSION_* / PPE_* |
R1:未标定 IR 人框不进金标准 |
| 烟火:可见确认 + 热异常 | 烟/火外观模型 | 高温区 / 温升速率 | L1 联合 | 烟火类码(见 PPE/烟火短名单) | 蒸汽/水雾负样本;时序 ≥N 帧 |
公开冷启动(许可自行核):光伏红外分类 InfraredSolarModules(MIT,GitHub RaptorMaps);站内接头/刀闸金标准仍缺 → 自采(见油位/红外 SOP、表计红外目录)。anomalib PatchCore 可用正常热图做辅判,不作唯一依据。
5. Schema 扩展与证据仓
5.1 建议扩展字段(兼容现有 schema_ver 演进)
在统一事件 JSON(edge-ai-event-schema-acceptance.md)上增量,破坏性变更升主版本:
| 字段 | 类型 | 说明 |
|---|---|---|
modality |
string / string[] | vis / lwir / dual;分路事件填单模态,联合事件填 dual |
temp_c |
object | { "t_max": number\|null, "t_ref": number\|null, "delta_t": number\|null, "emissivity": number\|null };无矩阵则 null + quality=degraded |
roi_thermal |
object | 热图像素系 bbox 或多边形;fmt 标明坐标系 |
roi_vis |
object | 可见光系;L1 投影后可与 objects[].bbox 对齐 |
calib_id |
string | 外参版本;缺失则禁止宣称「像素级对齐」 |
pair_cam |
string | 配对相机 ID(分体时) |
fusion_level |
string | L0 / L1 / L2 |
media_refs |
array | 指向证据仓相对路径/内网 URI(禁止大图 b64) |
示例片段(联合温升,阈值本身仍为配置项):
{
"task": "thermal_dual",
"modality": "dual",
"fusion_level": "L1",
"calib_id": "bay3-dualA-20261025-H",
"temp_c": { "t_max": null, "t_ref": null, "delta_t": null, "emissivity": 0.95 },
"roi_thermal": { "bbox": { "x": 0.40, "y": 0.30, "w": 0.08, "h": 0.10, "fmt": "xywh_norm" } },
"event": { "code": "THERMAL_HOTSPOT", "severity": "medium", "quality": "suspect" },
"media_refs": [
{ "role": "vis_peak", "path": "frame_peak_vis.jpg" },
{ "role": "lwir_pseudo", "path": "frame_peak_lwir_iron.jpg" },
{ "role": "lwir_raw_meta", "path": "temp_matrix.meta.json" }
]
}
注:上例
t_*为 null 表示「字段占位、定值未写入固件」;实站由规则引擎填入测量值,与业主阈值比较。
5.2 证据仓留存(对齐证据仓手册)
| 对象 | 文件建议 | 保留 |
|---|---|---|
| 可见峰帧 | frame_peak_vis.jpg |
按事件严重度策略 |
| 热图伪彩 | frame_peak_lwir_iron.jpg(调色板固定一种) |
与 VIS 成对 |
| 温度侧车 | temp_roi.json 或厂商 radiometric 摘要 |
审计测温;大矩阵按盘容量可选 |
| Overlay | VIS 框 + 投影热框同图 | 可选 L2 overlay |
meta.json |
含 calib_id、clock_quality、fusion_level、SHA-256 |
必填 |
MQTT 只传 media_refs;断链仍本地环形缓冲留证(R5 证据仓红线)。人员脸部默认脱敏副本进飞轮。
6. 两周落地清单 + 验收门禁
6.1 两周计划(可勾选)
第 1 周:通路与标定
- [ ] 选定 1 套一体双光(或短基线分体),ONVIF 发现 + 双 RTSP 拉通
- [ ] 边缘盒接入 AI VLAN;不进保护网(VLAN / BOM)
- [ ] chrony NTP(或 PTP)同步;事件
ts_utc与clock_quality上报 - [ ] 固化 1~2 个预置位;完成 Homography,生成
calib_id - [ ] L0:VIS 一路检测冒烟 + IR 温度矩阵/ROI 阈值冒烟(阈值先占位 unknown)
- [ ] 证据仓目录写入 VIS 峰帧 + 热伪彩 +
meta.json
第 2 周:关联与门禁
- [ ] L0 事件关联(同 bay/part + ts 窗);可选 L1 框投影 + IoU 规则
- [ ] Schema 带
modality/temp_c/calib_id/media_refs - [ ] 采正常基线热图 ≥50/部位;干扰负样本(阳光、人体入画)一批
- [ ] 与多路调度联调:双光计入 2 路解码;过载丢帧策略验证
- [ ] 对照 D60 条目做桌面走查;准备 D90 现场抽检脚本
6.2 可勾选验收门禁(对齐 D60/D90)
| 门禁 | 通过条件 | 否决 |
|---|---|---|
| G1 双流 | 两路 RTSP 连续 ≥2 h,断流可自动重连 | 单路假活、通道接反未检出 |
| G2 授时 | 主机 clock_quality=sync;联合事件带 ts |
unsync 仍标 gold |
| G3 标定 | 有效 calib_id;抽检重投影达标或明确仅 L0 |
无 calib 却宣称像素融合 |
| G4 隔离 | 流量与凭证仅在 AI/管理网;无保护网路由 | 任意跨保路径 |
| G5 证据 | 抽 10 条告警均有 VIS+伪彩+SHA;MQTT 无大 b64 | 缺一侧媒体仍当金标准 |
| G6 红线 | 无跳闸映射;人检金标准含 IR 则必须已标定 | 未标定 IR 人框入库金标准 |
| G7 性能 | 目标站端到端稳定 FPS / 温升降频 实测记录 | 用 Zoo FPS 充合同 |
7. 与既有文档衔接一览
| 文档 | 本手册用法 |
|---|---|
edge-ai-multistream-rtsp-scheduling.md |
双光按 2 路计入;有界队列、丢帧保推理 |
edge-ai-time-sync-ntp-ptp.md |
共用 ts;未同步 → suspect |
edge-ai-evidence-store-snapshot-retention.md |
成对媒体 + media_refs + 环形缓冲 |
edge-ai-vlan-network-isolation.md |
相机与证据仓不出保护域 |
edge-ai-substation-gateway-bom.md |
路数档位、禁止跨保 |
edge-ai-ppe-smoke-fire-model-shortlist.md |
烟火 VIS 确认 + 热辅判 |
edge-ai-oil-level-thermal-sop.md |
油位 VIS + 红外辅助;测温 SOP |
edge-ai-meters-and-thermal-catalog.md |
公开红外资源与缺口 |
edge-ai-event-schema-acceptance.md |
字段扩展与验收契约 |
edge-ai-d60-d90-acceptance-checklist.md |
G1–G7 映射进总检查单 |
8. 诚实边界
- 站端温度定值、相对温差分级、是否允许某部位在线测温:unknown,以业主规程为准。
- 具体枪机/球机双光 FPS、热像核心分辨率、RTSP path:以招标型号说明书为准,本文不编造。
- 输电绝缘子 / 站内接头大型双光金标准公开侧仍不足;商用以自有台账 + 许可清晰的冷启动集为限。
- L2 融合网络论文很多,不等于站端可维护交付件;无成对标定与保留策略勿上生产。
文档版本:2026-10-25 · 仅本地调研落盘 · 不替代安规与保护设计