
先给结论:让高层 AI 提议动作,让独立安全链约束动作
具身智能的风险从数字内容进入物理世界:模型规划、视觉感知或轨迹控制的一次错误,可能转化为夹伤、撞击、物体掉落或设备损坏。因而「模型说会小心」不是安全措施。工程上应把 AI 置于受限控制层:任务模型给出目标,经过经风险评估的运动控制与安全功能约束;传感器失效、通信超时、状态不一致或人在危险区域时,系统转入预先定义的降速、受控停止或其他安全状态。急停按钮是紧急情况下的独立补充,不能替代围栏、联锁、限速、风险评估和能量隔离。
本文所说的状态机是一种工程设计示例,不是任何厂商已认证的功能,也不声称仅用软件状态转换就满足功能安全。物理 AI 的安全能力取决于机器人本体、工具、工件、控制器、传感器、现场布局和操作程序共同构成的应用系统。2026 年查阅的 OSHA《Technical Manual》按工业机器人应用说明挤压、夹点、意外启动、维护进入防护区等危险,并强调在集成、调试和维护阶段做风险评估。OSHA 手册是现场指导材料,不是对某台人形机器人或应用的认证结论。
危险源与安全功能:从工作空间而非模型名称出发
机器人最直观的危险来自运动和能量:机械臂回转、直线运动、夹爪闭合、末端工具切削或加热,可能造成碰撞、夹挤、剪切、卷入、刺伤、烫伤;携带的工件会掉落或被甩出。危险边界还包括夹爪与固定夹具之间的夹点、机器人与墙体之间的挤压区、移动底盘撞人、工具更换和清障时的意外启动。风险不只由关节电机功率决定,还受速度、负载、端部形状、接触部位、工作空间、制动距离和动作可预测性影响。同一台设备装上尖锐工具或搬运重件,风险情境已改变,原来的运行限制不能默认继续有效。
具身模型增加了另一类不确定性:摄像头被遮挡或照明变化,深度传感器反光,定位漂移,人体姿态被误识别,任务规划把「拿起」解释成不合适的抓取;通信延迟或执行器响应偏差又会让正确计划落到错误位置。感知系统报告「没有人」不等于工作区真的无人。风险分析应把传感器盲区、错误的置信度、控制周期迟滞、模型外输入、工具和工件状态都纳入系统边界,尤其要考虑人会临时伸手、改变姿势或进入计划之外的区域。
常见保护层各有职责,不能互相顶替:
| 功能 | 解决的问题 | 不能被误解为 |
|---|---|---|
| 固定防护、围栏与门联锁 | 限制人员进入危险空间;门打开时触发规定的安全响应 | 贴了警示标志就完成隔离 |
| 安全区域或存在检测 | 检测人员进入预设空间,依配置减速或停止 | 普通摄像头的目标框已是安全级检测 |
| 限速、限力或限功率 | 控制特定运动/接触的能量边界 | 任意负载、工具下自动安全 |
| 保护性停止 | 因防护条件或状态不满足而暂停危险运动 | 故障已修复或允许自动重启 |
| 急停 | 人发现紧迫危险时请求尽快停止危险动作 | 正常工作中的常规暂停按钮,或能量隔离程序 |
| 锁定挂牌与能量控制 | 维护时防止电、气、液压或重力储能意外释放 | 只按急停即可安全进入设备内部 |
OSHA 的资料区分协作应用中的保护性停止、速度限制和力限制,并提醒对功率与力限制应用评估实际接触条件,工具、工件、负载或速度变更后重新确认参数。这里的「协作」描述的是经过设计和风险评估的应用方式,不是机器人外形或品牌标签;没有围栏也不自动代表可以安全接触。急停与保护性停止的触发来源、复位方式和对能源的处理各不相同,具体停止行为要依设备和风险评估设计。危险运动停下后,重力负载、蓄能器、热表面等仍可能造成伤害,因此停机不等于维护能量已隔离。
把失效回退写成状态机,而不是一段提示词
可审查的安全状态机至少要说明:当前工作状态、进入条件、离开条件、谁能复位、故障时允许什么动作。以下示例把任务规划与安全控制分开表达;状态名称和阈值都需由集成商结合实际危害、设备安全功能和所在地要求确定,不能照抄作为通用标准。
stateDiagram-v2
[*] --> 自检
自检 --> 待机: 传感器与安全功能检查通过
自检 --> 故障锁定: 自检失败或版本不匹配
待机 --> 受限运行: 任务授权且区域清空
受限运行 --> 正常运行: 安全条件持续满足
正常运行 --> 受限运行: 人员接近或不确定性升高
受限运行 --> 保护性停止: 进入保护区或反馈超时
正常运行 --> 保护性停止: 安全监测发现危险条件
保护性停止 --> 待机: 风险解除且按程序复位
任意运动状态 --> 急停锁定: 急停被触发
急停锁定 --> 自检: 人工检查后执行独立复位
任意状态 --> 故障锁定: 状态不一致或关键安全功能故障
故障锁定 --> 自检: 故障排除、检查并授权恢复
状态机最重要的设计不是画出多少框,而是把危险条件映射成必需反应。例:若深度相机在运行中丢帧,系统不能让上一帧「无人」判断无限期有效;在规定时间内应降低速度、停下或转入等待,而不能持续执行最后一条轨迹。若定位与关节反馈不一致,应先停止危险动作并锁定诊断,不让模型通过自然语言解释自行解锁。若区域检测恢复,保护性停止也不应因为传感器短暂变绿就自动恢复高能量运动;应检查复位权限、人员是否离开、风险是否解除,并按应用设计要求人工确认或进入低能量自检。
不同危险需要不同安全状态。「断电」并不永远最安全:搬举重物的机器人突然失去保持力可能使工件坠落;带有旋转刀具的设备需先受控停转,之后再处理隔离能源。设计者应定义安全状态究竟是保持制动、以受限速度退到安全位、受控停止、切断驱动,还是锁定并要求人工介入。每个回退方案都要检查它是否引入二次危险,以及控制器故障时是否还有独立的安全通道。安全控制应优先由经验证的安全相关硬件、控制器和联锁实现;AI 负责的任务层不能覆盖或修改其限制。
复位逻辑也要独立于启动逻辑:急停按钮复位只清除急停锁存,不等于开始任务;清除故障后需先完成状态核对,避免恢复供电或网络连接时突然重启。测试要覆盖传感器遮挡、断连、过时数据、关节反馈异常、低电量、负载变更、急停按下/释放、人工闯入和系统重启等条件。事件记录保存当时的传感器状态、控制指令、配置和状态转换原因,便于查清是模型计划错误、现场感知失效还是安全回退配置不充分。记录不应代替止动,安全状态先发生,日志随后留下可复盘证据。
协作机器人标准边界与仿真到现场的差距
标准的适用范围要从「是什么用途」判断,而不是从机器人是不是人形、是否宣称 cobot 判断。ISO 官方页面显示,ISO 10218-1:2025 面向工业机器人本体(将其作为部分完成机械),ISO 10218-2:2025 面向工业机器人应用及机器人单元的集成、调试、运行、维护和退役。两部分均明确排除多类非工业用途,例如服务机器人、消费产品、医疗或医疗照护、军事、空中与太空,以及提升或运输人员;第 2 部分也列出移动平台和公共/非工作成年人进入等边界。应用设计还会有本体标准未覆盖的工艺危险,例如焊接、激光加工或夹具设计。实际项目应按产品分类、应用、使用环境、市场所在地法规和其他相关标准评估,不能将某个标准页面或机器人厂商的自我描述当作合规证书。
「协作机器人」也不是自动安全的通用类别。OSHA 技术手册提及安全监控停止、速度与分离监控、功率与力限制等协作方式,但它的章节基于工业应用且引用了一些旧版标准。本文不把旧版条款移植成 2025 版 ISO 的认证要求。无论采用哪种协作方式,集成商仍须考虑末端执行器、工件、尖锐边缘、夹点、人员移动和完整任务;改变负载、工具、速度或空间布局都可能改变风险评估结论。标准适用之外的家用、公共场所和移动服务机器人,必须另找适用于该用途的法规与标准,不能用工业协作模式替代。
仿真适合以低风险成本探索动作规划和极端场景,但仿真通过不是实地安全的证明。Xing 等人的 2026 年机器人现实差距综述把 sim-to-real 差异分为动力学、感知与传感、执行器与控制、系统设计等方面;现实世界还包含摩擦、噪声、传感器延迟、接触形变和材料差异等难以完美模拟的因素。作者也指出,目前不存在能完全复制现实的模拟器,sim-to-real 方法虽有进展,仍有未解决挑战。即使策略在渲染环境中没有碰撞,现实里的制动距离、反光表面、松动线缆、真实负载和人与机器人的非预期互动仍会改变风险。
因此测试顺序宜从离线仿真、硬件在环、空载低速和隔离围栏内的有限任务逐步推进,再在每次扩大的真实现场范围之前重新核验。需把仿真使用的机器人模型、控制周期、传感器配置、工具与负载记录下来,比较与真实设备有哪些偏差;现场发生新失效时,先调整危险分析和安全限制,再决定是否扩大运行。仿真负责增加场景覆盖、排除明显错误;真实现场试验负责检查模型未覆盖的偏差。两者都不能单独替代风险评估、保护装置验证和有资质人员对具体应用的验收。
小结与参考资料
具身 AI 的安全底线是把模型输出和物理执行之间隔出可验证、不可被任务模型随意改写的安全边界。危险源从机器人本体延伸到夹具、工件、工具、人员、控制逻辑、传感链路和现场流程;防护、限速限力、保护性停止、急停和能源隔离要按各自功能共同承担风险降低。急停是紧急补充而非日常控制,保护性停止也不代表所有危险能量消失。
安全状态机帮助团队将传感器失效、超时、区域侵入、状态冲突、急停和故障恢复转成明确动作,但状态机图本身不等于认证。状态阈值、停机类型和复位条件须由应用风险分析、实际安全功能和制造商资料支持;若 AI 规划器能跳过这些限制,就没有建立可靠的安全边界。
ISO 10218 系列的适用对象是工业机器人及其应用,明确排除多种消费、服务和载人用途;机器人宣称「协作」也不自动消除防护需求。仿真可以帮助发现不安全轨迹与测试边界情形,但从模拟到现实的差距仍存在。负责任的部署依赖仿真、硬件验证与现场风险评估的连续证据,而不是用一次成功演示替代验收。
参考资料
- OSHA:Technical Manual—Robotics(Section IV, Chapter 4) — 工业机器人危险、防护、风险评估及协作应用安全功能的现场指导。
- ISO:ISO 10218-1:2025 — 工业机器人本体的范围和用途排除项。
- ISO:ISO 10218-2:2025 — 工业机器人应用与单元集成、运行、维护等要求的范围。
- Xing et al.:The Reality Gap in Robotics: Challenges, Solutions, and Best Practices(2026 综述预印本) — sim-to-real 差异的来源、评估和未解决问题。
读者留言
COMMENTS 暂无还没有留言,来说第一句?