筑牢具身智能规模化落地的风险防御屏障
王新成 刘菁菁
随着工业机械臂、物流机器人、医疗与养老服务机器人加快进入生产、生活场景，具身智能正从实验验证走向规模化应用。与一般数字技术不同，具身智能把算法决策直接转化为物理行动，形成“环境感知—模型判断—实体执行”的闭环。一旦数据、模型、传感器或执行机构出现问题，风险就可能从虚拟空间迅速外溢为人身伤害、财产损失和公共安全事件。
风险链条长，技术漏洞相互放大。训练数据污染、标注偏差或隐私违规，可能导致模型判断错误；模型可能遭受提示注入、对抗样本、权限劫持和无线接口攻击；执行端一旦缺少碰撞检测、限速、急停和人工接管机制，算法错误就会直接转化为物理伤害。更值得警惕的是缺少贯通全生命周期的统一标准。
高风险场景准入规则不够清晰。家庭、医院、养老机构、学校等具身智能应用场景涉及隐私、生命健康和情感依赖，不同场景应达到何种安全等级、哪些功能必须受限制、何时必须由人工接管，仍缺少细化标准。
事故责任认定和证据保存机制尚不完善。具身智能事故往往由算法缺陷、硬件故障、使用不当、运维疏漏和环境变化共同造成，开发者、制造商、部署方、运营方和使用者之间的责任边界模糊。如果缺少完整日志、模型版本、操作记录和远程更新记录，事故发生后则难以还原决策过程，既不利于受害者维权，也会增加企业的不确定成本。
保险和风险分担机制处于起步阶段。具身智能设备价格高、事故损失可能较大，中小企业容易因赔偿压力而不敢采用；保险机构因缺乏事故数据和统一的风险分级标准难以精准定价，可能出现保费过高、保障不足或除外责任过多等问题。
针对上述风险，上海发展具身智能产业不能只重视技术突破和产业规模，更要同步建立覆盖研发、准入、使用和事故处置的安全治理体系。建议从以下方面着力，筑牢具身智能规模化落地的风险防御屏障。
建立贯穿全生命周期的强制性安全标准。以“数据—模型—执行”为主线，推动对具身智能训练数据来源、标注质量、隐私保护、模型鲁棒性（编者注：Robustness，指系统在面临不确定性因素时，仍能保持其性能稳定的能力）、网络防护、传感器冗余、碰撞检测、限速急停等要求的统一衔接。对进入公共空间和敏感场景的具身智能产品，应要求企业提交安全论证、极端工况测试和第三方检测报告，把安全审查前置到设计阶段，而不是等产品上市后再补救。
实行分场景、分风险等级准入。对具身智能产品，可按照工业封闭、园区半开放、家庭服务和医疗养老等不同场景设置风险门槛。风险越高，越应强化人工接管、权限管理、隐私最小化和禁用功能要求。对医疗、养老、儿童陪护等方面的具身智能产品，还应增加伦理评估，重点防范错误诊疗、过度依赖、诱导消费和情感操控。
建立可追溯的责任认定机制。要保留具身智能产品的关键决策日志、模型版本、传感器记录、人工指令和更新记录，并明确保存期限和调取规则。责任划分应该综合考虑各主体的风险预见能力和实际控制能力。硬件缺陷由生产者承担相应责任，算法缺陷由开发者和提供者承担责任，违规操作和运维失职由使用、运营主体承担责任。对于多方共同导致的事故，可建立按过错程度和控制能力分担责任的规则，避免出现责任真空。
发展保险、融资租赁和安全评价联动机制。上海可推动建立具身智能事故数据库和风险分级模型，为保险定价提供依据；鼓励“保险+融资租赁”“产品责任险+公众责任险”等组合产品，降低中小企业使用门槛。同时，把安全认证、事故记录和软件更新能力纳入费率体系，对安全水平高的企业给予更低保费，形成“越安全、成本越低”的激励机制。
（作者王新成为同济大学经济与管理学院助理教授，刘菁菁为崇明区委党校讲师）
本文刊于《上海宣传通讯》
2026年第19-20期（合刊）“研究与思考”栏目
