具身智能的下一阶段是让它在复杂环境里更可靠。
机器人越智能,越不能只靠“善良的大模型”来保证安全,需要声明式规则告诉它什么不能做,需要架构式护栏确保错误计划不能直达执行端,需要算法式护栏让它理解具体情境,也需要传统功能安全在最后一米强制兜底。
行业现在需要转换一个评价标准:从“性能打榜”走向“安全打榜”,对于具身智能来说是商业化入场券。
:《人形机器人安全:具身智能商业化的核心入场券》 人形机器人安全:具身智能商业化的核心入场券
具身智能的下一阶段是让它在复杂环境里更可靠。
机器人越智能,越不能只靠“善良的大模型”来保证安全,需要声明式规则告诉它什么不能做,需要架构式护栏确保错误计划不能直达执行端,需要算法式护栏让它理解具体情境,也需要传统功能安全在最后一米强制兜底。
行业现在需要转换一个评价标准:从“性能打榜”走向“安全打榜”,对于具身智能来说是商业化入场券。
:《人形机器人安全:具身智能商业化的核心入场券》 人形机器人安全:具身智能商业化的核心入场券