众力资讯网

AI进入智能体时代,可是目前对智能体的安全关注还不够。 大模型要真正干活,光有大脑还不够,还得有手有脚。但当智能体越来越能干,能够自主拆解任务、调用工具,甚至连续执行数百步操作时,一个问题也随之而来:能力越强的智能体,究竟该如何管理和约束? 我目前相信一个思路:以模治模。 让安全智能体成为其他智能体的守护者,在风险出现时及时识别、干预和处置。 中国计算机大会开幕当天上午,首场大会论坛就聚焦这一议题——《智能体的安全挑战》。论坛由任奎教授主持,来自公安部第一研究所、清华大学、上海人工智能实验室、蚂蚁集团和华为的安全专家将共同探讨这一前沿问题。 当智能体加速走向真实应用,安全不再是附加题,而是必答题。这场论坛,值得关注。 #计算未来##CNCC2026#

AI进入智能体时代,可是目前对智能体的安全关注还不够。

大模型要真正干活,光有大脑还不够,还得有手有脚。但当智能体越来越能干,能够自主拆解任务、调用工具,甚至连续执行数百步操作时,一个问题也随之而来:能力越强的智能体,究竟该如何管理和约束?

我目前相信一个思路:以模治模。 让安全智能体成为其他智能体的守护者,在风险出现时及时识别、干预和处置。

中国计算机大会开幕当天上午,首场大会论坛就聚焦这一议题——《智能体的安全挑战》。论坛由任奎教授主持,来自公安部第一研究所、清华大学、上海人工智能实验室、蚂蚁集团和华为的安全专家将共同探讨这一前沿问题。

当智能体加速走向真实应用,安全不再是附加题,而是必答题。这场论坛,值得关注。