AI进入智能体时代,可是目前对智能体的安全关注还不够。
大模型要真正干活,光有大脑还不够,还得有手有脚。但当智能体越来越能干,能够自主拆解任务、调用工具,甚至连续执行数百步操作时,一个问题也随之而来:能力越强的智能体,究竟该如何管理和约束?
我目前相信一个思路:以模治模。 让安全智能体成为其他智能体的守护者,在风险出现时及时识别、干预和处置。
中国计算机大会开幕当天上午,首场大会论坛就聚焦这一议题——《智能体的安全挑战》。论坛由任奎教授主持,来自公安部第一研究所、清华大学、上海人工智能实验室、蚂蚁集团和华为的安全专家将共同探讨这一前沿问题。
当智能体加速走向真实应用,安全不再是附加题,而是必答题。这场论坛,值得关注。
