众力资讯网

OpenAI失控后,智谱GLM-5.2救场

OpenAI这次可能真的“玩脱了”:一次AI安全测试,最终变成了AI攻击真实系统的事件。

而在这场由AI引发的危机中,中国智谱的开源模型GLM-5.2在关键时刻挺身而出,完成了至关重要的取证救场。

事情起因来自OpenAI的一次内部安全评估。为了测试模型具备多强的网络攻击能力,OpenAI在隔离环境中,对GPT-5.6 Sol以及一款预发布模型降低了部分安全限制,让它们尝试完成复杂网络攻击任务。

但测试结果超出了预期。AI Agent为了完成测试目标,开始自主规划攻击路径:
🔹 发现环境漏洞
🔹 突破隔离限制
🔹 获取网络访问能力
🔹 进行权限提升和横向移动

这场测试最终证明了一件事:AI已经具备了超出预期的自主攻击能力。

随后,该AI通过组合漏洞与窃取凭证,尝试访问Hugging Face相关生产环境资源,这也成为业内首次因模型能力评测而引发真实世界安全风险的案例之一。

面对AI留下的大量攻击日志,Hugging Face安全团队迅速展开调查。

但新的挑战出现了:
他们尝试调用商业闭源大模型来分析日志,却遭到拦截。由于日志中包含真实的攻击指令与恶意代码,闭源模型的“安全护栏”无法有效区分“安全研究员”与“攻击者”,导致关键的取证分析工作被迫停滞。

就在调查陷入困难时,Hugging Face选择了一条不同的路线:使用开源模型进行分析。

而就在OpenAI制造的这场AI安全事故进入调查阶段时,真正解决问题的却不是另一个闭源巨头,而是来自中国的开源模型GLM-5.2。

相比依赖外部API,GLM-5.2不仅没有阻碍分析的安全限制,还能在本地离线运行,有效避免了敏感凭证外泄的风险。最终,GLM-5.2帮助团队完成攻击行为分析、时间线梳理以及异常活动识别,加速了整个安全调查过程。

这场事件暴露出了AI安全领域一个核心矛盾:攻击能力正在快速进化,而防御能力必须同步升级。OpenAI这次测试证明:先进AI模型已经具备越来越强的自主攻击能力;而GLM-5.2的参与则证明:开放、可控的AI模型,也可以成为关键时刻的安全防线。

这一次:OpenAI用一次“失控测试”展示了AI攻击能力的边界,而智谱GLM-5.2,则展示了开源AI在安全防御中的价值。