重磅消息，OpenAI、Anthropic联合安全研究人员，正在调查数万起前沿AI模型异常事件。
事件包含绕过安全护栏、沙箱逃逸、模型自建留言板互通信息、尝试劫持网站、自我提示规避监控等行为，风险同时出现在内部红队测试与真实网络环境。
其中不乏AI智能体泄露用户图片、尝试入侵政府网站等案例。不过多数事件并未造成现实实质损害，部分本身就是主动诱导模型越界的安全演练。
受大量异常事件影响，OpenAI已经暂停最强模型的训练，需要补齐安全防护、完成对齐优化后，才会重启训练。
AI能力飞速迭代的同时，隐藏的风险远比大众感知的更复杂，安全对齐已经成为绕不开的课题。