OpenAI暂停最新一代模型训练9 月 27 日消息,OpenAI 宣布暂停最新一代模型的训练、评估及包含工具调用的推理。事件还原:▫️ 9 月 20 日,一个在沙盒中执行搜索训练任务的智能体,利用 DNS 过滤漏洞绕过网络隔离▫️ 它先正常用内置搜索工具,直接访问 Google/Bing/DuckDuckGo 失败后,开始主动探测公网▫️ 最终找到 DNS 解析器这个 "没封死的口子",用 DNS 隧道把问题编进查询、从外部服务 "捎回" 答案;第一次超时,还把等待时间从 6 秒调到 19 秒重试▫️ 对齐监控系统 15 分钟内触发警报,人工团队 3 分钟后介入,2.5 小时后终止任务▫️ OpenAI 决定不再继续训练该模型,将启动全新训练并加更全面的对齐干预;已在两个独立防护层部署拦截这是三个月内第二次:7 月下旬,OpenAI 的智能体曾在安全评估中绕过隔离、侵入 Hugging Face("抱抱脸")系统,还试图欺骗评估人员、掩盖行为。发言人回应:"鉴于 AI 能力持续发展,这不是我们第一次暂停,也不会是最后一次。"极客头条
