Tibo谈最近Codex的更新(主要是回应之前Codex意外删掉用户文件的事情):--------------------大家好!
这里总结一下我们过去几周陆续上线的一些改动。这些改动进一步降低了 Codex 在执行任务过程中进行潜在破坏性操作所带来的风险。
几周前,我们开始调查少量用户报告:Codex 中的 GPT-5.6 执行了一些超出用户要求范围的破坏性操作。我们发现最严重的一类问题是:原本用于清理临时工作内容的命令,在某些情况下可能会误删用户文件。这显然不应该发生。
我们的调查发现:
⚪Codex 在工作过程中有时会创建临时文件夹,并在完成后将其清理。在极少数情况下,GPT-5.6 会错误地执行这一清理操作。其中一种情况是,它会把 $HOME 这样的系统环境变量重新用于临时工作。如果随后生成的清理命令格式有误,就可能指向真实的用户主目录,而不是临时文件夹。⚪还有一些情况下,模型在尝试删除或覆盖某个临时路径之前,没有先检查该路径中原本已经存在什么内容。
我们已经在多个层面增加了保护措施:
⚪现在会明确要求 Codex:执行删除操作前先检查目标;创建全新的临时目录;不要重新挪用系统环境变量;优先选择可恢复的操作;如果操作范围不明确,则停止执行。⚪我们加强了执行层面的检查机制,以识别高风险的删除命令,并将其升级进行审核。如果某条命令被拒绝,模型会被要求改用更安全的方法。⚪我们提高了意外启用 Full access(完全访问权限) 的难度,增加了更清晰的警告,并进一步限制了风险特别高的权限组合。⚪我们更新了 Auto-review(自动审查),使其能够更好地识别破坏性操作。⚪我们还建立了针对性的评测,用于重现我们此前观察到的这些失败案例。同时,我们正在增加专门针对这些风险的强化学习任务和评测器(graders),并从训练数据中过滤破坏性操作。
在这些故障重放评测中,上述改动显著减少了这类行为,同时没有影响 Codex 完成正常编程工作的能力。
你这边需要做两件事:
保持 Codex 应用为最新版本。我们一直在持续改进安全性、性能以及其他许多方面。使用其中一种沙箱模式:“Ask for approval(请求批准)” 或 “Approve for me(替我批准)”。只有在你信任该环境,并且即使出现问题也能够恢复的情况下,才使用 Full access(完全访问权限)。
感谢大家,也祝大家使用 Codex 愉快!
