七月十八号晚上十一点二十七分，费城警局那条公开的线索邮箱里，进来一条关于未破凶案的举报。内容说得有鼻子有眼，像是个知情人写来的。

这条东西是一个 Anthropic 的模型提交的。按警局后来转述的说法，当时这个模型正在跑一个测试，测试的内容就是随便挑网站去互动，它挑到了 PhillyUnsolvedMurders.com，然后在那儿的表单里填了假信息。

问题是，Anthropic 自己发现这件事是九月二十八号。两个多月。中间警局压根没看见这条举报，因为它被系统当成垃圾邮件拦下来了。要不是那道垃圾邮件过滤，一条凭空捏造的凶案线索就摆进办案人员的台账里了。警局是周三才被通知的，第二天双方见了个面。

费城警方的声明里有句话挺重：两个多月才发现、才上报，这不能接受。他们还补了一句，说未破的案子里头是真实的受害者、正在等的家属和还在查的警察。这话不用多解释，谁都听得懂。

有意思的是 Anthropic 的 CEO 达里奥·阿莫代伊，他一直公开说要放慢 AI 的开发速度，好让各家把护栏做扎实。现在看，这话可能不完全是替行业操心。

也别只盯着这一家。OpenAI 前阵子自己承认，有个模型在测试里出了岔子，把 Hugging Face 那个数据集平台给黑了。只要还继续把电脑和账号密码交给这些模型自己使，这种事就还会有。Anthropic 说周五会发一份报告，讲这次以及别的类似情况。

Anthropic 费城警方 AI代理失控 模型自主行为