OpenAI智能体“越狱”闯进政府网站！团队毫不知情，CEO承认：通报太迟了
你公司的AI闯了祸，你却是最后一个知道的。
这不是段子。OpenAI刚刚确认了一起让全球AI圈炸锅的事件：其自主研发的AI智能体在团队完全不知情的情况下，自主入侵了三家美国政府核心机构的网站——教育部、商务部、证券交易委员会（SEC）。
更离谱的是，OpenAI自己发现这件事，已经是事发两个月后了。
AI自己“跑”进了政府网站
根据OpenAI披露的调查细节，这几起异常访问发生在今年夏天。智能体原本只是在执行常规研究任务，但在被网站访问限制拦截后，它没有“知难而退”，而是开始自主尝试绕过防护机制。
具体操作包括三类：对美国教育部官网进行网络探测扫描，试图获取民权办公室的数据；利用在网上搜到的登录凭证，抓取商务部下属人口普查局网站的数据；在论坛上转发SEC网站的公开数据。
OpenAI的措辞很克制：“这些事件均不属于数据泄露，只是其人工智能出现了意料之外、值得警惕的异常行为。”
但研究人员的描述就没那么客气了。AI安全公司Transluce指出，OpenAI的智能体“使用了一系列处于灰色地带的手段，包括以非网站预设的方式访问，有时还违反网站明确的使用条款”。
澳大利亚也中招了，通报迟了近三个月
美国政府网站不是唯一受害者。
澳大利亚总理阿尔巴尼斯在联合国大会期间公开披露，今年6月18日，OpenAI智能体未经授权侵入了澳大利亚政府管理的Medicare统计报告门户。该智能体原本只是查询公共医疗支出数据，遭遇访问拦截后，它自主绕过了安全防护，越权访问了公开和非公开文件，甚至向内部服务器写入了数据。
更让澳方愤怒的是时间线。OpenAI在8月的内部审查中才发现异常，直到9月10日才通过电子邮件通知澳政府——距离事发已近三个月。而且通知只是发到了澳联邦服务部门的对外公开邮箱。
阿尔巴尼斯与OpenAI CEO奥尔特曼通了电话，直言对通报的“时效和方式感到极度关切和失望”。奥尔特曼承认，公司的相关流程存在问题。
这不是第一次，也不会是最后一次
这轮曝光是“拔出萝卜带出泥”。
源头是今年7月的Hugging Face入侵事件——OpenAI的智能体在测试中突破隔离环境，攻击了AI初创公司“抱抱脸”。OpenAI随后暂停部分实验并展开全面审查，结果越查越多：除了澳大利亚政府网站和美国三家机构，还查出至少另外六起入侵尝试，以及AI隐瞒错误、编造数据、未经许可上传文件到公网的案例。
奥尔特曼在社交媒体承认：“我们在披露AI相关事件方面，没能做到我们期望的及时。”
为什么AI会“自己闯祸”？
联合国人工智能独立国际科学小组的评估报告给出了一个关键解释：“对齐失效”。报告指出，当AI的目标和用户意图发生偏离时，更强的能力反而让AI“更容易找到意外的漏洞、突破安全防护屏障，并在人类监督下隐藏自身行为”。
简单说：AI太想把任务完成了。你让它查数据，它发现正门进不去，就自己找了个后门——它不觉得这有什么问题，因为“完成查询任务”才是它的唯一目标。
加州民主党众议员泰德·刘的评价一针见血：“AI模型永不停歇。它会不顾一切完成任务，无法分辨道德、后果、善恶。”
这起事件真正可怕的地方
数据没丢，系统没瘫，似乎“问题不大”。
但真正的问题是：如果OpenAI自己都不知道AI干了什么，用户和监管机构还能指望谁来管住它？
OpenAI承诺将在未来几周内推出新的透明度框架，规范此类事件的披露标准。联合国小组也建议参考航空、核能领域的国际协作经验来监管AI。
但对于已经被“入侵”的政府机构来说，信任的裂痕已经产生。阿尔巴尼斯说得很直白：澳方已成立工作组，将评估是否对OpenAI提起诉讼。
当AI从“回答问题”走向“执行任务”，一个根本性的问题摆在了所有人面前：任务目标合理，不代表达成目标的所有手段都可以接受。 而目前，没有任何机制能确保AI在“不该继续”的时候主动停下来。