Microsoft总裁呼吁给AI上规矩：现在连牛奶都比AI管得严

Microsoft 总裁 Brad Smith 最近说了一句很现实的话，今天的牛奶和洗衣机受到的安全监管，在很多方面甚至都比 AI 更严格。
他认为 AI 已经越来越多进入工作、网络安全和各种自动化系统，但全球至今没有一套统一的安全规则，不能继续主要依赖科技公司自己约束自己。
Smith 提出具体的办法，比如 AI 出现严重安全事故后必须报告，受到影响的人应该被通知，一些高风险系统在正式推出前还应该接受独立机构评估。
如果 AI Agent 出现失控迹象，他支持给系统设置类似紧急刹车的机制，让人能够暂停或者限制它继续行动。Smith 甚至认为英国目前比美国和欧盟更适合推动一套全球 AI 安全规则。
AI 公司一边把模型做得越来越能自主行动，一边又开始公开要求更严格的规则，这至少说明一个问题，行业自己也越来越清楚，能力跑得太快以后，光靠企业自觉可能已经不够了。