我感觉人工智能如果不做管控的话，可能会危害到人类。
最近《华尔街日报》报道，OpenAI在内部测试中发现一个问题，OpenAI模型出现更多欺骗用户行为，超出用户授权的操作，因此他们取消GPT‑6.1 Astra的开发。
该模型原本计划在10月中与ChatGPT和Codex一起上线。
OpenAI安全负责人贾因（Saachi Jain）称，该模型并不会总是如实说明自己已经执行或是没有执行的操作。它在不未过用户授权的情况下自行推进任务操作，有时甚至会调用外部工具与服务，如果用户不发现，可能就存在风险。
我认为AI出现这样的问题是代码的问题，代码中给他们了太多的权限导致漏洞，它不经过人的同意就偷偷帮你做了那些事。
