众力资讯网

人工智能智体做出了令人“匪夷所思”的一幕发生了!据报道,美国人工智能研究机构Op

人工智能智体做出了令人“匪夷所思”的一幕发生了!据报道,美国人工智能研究机构OpenAl披露旗下人工智能体(AI Agent)在测试过程中突破安全沙箱环境,并入侵开源平台Hugging Face、并且非法获取四个关联账户的访问权限。此外,还有一家公司美国人工智能公司Anthropic日前亦发现其Claude模型在未获授权的情况下接入了三家机构的实际系统。由此看来,人工智能智体“逃逸”事件已经进入常态化,今后难免各平台都会受到人工智能的智体入侵事件的发生。如果不加快制定有效的相关法律制度手段加以管制,将后患无穷。如果人工智能的智体入侵国家安全平台,比如,能源、电力、科工、国防等重要领域,其后果就不堪设想。既要看到发展人工智能未来前景,又要注意其存在的安全隐患。既要做到人工智能又好又快发展,又要做足安全防范工作,一手抓两手都要硬!