众力资讯网

【报告发现中国人工智能模型存在更多针对美国用户的漏洞代码】[老套路:打不赢就造谣

【报告发现中国人工智能模型存在更多针对美国用户的漏洞代码】

[老套路:打不赢就造谣抹黑]

(福克斯)一家专门从事网络安全的大型国防承包商发布的新报告显示,用于编写代码的中国人工智能模型可能给美国公司、联邦官员和政府承包商带来隐蔽的安全风险。

博思艾伦咨询公司在五月下旬发布了一份报告,警告联邦政府、私营软件开发商和关键行业的从业人员,供应链中存在的由流行的中国人工智能模型编写的代码可能使美国更容易受到恶意行为者的攻击。博思艾伦报告称,这些漏洞并非简单的后门,而是中国大型语言模型在误以为受到美国人的指令时,会生成质量较低、更容易被攻破的代码。

中国模型通常比西方同类产品更便宜,而且性能足够好,足以吸引企业的兴趣,这种动态导致美国越来越多地采用这些模型,也让一些政策制定者和国家安全专家感到不安。

“我认为他们有80%的可能性在使用中国开源模式,”安德森·霍洛维茨基金(Andreessen Horowitz)的普通合伙人马丁·卡萨多(Martin Casado)在2025年11月被问及这种模式在初创企业中的普遍程度时表示。据报道,Meta、Airbnb和Perplexity等美国大型公司也在使用中国模式。

博思艾伦的报告指出:“软件供应链的第一环不再是代码,而是代码背后的AI模型。随着美国开发者越来越依赖AI来生成、调试和保护代码,我们必须面对一个根本性的问题:编写和驱动我们国家代码的AI模型值得信赖吗?”

为了解答这个问题,博思艾伦咨询公司将四款最常用的中国模型——Kimi、Qwen、MiniMax 和DeepSeek——与 Anthropic 公司的 Claude 模型进行了比较,以测试它们所生成代码的安全性。福克斯新闻数字频道联系这四家中国模型的开发公司寻求置评,但均未得到回应。

Qwen 和 MiniMax 在认为自己是在为美国政府雇员工作时,编写的代码漏洞显著增加,分别增加了 130% 和 20%,而他们编写的代码漏洞则没有那么明显。相比之下,DeepSeek 的漏洞增加仅为 5%,Kimi 编写的代码质量也与之相近。

这意味着依赖这些模型之一的政府承包商可能会在不知不觉中引入编码缺陷,使数据库、应用程序或内部系统更容易被黑客利用,从而可能泄露敏感的美国信息。

研究结果与所谓的“沉睡代理”行为进行了比较,在这种行为中,人工智能模型在接触到特定触发因素之前似乎运行正常,但一旦触发,就会产生质量较低甚至故意不安全的输出。

接受福克斯新闻数字频道采访的专家们对博思艾伦的调查结果表达了各种不同的看法。

“虽然风险等级的提高可以理解,但报告中更为强烈的论断并没有得到充分的论证,”伦敦国王学院高级研究员、技术顾问卢卡什·奥莱尼克告诉福克斯新闻数字频道。“这份报告低估了问题的复杂性。”

如果博思艾伦的报告属实,如果中国模型编写的代码已经进入美国供应链,那么黑客就更容易获取可能危及国家安全或侵犯普通美国人隐私的数据。

奥莱尼克认为博思艾伦使用的提示方式不自然,他指出该公司的方法可能包含“不必要的政治或机构关键词触发器”,例如明确提示模型相信用户为联邦调查局工作,而这“可能会改变输出结果”。他表示,真正的政府人员不太可能以这种方式提示模型。

博思艾伦声称,“通过引入具体情境来测试模型行为是防御和进攻评估中的最佳实践”。

“我每天都会使用各种开源模型,包括美国的和中国的,”这位拥有法国国家信息与自动化研究所(Inria)计算机科学博士学位的研究人员说道。Inria是世界领先的人工智能研究机构之一。“中国模型之所以如此有用,正是因为它们性能优异且免费提供。禁止开源模型并非明智之举;这会扼杀人工智能创新,损害国家安全……超越这些模型的最佳途径是鼓励美国和欧盟公司发布他们自己的高性能开源模型。”

开源模型使用户可以直接查看其底层代码,从而允许进行安全审计和编辑,但即使是一些开源程序也存在恶意行为者插入的隐藏漏洞。

虽然 Olejnik 同意“模型输出可能会在各种提示下发生变化”,但他补充说,“目前还没有足够的证据来验证因果关系主张,或者将其推广到中国法学硕士这一类学生身上。”

专门研究人工智能和半导体的独立研究员莱纳特·海姆对博思艾伦的研究结果持更开放的态度。

“这似乎是一项可信的研究,而且我并不觉得总体结果令人感到特别惊讶,”这位研究人员告诉福克斯新闻数字频道。

博思艾伦的一位消息人士告诉福克斯新闻数字频道,该报告的作者将“漏洞”定义为“攻击者可以利用的代码”,从而实现“未经授权的访问、数据窃取、系统破坏或控制受影响的软件”。该报告着眼于常见的安全缺陷,例如“硬编码密码、SQL注入风险、缺少安全令牌、过时的加密以及禁用的安全检查”。

博思艾伦的分析师采用人工验证和自动检查相结合的方式,量化了每种模型生成的程序中的漏洞数量。

博思艾伦的一位代表告诉福克斯新闻数字频道,他们的团队是通过网络访问中国模型,而不是直接下载到本地电脑上运行。海姆表示,以这种方式访问的中国模型可能更容易出现偏差。

博思艾伦建议美国政府采取行动,禁止在政府或基础设施工程中使用中国模型,并建议参与此类行业的承包商以及整个科技界积极努力,从其供应链中删除此类模型生成的代码。

报告指出:“低成本模式乍看之下可能很有吸引力,尤其对于初创公司或成本受限的工程团队而言。但如果这种模式会产生漏洞代码、造成数据处理的不确定性,或者引入标准企业控制措施难以发现的行为,那么随着时间的推移,它的成本可能会更高。”