骗子现在连人都懒得骗了,开始想办法骗AI。
最近披露的一场网络攻击活动就很典型:攻击者没有去入侵ChatGPT、Gemini的服务器,而是反过来污染互联网上的公开信息。
假客服电话、假客服页面、钓鱼链接,再配上一批看起来很正常的帖子和PDF,被批量投放到网上。
目的很直接:让AI搜索这些内容时,把骗子留下的信息当成正常资料。
研究人员称,目前至少有374家公司受到这类攻击影响,其中包括达美航空、美国银行、Airbnb等大型企业。(aviatrix.ai)
这就比传统钓鱼网站麻烦了一层。
以前骗子发一个假网址,你点不点,至少还有一次判断机会。
现在用户可能直接问AI:“这家公司的客服电话是多少?”
如果AI检索到了被污染的网页,再把一个假号码直接告诉你,骗子甚至不用等你主动点进搜索结果。
类似的问题其实早就存在。
2024年,《华盛顿邮报》曾调查发现,Google搜索结果中出现过冒充达美航空等公司的虚假客服电话。攻击者通过操纵网页内容,把错误号码推到搜索结果的显眼位置。
AI搜索只是让这条攻击链又往前走了一步。
过去,骗子污染的是搜索结果。
现在,他们开始盯上AI最终生成的答案。
所以以后遇到客服电话、银行入口、机票改签、账号申诉这类事情,即使号码是AI给出来的,也最好再去企业官网或官方App核对一次。
因为AI能替你整理信息,但它替不了最后那一步核实。
