比尔盖茨预言成真了!如果美国政府再不介入对美国AI行业的监管,谁也不知道后面还会闹出哪些妖蛾子!11月19日,欧盟委员会自己站出来承认:10月22日发现了一起网络攻击,用的是公开可获取的AI工具。
报销医药费,填考勤表,都是欧盟委员会职员每月要做的小事。今年10月下旬,这两样东西背后的系统,一起被人动了手脚。
动手的不是传统意义上的黑客大军,而是一款人人都能拿到的AI工具。11月19日,委员会发言人雷尼耶在布鲁塞尔确认了此事。这是欧盟首次公开承认,自己遭到借助AI的网络攻击。
时间线并不复杂。10月22日,委员会发现异常。26日初步调查后,确认是一次攻击。随后几个应用程序被临时下线,委员会还联系了欧洲数据保护监督机构。
到19日,大部分应用已经恢复,仍有一部分数字工具处于离线状态。受影响的有翻译和报销工具,以及放工资、考勤的数据库。
空白的地方比答案多。攻击者是谁,没有说。有没有人勒索,发言人说没听说。数据有没有丢,目前只能说,没发现波及全体职员的证据。有媒体称,系统中断长达10天,发言人没有证实。
线索里最耐人寻味的,是那把“刀”。雷尼耶说,AI辅助工具能用来找系统漏洞,也很容易被滥用。
欧盟的网络安全应急机构,11月初就发过警告。它提到的一款公开的AI漏洞检测工具,正被用在世界各地的攻击里。这种检测软件,本来是给系统做体检的,好比请锁匠上门,查查哪扇窗没关严。它一公开,坏人也能拿去,一夜之间把一座楼的窗子试个遍。
这次用的是不是那一款,委员会没有点明。
有媒体报道说,那款工具的开发者在10月把代码从网上撤了,可复制的版本早已传开。东西放出去,就收不回来了。
这家机构也不是头一回挨打。今年3月,一个黑客团伙侵入了委员会一个存放个人数据和邮件内容的亚马逊云服务账户,偷走了大量数据。七个多月里,同一家机构连着出了两回事。
把镜头拉回美国。9月27日,盖茨在美国全国广播公司的节目里谈AI,核心意思很明白:眼下最近的危险,不是机器自己造反,而是坏人拿AI去做网络攻击、诈骗和生物武器。
他还说,小团体借助AI,能做到过去只有大国才做得到的事,电网、医院、金融系统都可能成为目标。
当时美国国会有一项两党提案,想让AI公司在危险时能立刻关停服务。盖茨不反对这个“终止开关”,但认为光有它不够。企业得盯着复杂的AI模型,记录下究竟发生了什么,而且要由法律强制,不能全凭自觉。他说,没有人认为企业自我约束就足够。
他讲了一个原因:核弹、火箭这类危险技术,政府自己出钱研究,所以懂行。AI却是从民间企业里长出来的,政府里的专家很少。他希望特朗普把政府、企业和安全专家召集到一起,商量出办法。
回头看欧盟这件事,“记录发生了什么”恰好是眼下最缺的。谁干的,怎么进去的,AI到底出了多少力,现在都还是空白。
我认为,这件事最该看的,不是AI有多可怕,而是工具和规矩之间出了缺口。漏洞检测软件原本用来防守,一旦公开,进攻的人同样拿得到,开发者撤下代码也收不回来。这样的东西,一个紧急开关管不住,企业自觉也靠不住。盖茨讲的“强制”和“留记录”,正是冲着这个缺口去的。
在我看来,欧盟这次的处境很有代表性:攻击者不明,工具公开,受害的偏偏是出台规则最多的机构之一。规则写得再细,也得落到出事后查得清、追得到、有人担责上。美国是这批技术的主要出处,这个责任绕不开。
我还觉得,对普通人最实在的提醒是,机构的系统被攻破,个人信息就可能被牵连。单位和企业在更新、备份和应急上的投入,一点都省不得。至于监管怎么定,各国得坐下来商量,网络攻击是不看护照的。
