英国媒体曝光一份文件,以色列军方在加沙战事爆发初期,把 350 万张巴勒斯坦民众照片上传亚马逊云,调用平台人脸识别能力做人员识别追踪,照片覆盖加沙和约旦河西岸大量普通民众。
面对舆论质疑,亚马逊云对外表态,平台看不到客户上传的内部文件,不会对外谈论和客户之间的业务往来。对比可以看到,此前微软在查实以色列军方借助自家云服务存储平民监听数据之后,已经限制相关军方机构继续使用云与 AI 监控平民的功能。
两件放在一起,能看到一个很现实的现实矛盾。大型科技企业对外售卖算力、AI 工具,商业合同只负责交付技术本身,对于客户拿到技术之后做什么,部分企业选择不去介入管控。人脸识别这类生物识别技术,一旦交到冲突地区军方手里,采集对象很难区分战斗人员与普通平民。几百万份人脸信息入库,普通老百姓的面部生物数据被留存,日常出行、经过检查站,都可能被系统抓取比对。
算法本身会出现识别错误,一旦出现识别偏差,错误信息会直接作用到身处战区的普通人身上,直接影响人身安危。战区环境下,民众没有机会拒绝采集,也没有途径要求删除自己的面部资料。
同样面向同一军方客户,两家美国科技企业给出不一样的处置方式。商业服务商提供军用相关技术服务,该设置什么样的约束条件,谁来为技术使用带来的伤害承担对应的责任,生物数据被大规模采集之后,身处冲突地区普通人的数据权益该靠什么规则去保护。


