我们造出来的东西开始像另一种活物,人类不再是周围唯一的智能。可转述里传得最广的是「只剩两年」,说这话的人自己讲的是「几年」。差一个字,落到你身上是还有几年弄明白谁来拿主意,还是明年就得定主次,两回事。
这话是辛顿 10 月 13 日在多伦多接受《卫报》专访讲的,腾讯新闻 10 月 15 日转述:我们正在创造外星生物,不再是周围唯一的智能存在,只有几年的时间来适应这一点。我核了字眼,原话是「几年」,不是「两年」。「两年左右」出自 10 月 19 日前后的中文公号和 Starmus 转述,属媒体披露口径的二次改写,转着转着成了辛顿原话。几年和两年,差的是你还来不来得及把规矩立起来。
辛顿把这事排在两场旧账后面:哥白尼让我们不再是宇宙中心,天主教会 360 年才向伽利略道歉;达尔文之后,他说堪萨斯州还有人至今没适应;现在第三次。他卡住的不是聪明不聪明,是给不给权利:一谈对它们负道德义务,听众就散了。他撂下一句:「我愿意自私一点,选择人类」,还说我们的关切权重得更高。黄仁勋不买账:10 月 22 日英伟达柏林会上,他说「当你说它将终结人类文明时,首先,这不是事实」,把这类话叫「捏造且廉价」的噱头,属媒体披露口径。辛顿也承认 10% 到 20% 的灭绝概率不是精算,给数字是说风险重。
两边争的都是它会不会失控,先到的是主次谁来定。要是哪天轮到它替我们拿主意,人就从使用者变成了被照顾的那个,再往后,可能只是它启动时的一段引导程序。
真到给这类东西定权利那天,你是赞成把对人的关切排在前面,还是两边一样重?人类进化新阶段 智能时代新思考 AI时代人类 智能时代的人 人类未来的意义 智能时代生存术
