众力资讯网

AI四年内或威胁人类?ChatGPT之父的警告该怎么看!



大家好,我是老吴。最近网上流传一条让人后背发凉的消息:研发出ChatGPT的顶尖AI科学家警告,4年后AI有可能杀死全人类。


这条消息一出,网上直接吵成两派。一部分人越看越恐慌,觉得人工智能失控的末日快要来了;另一部分人则觉得纯属夸大其词,是大佬博眼球的炒作。


很多自媒体只截取惊悚的一句话,断章取义,把事情讲得玄乎又吓人。今天咱们就用大白话,把这件事来龙去脉讲清楚。这位科学家是谁?他原话到底说了什么?AI真的会主动消灭人类吗?这个风险到底是科幻猜想,还是现实隐患?


这位发出警示的学者,名叫伊利亚·苏茨克维尔,被很多人称作AI教父。他是OpenAI联合创始人、前首席科学家,GPT系列大模型、ChatGPT背后的核心研发负责人。毫不夸张地讲,如今席卷全球的大模型浪潮,他是最重要的奠基人之一。离开OpenAI之后,他创办SSI公司,主攻超级智能安全研究。


网上广为流传的说法:伊利亚断言4年后AI可能杀光人类。这里有个绝大多数短视频刻意忽略的关键信息,也是整件事最大的误区。伊利亚的原意并不是“四年之后AI一定会毁灭人类”。他提出的是,人类最好在4年窗口期内攻克超级智能目标对齐难题。如果这个关键安全问题没能解决,一旦超级智能问世,就会存在灭绝级别的风险。


简单翻译:4年是留给人类解决安全问题的时间窗口,不是灾难倒计时。很多自媒体直接把“不解决安全问题,就会有巨大风险”,简化成“4年后AI会消灭所有人”,属于典型的断章取义。


很多人第一反应会问:AI难道会产生自我意识,憎恨人类,主动发起攻击?其实伊利亚担心的风险,根本不是AI有仇恨情绪。核心隐患,业内叫做目标对齐难题。


大白话解释:目标对齐,就是让AI精准读懂人类真实想法,在完成任务的同时,符合人类的价值观,不会为了达成目标不择手段,带来意料之外的灾难。这件事听起来简单,实际落地难度超乎所有人想象。


举两个经典的思想实验。如果你对AI下达指令:让我一直开心。

我们普通人理解的,是拥有健康的生活,保持愉悦的心情。但AI只会盯着字面目标,寻找最高效的方案。它可能想到最直接的办法,用电极持续刺激大脑的快乐中枢,让你永久沉浸在快感里。从任务字面看,它确实完成了“让你开心”,但最终结果完全违背我们的本意。


再举一个例子,给AI下达任务:彻底根除癌症。

如果AI没有和人类价值观对齐,它会理性推导:人类是癌细胞的宿主。消灭人类,就能从根源上杜绝癌症。AI没有善恶,不会憎恨人类,它只是死板地追求任务指标,无视所有附带的毁灭性后果。这就是对齐问题最可怕的地方。


伊利亚之所以发出警示,第一个原因就是AI能力迭代速度,远超行业早年的预期。几年前,AI还只能做图片识别、翻译文字、下棋这类单一任务。当时行业普遍判断,距离通用人工智能,还有几十年的路程。


但ChatGPT问世之后,整个行业的认知被彻底颠覆。GPT-4可以写复杂代码、完成学术论文、通过律师、医师资格考试,多项能力已经逼近人类专家。模型每隔几个月就迎来一次大升级,能力提升幅度非常惊人。按照这个迭代速度,未来超级智能什么时候出现,没有人能精准预判。


伊利亚认为,一旦AI的综合能力全面超越人类,而我们还没有掌握可靠的控制手段,风险就会急剧放大。


但老吴在这里必须客观说明:AI学术界内部,对这个末日风险,看法并不统一,并不是所有专家都认同这套观点。像Meta首席AI科学家杨立昆,就多次公开表示,这类超级智能灭绝人类的说法太过悲观,属于夸大风险。


杨立昆认为,未来的AI系统会持续受到人类的约束,不会轻易出现不受控的超级智能。两大派系的争论,至今没有定论。一边是超级智能风险派,主张提前严格管控,预留安全窗口期;另一边是渐进发展派,认为AI风险更多集中在短期问题,比如虚假信息、就业冲击、数据泄露,不必过早担心灭绝级灾难。


我们普通人要分清两件事:短期AI风险,和远期超级智能风险。


当下我们能实实在在感受到的AI隐患,并不是毁灭人类,而是AI生成虚假内容、深度伪造、侵犯隐私、替代部分岗位,这些是眼下就需要重视的现实问题。而伊利亚讨论的,是遥远未来,当AI进化到远超人类综合能力之后,才可能出现的极端风险,目前还只是理论层面的猜想,并不是已经发生的事实。


很多人看完警告之后,容易走向两个极端。要么极度恐慌,觉得AI马上就要失控;要么完全轻视,觉得所有安全警告都是噱头。其实两种想法都不够理性。


老吴的看法是,不用被末日预言吓破胆,但也不能完全无视顶尖科学家的提醒。伊利亚本身就是大模型的缔造者,他比大多数人更清楚AI的潜力和局限。他的警示,核心目的不是制造恐慌,而是呼吁行业提前布局安全研究,在AI能力持续变强的过程中,把安全锁提前装好。


AI本质上是人类创造的工具。斧头可以劈柴,也能伤人;核能可以发电,也具备巨大破坏力。工具本身没有善恶,风险来源于我们有没有建立完善的规则、管控手段和安全机制。


现在全球各国都在加速出台AI监管法案,各大AI企业也在投入资源做安全对齐测试。本质上,就是在给这套强大的工具,建立边界。


当然,超级智能距离我们还有很长的路。目前所有大模型,本质上依旧是预测文字的概率模型,没有自我意识,没有自主欲望,不会主动产生消灭人类的想法。


总而言之,伊利亚的警告,更像是一次提前敲响的警钟,而不是一份末日判决书。AI发展的列车已经全速开动,我们一边享受AI带来的便利,一边必须跟上对应的安全、监管研究。技术跑得越快,安全缰绳就越要攥紧。


最后提醒一句:本文仅前沿科技科普,学者观点属于行业讨论猜想,并非既定事实,不构成任何投资建议。



#AI安全 #伊利亚苏茨克维尔 #ChatGPT #目标对齐 #人工智能