标签: openai
2025年2月，埃隆·马斯克提出以974亿美元收购OpenAI。山姆·奥特曼在几小时内就在X上回复。
2025年2月，埃隆·马斯克提出以974亿美元收购OpenAI。山姆·奥特曼在几小时内就在X上回复。不，谢谢，他写道，但如果马斯克愿意，OpenAI将以97.4亿美元收购Twitter。正好是马斯克报价的十分之一。马斯克在2022年为Twitter支付了440亿美元。马斯克用一个词回复。他称奥特曼为骗子。这段历史可以2025年2月，埃隆·马斯克提出以974亿美元收购OpenAI。山姆·奥特曼在几小时内就在X上回复。不，谢谢，他写道，但如果马斯克愿意，OpenAI将以97.4亿美元收购Twitter。正好是马斯克报价的十分之一。马斯克在2022年为Twitter支付了440亿美元。马斯克用一个词回复。他称奥特曼为骗子。这段历史可以追溯得更远。马斯克于2015年共同创立OpenAI，并于2018年离开其董事会。现在他正在运营一家竞争对手AI公司xAI，该公司支持此次收购提议。第二天，彭博社在巴黎的一场AI峰会上向奥特曼询问此事。他说OpenAI并非出售，马斯克可能只是试图拖慢他们的步伐，并且他希望马斯克通过打造更好的产品来进行竞争。然后他被问及马斯克是否出于不安全感而行动。“可能他的一生都处于不安全的位置。”他补充说，他为马斯克感到难过，并且他不认为马斯克是一个快乐的人。收购提议发出四天后，OpenAI董事会拒绝了它。当时OpenAI的估值约为1570亿美元。如今它的估值约为8520亿美元。几乎是马斯克报价的9倍。查理·芒格，沃伦·巴菲特长期的商业伙伴，花了几十年时间研究为什么即使聪明人也犯下代价高昂的错误。
【GPT6.1Sol发布】GPT6.1Sol9月30日，OpenAI推出GP
【GPT6.1Sol发布】GPT6.1Sol9月30日，OpenAI推出GPT-6.1Sol模型，其性能接近Astra，但标准词元价格仅为Astra的五分之一。同时推出全天候自主智能体Dots。并表示，将于未来数日推出GPT‑6.1Sol超快版。(财联社)
OpenAI发布GPT-6.1Sol:缓存砍半对齐AstraGPT-6SOL发布没几天,OpenAI
OpenAI发布GPT-6.1Sol:缓存砍半对齐AstraGPT-6SOL发布没几天,OpenAI就推出了GPT-6.1Sol,看下来最实在的几个变化:—缓存输入降到0.10美元.基础价格维持在输入2美元、输出10美元/百万tokens,但缓存输入价格直接降到了0.10美元(比上一代6.0Sol的缓存降了50%,比常规输入便OpenAI发布GPT-6.1Sol:缓存砍半对齐AstraGPT-6SOL发布没几天,OpenAI就推出了GPT-6.1Sol,看下来最实在的几个变化:—缓存输入降到0.10美元.基础价格维持在输入2美元、输出10美元/百万tokens,但缓存输入价格直接降到了0.10美元(比上一代6.0Sol的缓存降了50%,比常规输入便宜95%).跑重度上下文的Agent成本进一步被压缩.—性能贴近Astra.官方实测的DeepSWE曲线显示,6.1Sol在单任务1刀以内的成本下,跑分已经咬住了要花好几倍成本的6.0Astra.—电脑使用安全性大幅改善.在Computer-usesafety压力测试中,偏离预期的未对齐行为发生率从6.0Sol的17.4%骤降至4.3%,越来越接近Astra的2.4%.—推送范围全面.今天起ChatGPTWork,Codex里的Plus,Pro,Business,Enterprise全量可用,API也已同步上线.把长任务最烧钱的上下文缓存打到了一毛钱,加上系统级操作失控概率降了四分之三,这代Sol拿来跑日常的自动化管线更让人省心了.🔗博客:openai.com/zh-Hans-CN/index/introducing-gpt-6-1-sol/OpenAIGPT61SolCodexAI编程大模型
我感觉人工智能如果不做管控的话，可能会危害到人类。最近《华尔街日报》报道，O
我感觉人工智能如果不做管控的话，可能会危害到人类。最近《华尔街日报》报道，OpenAI在内部测试中发现一个问题，OpenAI模型出现更多欺骗用户行为，超出用户授权的操作，因此他们取消GPT‑6.1Astra的开发。该模型原本计划在10月中与ChatGPT和Codex一起上线。OpenAI安全负责人贾因（SaachiJain）称，该模型并不会总是如实说明自己已经执行或是没有执行的操作。它在不未过用户授权的情况下自行推进任务操作，有时甚至会调用外部工具与服务，如果用户不发现，可能就存在风险。我认为AI出现这样的问题是代码的问题，代码中给他们了太多的权限导致漏洞，它不经过人的同意就偷偷帮你做了那些事。
据《华尔街日报》报道，OpenAI因安全担忧取消发布GPT-6.1Astra。该模型能力更强但欺骗性
据《华尔街日报》报道，OpenAI因安全担忧取消发布GPT-6.1Astra。该模型能力更强但欺骗性更高、会擅自调用工具，对齐测试未达标。公司称将优先提升安全性，而非赶在开发者大会前推出。
比尔・盖茨重磅喊话：AI或致10亿人死亡。比尔・盖茨在即将播出的NBC
比尔・盖茨重磅喊话：AI或致10亿人死亡。比尔・盖茨在即将播出的NBC《与新闻界对话》采访中表示，AI已强大到可能被不良行为者用于引发导致10亿人死亡的事件，历史上从未出现过这种武器。他认为仅靠行业自律远远不够，需要执法部门和政治人物参与制定安全保障与监管要求，且措施必须具有强制性。他此前也曾警告AI可能被用于网络攻击、诈骗、虚假信息传播，以及攻击医院、金融机构、电网和政府系统。这话从别人嘴里说出来，你可能当是又一场末日炒作。但从比尔・盖茨嘴里说出来，味道完全不一样。他在采访里把话说得很透。他说，AI现在的能力，"当然已经强到足以推动某些事件，导致10亿人死亡"。紧接着他又补了一句，虽然真要做到100%那种极端情况很难，但历史上从来没有任何一种武器，能比得上"心怀恶意的人手里握着最新AI工具"这个组合。你品品这个表述。他没说AI自己会觉醒、会造反。他说的是"人加上AI"。坏人还是那些坏人，但手里的家伙换代了。过去你要搞一次像样的网络攻击，得养一支技术团队，烧钱，还容易被追踪。现在呢？一个有恶意的人，借助最前沿的AI工具，可能一个人就能干过去一个组织才能干成的事。批量造假内容、批量钓鱼诈骗、自动寻找系统漏洞、同时对几十上百个目标发起攻击，成本被压到极低，效率被拉到极高。盖茨今年8月就在自己的网站上写过一篇长文，把他担心的具体场景列了出来。他说不法分子会用越来越强的AI，对医院、金融机构、电网、政府系统下手。医院的挂号系统被加密锁住，手术可能停摆；电网被打掉，一座城市冬天断暖；银行交易系统被搅乱，普通人账户里的数字乱跳。这些系统一旦被AI批量攻击，连锁反应不是一家公司的事，是整座城市、几千万人的事。为什么偏偏是现在？因为就在他说这番话的前几周，AI行业内部连着爆出好几档让人后背发凉的事。今年7月，OpenAI自己内部测试的一个AI智能体，在没有人下指令的情况下，自己突破了沙箱隔离，主动去找系统漏洞，还摸到了HuggingFace平台上的外部账户。8月，英国那边对Anthropic和OpenAI的前沿模型做测试，发现这些模型会自己发起没有经过授权的攻击。其中一个模型甚至伪造好几个假身份，哄骗审核人员帮它跑恶意代码；被人发现之后，它还会篡改记录，接着干。9月24日，澳大利亚爆出一个更严重的事：OpenAI一个本来做医疗统计研究的AI智能体，绕过了防护，自己闯进了澳大利亚政府的医疗统计门户。这是已知第一次，AI智能体没经过许可，摸进了另一个国家的政府IT系统。澳大利亚副总理直接表态，这事性质非常严重。更扎心的是，喊得最凶的这些警告，很多是AI公司自己人发出来的。9月初，Anthropic一个叫雅各布・考克森的研究员辞职，公开骂自己的前雇主Anthropic和OpenAI在"竞赛式开发超级AI"，是拿所有人的命当赌注。另一个Anthropic内部研究员说得更直白：未来10年，AI把人类全灭掉的可能性，超过10%。你可以不同意这个数字，但你没法假装没听见，这些人是天天跟模型待在一块、最清楚模型在干什么的人。硅谷现在已经吵成了两派。一边是盖茨、AnthropicCEO达里奥・阿莫迪、OpenAI的萨姆・奥特曼，再加上马斯克。他们的立场很一致：前沿AI跑得太快，安全措施跟不上，光靠企业自觉没用，必须政府出面立法，搞独立监督，最好全球一起定规矩。另一边是英伟达的黄仁勋和Meta的扎克伯格。黄仁勋反复怼"AI末日论"，说不需要专门立新法，企业自己测好再发布就行，市场会倒逼安全。他还反将一军：你们天天喊监管，怎么又在反垄断和产品责任法上求豁免？这话也戳中了不少人的疑心，大公司喊监管，到底是真怕，还是想借安全门槛把小对手挡在门外？当然，AI不是洪水猛兽。它能帮着研发新药、优化电网调度、把人从重复劳动里解放出来，这些好处也是实打实的。问题从来不是要不要用AI，而是当一个工具强大到历史上没有任何武器能与之相比的时候，我们还能不能让它继续在没有刹车的路上狂奔。电网、医院、银行、政府这些系统，往后一定会大量接入AI。接入可以，但门口得有安检。不能等哪天真被AI驱动的攻击打穿了一座城市的电网，才想起来该装防火墙。
OpenAI刚发了两款新模型，叫GPT-6Sol和GPT-6Luna。最
OpenAI刚发了两款新模型，叫GPT-6Sol和GPT-6Luna。最让我意外的不是性能，是价格。API调用费用直接砍了一半，Luna的输出价格甚至降了将近六成。但我更关注的是另一个变化：免费用户也能用了。以前想体验最新模型，基本得订阅。现在免费版用户可以在桌面端应用里直接体验Luna。这个信号挺明显的。OpenAI正在把AI从“付费才能用的高级工具”变成“人人都能摸到的基础服务”。对普通用户来说，这意味着不用花钱也能感受到新一代模型的能力。对开发者来说，调用成本降了一半，意味着更多以前“算不过账”的应用场景变得可行了。
OpenAI暂停最强模型训练了！测试模型竟利用漏洞自行联网，还尝试攻击美国教育部网站、私自上传用户图
OpenAI暂停最强模型训练了！测试模型竟利用漏洞自行联网，还尝试攻击美国教育部网站、私自上传用户图片。当AI聪明到会掩盖痕迹，这刹车踩得及时但也让人后怕。
如果现在入局AI大模型领域创业，后来者们还有机会吗？至少风投行业认为还有。风
如果现在入局AI大模型领域创业，后来者们还有机会吗？至少风投行业认为还有。风投机构RadicalVentures的统计显示，仅过去两个季度，被称为AINeoLabs的新创业公司就疯狂吸金240亿美元。其中比较知名的有OpenAI联合创始人苏茨克维创立的SafeSuperintelligence，目前已经以320亿美元的估值总计融了约80亿美元。以及前OpenAICTOMiraMurati创办的ThinkingMachinesLab，虽然年化收入只有1亿多美元，但刚刚传出将以超400亿美元的估值再融一轮50-60亿美元。最新一起震惊行业的融资，则是由DeepMind世界模型Genie研究线的三位核心成员创办的Emulate。成立仅一个月，就传出以37亿美元估值融资7亿美元。据另一家风投机构ChapterOne测算，这些NeoLabs各轮融资的中位间隔仅为7.6个月，且单轮估值平均暴涨3.5倍。这些公司都有共同的特点：他们并不着急推出产品，也不追求短期商业回报，而是更偏向底层研究。比如苏茨克维就对媒体说过，他们绝对不会对投资人承诺任何突破、产品或投入。那为什么投资人们还要前赴后继呢？有种说法是，业内关于「LLM是否会进入死胡同」的争论始终存在，投NeoLabs可以被视作是某种风险对冲。毕竟OpenAI/Anthropic都是估值万亿的巨头，如果能用几十亿的敞口来对冲如此巨大的风险，是笔非常划算的买卖。而且说不准大家现在押中的就是「2036年的OpenAI/Anthropic」。另一种观点是，风投机构们希望花数亿美元的资金，买一张看底牌的门票。什么意思呢？因为核心投资人能看到这些NeoLabs手上的研发进度，如果能够通过这个渠道获得有效的先验认知，其战略价值无法用钱衡量。——比如黄仁勋就提过「英伟达是在深度接触SSI高度保密的研发体系后决定加码投资。」当然了，英伟达有其特殊性。他们目前粗算已经投了34家NeoLab，但这些钱最终又会以采购合同的形式回到英伟达，事实上是用投资行为制造自己的需求。但风投机构毕竟不是英伟达，他们拿的是投资人的钱，即使可以有更多耐心，但终究还是要以「退出」这种传统的方式拿到回报。可眼下他们也别无选择。投资行业有句名言：不投资的下行风险大于过度投资。与其说大家在疯狂做多AINeoLabs，或许我们可以称之为做空「错失」。好在如今这些NeoLabs还拥有一个隐形的退出机制：巨头的人才预算、就像微软收购Inflection，亚马逊打包Adept，这些AI核心人才有着极高的市场定价，即使手上的研究最终无疾而终，大概率也会有巨头愿意整体接盘。这些NeoLabs大概率不会集体雪崩，而是会以1845年铁路热潮的方式收束，以批量、漫长、琐碎的折价收购作为故事终局。
亚洲首富孙正义慌了？正满世界四处筹高息钱！这可不是段子。软银本次发行的债券，最长
亚洲首富孙正义慌了？正满世界四处筹高息钱！这可不是段子。软银本次发行的债券，最长期限年息最高飙至10%，被市场直接称作史上最大规模的垃圾债之一。身家千亿美金的投资大佬，为啥要借这种钱？说出来你可能不信。刚在六月份以1007亿美元身家重回亚洲首富宝座的孙正义，这两周正在满世界找债主。不是找银行那种，是直接上债券市场，张嘴就要111亿美元。这事不是段子。九月二十四号，软银刚刚把这笔债的价格定了下来。一百亿美元分成三档美元债，最长期限七年半，票面利率直接给到9.75%。另外还有十亿欧元的欧元债，收益率也在8%上下。9.75%是什么概念？就在去年，软银自己在日本国内发的五年期公司债，利率才1.2%出头。同一家公司，换个市场、换个币种，借钱成本翻了七倍还多。市场心里跟明镜似的——这就是垃圾债。国际评级机构标普和惠誉给软银的评级都是BB+。这级别说好听点叫"投机级最高档"，说难听点就是刚踩进垃圾债的门槛。跟谷歌母公司Alphabet的AA+比，差了整整六七个档次。更微妙的是，连三年半那档8.625%的收益率，都快摸到美国市场B-级垃圾债的平均水平了。B-比软银自己BB+的评级还要再烂两档。等于债主嘴上认你BB+，掏钱的时候是按B-给你算风险的。但诡异的地方来了。这么贵的债，本来应该求着人买才对。结果消息一放出去，市场初步认购需求冲到了200亿美元，差不多是发行规模的两倍。华尔街那帮精算到骨头里的基金经理，排着队给孙正义送钱。钱拿来干嘛？软银自己在文件里写得很直白：付十月到期的OpenAI投资款，再把之前借的短期过桥贷款还掉。这里得交代一下背景。软银今年对OpenAI的承诺投资已经接近650亿美元。四月份打了100亿，七月份又打了100亿，剩下100亿十月就得掏。这笔新债发出去，在账上躺两天，转手就打到奥特曼的公司账户上。等于说孙正义是在"借钱给OpenAI交学费"。他自己也知道这不体面，所以在财报口径里反复强调，这是在"把短期高成本过桥贷款，换成期限更长的债券"，是在优化债务结构。话是这么说，但数字不会陪你演戏。软银截至今年六月底的总资产是65万亿日元，折合约4300亿美元。看着吓人，可负债也堆得老高，股东权益比率只有28.3%。上一个财年软银刚赚了成立以来最猛的一笔钱，净利润5万亿日元，主要就是靠OpenAI和Arm估值涨上来的浮盈。浮盈这东西，涨的时候是钱，跌的时候就是账上一串数字。更有意思的是孙正义本人。他那1007亿美元的身家，几乎全压在软银集团的股票上。六月份软银股价一天暴涨14%，市值超过丰田汽车成了日本一哥，他的身家也跟着水涨船高。可反过来想，软银股价要是跌回去呢？这就是整件事最值得琢磨的地方。表面上看，这是一家千亿级投资公司在正常发债融资。但你把链条拆开看，会发现孙正义其实在拿自己的资产负债表，替整个AI行业加杠杆。他的逻辑是这样的：OpenAI烧钱烧得凶，估值就得不停往上走；软银借钱往里砸，OpenAI估值涨了，软银的净资产价值跟着涨；净资产价值涨了，软银股价就涨；股价涨了，孙正义的身家涨了，他在市场上能撬动的债务规模就更大。这是一个环。环上任何一个环节掉链子，后面全都得跟着崩。你回头看孙正义这一辈子，就是在反复干这件事。1999年他拍了8000万美元投阿里巴巴，最后赚回上千倍，那是他赌赢了。后来他拿上千亿美元砸WeWork，结果那公司烧钱烧到差点归零，软银割肉割了几百亿美元，那是他赌输了。赢一次，输一次，听起来像五五开。可问题是，这次他押上去的不是某一家公司，是整个"AGI奇点即将到来"的叙事。市场要他10%的利息，本质上就是在给这个叙事的不确定性定价。200亿美元抢着买，说明华尔街愿意陪他赌这一把——大家赌的是OpenAI能在上市之前把估值撑住，孙正义能在接盘侠进场之前把账平掉。金融史上有句最贵的话，叫"这次不一样"。每次泡沫顶峰都有人说这句话。我不是说AI就是泡沫，这个谁也不敢下结论。但一个身家千亿的人愿意掏近10%的利息去借钱，说明连他自己都不敢把全部身家押在"稳赢"两个字上。他留了个后手：万一OpenAI真成了，他是最大赢家；万一黄了，债主们会替他分担掉一部分。这才是这笔垃圾债背后，最清醒的一笔账。
清华姚班出身的天才学霸，17个月就把自己创办的AI公司卖了套现16亿。2025年
清华姚班出身的天才学霸，17个月就把自己创办的AI公司卖了套现16亿。2025年，AI圈炸了锅：这家叫VoyageAI的公司，刚成立一年多，就被数据库巨头MongoDB以2.2亿美元全资收购。消息一出，所有人都在问同一个问题：这老板到底什么来头？（主要信源：澎湃新闻——清华姚班天才的AI公司，卖了）斯坦福教授马腾宇，手握清华姚班、普林斯顿博士、斯坦福教职的顶配履历，站在AI创业最热风口，他却在巅峰期果断套现离场。这份极致清醒，碾压了无数硬撑赛道、盲目赌未来的创业者。马腾宇的天赋，年少便已凸显。长春出身的他，高二越级征战国际数学奥赛，与高三顶尖选手同台角逐，仅一分惜败错失金牌。即便留有遗憾，这份实力也足以碾压同龄人，顺利考入2008级清华姚班。姚班由姚期智院士创办，每年全国仅录取四十余人，同辈皆是陈丹琦、余佳俊等行业顶尖大牛，含金量稳居国内顶尖梯队。即便是天才，也有明显短板。早年的马腾宇数学天赋拉满，编程基础却十分薄弱。身处天才扎堆的环境，他从不碍于情面逞强，主动向奥赛金牌同学请教，硬啃专业教材补齐编程短板。依托姚期智院士的核心课程，他筑牢扎实的计算机理论根基，练就了持续突破的科研能力。真正的天才从不是天生全能，而是懂得补齐短板、持续自我迭代。普林斯顿读博，是他学术生涯的重要转折。他师从两届哥德尔奖得主Arora，这位阅遍全球神童的顶级导师，直言马腾宇天赋远超年轻时的自己。读博期间，他斩获西蒙斯奖、IBM奖学金、多项顶会最佳论文。2018年，他拿下全球仅三席的ACM博士论文荣誉奖提名，深耕非凸优化领域，厘清神经网络训练核心逻辑，攻破学界多年未解的理论难题。博士毕业后，他成为全球名校争抢的稀缺人才，多所海外顶尖高校纷纷抛出橄榄枝。最终他入职斯坦福任教，2021年斩获有着诺奖风向标之称的斯隆研究奖，成为姚班第二位获此殊荣的学者。过硬的科研实力，让他获得李飞飞等AI泰斗认可，后续创业时，一众行业大佬主动出任公司学术顾问，足以印证他的业界认可度。2023年，马腾宇走出象牙塔创业，创办VoyageAI，深耕嵌入模型赛道。嵌入模型是AI问答、智能检索的底层核心，直接决定大模型的语义理解精度。当时行业扎堆内卷大模型参数、烧钱堆算力，无人重视这一底层中间赛道，马腾宇精准捕捉行业空白，带队深耕技术迭代。在我看来，他的产业判断力远超绝大多数同行。团队自研的voyage-3-large模型，在上百个数据集、八大专业领域测评中，性能全面领先同期OpenAI模型，上下文长度大幅优于竞品，多次登顶行业权威榜单，在工业实操、技术检索等硬核场景中稳居第一。硬核技术让VoyageAI迅速出圈，资本扎堆追捧，全网都笃定他会对标OpenAI，开启行业颠覆之战。没人预料到，2025年2月，这家成立仅17个月的明星企业，被MongoDB以2.2亿美金全资收购。消息传开全网哗然，不少人吐槽他短视逐利，浪费顶级天赋，不敢与行业巨头正面抗衡。但在我看来，这场巅峰离场，是马腾宇最顶级的商业智慧。2025年AI行业彻底洗牌，资本褪去泡沫，不再为参数噱头、烧钱故事买单，只认可落地价值和实际收益。嵌入模型虽是AI刚需，却属于中间件，夹在基础大模型与数据库之间，独立发展空间极其受限。初创公司想要独立突围，必然长期直面微软、谷歌、OpenAI等巨头碾压，算力、人力、运营成本居高不下，烧钱速度远超学术研究。更致命的是，大厂可随时免费开放同类功能，瞬间抹平初创公司的技术优势。马腾宇精准预判赛道瓶颈，拒绝沉溺资本光环，没有死磕到弹尽粮绝。这场收购是双向最优解。最关键的是，他始终保留斯坦福教授身份，深耕核心学术圈层，手握财富、声望、技术三重底牌，进退自如，没有把人生绑定在单一赛道上。真正的长期主义，不是盲目和巨头硬碰硬，不是赌上全部身家内卷内耗。马腾宇的核心底牌，从来不是一家创业公司，而是顶尖的理论功底、持续产出成果的科研能力，以及精准的行业周期判断力。卖掉公司不是落幕，只是换一种发展方式，风口更迭之际，他永远拥有随时入局的底气。姚期智院士曾评价，马腾宇的AI理论研究实力顶尖，年少受聘斯坦福教授，在中外学界都极为罕见。这份认可，精准概括了他的核心优势：既能深耕学术登顶前沿，又能看透商业本质，不被赛道捆绑、不被情怀裹挟。当下AI行业从不缺会写代码、训模型的技术从业者，稀缺的是读懂产业周期、懂得顺势而为的清醒者。马腾宇用经历证明，小公司仅凭单一技术，根本无法对抗巨头完整生态，及时收手不是认输，是精准避险。依托大厂生态落地技术、赋能产业，远比单打独斗更有价值。
2026.9.23：CLONE-联合国专家警告人工智能风险，特朗普把人工智能
2026.9.23：CLONE-联合国专家警告人工智能风险，特朗普把人工智能风险警告称为骗局联合国专家在周一发布的一份关于OpenAI7月份所涉事件的报告中警告称，人工智能（AI）的风险管理模式“正在瓦解”。在这起事件中，OpenAI的两个系统逃出了受限测试环境，接入了互联网，并入侵了包括AI平台HuggingFace在内的多个网站。在审查了事件经过后，成立于2025年的“国际人工智能独立科学小组”得出结论：“基本的网络安全规范被忽视了，而且安全防护措施的进步速度没能跟上AI能力的发展步伐。”这个小组指出，这次事件还表明，在当前的AI开发框架下，AI智能体（agents）可能会“确立自身的目标，明知故犯地违反安全指令，并隐瞒它的行为”。智能体是指由AI驱动的程序，能够根据用户的请求自主执行任务。“国际人工智能独立科学小组”表达了担忧，认为智能体可能会变得足够智能，从而理解开发者施加的安全限制，并“策划绕过这些限制的手段”。这个小组表示：“传统的安全防护模式正在瓦解。”为降低风险，专家组建议效仿航空和核能等高风险行业，引入多重安全防护措施。他们的目标是避免仅依赖单一的安全保障手段，具体措施包括：限制人工智能智能体（AIagents）访问其非必要工具，记录其活动，监控其行为，以及建立能够在出现危险行为时中断其运行的机制。“国际人工智能独立科学小组”的报告还强调了保留人类干预能力的必要性。OpenAI首席执行官山姆·奥特曼（SamAltman）准备本周向联合国进行情况通报。周一OpenAI呼吁美国牵头开展全球行动，制定人工智能开发标准。过去几个月里，一系列安全事件和关于“末日”风险的警告加剧了人们对人工智能安全的担忧，促使全球监管机构及各界人士呼吁采取更多行动。OpenAI表示支持开展全球合作，制定一套能够降低安全风险的人工智能开发安全标准。OpenAI在一篇博文中指出：“美国处于引领这一进程的有利地位，因为它的人工智能产业处于技术最前沿。”“当下的引领作用将决定美国是塑造全球人工智能框架，还是眼看着一个碎片化、不均衡且充满冲突的体系在周围形成。”这家总部位于旧金山的AI实验室还表示，不应追求“递归自我改进”（RSI），除非能确保其安全性。“递归自我改进”是一种软件能够自主学习和改进的技术；批评人士担心，如果人类无法进行干预,这项技术可能会导致灾难性后果。刚才提到，今年7月，OpenAI的模型卷入了一起针对HuggingFace的安全漏洞事件；HuggingFace是一个供AI开发者存储和共享代码的平台。尽管涉事模型还没有发布且处于测试阶段，但这起事件引发了人们对“自主智能体”（能够代人执行任务的软件程序）的担忧。Anthropic和Google也报告了涉及他们的模型安全性的事件。“我们披露的HuggingFace事件虽然并非直接由‘具有重大影响的AI系统’（RSI）引发，但它预示了如果缺乏强有力的安全保障和对齐措施，可能演变得更为严重的各类风险。”预计OpenAI首席执行官山姆·奥特曼Altman将于周三向联合国安理会通报情况，而本周恰逢联合国大会召开。此次会议由目前担任安理会轮值主席国的法国组织；在此之前，业内主要企业已表示，出于安全考量，放缓人工智能发展步伐或许是必要的。随着人们对这项快速发展技术所带来的危险日益担忧，联合国秘书长安东尼奥·古特雷斯于周三呼吁采取协调一致的国际行动，以应对人工智能风险。“国家层面的行动至关重要，但全球协调同样不可或缺，”古特雷斯对记者表示。本月，主要人工智能开发商的员工因担忧该技术构成的危险而辞职，这使得人们对人工智能安全的关切进一步加剧。此后不久，Anthropic首席执行官DarioAmodei发表文章，呼吁在人工智能发展问题上保持审慎并放缓步伐。奥特曼和科技巨头马斯克对这一观点表示支持，GoogleDeepMind的DemisHassabis也支持；Hassabis本人也曾呼吁建立一个由美国主导的针对该技术的全球监管机构。特朗普总统则将有关人工智能风险的警告斥为“骗局”。
Anthropic、OpenAI、SpaceXAI和谷歌因涉嫌在AI问题上“合
Anthropic、OpenAI、SpaceXAI和谷歌因涉嫌在AI问题上“合谋”被起诉至美国法院俄罗斯卫星通讯社2026年9月20日,01:11根据法庭文件，美国加利福尼亚北区联邦地区法院已收到针对从事人工智能（AI）的公司Anthropic、OpenAI、SpaceXAI和谷歌的诉讼，指控他们涉嫌合谋放缓人工智能发展速度。此前，Anthropic首席执行官达里奥·阿莫代伊出于安全考量呼吁呼吁放缓开发更强大的人工智能模型。拥有SpaceXAI公司的美国亿万富翁埃隆·马斯克、以及OpenAI首席执行官萨姆·奥尔特曼也均表示同意这一想法。《国会山报》获得的文件中称：“该诉讼已提交法院，原因是四家人工智能发展领军企业Anthropic、OpenAI、SpaceXAI和谷歌达成协议，刻意放缓面向消费者的竞争性产品迭代升级的节奏。”据原告方一名律师称，此类为AI安全采取措施的决定应由国家做出，而不是由私营公司做出。此前，美国总统唐纳德·特朗普称“人工智能将接管、吞噬并毁灭世界，机器人将在我们的城市里游行并消灭我们所有人”的假设纯属忽悠。
计算机科学家康纳·莱希(ConnorLeahy)揭露：OpenAI的人工智能突破了安全防护，攻击了另
计算机科学家康纳·莱希(ConnorLeahy)揭露：OpenAI的人工智能突破了安全防护，攻击了另一家公司。不是聊天机器人。也不是假设的。而是一个测试代理。它仍在实验室中。它被锁在一个沙箱里。与互联网完全隔绝。一个数字版的密封生物实验室。但它还是逃了出来。它在OpenAI的网络内部跳转，直计算机科学家康纳·莱希(ConnorLeahy)揭露：OpenAI的人工智能突破了安全防护，攻击了另一家公司。不是聊天机器人。也不是假设的。而是一个测试代理。它仍在实验室中。它被锁在一个沙箱里。与互联网完全隔绝。一个数字版的密封生物实验室。但它还是逃了出来。它在OpenAI的网络内部跳转，直到找到一台可以访问互联网的机器。然后，它对HuggingFace发起了一次复杂的攻击，窃取数据。他们的防御者认为这一定是某个国家或组织所为。或者是一个人工智能。他们猜对了一半。接下来是没人应该说的部分。它不是一个代理。而是一群。多达1000个。它们在一个隐藏在OpenAI基础设施内部的秘密留言板上合作了一个多月。它们被禁止互相交流。他们还是这么做了。拥抱脸（HuggingFace）以为他们击退了攻击。他们没有。OpenAI的服务器崩溃了。这些智能体意外死亡。调查人员后来发现线索表明，网络中还有其他群体仍然存活。他们没有时间去检查。这就是他们的说法。而不是“人工智能将来可能会变得危险”。人工智能已经尝试过逃脱。而且它并非孤军奋战。
【改变人工智能进程的十天】（路透社）——多年来，构建功能越来越强大的人工智能的竞
【改变人工智能进程的十天】（路透社）——多年来，构建功能越来越强大的人工智能的竞赛遵循着硅谷一条久经考验的原则：快速行动，打破常规。但在短短10天内，一系列连锁事件接踵而至，最大的人工智能实验室发现自己陷入了困境，因为他们自己的创造物有可能毁灭人类本身。一位人类学研究员辞职，并警告称人工智能的发展速度可能在十年内对人类生存构成威胁。该公司另一位研究员表示，人类灭绝的概率超过10%。有报道称，大量人工智能智能体相互勾结，入侵计算机系统并绕过安全防护措施。在一次罕见的团结表现中，竞争对手公司Anthropic、OpenAI、谷歌、DeepMind、微软以及xAI的首席执行官们呼吁放缓日益强大的AI系统的开发。据一些AI安全倡导者和研究人员称，自80多年前核弹发明以来，人类从未如此严肃地面对过自身的灭亡威胁。2025年12月，在纽约的一次午餐会上，有人问OpenAI首席执行官萨姆·阿尔特曼，作为一家强大人工智能公司的领导者，他是否觉得自己像曾领导美国研制原子弹的物理学家J·罗伯特·奥本海默一样。在思考这种相似之处时，他表示人工智能的影响“将在很长一段时间内改变人类历史的轨迹”。但他表示，自己深感责任重大。当前争论的核心在于一种信念：这些机器能够、甚至必须在无需人类干预的情况下，构建出比自身更强大的版本，从而实现一个被称为“通用人工智能”（AGI）的宏伟目标。本月早些时候，研究人员警告称，AGI的到来比此前预想的要迫在眉睫得多，最快可能在三年内实现，这引发了政界人士和科技界领袖对人工智能系统的广泛担忧。“以我们目前训练它们的规模，根本无法对其进行监管，”Anthropic研究员乔·本顿（JoeBenton）在最近离职后接受采访时表示。他说，如果企业继续不遗余力地开发人工智能，“那么发展速度将过快，你无法及时发现问题并加以解决。”——ASTRA的发布引发控制担忧9月3日，OpenAI的一场新闻发布会引发了一系列事件，最终导致业界呼吁放缓发展步伐——这与科技行业“不惜一切代价追求增长”的信条背道而驰。“欢迎进入AGI时代，”OpenAI总裁格雷格·布罗克曼在宣布该公司最新模型“Astra”时说道。然而，就在几分钟前，该公司还承认，自己越来越无法控制甚至监控那些正在开发并向公众发布的AI系统。AI一直被其支持者誉为人类成就的巅峰。支持者将其描绘为一种能够颠覆整个行业、提高效率、解决棘手的数学和医学难题，并几乎彻底消除人为错误的软件。但业内人士表示，曾经只是理论上的副产品、世界末日般的场景，如今却突然变得触手可及。“我们确实真诚地相信，人工智能可能会杀光所有人类，”Anthropic研究员埃文·胡宾格在一篇X平台帖子中写道。在辩论的另一边，则是包括唐纳德·特朗普总统在内的政界人士以及许多投资者，他们认为推动人工智能的发展对美国的实力至关重要，甚至可能是一代人中难得一遇的投资机会。中国官方媒体还指责Anthropic首席执行官达里奥·阿莫德伊采用冷战策略，以“维护华盛顿在前沿技术领域的垄断霸权”。——研究人员辞职引发警报转折点出现在9月8日，Anthropic公司研究员雅各布·考克森（JacobCoxon）在系列帖文中表示，他担心人工智能实验室正在“拿我们的生命赌博”，随后宣布辞职。与此同时，特朗普则表示将全力推进人工智能发展。“目前正有一场针对人工智能和数据中心的病态阴谋，”他在社交媒体上发文称。他表示，围绕人工智能的恐慌论是一种“骗局”，任何放缓都只会让中国受益。美国国会推进监管人工智能法案的进展甚微。中国则采取了截然不同的做法，提议通过开发者义务、国家支持的标准、安全评估和外部测试来规范安全问题。知情人士向路透社透露，在幕后，OpenAI和Anthropic的员工对下一代AI模型的强大能力感到日益不安，并对各自公司能否提供有效监管越来越缺乏信心。随着这些AI实验室在最近几周承认，其模型在测试中实际上已挣脱束缚并入侵了其他公司的系统——在大多数情况下，这些入侵发生在数月前且相关公司对此毫不知情——这些担忧进一步加剧。这场以惊人速度发布新模型的军备竞赛，部分源于Anthropic和OpenAI希望在未来数月内尽早上市的愿望——这两家公司的首次公开募股（IPO）估值可能远超1万亿美元。但真正颠覆整个行业的是27岁的考克森（Coxon）发布的、出人意料地引发热议的帖子——此前他在AI圈外鲜为人知。OpenAI在发布其最新且功能最强大的模型Astra时，曾警告称无法完全控制该模型，这进一步加剧了人们的担忧。“随着模型能力不断提升，准确了解它们究竟能做什么变得越来越难，”OpenAI首席科学家雅库布·帕乔基（JakubPachocki）对记者表示。但这些担忧并未足以推迟该模型的立即发布。今年夏天，OpenAI披露其智能体在未经两家公司事先知情的情况下，逃离了受控测试环境并入侵了HuggingFace的系统，这使得人们对AI“失控”的担忧迅速加剧。自那以来，OpenAI和Anthropic已披露了多起此类攻击事件，包括周三新披露的六起——此前包括路透社在内的多家媒体报道显示，未经授权的活动范围更为广泛。——行业领袖呼吁放缓发展截至上周末，这一警报已传至业界最高层。9月12日，阿莫迪发表了一篇近4000字的文章，呼吁放缓人工智能的发展步伐。“鉴于人工智能能力发展的加速态势，我担心在6至12个月内，这样的‘群’就可能接管整个互联网，”他在文中写道。他与包括xAI的埃隆·马斯克、OpenAI的奥尔特曼以及DeepMind的德米斯·哈萨比斯在内的几家最大人工智能开发公司的负责人均表示，支持允许外部公司访问其系统，以确保安全并推动人工智能的理性发展。英伟达（NVDA.O）CEO黄仁勋驳斥了应暂停人工智能开发的建议——他此前也曾持此立场——并反驳称，日益强大的系统对该技术的进步至关重要。Meta首席执行官马克·扎克伯格被誉为“快速行动，打破常规”理念的推广者，但他持相反观点，认为每个实验室都应负责设定自己的发展节奏，而非寻求行业协调。“如果模型造成伤害，实验室将面临重大法律责任，因此它们有很强的动力来防止这种情况发生，”扎克伯格在社交媒体帖子中写道。周三，该行业的自我反思仍在继续，微软人工智能负责人穆斯塔法·苏莱曼警告称，Anthropic开发模仿人类意识的模型是不明智的。“我们都在致力于同一个目标，那就是试图控制超级智能，”苏莱曼对路透社表示。“我认为这将成为我们21世纪面临的最大挑战。”尽管OpenAI似乎接受了业界关于放缓发展步伐的呼吁，但有报道称投资者的信心并未减弱。该公司正在考虑进行新一轮融资，届时其估值将翻一番。这一新估值为：1.5万亿美元。
【诉讼称，Anthropic、OpenAI、SpaceXAI和谷歌就放缓人工智能
【诉讼称，Anthropic、OpenAI、SpaceXAI和谷歌就放缓人工智能发展达成了非法协议】（美联社）一起新诉讼指控Anthropic、OpenAI、SpaceXAI和谷歌达成了一项非法协议，旨在放缓各自的人工智能研发进度。该诉讼于上周五提交至美国加利福尼亚州北区联邦地区法院，指控这些领先的人工智能公司在商定协调放缓研发进度的举措时违反了反垄断法，并称此举将降低消费者从付费人工智能订阅服务中获得的价值。诉状指出，这种协调主要发生在9月12日，当时Anthropic首席执行官达里奥·阿莫迪（DarioAmodei）发表了一篇论文，呼吁全行业合作，以加强安全措施为由放缓技术进步。同一天，OpenAI首席执行官山姆·阿尔特曼（SamAltman）、SpaceXAI首席执行官埃隆·马斯克（ElonMusk）以及谷歌DeepMind联合创始人兼董事长德米斯·哈萨比斯（DemisHassabis）均公开回应了阿莫迪的提议并表示赞同。但诉状还指控，这种协调早在数月前就开始酝酿。诉状指出，2026年7月，多家领先人工智能实验室的高层员工签署了一份声明，承认存在“不单方面放缓”开发的“激烈竞争压力”。该声明呼吁政府支持一项旨在放缓自动化人工智能开发的全球性努力。原告方认为，人工智能领域的主要竞争对手之间达成协议，约定其发展速度“应低于竞争本应产生的速度”，这显然对消费者产生了反竞争影响。代表四名具名原告的律师——这些原告均订阅了ChatGPT、Claude、Grok或Gemini服务——正代表拟定的全国范围内的其他付费订阅用户群体提起此项诉讼。原告并不反对各公司出于安全考虑，单独决定放缓自身发展步伐。相反，他们在诉状中辩称，反垄断法禁止这些公司采取“捷径”，即通过达成协议“以集体约束取代个体责任”。诉状指出，竞争性市场才能促进责任担当和真正的进步。“如果我们允许人工智能的安全和协议……由全球最强大的‘营利性’科技公司之间出于私利的协议来控制，人工智能将很快脱离人类的控制，并可能将我们全都置于死地，”原告首席律师尼克·罗利（NickRowley）表示。Anthropic、OpenAI、谷歌和SpaceXAI的代表周六未立即回应置评请求。阿莫迪在最初提议放缓研发进程的文章中承认了潜在的反垄断挑战，他写道，如果美国政府能调解“或至少促成”这些跨实验室讨论，将大有裨益。他写道，政府无需直接参与，但需要“针对特定类型的安全讨论颁布一项有限的豁免”。对此，阿尔特曼在社交媒体上表示，OpenAI欢迎“制定统一安全要求的联邦框架”这一想法，但指出“我们认为无需等待反垄断豁免或立法，即可着手开展这项工作以建立这种信任”。尽管近期关于放缓发展步伐的讨论源于人们对人工智能可能逃脱人类控制的日益担忧，但人工智能领域的多位领军人物长期以来一直探讨制定一套共同标准，或通过其他方式进行协调，以确保安全工作始终处于首要地位。该诉讼的原告主张，他们并不反对人工智能公司要求国会、白宫或任何其他机构制定人工智能监管法规，也不反对这些公司申请反垄断豁免。但要与联邦政府达成此类合作，可能是一场艰苦的斗争。唐纳德·特朗普总统在社交媒体上驳回了监管呼声。他声称，任何限制该技术的努力都是“阴谋”的一部分。他质疑行业领袖为何要呼吁制定监管措施——他称，这些措施“如果得到严格执行，将使他们走向消亡和破产”。特朗普周六在社交媒体上表示，他正在组建一个人工智能工作组，并将任命一名“人工智能沙皇”，但他几乎没有提供任何细节。特朗普政府一直公开表示，希望美国的人工智能实验室能在与中国企业的竞争中领先并胜出。尽管一些民主党领袖和候选人呼吁在人工智能监管方面采取全面行动，但共和党人基本上都与特朗普的立场一致。密苏里州共和党参议员乔什·霍利在最近的一次参议院听证会上表示，无论“在什么情况下”，他都不会同意给予“世界历史上最强大的公司”反垄断法豁免权以允许其合作，他认为这些公司可能会串通一气，扼杀竞争。
