最近Anthropic一名研究员因为担心人工智能失控问题，选择辞去了这份高薪工作，并且在社交媒体上写了长文，表达了对人工智能领域管理的担忧和期望。因为这位研究员不只在Anthropic工作过，还在OpenAI工作过，所以引发了全球AI关注者的讨论。那么我们究竟应该怎么看人工智能失控的风险呢？
对人工智能圈子有所关注的人应该知道，类似的新闻发生过不止一次，每隔几个月就有人工智能业界的人士搞这种事情。甚至在ChatGPT出现之前，也出现了很多次这种情况，这也算是保留节目了。但是这次事件是在OA两家大厂都推出了吹得天下无敌的新模型的情况下，就显得很有戏剧效果。
当然，我们不能说这些人是炒作，因为很多担心人工智能安全而辞职的人，他们真的退出了人工智能业界，没有借此搞自己的公司，说明他们还是有点理想主义的，觉得自己是在试图拯救世界。
但客观来说，就算是人工智能专家，对所谓的超级智能的判断也会常常出问题，更别提硅谷现在的魔怔氛围了。我们不妨举个例子，之前OpenAI刚刚搞出来推理模型的时候，很多OpenAI内部人士是真的相信这就是AGI的，但后来也很快被祛魅了。
我们当然相信人工智能技术会继续进步，毕竟如此夸张的投资规模，怎么可能不进步呢？但超级智能的标准着实模糊，而当下人工智能技术依然需要面对现实的局限性，所以这些通过辞职试图提醒全世界人工智能风险的人，出发点可能是好的，但未必准确。
而客观来说，人工智能公司也经常用这方面的新闻进行炒作，比如说OpenAI和Anthropic最近都炒作过，说自己的模型失控入侵了什么系统之类的，一时间引起了很多关注。但如果仔细观察报道的话，我们会意识到很大程度是这两家公司故意搭建了容易出现意外操作的环境，新模型在指令跟随能力上比旧模型强很多，这本质就是炒作。
这样的炒作说白了就是为了证明自己的模型有多厉害，在市场上吸引更多的关注，但同样，这种炒作也会引起严重的恐慌，美国反对人工智能的情绪，很大程度就是这些人作出来的，因为这是典型的恐慌宣传。而恐慌宣传总会带来反效果，尤其在人工智能带来的好处并没有覆盖大多数普通美国人的情况下，恐慌宣传让美国社会反对人工智能的声音越来越大了。
而且这种行为会让真正的人工智能风险被忽视。人工智能失控的风险是客观存在，但很可能并不是天网式的灾难，是一些更现实的东西。比如说Anthropic炒作自己的模型在互联网安全上有多大的破坏性。但现实是，实际上以去年年底水平的编程模型，就可以对很多网络进行攻击了，类似的事情已经有网络安全公司报告了，而攻击者很可能也不是什么黑客，只是普通的诈骗团伙。
这种问题比无所不能的超级模型毁灭互联网现实多了，但正因为这种问题实际存在，反而不值得炒作，以至于被人们忽视了。
人工智能带来的现实问题不止这一个，比如说各国的出版和文学产业，都被人工智能生成的大量文章所填满，如果继续下去的话，很可能许多国家的文学产业就要完蛋了；而人工智能对学生学习的影响也十分严重，用人工智能可能会带来看起来好的成绩，但会实际影响学习能力。现在的学校教育并不是十全十美，但人工智能并没有提供替代方案，甚至造成了严重的破坏。
这些问题都比超级人工智能现实的多，也是我们无法回避的问题。但硅谷人工智能业界的态度却完全不一样，他们似乎沉浸在一种疯狂的氛围之中，认为要么超级人工智能拯救一切，要么超级人工智能毁灭一切，所以这些细节是不重要的。
这完全是一种自欺欺人的行为。现实中更可能的情况是，人工智能是很不错的工具，会带来很多改变，有好的也有坏的，我们必须面对这些问题，不是幻想超级人工智能会变成末日审判。如果只是抱着这种态度，是解决不了真正的问题的。
因为现实问题的严肃和困难，所以总有人幻想着一个解决一切的乌托邦或者是反乌托邦，这是常见现象，但它解决不了任何问题。现实世界的残酷正是在于，很多问题压根没有标准答案，我们必须直面困难，进行一次又一次可能不顺利的尝试。
很显然，现在的美国人工智能业界缺乏这种勇气，比如说这次这位研究员的行为确实算是勇敢，但他提出的方案却很老调重弹，希望限制全球开发人工智能的速度，希望建立跨国之间的人工智能协调机制。
这类倡议在ChatGPT刚刚出现的时候就已经有了，甚至在更早就有人工智能伦理学家提出来了，四年过去了，人工智能发展了这么多，但这些想法都没有落地。这说明这类倡议是存在问题的，如果只是呼吁一些永远也不现实的东西，那并不是面对现实的勇气。
也许美国的人工智能巨头没有毁灭世界那种无趣的想法，他们追求的只是利益的最大化，造出来一个超级人工智能毁灭人类的概率是极低的。但正如上面所说，根本不用什么超级人工智能，这些巨头就能对现实造成巨大损害。
这些反对美国人工智能巨头的研究员，往往都没说说开一个事情，如果人工智能真的那么重要，那么单靠资本模式来运行就一定会出现各种问题。但怎么在资本上限制人工智能呢？这是个超过了当下美国，乃至于新自由主义经济体系治理能力的问题，而这就不是几个研究员能改变的事情了。