The Atlantic的文章，为什么硅谷的人说话都一个样？Why Is Everyone in Silicon Valley Talking Like That?

你是不是把什么搞混了？也许你只是“产生了幻觉”。

作者：Lila Shroff

硅谷向来有自己的一套方言。风险投资人总爱谈论“高能动性”（high agency）的价值，以及押注“正交机会”（orthogonal bets）。但近来，科技圈的行话出现了一种奇特的变化——人们开始用描述聊天机器人的方式来描述自己。如果你说错了话，也许你是在“产生幻觉”（hallucinating）。不知道某个问题的答案？那可能是因为答案不在你的“训练数据”（training data）里。感觉自己健忘？或许你患上了“上下文腐烂”（context rot）——这个词原本指聊天机器人在一段很长的对话中，回答质量逐渐下降。“几个月来，我一直跟妻子说自己有‘上下文腐烂’，”专注于人工智能的播客主持人康纳·布朗斯登（Conor Bronsdon）告诉我。

在我居住的旧金山，这类比喻无处不在。“我形容自己是‘高温度’（high temperature），”一位朋友最近告诉我；用人工智能的术语来说，这意味着他容易产生随机性。如今，人工智能专家谈论学习新东西时，会说自己在更新“权重”（weights）；回顾自己的内心思考时，则会说自己是在用“合成数据”（synthetic data）进行训练。“人类拥有一个经过数十亿年进化训练出来的巨大基础模型，”一名软件工程师在一个热门科技论坛上写道。“我们学习得如此之快，令人印象深刻，但从某种意义上说，这或许可以类比为微调（fine-tuning）。”

这种说法很容易让人感到不安，甚至带有一种咄咄逼人的悲观色彩：为什么要用冷冰冰的算法语言来描述美好而温柔的生命？与此同时，语言本身就是过去技术革命留下的一份化石记录；如果这一次的转型与此前的技术革命有相似之处，那么其中一些新俚语很可能会留存下来。人工智能专家一再警告说，拟人化——即把人的特质赋予聊天机器人等非人类对象的倾向——可能会产生误导。但如今，日常语言中出现了反向的过程：一种可以称为“模型化”（modelmorphism）的现象，即人们开始把自己描述得仿佛是大型语言模型。

这种比较真正兴起是在几年前。当时，一群人工智能研究人员提出，语言模型是“随机鹦鹉”（stochastic parrots），它们只是根据统计模式把语言连接起来，并不真正理解语言的意义。反对者则反驳说，人类同样是“随机鹦鹉”。一名软件工程师借题发挥道：“人类基本上就是一种复杂的马尔可夫链（Markov chain）。他们非常擅长模式匹配，但什么都不理解。”

语言历来都在伴随技术发展而演变。例如，“耗尽蒸汽”（running out of steam）和“机器中的齿轮”（cog in the machine）这样的表达，就是在工业革命之后进入日常语言的，用来简洁地描述人的处境。认知科学家安娜·伊万诺娃（Anna Ivanova）告诉我，人工智能隐喻也不过是修辞手法：当一个人说“我的齿轮转起来了”（My gears are turning）时，他并不是字面意义上认为自己的大脑里真的存在齿轮，或者某种类似齿轮的东西正在转动；同样，当人们说自己出现了“上下文腐烂”时，他们也不是说自己的大脑里真的运行着一个基于Transformer架构的人工智能模型。

早期技术与人工智能系统之间的区别在于，人工神经网络本身就是受到人脑的松散启发而产生的。哲学家拉斐尔·米列尔（Raphaël Millière）和卡梅伦·巴克纳（Cameron Buckner）等人认为，大型语言模型或许可以作为理解人类认知某些方面的潜在模型。2010年代，科学家发现，图像识别神经网络与人脑处理视觉信息的方式存在一些相似之处。伊万诺娃说，LLM与人类在语言表征方式上或许也存在“相似之处”。麻省理工学院神经科学家伊芙·费多连科（Ev Fedorenko）等人已经在人脑中发现了一种“语言网络”，费多连科认为，它“在很多方面与早期的LLM非常相似”。这些比较仍存在争议，但已经开始受到研究界的关注：科学家们上周在一篇立场论文中写道：“LLM近期取得的成功，其根基在于支配生物大脑的相同计算原理。”

哲学家约翰·塞尔（John Searle）在20世纪80年代写道：“由于我们并不真正了解大脑，因此总是很容易受到诱惑，用最新的技术作为模型来尝试理解大脑。”他还写道：“我听说古希腊人中有些人认为大脑的运作方式就像投石机。”到了19世纪和20世纪，人们开始借助电报和电话交换台来理解心智：“大脑不过是一种中央电话交换机，”哲学家亨利·柏格森（Henri Bergson）曾这样写道。到了20世纪60年代，一些学者开始认为，心智的运作方式类似计算机。“认知科学家经常说，心智是大脑的软件，”哲学家内德·布洛克（Ned Block）在1990年解释道。如今，LLM又成了一个颇具吸引力的比较对象。

目前，这类类比主要还是人工智能行业从业者的专属语言。但随着时间推移，其中一些隐喻可能会逐渐渗入日常语言。美国大学荣休语言学教授娜奥米·巴伦（Naomi Baron）告诉我，以铁路的发展为例，当人们开始使用这种全新的交通系统时，“整个语言体系都开始发生变化”。一些人工智能俚语并没有真正给英语带来新短语，而是在改变已有表达的含义。比如“hallucinating”（产生幻觉）这个词，如今被用来描述人工智能模型编造事实的现象。巴伦解释说，人们“先把一个用来描述人类心智所能做之事的词，投射到人工智能身上，然后又把它带着人工智能的色彩投射回人类身上”。

当然，这并不是说所有沾染人工智能色彩的术语都应该被照单全收。最近，我开始在发现朋友们一本正经地把自己称作聊天机器人时训斥他们。用LLM的隐喻来描述我们的心智，可能会导致一种过于简化、甚至去人性化的人类认知观。今年早些时候，当OpenAI首席执行官萨姆·奥特曼（Sam Altman）被追问人工智能对自然资源的需求时，他说：“训练一个人类也需要大量能源。”

不过，我采访的科技行业人士告诉我，用LLM的语言描述自己的思维方式，有助于他们反思自己的认知习惯。语言会随着时间推移吸收新的惯用表达，同时掩盖这些表达最初的来源。如今，人们说“我的计划脱轨了”（My plans have been derailed），通常不会特意想到这个说法源自铁路。也许到了我的曾孙辈，他们从小就会说“我出现了上下文腐烂”和“这不在我的训练数据里”，而不会停下来想一想：这些说法最初描述的，其实是机器。海外新鲜事