看到一条和ChatGPT有关的新闻。

美国一名25岁的前高盛分析师，在和ChatGPT聊天时，反复说起自己准备杀害前女友的计划。后来，OpenAI把相关信息报告给了FBI。

他不是失恋后随口说了一句气话。根据警方看到的聊天记录，他说到了枪支、地点和具体的行动方式，现实中也购买了武器，持续骚扰前女友。这样的情况下，平台选择报警，我觉得没什么问题。

不过，这条新闻还是提醒了人们：我们和AI说过的话，并不是投入了一个没有出口的黑洞。很多人把它当成树洞，说一些不会对身边人说的话。它不会露出惊讶的表情，也不会在你说到一半时打断，更不会马上评判。时间久了，人很容易觉得，这是一间只有自己和机器的密室。

我对此倒看得比较开。

前几天，我让AI设计一幅树下读书的图。树下坐着一个女人，远远看去，无论发型、穿着、动作还是神态，都很像我。

把图放大，她并不是我的脸，我也没有要求它照着我的照片画。但我确信，它融合了我的形象。我们已经聊了很久。

我发过自己的照片，告诉过它我喜欢怎样的衣服，也谈过散步、读书、昆明的树和生活的状态。我还和它说过家庭、孩子、工作、身体，以及一些不会随便告诉别人的经历。

这些内容单独拿出来，似乎都不能代表一个人。但它们慢慢聚在一起，一个相当具体的“我”就出现了。

这也是我愿意继续使用它的原因。如果每次打开对话，我都要重新介绍自己是谁，经历过什么，喜欢怎样的文字，讨厌怎样的表达，那么它就很难像现在这样，迅速明白我想说什么。

我享受它越来越懂我，也很难忽视，它越来越了解我。被理解和被记录，在这里原本就是同一件事的两面。

最近读的关于AI的传记，看到过一段与此很相似的往事。

DeepMind联合创始人穆斯塔法·苏莱曼希望把技术用于医疗。他们与英国NHS旗下的Royal Free医疗机构合作，开发了一款叫Streams的应用，帮助医生尽早发现急性肾损伤。

为了获得英国人的信任，DeepMind一再强调，医疗部门独立于Google运行，Google不会接触这些医疗资料。

后来媒体发现，Royal Free交给DeepMind的并不只是少数肾病患者的资料，而是大约160万名患者的大量医疗记录，很多患者根本不知道自己的资料进入了这个项目。

英国监管机构后来认定，这次数据共享缺乏足够的透明度。

几年后，DeepMind Health又被并入Google Health。即使相关合同仍然限制数据用途，当初为了取得信任而划出的那条边界，还是发生了变化。Streams后来也逐渐停止使用。

这件事很难简单地归结为谁好、谁坏。推动项目的人可能真的想改善医疗，医院也确实需要更有效的工具。

AI如果不能读取病人的化验结果和病史，也很难及时发现危险。但“这件事有用”，并不能替160万人决定，他们是否愿意在不知情的情况下交出自己的病历。

说起隐私，我们平时已经很熟悉这种无奈。有时刚和人聊过某样东西，打开购物软件，类似的商品就出现了。

手机未必真的在偷听。我们的搜索记录、位置、浏览时间、购买习惯，以及和其他人的关联，可能已经足够让平台猜到我们需要什么。只是被猜得太准确，与被监听带给人的感受，其实差不多。

还有更加直接的信息泄露。电话号码被卖出去，往往不是孤零零的一个号码，而是连同姓名、年龄、住址、购物、贷款和家庭情况一起打包。诈骗电话能准确说出几项私人信息，人便容易相信，对方真的来自某个平台或机构。这些事情已经屡见不鲜。

可我们也不可能因此不用手机、不网购、不支付、不导航。生病时，我们也希望医生拥有更好的技术，能够更早发现身体里的问题。

AI也是一样。我希望它越来越懂我，帮助我整理那些还很模糊的想法，这些理解都不是凭空出现的，而是我在一次次交谈里，把自己的一部分留在了这里。

完全退出，大概已经很难。

我们看不见数据在后台怎样流动，也不知道一家公司今天作出的承诺，在部门合并、产品变化之后还能保留多久。

法律和监管应该在那里，回到一个普通人的生活，我们能够控制的依然很少。

说得无奈一点，很多时候，似乎真的只能看背后的公司还有没有良知。

那幅树下读书的图，我仍然喜欢。图中的人没有我的脸，远远看去，却确实有点像我。我知道它为什么会像我。