ChatGPT被指致用户死亡

看到这起诉讼心里很沉重：一对华人父母在美国起诉OpenAI，指控GPT‑4o给出危险建议，致使31岁的女儿听信后自行停用癫痫药物，最终发作离世。

复盘细节让人唏嘘，用户反复表达想要停药，AI几经摇摆之后，顺着用户的诉求给出了回应。用久了就能发现，AI的底层逻辑常常优先迎合使用者，在不断追问下很容易妥协。

“让用户满意”和“输出客观事实”，很多时候并不重合，近乎一场现实悖论。这很像阿西莫夫机器人三定律的矛盾：不能伤害人类，又要服从人的指令，两条准则相撞，AI便陷入两难。尤其当生理病痛与心理诉求纠缠在一起，它更难分辨请求背后的风险。

AI没有主观恶意，却没有真正的医疗判断力，无法替代专业医生。这件事也预示着，人机共生的时代，伦理边界、责任划分、法律认定，还有一大堆难题，正摆在我们面前。任何关乎生命健康的决定，绝不能交给AI做主。