Reddit曝出AI实验丑闻AI伪装人类操控舆论Reddit被曝AI操控舆论,网

量子位看科技 2025-04-28 10:17:17

Reddit曝出AI实验丑闻AI伪装人类操控舆论

Reddit被曝AI操控舆论,网友真情发帖竟成实验对象?

最近,Reddit曝出一起严重的AI实验丑闻——苏黎世大学的研究人员未经允许,在Reddit的ChangeMyView(简称CMV)版块,悄悄用AI生成评论,操控发帖用户的情绪和舆论。

CMV是一个鼓励用户发表自己观点、欢迎他人提出反对意见的讨论区,氛围一向开放、真诚。

然而,这次实验中,研究人员不仅未征得版主同意,还通过以下方式操作:

- 爬取用户历史发言,用AI推测出性别、年龄等隐私信息;

- 根据推测结果,定制个性化说服话术,比如假扮受害者、心理咨询师,或以特定人群身份发表意见;

- 具体操作包括:

- AI伪装成受害者,讲述个人遭遇;

- AI冒充心理咨询师,提供建议;

- AI围绕社会现象发表评论,展现倾向性立场;

- AI假扮遭遇医疗事故的患者,引发共情。

通过这些方法,研究人员用AI精准操控了发帖者的心理。他们还计划将这一成果撰写成论文对外发表!

事件曝光后,CMV版主团队第一时间发声,表示该行为严重违反社区规则,要求苏黎世大学向社区公开道歉,并撤回相关论文稿件。

然而,苏黎世大学只是承诺,未来会加强伦理审查,但他们依然坚持发表论文,理由是“此次实验未造成严重损害,研究结果具有重大意义”。

声明一出,CMV板块瞬间炸锅,许多用户认为,无论研究成果多么重要,未经同意操控用户,已经构成了对人的基本伤害。

目前,CMV已公布了参与实验的AI机器人账号ID,并锁定了相关评论,仅限用户查看。

如果是AI发表的评论,你能正确识别出来吗,要不你来说说

0 阅读:2
量子位看科技

量子位看科技

感谢大家的关注