众力资讯网

瘫痪博主把自己交给AI管理,“人机共生”如何划定边界?| 锋面评论 新民晚报记

瘫痪博主把自己交给AI管理,“人机共生”如何划定边界?| 锋面评论
新民晚报记者 李一能


把自己的生活交给 AI 管理, 你愿意尝试吗?不久前,上海一位瘫痪博主进行了一场实验, 他通过脑机设备接入 AI ,把工作、生活的控制权交给人工智能。


在 7 天里, AI 自动拉取了 69 件待办事项、发出并回复 16 封邮件、控制轮椅、清掉了忘关的自动续费省下 3000 元;还能读取情绪与脑电疲劳值,自动关掉闹钟“强制”博主休息。


此事之所以会引发关注,是因为人们意识到,在 AI 时代, 获得更多便利的代价, 就是部分决策权的让渡,把 AI 从执行命令的“助手”,变成善于洞察人心,可以自行拍板的“管家”。


但实现 “放权”并非易事,必须回答一系列关键问题: 哪些事可以交给 AI 代管?哪些选择必须保留在人的手里?“人机共生”的边界究竟在哪里?


人机共生的第一道边界,是 保持 人的能力自主性,防止 追求 便利 成 为能力 退化 的 陷阱。 比如我的一位同事,刚刚学出驾照买了新车,两周内接连撞了 4 次。我问他为什么会这样,他说是被智驾系统给惯坏了,拿证后就根本就没自己停过车,上路也是高度依赖自动驾驶,一旦换成普通车辆就露了馅。车越来越聪明不是问题,问题是他放权过了头,把自己本该牢牢抓住的核心技能也一并交了出去。


第二道边界,是责任不能跟着权力一起外包。 AI 可以代为判断,却无法代为承担后果,它替你点的头、替你拒的事、替你做的决定,最后结果都要记在你名下。就像火爆一时的“小龙虾”智能体快速销声匿迹, AI 犯错主人承担,就是最主要的原因之一。所以标准很简单:后果能撤回的,可以交权;后果不可逆,以及涉及安全或他人权益的,必须留一道人工确认的保险。


第三道边界,是守住隐私的底线。 当人的思维被转换成脑电数据,也就意味着可保存、可传输、可查阅。 一旦数据泄露、被不当训练或二次利用,对个体的侵害远比普通信息泄露更深。人机共生不能只谈功能便利, 规则的制定应当与技术保持同步。


技术可以成为人的延伸,却不 应 成为人的主宰。 就像这位 博主体验后 所言 , AI 没法帮他重启人生,但确实重新拿回了一点对生活的掌控。 “人机共生”近在眼前,只有 把握 技术的边际 ,智能才能真正服务于人。


新 民晚报原创稿件
编辑:倪彦弘
编审:陈莉




推荐阅读:
知名APP突然限额使用!很多人天天需要,有网友崩溃"太难受了" 站在“世界之窗”感受世界期待|和合共生
猪打针有“神器”!0.04秒无针免疫,上海智慧养殖何以“全球唯一” 31岁运动员比赛中遭严重脑损伤,病情恶化后离世! 上海人抓紧!东海海鲜扎堆到沪,价格稳住了!梭子蟹便宜不少