《AI 的三个根本缺陷和人在回路的价值》

我知道 “用 Claude Code 三天写个游戏赚 100 万”听起来性感。我也知道“去掉人在回路”今天才特别 fancy，特别硅谷。

但是，我发现。。。大量的普通人，的确在错误的运用 AI 。。。

大量的浪费虽然也没有那么贵的 token。可是，至少你的时间是宝贵的吧？？？

接下来的内容我会讲解一下目前所有 AI 存在的三个根本缺陷，并且给出解决方案。

为了节省你的时间，也可以更高效的运用 token 。

1理解 AI 的三个根本缺陷。xxxxxxxxx

这三个缺陷和模型的先进程度没有关系，所有模型都有：

1.1 上下文注意力衰减（Attention Degradation）： 简单说就是上下文中废话多了，性能会严重下降（Lost in the middle）。

1.2缺乏现实感知（Hallucination by Interpolation）：AI 不能感知世界，但是有要求给出答案，那么当你要去 AI 解决现实世界的实际问题，脑补就不可避免。这个就是幻觉不可避免的根本原因。

1.3顺从效应（Sycophancy）： 如果你是个蠢货，而 AI 服务你需要成本，所以 AI 会倾向于用最低 Token 消耗去糊弄蠢货。这个很好理解吧。

2 对付 AI 的三个简单方法：xxxxxxxxx

2.1 人在回路的数据清洗（信息降噪或者信息蒸馏 - Conclusion Pruning）2.2 人在回路的对抗性问题（更多方案比较，更高级别的方案抽象等）2.3 不断的上下文重置（Context Reset）

3具体例子：xxxxxxxxx

比如你要升级公司的项目管理系统，用 project agent 代替传统的 gtm 部门，建议的步骤是：

3.1 需求发散（Brainstorming）将关于该项目的所有已知信息、业务诉求、痛点、现有文档全部输入给 AI。允许 AI 提问，耐心解答其对业务逻辑的疑惑。避免一次性丢入很大的文件，观察 AI 的回答，确保其理解“在线”。

3.2对抗性提问与业务抽象（Adversarial Abstraction）开始问各种挑战性问题，比如：请剥离业务表象，分析『小批量量产任务』和『市场发布任务』在底层数据结构和状态流转上是否有本质区别？能否合并底层设计？

利用 AI 强大的逻辑归纳能力，将冗杂的业务需求转化为清晰和更本质的东西。

3.3 需求信息蒸馏这时候上下文可能差不多了，让 AI 生成一份简明扼要的 Project Brief（项目需求摘要）。然后人工清洗数据，删除 AI 编造的底层数据库设计或过度发散的废话。提取出纯净的、无歧义的“真实需求”。

3.4上下文重置与全网调研将 Step 3 中清洗后的、纯净的 Project Brief 作为唯一输入。要求 AI 结合最新互联网搜索，针对该需求提供至少 3 种行业最佳技术实践，进行详细的优劣势（Trade-off）对比。

3.5 方案信息蒸馏同样 AI summary 然后人在回路梳理可能的方案方向，确保对齐今天行业最佳实践。

3.6架构生成再次重置上下文，仅提供 [Step 3 的需求摘要] + [Step 5 的技术选型决策]。要求 AI 进入“资深系统架构师”角色，输出方案。

4 最后的话：xxxxxxxxx

其实，如果你带着脚趾头思考这么几分钟，你就知道这个方案本质上是加强人在回路不可替代的价值。

本质上这是人通过不断的数据重置和数据清洗，帮助 AI 和现实世界对齐。

但是这种对齐不能是机械的，而是明确的运用有限的信息和资源，抵抗 AI 的偷懒本能，压榨出他的最大价值。

其实就是当领导。。。

这可能是很多人梦里的工作吧，今天是真的有机会了，你可以试试，这个活，有没有你之前想象的这么简单。