大家好，我是「小窗幽记机器学习」的小编卖热干面的小女孩。今天开始，我会用一系列短文章和大家探讨RSI，全称是Recursive Self-Improvement，中文叫递归自我改进。
RSI是什么：让大语言模型或智能体利用自身产生的经验、数据、反馈或代码改进自己，再由改进后的系统参与下一轮改进。更进一步的目标，是让系统提出改进方案、设计实验和验证结果的能力，也能在迭代中提高。
打个比方。普通改进是工人手艺变好了，活干得更快更漂亮；递归改进是连图纸都被重新画了一遍，下次做同样的东西，流程和工具全都不一样了。
过去这些改图纸的活儿，是研究员和工程师干的。RSI 关心的是：AI 能接手多少工作？这个问题没法一句话回答，得看具体系统——它到底自主完成了哪些步骤，改进又能撑多久。
改进发生在什么地方？我们经常会 prompt 模型一句：「检查一下你刚才写的，有错就改。」
改完之后，答案确实更好了。但这能说明模型「学会」了吗？
我倾向于不能。参数一个没动，这次的经验也没留下任何痕迹。下次换一道新题，它还是从零开始，跟你第一次问它没区别。
单次纠错 vs 持续改进的区别：
一次性的自我修订。临时状态。靠一段 prompt 让模型反思、重写本次回答。答对了，但权重没变，没沉淀，关掉对话窗口就什么都不剩。
持久的自我改进
。这才是 RSI 关心的。系统状态真的往前挪了一格——要么是权重更新了，要么是智能体攒下了能反复调用的记忆、工具或者可执行代码。

注意：底层模型可以一个字节都不变。但如果这个智能体攒了一个靠谱的工具库，记住了上次踩过的坑，下次干活就是更丝滑了。系统变好用了，并不等于模型变聪明了。
另外，改进也不一定非得发生在训练的时候。部署阶段产生的经验可以先攒着，等下一轮训练的时候一次性消化。训练期和部署期这两条路可以互相配合。但注意：两者都不等于「系统已经自主了」。人的作用处在什么位置，接下来单独看。
人在里面、在上面，还是在外面？我喜欢用一个学生的画面来区分这件事。
一个刚开始自学的学生，做完练习得等老师批改、等老师安排复习。过一阵子，他自己对答案、分析错在哪儿、决定明天练什么，老师只需要偶尔看看进度。再往后，如果连出什么题、用什么方法学都归他自己决定，老师就彻底不参与了。

对应到 AI 系统，人退到哪一步，决定了这个系统有多自主：
Human-in-the-loop（人在环路中）。AI 提方案，人点头才能生效。最典型的场景：AI 改了代码，人 review 完才 merge。
Human-on-the-loop（人在环上监督）。系统在一个授权的框框里自己跑，人盯着仪表盘，出异常再插手，干预权一直留着。现实里这类系统的部署环节往往还留着人工审批——上线这件事，多数团队不敢完全放手。
Closed loop（自动闭环）。在约定好的任务和权限内，系统自己提修改、自己验证、自己应用更新，不用一轮一轮找人签字。
这些说法描述的是参与方式，不是三种系统。同一个系统完全可以在实验环境里自动跑闭环，到了生产环境又变回人工审批。
自动闭环能证明什么闭环是否成立，还要结合具体任务进行判断。一个智能体能够自动修改工具函数并通过测试，说明它擅长改工具函数。还不能证明能把结论扩展到所有任务上。
拿最近很火的 Darwin Gödel Machine（DGM）来说。它会尝试修改 Agent 自身的 Python 代码，通过代码基准评估候选版本，并探索不同的演化分支。这项研究展示了自动闭环的潜力，但在实验中同样严格保留了沙箱运行和安全监督，以确保安全，尚未给绝对的信任。

生那个比喻其实已经暗示了：学生自己批改作业，也可能把错的答案记得更牢了。AI 也是一样的。没有高质量的外部反馈兜底，自我迭代很容易越改越偏，最后崩掉。一次评测涨分，也不足以证明改进能够持续。
所以，人退出去了多少步，说明系统获得了多少自主权。但系统是不是真的变强了，还需要在未参与优化的任务和实际结果中泛化验证。
下一篇继续聊RSI相关的自我修订和测试时训练：AI 把答案改对了，怎么才算真的学会了？