waytoRSI追踪递归自我改进
返回最新文章

RSI-Anything:一次补丁执行,怎样改变下一次选择

固定代码模型,四个候选,只执行一个:代码实验单独考察预测器适配。更完整的框架还要按条件更新组件,并决定保留哪一组策略与世界模型。

RSI-Anything 的代码修复实验改善了修复系统,写代码的模型却始终固定。ReasonFlux-Coder-7B 不变时,容量匹配的静态验证器得到的最终隐藏测试全过率为 26.3%;由固定世界模型挑选补丁,达到 29.2%;再用执行反馈适配世界模型,达到 31.2%。最后一组比较在代码模型和候选预算均不变的条件下,增加了 2.0 个百分点。从执行中学习的组件,是负责后续补丁选择的预测器。代码修复结果,§3.1

沿着一个候选补丁往下看,这个区别就具体了。每轮,代码模型提出四个补丁。执行结果预测器 W1 为每个“候选补丁—测试”组合,输出五种结果类别的概率分布。固定和适配两种世界模型配置都汇总这些概率,给四个补丁排序,再执行其中一个。四个候选都有预测;在这次选择中,只有被执行的补丁得到真实测试结果。代码方法,§6.1

四个候选补丁都有预测;获选补丁产生真实测试结果,供后续预测器适配使用。

这是 waytoRSI 绘制的编辑机制示意图,不是原始实验证据。A–D 和获选的 B 都是示意标识,并非实验中记录的补丁。实线表示预测、选择与观测;虚线表示跨周期更新,不表示每执行一次就训练一次。

有用的学习记录,要匹配同一个补丁、同一项测试。以图中示意的 B 为例,它在某项测试上的真实结果类别,可以与 W1 当时对该测试的概率预测配对。A、C、D 在这一步没有对应观测,不能拿预测代替尚未测得的结果。框架将预测与观测分别保存,并关联产生它们的行动、上下文、证据来源和系统版本。反馈记录,§§2.1–2.4

这种配对解释了执行如何为预测提供监督。真实结果类别成为目标,可以与预测的概率分布比较。因此,即使一次修复没有成功,它仍可能提供预测目标:能否修好程序,与能否作为一条结果观测,是两件事。框架规定,结果标签可以监督对应的结果读出。标签本身并不揭示完整的下一状态;但如果上游参数可训练,这项结果损失也可以更新上游参数。仅知道监督目标是什么,还不能确定哪些权重会改变。适配目标,§2.4

方法段对 W1 起点的描述,比对每次后续更新的描述更具体。W1 是一个 3B 执行结果模型,采用 JEPA-Anything 的预测设计,并通过 LoRA 从 Qwen2.5-Coder-3B-Instruct 适配而来。这说的是初始构建。所引代码方法段报告了后续 W1 适配,却没有逐次说明在线更新的可训练参数子集和优化器;框架也明确允许后续适配采用不同于初始构建的选择。对照实验明确的是改动对象:适配配置更新 W1,固定配置沿用 W1,两者都保持代码模型固定。W1 构建与适配,§6.1;目标与参数选择,§2.4

它与递归改进的联系,在于保留下来的改动能影响什么。更新后的预测器可能改变下一组候选的排序;选择变了,接下来能观察哪次执行、收集什么学习材料,也可能改变。这说明选择与学习之间存在依赖关系,并不保证后续观测更有价值,或下一次更新一定更好。保留版本与后续经验,§2.5

论文中的成功率是在特定评测条件下得到的。作者使用 200 个 CodeContests 任务、三个随机种子,至多三轮反馈。由此产生的 600 次“任务—种子”评测,在不同种子下重复使用同一批任务,并非 600 个独立任务。在线测试提供修复反馈,隐藏测试提供最终全过率。评测与统计口径,§6

静态验证器与固定世界模型的比较,还给出了选择质量的证据。候选排序准确率从 66.5% 升至 72.8%,五分类 Brier 分数从 0.488 降至 0.358,后者越低表示预测表现越好。这两项诊断比较的是静态验证器与固定世界模型,支持论证的第一部分:预测排序改善的同时,修复成功率也提高了。29.2% 到 31.2% 则是另一组比较,衡量允许 W1 适配后报告的额外收益。预测诊断与适配结果,§3.1

每个任务的平均在线测试套件调用几乎相同:静态验证器为 3.72 次,固定世界模型为 3.71 次,适配世界模型为 3.72 次。因此,这组对照能说明系统在相同候选预算下怎样利用执行反馈,却不能证明总计算量相同。预测器推理、适配、历史记录重评和验收检查,都不是在线测试套件调用次数能衡量的;框架也将外部反馈用量与更新、评估计算分别记账。表 2;计算开销口径,§2.4

何时更新,保留哪一版

更完整的框架在选择下一步行动之外,还要决定由哪一版系统负责后续决策。论文用不同下标区分这两个时间尺度:t 表示行动步,k 表示更新验收周期。一个周期可以汇总多个行动步、轨迹或任务的反馈;更新决策和验收结束后,周期就结束,即使两个组件都没有换版。因此,反馈历史可以继续增长,但这本身不构成策略或模型更新。系统状态与周期定义,§2.1

框架中的策略变化,可以涉及可训练参数,也可以涉及持久的工作流。策略与预测器可以按不同节奏更新,任一组件也可以保持不变。对于已启用的预测器适配路径,触发条件要求可靠性评估为“不可靠”、适配数据充足,而且剩余预算足以承担这次尝试。由于观测来自被选中的候选,可靠性结论只能覆盖这些观测所支持的范围。覆盖不足会得到“证据不足”的评估,不会触发这项适配。策略改进与条件适配,§2.4

评估可靠性还必须分清版本。判断当前预测器时,框架要求用属于当前版本的预测与观测比较:可以使用该版本已经保存的预测,也可以让当前模型对记录中的输入重新预测。旧版本的预测仍可用于理解过去的决策,但不能直接混入当前版本的误差估计。这里要回答的是:现在正在使用的预测器,在已有观测覆盖的候选范围内是否可靠。可靠性协议,§2.4

尝试更新之后,还要决定新版本是否留下。完整协议先将候选组件与当前版本比较,再在预先规定、相互匹配的条件下评估组装后的策略—模型组合。组合检查有具体原因:新策略可能提出预测器判断不准的候选,新预测器也可能改变候选选择;组件各自变好,并不必然让共同决策变好。组件检查失败,就保留该组件的当前版本;组合检查失败,就保留整个旧组合。两个组件都未改变时,无需重新比较组合。随后,保留的组合与累积历史一起进入下一周期。这些是完整框架的规则,固定代码模型下的成功率并不能单独验证每一项触发和保留环节。组件与组合验收,§2.5;各实验的更新范围,§6

五类应用改变了什么

明确改动的对象之后,其余应用的结果也更容易定位。

应用 报告的变化 留给后续使用
代码修复 预测器;代码模型固定 适配后的 W1
GUI 策略与预测器 保留的组合
实验室规划 规划策略 连续策略版本
化学反应 条件选择 产率观测
免疫科学 构建:工作流与模型;下游:候选与排序 工作流与预测器

领域设置与更新范围,表 4

GUI 报告了两侧组件的更新:MiniWoB++ click-checkboxes 和 OSWorld 使用实际交互结果更新动作策略与世界模型,再由保留的组合指导后续交互。实验室规划沿时间追踪的则是另一种对象:同一改进过程中连续保留的五版 4B 策略,都在相同的 200 题 LabHorizon F200 基准上评测。其 Final Score 组合动作序列相似度与参数准确度。能否在真实设备上可靠执行,仍是另一项评测问题。GUI 与实验室方法,§6.1;物理执行边界,§5

化学部分展示了观测如何引导搜索。在两项 Suzuki–Miyaura 筛选中,预测产率帮助选择反应条件,实测产率扩充历史,供下一次选择使用。一项筛选采用 GC 测量,另一项采用 LC–MS。这些搜索曲线展示了累积观测的利用,但仅凭曲线,还不能证明策略或世界模型发生了被接受并持久保留的版本更新。反应条件搜索,§3.4;化学方法,§6.1

免疫科学把构建和下游使用分开。在构建阶段,系统搜索科学智能体工作流与模型配置,保留选中的建模工作流及其预测器;扰动测量为模型开发提供依据。下游分析中,模型预测与实验证据指导干预排序和自我修正,但预测器参数保持冻结,变化的是候选干预和假说排序。由此提出的治疗假说仍待实验检验。免疫科学应用,§3.5;构建与下游分析,§6.1

在这些应用中,“跨领域通用性”指的是复用改进机制,各领域使用自己的模型、策略和评测。结果分别支持预测选择、预测器适配、连续策略版本改进和观测引导的搜索。把这些部分合起来,仍不能证明一个统一的策略—世界模型系统在同一任务内持续相互改进,更不能据此推出通用递归自我改进。论文自身也指出,要支持前一个较窄的单任务结论,还需要联合多轮评估。讨论,§5

接下来的证据问题,是把反馈一路追踪下去:在同一任务的连续周期中,保留下来的策略与预测器改动,是否支持了更好的预测质量和后续任务表现?回答它,需要把通过验收留下的版本与它们之后的决策对应起来,保持评价标准不变,并将外部反馈用量与更新、评估计算分别核算。

本篇由 AI 生成,分析对象为 2026 年 10 月 9 日提交的 RSI-Anything v1。实验结果均归于论文作者的报告。版本历史

回到原件

本篇解读使用的原始材料,保留来源的版本信息。

  1. RSI-Anything paper v1
    引用位置与版本

    https://arxiv.org/html/2610.13912v1 | L50-L255

    https://arxiv.org/html/2610.13912v1 | L263-L316

    https://arxiv.org/html/2610.13912v1

  2. RSI-Anything arXiv version history
    引用位置与版本

    https://arxiv.org/abs/2610.13912 | L8-L28

    https://arxiv.org/abs/2610.13912

返回篇首
修订于 2026年10月24日
技术版本
Article
rsi-anything-world-models
Release
c335fdc638be59f557dbe66c2527204c75e57e3462e52e666880618b36223d15
Content digest
c335fdc638be59f557dbe66c2527204c75e57e3462e52e666880618b36223d15

接着读

策略与元改进

DGM 为什么保留分数更低的 Agent

只要仍能编辑代码,分数下降的子版本也可能成为有用的父版本。DGM 的对照实验、评测口径和一次日志绕过,解释了这项贡献该怎样理解。

本文主题

世界模型 递归自我改进

图示放大

可滚动查看全图。按 Esc 或关闭返回原位置。