跳到主要内容
Evolvant
订阅

何时停止思考:面向潜在世界模型规划的期望自由能作为测试时计算控制器的剖析

arXiv 2610.28011v1 提交了一篇研究,考察期望自由能(EFE)能否作为测试时计算控制器,决定在世界模型规划中投入多少计算。作者把目标距离与随机预测间的分歧合成一个 EFE 式目标,分别测试候选评分、停止规则和在线预测器更新。结果显示:当精英成本停滞即停止,在成功率随深度趋于平台的任务上会减少细化,平均成功率接近固定深度参考;较大权重下奖励分歧会降低冻结模型的成功率,惩罚分歧则因任务和权重而异。训练数据缺少到达目标所需区域时,在线更新可恢复部分损失;成本停滞规则在后续优化利用模型错误时会失效,因为任务成功率见顶后预测成本仍下降。

发布于 10-22 10:55来源:arXiv cs.RO

转载 · 官方发布原文:arXiv cs.RO ·《Knowing When to Stop Thinking: A Dissection of Expected Free Energy as a Test-Time Compute Controller for Latent World-Model Planning》查看原链

arXiv:2610.28011v1 公告类型:新论文 摘要:使用学习到的世界模型的规划器可能在选择更差动作的同时改善其预测结果。 我们研究期望自由能(EFE)何时能帮助决定在一个规划上投入多少计算。 一个受EFE启发的目标将目标距离与随机预测之间的分歧结合起来。

我们分别测试候选评分、停止和在线预测器更新。 当精英成本停滞时停止,会减少在成功率随深度趋于平台的任务上的细化,平均成功率接近固定深度参考值。 在测试的较大权重下,奖励分歧会降低冻结模型下的成功率。 惩罚分歧在某些任务和权重设置下有帮助,但在其他设置下有害。

当训练数据缺少到达目标所需的一个区域时,在线更新能恢复部分由此产生的损失。 当进一步优化利用模型错误时,所测试的成本停滞规则可能失效,因为任务成功率见顶后预测成本仍在下降。 成本进展可以在平台期指导计算,但在峰值后保护性能需要关于所选动作后果的信息。

来源arXiv cs.ROen原文发布 10-21访问原文