Research notes

RSI

用 harness 把"提假设、做实验、记结论"跑成一个可回溯的搜索树

这是什么

pi-rsi 是一个自动研究 harness:给它一个任务包(问题描述、起始代码、一个冻结的评估器),它就生成一棵假设搜索树, 让无头的编码 agent 在各自的 git worktree 里实现一个假设、跑评估、写 handoff,再由审计员核对数字、记录 insight 和 dead end。调度器按"最好的可扩展节点优先"选下一个节点,宽度和深度有上限,连续无提升会停下。

代码暂未公开。

怎么读这些页面

  • 每个实验一页:配置、baseline 与最佳分数、held-out 结果、最佳路径、所有节点表,以及审计员核实的 insights。
  • 每页顶部有"交互式搜索树":点节点看 handoff、进度日志、官方 metrics、提案和数字核对。
  • 数字的来源规则:官方分数由 harness 用冻结评估器算;worker 自己报的 quick 集数字一律标注为 quick。
  • 实验日志 按次列出;分析记录 放跨实验对比。

已有实验

  • Kaggriculture(Kaggle 农场模拟赛,本地评估,CPU):baseline 3,587,grok-4.5 一小时内到 37,329,grok-4.6 到 24,614。 见 grok46-vs-grok45。
  • Kaggle House Prices(入门赛,回归,RMSLE 越低越好):baseline 0.184 → 隐藏 holdout 0.136,公开榜 0.1166,10 个节点 1 小时。 见 hp-grok46。
  • Kaggle Spaceship Titanic(入门赛,二分类,accuracy):baseline 0.772 → 隐藏 holdout 0.819,公开榜 0.803(两轮,共 14 个节点,第二轮用 rsi continue 接着跑)。 见 st-grok46。

两个 Kaggle 实验的 worker 都是 grok-4.6(xhigh),utility 都是 grok-4.5(low);最终提交由 harness 在结束时自动完成,一次一个。

本页下的内容

分析记录跨实验的对比:同一任务包、同一预算下换模型或换 harness 版本。实验日志每次 pi-rsi 运行一页:配置、结果、最佳路径、节点表、insights。