Basit Mustafa

Localized reading

この研究 (および以前の研究) に触発されており、@GoodfireAI はアクティベーションで報酬ハックを捕捉しますが、クローズド コーディング エージェントはそれらを提供しません。そこで私は残りの半分を構築しました: グレーダー/非表示テストの構造的拒否 + 工具軌道をスコア付けする @typesafeai Jev サイドカー

Original post / EN

Inspired by this research (and priors), and, @GoodfireAI catches reward hacks in the activations, but closed coding agents don’t give you those. So I built the other half: structural denies on graders/hidden tests + a @typesafeai Jev sidecar that scores tool trajectories as