API比官方价格便宜最高 28%立即试用 →
Hermes
← 返回案例库
Jev编程

Basit Mustafa

@moltar81435

Basit Mustafa: 受这项研究(和先前研究)的启发,@GoodfireAI 在激活中捕获奖励黑客,但封闭的编码代理不会给你这些。所以我构建了另一半:对分级机/隐藏测试的结构性拒绝 +

中文参考

受这项研究(和先前研究)的启发,@GoodfireAI 在激活中捕获奖励黑客,但封闭的编码代理不会给你这些。所以我构建了另一半:对分级机/隐藏测试的结构性拒绝 + @typesafeai Jev 边车,将工具轨迹评分为

原帖全文 / EN

Inspired by this research (and priors), and, @GoodfireAI catches reward hacks in the activations, but closed coding agents don’t give you those. So I built the other half: structural denies on graders/hidden tests + a @typesafeai Jev sidecar that scores tool trajectories as
浏览
0
点赞
0
收藏
0
转发
0

项目与外链

本页为独立社区整理,仅展示公开原帖与来源链接。媒体、文本、账号信息及商标权利归原作者和原平台所有。