Basit Mustafa: 이 연구(및 이전 연구)에서 영감을 받아 @GoodfireAI는 활성화에서 보상 해킹을 포착하지만 폐쇄형 코딩 에이전트는 이를 제공하지 않습니다.

Localized reading

이 연구(및 이전 연구)에서 영감을 받아 @GoodfireAI는 활성화에서 보상 해킹을 포착하지만 폐쇄형 코딩 에이전트는 이를 제공하지 않습니다. 그래서 나머지 절반을 만들었습니다. 그레이더/숨겨진 테스트에 대한 구조적 거부 + 도구 궤적을 다음과 같이 점수를 매기는 @typesafeai Jev 사이드카입니다.

Original post / EN

Inspired by this research (and priors), and, @GoodfireAI catches reward hacks in the activations, but closed coding agents don’t give you those. So I built the other half: structural denies on graders/hidden tests + a @typesafeai Jev sidecar that scores tool trajectories as