Hemanth.HM

Localized reading

50개 이상의 도구 스키마를 덤프하면 90%의 컨텍스트가 낭비됩니다. 도구 검색으로 팽창 문제를 해결하지만 비용이 많이 듭니다. 추가 LLM 왕복(+2초) 및 7B 모델에서는 실패합니다. tool-prune은 0.4ms 내에 사전 비행을 수행합니다. 또한 @typesafeai의 jev를 사용하여 Berkley의 FCL v3 벤치에서 100%를 확인했습니다!

Original post / EN

Dumping 50+ tool schemas wastes 90% context. Tool search fixes bloat, but costs an extra LLM round-trip (+2s) and fails on 7B models. tool-prune does it pre-flight in 0.4ms. Also, saw 100% on Berkley's FCL v3 bench with @typesafeai's jev!