Haoran | 公众号：独立开发

Localized reading

De visuele versie van Jev is er https://t.co/x0kzeE3hdx. In navolging van het community-idee worden kandidaatresultaten naar vaste labels gemapt, waarna direct na prefill wordt gesampled en het aantal uitvoertokens wordt beperkt. De multimodale qwen-3.5-0.8B met 4-bitkwantisatie draait lokaal op een M4 MacBook Pro met 16 GB. Disclaimer: dit is slechts een kleine reproductie van de vorm van Jev op inferentieniveau, zeker minder efficiënt dan volwassen inferenceframeworks en zeker niet de echte werking van Jev, maar als inference…

Original post / ZH

视觉版 Jev 来了 https://t.co/x0kzeE3hdx 仿照着社区的思路，把候选结果映射成固定标签，prefill 完直接采样，限制输出 token，采用多模态的 qwen-3.5-0.8B 4bit 量化部署在本地，16g m4 mbp 顺利运行 叠甲：这只是在 infer 层小小的复现一下 jev 的形式，肯定不如各种成熟推理框架效率高，也肯定不是 jev 的正在原理，但是作为 inference 的小入门仍旧是不错的 demo 如下 200ms 实现《三色货品分拣》