Haoran | 公众号：独立开发

Localized reading

Visual Jev आ गया है: https://t.co/x0kzeE3hdx समुदाय के विचार का अनुसरण करते हुए, मैंने candidate results को fixed labels में मैप किया, prefill के बाद सीधे sample किया, output tokens सीमित किए और multimodal qwen-3.5-0.8B 4-bit quantized मॉडल को लोकली deploy किया। 16 GB M4 MacBook Pro पर यह आसानी से चलता है। स्पष्टीकरण: यह केवल infer layer पर Jev के रूप का छोटा-सा पुनर्निर्माण है; mature inference frameworks से कम कुशल है और निश्चित रूप से Jev का वास्तविक सिद्धांत नहीं है, लेकिन inference के रूप में...

Original post / ZH

视觉版 Jev 来了 https://t.co/x0kzeE3hdx 仿照着社区的思路，把候选结果映射成固定标签，prefill 完直接采样，限制输出 token，采用多模态的 qwen-3.5-0.8B 4bit 量化部署在本地，16g m4 mbp 顺利运行 叠甲：这只是在 infer 层小小的复现一下 jev 的形式，肯定不如各种成熟推理框架效率高，也肯定不是 jev 的正在原理，但是作为 inference 的小入门仍旧是不错的 demo 如下 200ms 实现《三色货品分拣》