hermes-ai.net

문서 보기 →
HermesHermes Agent 문서
← Back to case library
Case / 2100646513412292873기타
Case media / 1MP4 ↗

Haoran | 公众号:独立开发

@hr98w
Verified

Localized reading

视觉版 Jev 来了 https://t.co/x0kzeE3hdx 仿光着社区的思路,把候选结果映射成固定标签,prefill 完直接采样,限字输流 token,采用多qwen-3.5-0.8B 4비트 량화부署地本地,16g m4mbp 顺利运行 叠甲:这只是在 infer 层작은 작은 复现一下 jev 이상적인 형태의 유형은 정의되지 않습니다.

Original post / ZH

视觉版 Jev 来了 https://t.co/x0kzeE3hdx 仿照着社区的思路,把候选结果映射成固定标签,prefill 完直接采样,限制输出 token,采用多模态的 qwen-3.5-0.8B 4bit 量化部署在本地,16g m4 mbp 顺利运行 叠甲:这只是在 infer 层小小的复现一下 jev 的形式,肯定不如各种成熟推理框架效率高,也肯定不是 jev 的正在原理,但是作为 inference 的小入门仍旧是不错的 demo 如下 200ms 实现《三色货品分拣》
views
2.9만
likes
293
saves
330
reposts
30
원문 보기 ↗

Links and projects

출처

This independent archive preserves a public post with attribution. Text, media, account details and trademarks belong to their respective owners.