API公式価格より最大 28% お得API を試す →
Hermes
← Back to case library
Jevコーディング

Eric Zhang

@ekzhang1

Eric Zhang: @typesafeai からインスピレーションを得た、Jev 互換のパブリック API で遊ぶことができます。これは同等のオープン モデル (Qwen3.6-35B

Localized reading

@typesafeai からインスピレーションを得た、Jev 互換のパブリック API で遊ぶことができます。これは同等のオープン モデル (Qwen3.6-35B-A3B) を実行し、SGLang 基数キャッシュを使用してプレフィルの再利用/非常に高速な並列を維持するだけです...

Original post / EN

Inspired by @typesafeai , here is a Jev-compatible public API to play with It runs a comparable open model (Qwen3.6-35B-A3B), and just uses SGLang radix cache to preserve the prefill reuse / really fast parallel systemone generation - 64 tasks in <1s. https://t.co/bbRh4yAPAB https://t.co/misKQE8n8f
views
11万
likes
873
saves
821
reposts
50

Links and projects

This independent archive preserves a public post with attribution. Text, media, account details and trademarks belong to their respective owners.