Eric Zhang

Localized reading

@typesafeai からインスピレーションを得た、Jev 互換のパブリック API で遊ぶことができます。これは同等のオープン モデル (Qwen3.6-35B-A3B) を実行し、SGLang 基数キャッシュを使用してプレフィルの再利用/非常に高速な並列を維持するだけです...

Original post / EN

Inspired by @typesafeai , here is a Jev-compatible public API to play with It runs a comparable open model (Qwen3.6-35B-A3B), and just uses SGLang radix cache to preserve the prefill reuse / really fast parallel systemone generation - 64 tasks in <1s. https://t.co/bbRh4yAPAB https://t.co/misKQE8n8f