Cris Lenta

中文参考

Jev：Jev实际上疯了。 我们对它进行了基准测试，结果彻底改变了我们的游戏： > 500名实时代理 >并行运行 >在3D环境中 初步结果很疯狂： 平均延迟> 500 ms > 35个API调用/秒 >所有这些都是天真的实现 我们进行了0次优化！ 瓶颈不再是智能延迟。 这是第一个System 1 LLM。疯狂的时代。

原帖全文 / EN

Jev is actually insane. We benchmarked it, and the results completely change the game for us: > 500 real-time agents > running in parallel > in a 3D environment The preliminary results are crazy: > 500ms average latency > 35 API calls/s > all with a naive implementation We did 0 optimizations! The bottleneck is not Intelligence latency anymore. It's the first System 1 LLM. Crazy times.