Mustapha: 「AI モデレーションはリアルタイム チャットには遅すぎます。」 もうない。 @typesafeai Jev は、LLM 通話の数分の一で、他の人に見られる前に、す

Localized reading

「AI モデレーションはリアルタイム チャットには遅すぎます。」 もうない。 @typesafeai Jev は、LLM 通話の数分の一で、他の人に見られる前に、すべてのメッセージを約 200 ミリ秒で判断します。

Original post / EN

"AI moderation is too slow for real-time chat." Not anymore. @typesafeai Jev judges every message in ~200ms, before anyone else sees it,for a fraction of what an LLM call costs.