Mustapha: "실시간 채팅을 하기에는 AI 조정이 너무 느립니다." 더 이상은 아닙니다. @typesafeai Jev는 LLM 통화 비용의 극히 일부만으로 다른

Localized reading

"실시간 채팅을 하기에는 AI 조정이 너무 느립니다." 더 이상은 아닙니다. @typesafeai Jev는 LLM 통화 비용의 극히 일부만으로 다른 사람이 보기 전에 ~200ms 내에 모든 메시지를 판단합니다.

Original post / EN

"AI moderation is too slow for real-time chat." Not anymore. @typesafeai Jev judges every message in ~200ms, before anyone else sees it,for a fraction of what an LLM call costs.