Starchild

Localized reading

Starchild는 @typesafeai에서 Jev를 통합한 최초의 전문가급 앱이 되었습니다. 우리는 Jev를 사용하여 신속한 분류를 위해 비용을 20배 절감하고 속도를 6배 증가시킨 LLM으로의 경로를 지원합니다. 여기에서는 실시간으로 프롬프트를 분류하고 있습니다(평균 시간은 140ms).

Original post / EN

Starchild just became the first professional-grade app to integrate Jev from @typesafeai We use Jev to help route to LLMs which gave a 20x decrease in cost and 6x increase in speed for prompt classification Here it is classifying prompts in real-time (avg time was 140ms)