Sydney Runkle

Localized reading

Thay vì tạo văn bản, Jev của @typesafeai tạo đầu ra có cấu trúc. Vì vậy nó rất phù hợp cho các tác vụ phân loại như định tuyến mô hình, chọn/tìm công cụ và nhiều dạng rào chắn an toàn! Nó cũng nhanh và rẻ đến mức khó tin so với LLM làm cùng việc...

Original post / EN

instead of generating text, jev from @typesafeai generates structured output this makes it great for classification tasks like model routing, tool selection/search, and guardrails of many forms! it's also ridiculously fast and cheap compared to LLMs doing the same tasks https://t.co/59a8PxBuQ6