Remek Kinas

中文参考

在我看来，像JEV这样的模型将会带来巨大的改变。目前的LLM模型模拟的是系统2的运作方式。对我来说，JEV的实现是过去几个月里出现的最新的概念之一。 虽然看起来没什么特别之处（只是一个动态分类器），但令人惊讶的是，要等待这样一个模型这么长时间。其实，一个通用的分类器，一个智能的“if”结构……在我的之前的文章中，我已经解释过这种模型的运作原理了。我可以访问@typesafeai和@CompleteSkeptic的API，因此我在自己的“pac-man”模型中实现了自我学习功能。 这个例子有点“戏谑性”，因为查询的模式是固定的，但在许多系统中，比如智能代理系统，模式以及状态都是随时间变化的（在“pac-man”模型中，只有状态在变化）。在更复杂的系统中，状态的结构以及状态属性的数值都是随时间变化的，分类器的合同条件（类别的数量以及它们的语义）也同样如此。而在这里，我们就有了一个系统1模型——它做出决策。 当然，也可以在LLM上实现这个功能，不过那样会慢一些，成本也会更高，而且需要按顺序处理各个请求（在上下文中可以看到相应的回答）。可以使用基于响应的扩散技术，而不是使用随机数据填充响应模板（这样会更快）——只生成测试样本即可。不过，真正重要的还是系统1这个概念本身。我认为它的应用范围非常广泛：智能应用程序、智能代理系统、用于编码的客户端程序——从而降低成本，提高运行速度，提升解决方案的质量等等。

原帖全文 / PL

Takie modele jak JEV (System-1) zmienią moim zdaniem bardzo dużo. Obecne modele LLM symulują System-2. Dla mnie implementacja jev to jedna z najświeższych koncepcji ostatnich miesięcy. Niby nic szczególnego (dynamiczny klasyfikator) a dziwi, że tak długo trzeba było czekać na taki model. Uniwersalny klasyfikator, inteligentny "if". W swoich poprzednich wpisach objaśniłem jak to działa. Mam dostęp do API @typesafeai @CompleteSkeptic więc zrobiłem self-play w moim pac-man. To "zabawkowy" przykład ponieważ schemat zapytań jest stały ale ... w wielu systemach np. agentowych schemat jak i stan zmienia się w czasie (w pac-man tylko stan się zmienia). W bardziej zaawansowanych, złożonych systemach struktura stanu, jak i wartości atrybutów stanu są zmienne w czasie, kontrakt klasyfikatora (liczba klas jak i ich semantyka) również. I tutaj mamy system-1 jev - podejmuje decyzje. Oczywiście można to zrobić na LLM ale będzie wolniejsze, droższe, sekwencyjne (wzajemnie zależne - w kontekście widać odpowiedzi). Można wykorzystać dyfuzyję z blokiem odpowiedzi wypełnionym nie na szum a na szablon odpowiedzi (będzie szybko) - generować tylko proby. Możliwości są chodzi natomiast o samą koncepcję Systemu-1. Widzę szerokie zastosowanie - inteligentne aplikacje, systemy agentowe, w klientach do kodowania -> obniżenie kosztów, zwiększenie szybkości działania, jakości rozwiązania itd.