Faadil Shaik: 让@typesafeai的新模特Jev玩《超级马里奥兄弟》 快速推理+结构化输出使其非常适合实时用例。 我很高兴看到这些新型号可以做什么！https://t.co/

现在非常流行@typesafeai的新AI模型“Jev”操纵马里奥，但它只看起来像是人类。你不得不做个惊喜的人吗？ 我还在学习这个Jev，但它很简单，但很有突破性，因为普通的LLM是一种概率生成文本的机制，而Jev不是文本本身，而是并行呈现结构化数据的机制，就像一组概率文本。 -- 通过软件用决定性的方法（通常是条件分支等）处理该结构化数据，首先LLM（Jev）的应答速度快几十倍或几百倍，所以可以像马里奥的游戏动画一样。 -- LLM的输出也可以是JSON格式，但这只是为了生成文本，并以结构化的方式输出结果。Jev的推理步骤是不同的，也就是说，它不是最终生成一个句子的文本，而是被训练以结构化数据的形式输出中间每个文本出现的概率，这样做既快又便宜。 -- 就像这个马里奥的操作一样，如果把现在的画面状态作为输入，用带有概率的动作模式排列出来要进行哪个操作的话，就可以直观地知道，这个比传统的文本生成AI更好。 -- 还有其他基于概率的处理，比如对查询进行分类，人类是否可以进行审查，而不是传统的文本生成人工智能，也许像Jev这样的方法会更好。 -- 创始人大约三年前离开OpenAI，花了大约两年的时间秘密研究和开发https：//t.co/nx6RryonQv😬