Jev 这个决策模型非常有意思。
它不做长文生成,只做三类事:
1. 布尔判断(要不要联网、要不要退出循环)
2. 枚举选择(Agent 走 fast / plan、调哪个模型、分发给哪个 Bot)
3. 候选打分(给多个选项打分,再按分数排序)
TypeSafe 把 Jev 定位成 System One:靠快、直觉式的判断做决策。对应的是偏 System Two 的生成式模型——慢而细地推理,再输出文本。
几个很经典的落地场景:
1. 搜索意图识别
AI 搜索产品为了省搜索 API,一般会先打一枪 flash 模型做意图识别,根据 mode: chat / search 再决定要不要联网,用户往往要多等 1–2 秒。Perplexity 一类产品会把这类分流做成专用分类器,压到毫秒级。接入 Jev 后,用枚举选择 mode、或用布尔判断「要不要联网」,就能在不必自训小模型的前提下,把这道闸门做得更快、更便宜。
2. 本地模型网关
本地部署的 Agent(比如 OpenClaw),后面挂了一堆模型 API,token 成本很高。需要一层网关:日常对走 DeepSeek 之类的 flash,写代码走 Claude 之类的 SOTA。用 Jev 做枚举选择,可以把 query 快速路由到够用且更合适的模型。
3. 多 Agent 协作
不同 Bot 能力不同。群里发布任务后,Leader 要按成员能力分派。用 Jev 做候选打分,就能挑出更匹配的一组 Bot 来协作完成任务。
---
Jev 已在 OpenRouter 上线,但不兼容 OpenAI Chat Completions 格式,要用 Decisions API 自行拼 state + questions。
大家的 Agent 产品都可以接起来了。✌️
@aigc1024
 
 
Back to Top