📌 评测对象:jaredpalmer/kev | 星数:7,952(2026-09-30,创建约两周)| 协议:开源权重 | 出处:GitHub,Formik/Turborepo 作者 Jared Palmer 的新作
一句话定位:"决策不该让生成式大模型即兴发挥——Kev 把 System 1 型类型化决策做成一族你能自己训练、自己跑的小模型。" Kev 是基于 Qwen3.5/3.8 的决策模型家族,架构来自公开的 Jev's Architecture Unmasked。API 与 TypeSafe 的 System One 完全一致:TypeSafe Python SDK 指向本地 Kev 服务器,一行不改。它是 Laya 之外又一条"非自回归决策引擎"路线,且多了最关键的一步——权重全开,让你自己训。安装部署的实操步骤可先读 Kev 教程,本文专注评测它值不值得入。
| 维度 | 分数 | 评述 |
|---|---|---|
| 理念 | 9.5 | 把"分类/评分/是非判断"从生成式 LLM 里拆出来做成专用小模型,一次请求同时出 yes-no(noul)、choice、score 三种题型且互不串读,默认输出校准概率而非硬标签——代码可按置信度自动路由,低置信送人工。这是"人机分工"在模型层落地的正确形态。 |
| 工程 | 9.0 | 四档尺寸覆盖笔记本到数据中心 GPU;服务层 uv sync 两条命令起,CUDA/ROCm/Apple Silicon MLX 自动适配;微调闭环做成 coding-agent skill 在 Modal 上一键跑完(找问题→训练→serving);自部署 HTTPS endpoint 闲时缩零。 |
| 数据诚实 | 9.5 | 站内评测迄今最诚实的一份成绩单:所有指标 dev/test 双列并排、"test set 每个发布模型只读一次"写进 README、用 Brier(全分布)而非只看 top-1、明确声明与 Jev 的对比"非受控——我们不知道 Jev 训练数据"、每个模型卡附完整配方与 SHA-256,历史版本保留为 Hub tag。 |
| 上手 | 9.0 | HuggingFace Space 免安装先试 Kev-4B/0.8B;本地 uv sync --extra serve + 一条 uv run 命令起服务;已有 Jev 调用的团队把 base_url 改到 Kev 即完成迁移。--run 同时支持 Hub 修订号与本地 checkpoint 目录。 |
| 安全 | 8.0 | 本地推理数据不出门(对比托管 Jev API 的天然优势);GitHub release 权重带 SHA-256 校验。扣分项:自部署 HTTPS endpoint 的鉴权细节文档着墨少,企业内网部署需自行加固。 |
| 文档 | 9.0 | README 含全量成绩表(新源/训练源准确率 + Brier 四模型对比)、 What to Expect 章节明确"哪里和 Jev 一样好、哪里不一样",四个模型卡公开训练配方与全部历史结果——以开源决策模型的标准衡量近乎范本。 |
| 成本 | 9.5 | 权重免费开放(HF + GitHub release 双渠道);Kev-0.8B 在任意 Apple Silicon 上可跑,小微团队的"_ticket 路由/风控预筛"场景几乎零成本;Modal 训练按用量计费且 serving 闲时缩零,对比按次付费的托管决策 API 长期更省。 |
| 生态 | 8.0 | TypeSafe System One API 兼容是聪明的生态策略——Jev 生态的工具(含 fast-jev-compaction 等 Claude Code 插件)直接可用;Jev 家族周边两周内爆发(awesome-jev、SemIf-OpenJev、NanoJev)。扣分:生态本身很新,生产案例与第三方评估还少。 |
总分:8.9 / 10
| 模型 | 底座 | 新源准确率 dev/test | Brier dev/test | 硬件 |
|---|---|---|---|---|
| Kev-0.8B | Qwen3.5-0.8B-Base | 0.648 / 0.697 | 0.481 / 0.416 | 任意 Apple Silicon、L4 |
| Kev-4B | Qwen3.5-4B-Base | 0.817 / 0.838 | 0.269 / 0.242 | 32GB Mac、L40S、H100 |
| Kev-9B | Qwen3.5-9B-Base | 0.822 / 0.852 | 0.286 / 0.237 | 32GB Mac、L40S、H100 |
| Kev-27B | Qwen3.8-27B 后训练版 | 0.848 / 0.896 | 0.236 / 0.164 | B200、H200、H100 80GB |
| Jev(托管) | 未公开 | 0.857 / – | 0.211 / – | TypeSafe API |
"新源"= 训练时从未见过的数据集与规则,最接近你自己的业务问题。Kev-27B 在新源上与 Jev 差 1 个点,而 Brier(衡量整条概率分布的校准质量,越低越好)测试集 0.164 反超 Jev 的 0.211——意味着它的置信度更可信,自动路由的阈值更好定。项目自己也把丑话说在前面:Jev 训练集未知,这不是受控对比。
curl -s localhost:8009/v1/systemone -H 'content-type: application/json' -d '{
"state": "Shoes arrived two weeks late and in the wrong size...",
"model": "kev-latest",
"questions": {
"department": {"type": "choice", "instructions": "Which team?",
"criteria": {"returns": "...", "shipping": "...", "billing": "..."}},
"escalate": {"type": "noul", "instructions": "Urgent human needed?"},
"frustration": {"type": "score", "instructions": "How frustrated?",
"criteria": ["Calm", "Frustrated", "Very angry"]}
}}'
# Kev-4B(Apple M5 bf16)返回:495ms
# department → {choice: "returns", probabilities: {0.47/0.28/0.25}}
# escalate → {noul: 0.93}
# frustration→ {score: 1.44, probabilities: {0.00/0.56/0.44}}
关键设计:三个问题共享同一段文本但互相看不见彼此的答案,避免题型间污染;返回概率而非硬标签,让"置信度 0.93 自动处理、0.47 送人工"这种路由策略成为一等公民。
Kev 不止给权重——官方做了一个 coding-agent skill,把"找问题 → 生成训练样本 → Modal 上微调 → 部署 serving"整条链交给 agent 跑。每个 checkpoint 出厂自带在 held-out 数据上拟合的温度参数(默认即校准),微调自己的业务样本后也不用手工调温度。对有专有标注数据(客服工单、风控规则、内容审核)的团队,这是把决策模型变成私产的最短路径。
| 方案 | 形态 | 优势 | 短板 |
|---|---|---|---|
| Kev | 开源权重自训自部署 | 私产化、可微调、本地推理、TypeSafe API 兼容 | 27B 需 80GB 级 GPU;生态新 |
| Laya | 开源决策引擎(多语言 Router) | 33ms 一次前向,100+ 语言内置路由 | 决策题型与 Kev 有差异,侧重 routing |
| Jev(TypeSafe 托管) | API | 零运维、dev 榜最高 | 数据出门、按量付费、不可微调 |
Kev 把"决策模型私有化"的门槛从"研究团队专属"拉到了"一个 repo + 一条 uv 命令":成绩逼近官方托管版、校准质量部分反超、训练配方全公开、API 零成本迁移。数据诚实度是同赛道评测样本里的天花板——dev/test 双列、Brier 全分布、非受控声明一样不少。8.9/10:决策模型开源化的当前最优解,有标注数据的团队值得直接上手。
Kev 是 jaredpalmer 开源的一族可自训小决策模型(7.9k 星),基于 Qwen3.5/3.8、按 Jev's Architecture Unmasked 公开的架构构建。API 与 TypeSafe 的 System One 完全一致——TypeSafe Python SDK 指向本地 Kev 服务器即可零改动运行,等于 Jev 的开源平替 + 自训版。四档尺寸:0.8B 笔记本可跑,27B 单卡数据中心 GPU。
官方数据(每格为 dev/test):新源准确率 Kev-27B 达 0.848/0.896,与 Jev 托管版(dev 0.857)相差 1 个点以内;Kev-4B/9B 差 4 个点以内。Brier 分(全分布校准,越低越好)Kev-27B 测试集 0.164,反超 Jev 的 0.211。项目同时诚实声明:Jev 训练数据未知,这不是受控对比。
浏览器先试 HuggingFace Space(Kev-4B/0.8B 免安装);本地 Python 3.12/13 + uv:uv sync --extra serve 后 uv run python -m kev.serve --run jaredpalmer/kev-4b --port 8009,CUDA/ROCm/Apple MLX 自动选择。能微调:用自己的标注样本训练,一个 coding-agent skill 在 Modal 上跑完整闭环(找问题→训练→上线),部署自带 HTTPS endpoint 且闲时缩零。