Kev 深度评测:7.9k 星可自训的 Jev 类决策模型家族,Kev-27B 逼近 Jev 官方,8.9/10

📌 评测对象:jaredpalmer/kev | 星数:7,952(2026-09-30,创建约两周)| 协议:开源权重 | 出处:GitHub,Formik/Turborepo 作者 Jared Palmer 的新作

📋 项目简介

一句话定位:"决策不该让生成式大模型即兴发挥——Kev 把 System 1 型类型化决策做成一族你能自己训练、自己跑的小模型。" Kev 是基于 Qwen3.5/3.8 的决策模型家族,架构来自公开的 Jev's Architecture Unmasked。API 与 TypeSafe 的 System One 完全一致:TypeSafe Python SDK 指向本地 Kev 服务器,一行不改。它是 Laya 之外又一条"非自回归决策引擎"路线,且多了最关键的一步——权重全开,让你自己训。安装部署的实操步骤可先读 Kev 教程,本文专注评测它值不值得入。

📊 八维度评分:8.9 / 10

维度分数评述
理念9.5把"分类/评分/是非判断"从生成式 LLM 里拆出来做成专用小模型,一次请求同时出 yes-no(noul)、choice、score 三种题型且互不串读,默认输出校准概率而非硬标签——代码可按置信度自动路由,低置信送人工。这是"人机分工"在模型层落地的正确形态。
工程9.0四档尺寸覆盖笔记本到数据中心 GPU;服务层 uv sync 两条命令起,CUDA/ROCm/Apple Silicon MLX 自动适配;微调闭环做成 coding-agent skill 在 Modal 上一键跑完(找问题→训练→serving);自部署 HTTPS endpoint 闲时缩零。
数据诚实9.5站内评测迄今最诚实的一份成绩单:所有指标 dev/test 双列并排、"test set 每个发布模型只读一次"写进 README、用 Brier(全分布)而非只看 top-1、明确声明与 Jev 的对比"非受控——我们不知道 Jev 训练数据"、每个模型卡附完整配方与 SHA-256,历史版本保留为 Hub tag。
上手9.0HuggingFace Space 免安装先试 Kev-4B/0.8B;本地 uv sync --extra serve + 一条 uv run 命令起服务;已有 Jev 调用的团队把 base_url 改到 Kev 即完成迁移。--run 同时支持 Hub 修订号与本地 checkpoint 目录。
安全8.0本地推理数据不出门(对比托管 Jev API 的天然优势);GitHub release 权重带 SHA-256 校验。扣分项:自部署 HTTPS endpoint 的鉴权细节文档着墨少,企业内网部署需自行加固。
文档9.0README 含全量成绩表(新源/训练源准确率 + Brier 四模型对比)、 What to Expect 章节明确"哪里和 Jev 一样好、哪里不一样",四个模型卡公开训练配方与全部历史结果——以开源决策模型的标准衡量近乎范本。
成本9.5权重免费开放(HF + GitHub release 双渠道);Kev-0.8B 在任意 Apple Silicon 上可跑,小微团队的"_ticket 路由/风控预筛"场景几乎零成本;Modal 训练按用量计费且 serving 闲时缩零,对比按次付费的托管决策 API 长期更省。
生态8.0TypeSafe System One API 兼容是聪明的生态策略——Jev 生态的工具(含 fast-jev-compaction 等 Claude Code 插件)直接可用;Jev 家族周边两周内爆发(awesome-jev、SemIf-OpenJev、NanoJev)。扣分:生态本身很新,生产案例与第三方评估还少。

总分:8.9 / 10

🔍 核心亮点深度拆解

1. 成绩单:Kev-27B 距 Jev 一个点,Brier 反超

模型底座新源准确率 dev/testBrier dev/test硬件
Kev-0.8BQwen3.5-0.8B-Base0.648 / 0.6970.481 / 0.416任意 Apple Silicon、L4
Kev-4BQwen3.5-4B-Base0.817 / 0.8380.269 / 0.24232GB Mac、L40S、H100
Kev-9BQwen3.5-9B-Base0.822 / 0.8520.286 / 0.23732GB Mac、L40S、H100
Kev-27BQwen3.8-27B 后训练版0.848 / 0.8960.236 / 0.164B200、H200、H100 80GB
Jev(托管)未公开0.857 / –0.211 / –TypeSafe API

"新源"= 训练时从未见过的数据集与规则,最接近你自己的业务问题。Kev-27B 在新源上与 Jev 差 1 个点,而 Brier(衡量整条概率分布的校准质量,越低越好)测试集 0.164 反超 Jev 的 0.211——意味着它的置信度更可信,自动路由的阈值更好定。项目自己也把丑话说在前面:Jev 训练集未知,这不是受控对比。

2. 一个请求,三种题型,互不串读

curl -s localhost:8009/v1/systemone -H 'content-type: application/json' -d '{
  "state": "Shoes arrived two weeks late and in the wrong size...",
  "model": "kev-latest",
  "questions": {
    "department":  {"type": "choice", "instructions": "Which team?",
                    "criteria": {"returns": "...", "shipping": "...", "billing": "..."}},
    "escalate":    {"type": "noul",  "instructions": "Urgent human needed?"},
    "frustration": {"type": "score", "instructions": "How frustrated?",
                    "criteria": ["Calm", "Frustrated", "Very angry"]}
  }}'

# Kev-4B(Apple M5 bf16)返回:495ms
# department → {choice: "returns", probabilities: {0.47/0.28/0.25}}
# escalate   → {noul: 0.93}
# frustration→ {score: 1.44, probabilities: {0.00/0.56/0.44}}

关键设计:三个问题共享同一段文本但互相看不见彼此的答案,避免题型间污染;返回概率而非硬标签,让"置信度 0.93 自动处理、0.47 送人工"这种路由策略成为一等公民。

3. 自训闭环:这是与 Laya/Jev 最大的差异

Kev 不止给权重——官方做了一个 coding-agent skill,把"找问题 → 生成训练样本 → Modal 上微调 → 部署 serving"整条链交给 agent 跑。每个 checkpoint 出厂自带在 held-out 数据上拟合的温度参数(默认即校准),微调自己的业务样本后也不用手工调温度。对有专有标注数据(客服工单、风控规则、内容审核)的团队,这是把决策模型变成私产的最短路径。

⚖️ 横向对比与适用建议

方案形态优势短板
Kev开源权重自训自部署私产化、可微调、本地推理、TypeSafe API 兼容27B 需 80GB 级 GPU;生态新
Laya开源决策引擎(多语言 Router)33ms 一次前向,100+ 语言内置路由决策题型与 Kev 有差异,侧重 routing
Jev(TypeSafe 托管)API零运维、dev 榜最高数据出门、按量付费、不可微调

⚠️ 不足与风险

📝 评测结论

Kev 把"决策模型私有化"的门槛从"研究团队专属"拉到了"一个 repo + 一条 uv 命令":成绩逼近官方托管版、校准质量部分反超、训练配方全公开、API 零成本迁移。数据诚实度是同赛道评测样本里的天花板——dev/test 双列、Brier 全分布、非受控声明一样不少。8.9/10:决策模型开源化的当前最优解,有标注数据的团队值得直接上手。

📚 常见问题

Kev 是什么?和 Jev 什么关系?

Kev 是 jaredpalmer 开源的一族可自训小决策模型(7.9k 星),基于 Qwen3.5/3.8、按 Jev's Architecture Unmasked 公开的架构构建。API 与 TypeSafe 的 System One 完全一致——TypeSafe Python SDK 指向本地 Kev 服务器即可零改动运行,等于 Jev 的开源平替 + 自训版。四档尺寸:0.8B 笔记本可跑,27B 单卡数据中心 GPU。

Kev 效果怎么样?

官方数据(每格为 dev/test):新源准确率 Kev-27B 达 0.848/0.896,与 Jev 托管版(dev 0.857)相差 1 个点以内;Kev-4B/9B 差 4 个点以内。Brier 分(全分布校准,越低越好)Kev-27B 测试集 0.164,反超 Jev 的 0.211。项目同时诚实声明:Jev 训练数据未知,这不是受控对比。

怎么跑起来?能微调吗?

浏览器先试 HuggingFace Space(Kev-4B/0.8B 免安装);本地 Python 3.12/13 + uv:uv sync --extra serve 后 uv run python -m kev.serve --run jaredpalmer/kev-4b --port 8009,CUDA/ROCm/Apple MLX 自动选择。能微调:用自己的标注样本训练,一个 coding-agent skill 在 Modal 上跑完整闭环(找问题→训练→上线),部署自带 HTTPS endpoint 且闲时缩零。