鹭羽 发自 凹非寺
量子位 | 公众号QbitAI
有意思!这两天,有个新模型在开发者内部火得一塌糊涂:
Jev。
原贴3700多万浏览量,、Hacker News全是相关讨论。。。
火的方式也挺抽象的,这玩意儿聊天不会、代码不写,yes or no它选择or。
简单中译中一下,就是把传统LLM的生成功能给砍了。
只专心干一件事:下判断,然后把选项和对应的概率丢回给你,还不是瞎编。
成绩那可是相当能打,速度最快193.6倍、价格最便宜444.6倍。
而且......因为新架构实在太便宜,不好计量,输出token永久免费,输入每百万Token也只需0.042美元。
只能说各家的Flash模型哭晕在厕所。
更有节目效果的,是做这个的老哥——OpenAI前研究员Diogo Almeida,曾参与RLHF、InstructGPT等核心研究。
亲手教了AI小半辈子「好好说话」,临了临了直接喊AI「闭嘴」了。
这也是他出走创办的新公司TypeSafe AI首度公开亮相。
System One Model
官方介绍,Jev是它们的第一个System One Model。
何意味?丹尼尔·卡尼曼有个快慢系统的概念,系统1主打高速直觉式决策,系统2则偏向慢速长文本推理。
很明显,当前的LLM更多沿着2发展,Jev返璞归真探索1。
Jev这个名字也是出自Jevons悖论,单任务成本暴跌,但整体AI使用量预计会爆发式增加。
Jev提供三种基本能力:Choice、Score和Noul。
- Choice:从候选项里做选择;
- Score:按标准打分;
- Noul:给出某个判断成立的概率。
再直白一点,你可以把Jev理解成一个带概率的“语义逻辑门”:
它接收非结构化的状态和一组限定回答类型的问题,然后输出决策结果和评分,再交给代码接着跑。
说到这儿,可能有朋友要问了,传统生成式模型不也能做分类吗?
当然能,但区别在于,答案是如何产出的。
传统生成式模型通常还是逐token写答案,哪怕最后只需要输出一个“A”,也会花费大量token在解释答案上。
反观Jev直接输出判断结果,同一份输入里的多个独立问题还能并行处理,省掉了把答案逐字「写出来」的过程。
这样舍掉文本生成后,速度和费用就很可观了。
官方公布的端到端响应时间低至70~500毫秒,相比前沿模型能快20~200倍,价格便宜40~400倍。
当然光有答案还不够,要真正融入工业流程中,还有个至关重要的问题:模型到底有多大把握?
Jev提出了一个全新的训练方法——用于校准决策的强化学习 (RLCD,Reinforcement Learning for Calibrated Decisions)。
对照来看,RLHF根据人类反馈奖励人们更偏好的回答,RLVR根据可验证的结果给予奖励。
RLCD则把优化重点放在决策及其概率上,希望模型判断得准,也能准确表达不确定性。
所谓「校准决策」,可以理解成让模型输出的概率值,匹配真实发生的频率。
比如被模型标为0.2概率的结果,真实发生这件事的比例就约等于20%,标为1则代表这件事几乎一定会发生。
如果没有这一步,模型输出的置信度数字就缺乏实际参考价值。
另一个值得细说的是幻觉。
官方描述Jev是“零幻觉”,其实是有些夸大的。
Jev保证的是模式匹配,比如你给它A、B、C三个选项,它的确不会自作主张,编出一个D输出,但正确答案明明是A,它照样可能选成B。
所以这里的“零幻觉”得打个折扣,类型正确而事实不一定正确。
Jev用法焚诀
在Jev有限的判断任务里,各路开发者也找到了一些实用打开方式。
一类是接管软件里的高频判断。
Vercel工程师Pranit在实际业务中,对fx自动模式的安全分类器进行了测试,Jev相较原本选择的GPT-5.6 Luna要快5~18倍,准确性也更高。
Bryo AI技术总监Nikhil Mudholkar则对Jev和Gemini同时进行商业邮件分类测试。
测试结果中,Gemini的准确率要略胜一筹,但价格是Jev的10~20倍。
从性价比来看,Jev更适合自动化工作流程。
另一类是给LLM当验收员,可以对LLM的不当行为进行检查,例如有用户部署Jev来追踪LLM Agent并防止模型越狱。
开发者Elvis Saravia就把Jev接进自己的Agent框架,并构建了自定义验证器,可以在Agent宣称任务完成后再检查一遍。
这样验证成本足够低,且目标结果可信度高,也可以视作系统1和系统2的巧妙结合。
同样的思路还可以用于模型路由:
先让Jev判断请求难度,简单任务交给快模型,难题再请昂贵的推理模型出马。
比如开发者Hassan的下棋测试(Jev VS GLM 5.3)就挺有意思:
Jev每步约0.3秒、不到0.0001美元,GLM 5.3每步约5.8秒、约0.008美元,最终却由GLM 5.3在29步内将死对手。
下得快,未必想得深。
Hassan也因此更看好多模型混搭:让Jev负责快速、明确的判断,让LLM处理需要深入推理的难题。
开源也跟上了
不止如此,随着Jev把快速决策这条路线带火后,开源版也来了——Nimble。
Jev目前还只能通过API访问,但Nimble已经可以装进本地。
Nimble在思路上和Jev是一脉相承,基于Qwen3.5-9B做LoRA微调,模型适配器已经以Apache 2.0许可发布,可配合基础模型使用。
除了模型,训练数据和方法也一并开源了。
训练思路有点像让AI“找不同”:构造两份几乎一模一样的材料,只改一个关键事实,答案正确与否随之翻转。
想答对,模型必须抓住真正影响判断的核心信息。
最终的效果中,Nimble会比Jev稍逊,但比基座模型要强一些。
基础Qwen3.5-9B与参考标签的一致率是66.36%,Nimble提升到90.12%,Jev为93.21%。
换句话说,AI也未必非得靠嘴吃饭。
只要判断做得靠谱,哪怕全程不开口,活也照样干得好。
参考链接:
[1]https://x.com/CompleteSkeptic/status/2099925682726002904
[2]https://github.com/bespokelabsai/nimble
[3]https://docs.typesafe.ai/introduction
[4]https://mp.weixin.qq.com/s/ND4whrG99frwJ58-fQ0TgQ
[5]https://techcrunch.com/2026/09/18/a-new-kind-of-ai-model-from-a-chatgpt-inventor-is-thrilling-developers/