2026年9月15日,TypeSafe AI发布Jev,称其为首个System One Model。官方披露端到端延迟为70—500ms,在所选System One任务上较对照LLM快40—200倍。创始人Diogo Almeida是InstructGPT论文的主要作者之一。Jev最值得关注的变化,是把自然语言理解包装成一种软件可以直接调用的决策能力:开发者事先定义问题、合法答案和业务规则,模型返回判断与概率,程序据此行动。这可能让AI从少数聊天入口,进入软件内部成千上万个判断节点。
01训练目标:从RLHF到RLCD的范式切换
典型自回归LLM的预训练学习下一个词元,其序列概率可写为P(w₁…wₜ | x) = ∏ P(wᵢ | x, w₍<ᵢ₎)。后训练再通过人类偏好、可验证奖励等改善行为。RLHF奖励人更喜欢的回答,但“回答令人满意”并不自动等于“对正确性的概率估计准确”。RLVR可以奖励答案正确,同样不能仅凭正确率推导出概率已经校准。TypeSafe将自己的路线称为RLCD,即Reinforcement Learning for Calibrated Decisions:直接针对决策和概率训练。其官方教程也把RLCD放在预训练语言模型之后的训练分支中。因此,类别切换应理解为优化目标与计算接口的改变,不能据此断言其底座与语言模型毫无关系。
用一个统计学例子解释这种目标差异:二元预测的Brier损失为(p-y)²,其中p是预测概率,y是取值为0或1的实际结果。它会惩罚自信的错误;在期望意义上,如实报告条件概率优于随意夸大信心。这类严格适当评分规则,展示了“训练概率诚实性”的数学基础。这只是解释性例子,不是Jev已公开的损失函数。本次查阅的官方材料没有提供足以复现RLCD的完整目标函数、奖励构造和消融实验。
02输出契约:Choice、Score、Noul三种原语
Jev的基本接口是state + questions → answers:输入可以是文本或结构化状态,输出由调用前定义的三种原语组成。Choice在最多255个预定义选项中选择,并返回各选项概率,适用于归类、路由、选择已有候选。Score对2—10个有文字定义的有序等级给出分布及加权评分,适用于严重程度、相关性、优先级。Noul返回“是”的概率,范围0—1,适用于是否相关、是否满足条件。
设合法选项集合为S,类型保证讨论的是P(输出不属于S)=0。例如,程序只提供三个已验证的文献ID,模型就没有输出第四个虚构ID的通道。这里消除的是一种生成自由度。但模型仍可能选择错误文献,或把“不支持论点”判断为“支持”。所以,“数学上不可能类型错”不能扩展成“数学上不可能事实错”。官方发布中的零错误保证,明确落在schema匹配上。工程设计也必须给候选集合留出“其他”“未提及”“证据不足”等出口。
03采样架构:并行判断与高频路径
典型自回归模型逐步解码;即使答案是JSON,后续词元仍依赖前文。Jev官方描述的机制是共享输入状态,在一次调用中并行、隔离地评估多个问题,直接返回结果,而非逐词元写出答案。例如处理一条读者反馈,可以同时判断主题、紧急程度、是否指出事实错误、是否提出合作。程序拿到结果后,才决定哪些判断有用。官方称这种模式为speculative fan-out:提前计算可能需要的分支,减少串行往返。
共享状态还会改变软件的组织方式:与其反复传入同一篇文章,依次追问十个标签,可以把十个定义清晰的问题放在一次请求里。这样减少了重复输入和网络往返。但问题本身仍计入输入预算,批量增加问题也受上下文与服务限额约束;不能把“输出免费”理解为无限判断没有计算成本。这有两个边界。第一,并行评估不意味着各个事件统计独立,不能随意把概率相乘。第二,需要新证据才能回答的下一步,仍然需要检索或追加调用。
04概率校准:让不确定性进入业务规则
如果模型对一批事件都报出约0.8,校准意味着这些事件约有八成发生。它是群体频率性质,不是对某一次判断的保证;“越自信越准确”本身,也弱于严格意义的校准。这里有一个容易导致错误部署的细节:Jev的confidence字段,是从概率分布计算出的集中程度指标,不能直接解释成选中答案正确的概率。Choice和Score同时返回完整分布;Noul只有二元概率,没有独立的confidence字段。需要计算预期损失时,应使用经过业务验证的事件概率,而非把两个字段混用。
Jev名字背后的Jevons悖论,为这条路线提供了经济解释。十九世纪,Jevons指出,提高燃料使用效率可能扩大其用途,最终增加总消费。迁移到AI,推断是:当判断足够便宜,软件会开始执行过去根本不值得执行的判断。过去只给最重要的报告做人工分类,将来可以给每条消息、每个检索片段、每次工具调用加上多个判断。假设单次成本下降一百倍、需求增长一千倍,总支出仍会增长十倍。但这种增长取决于需求弹性、业务收益与错误成本,不能把“成本下降”写成需求必然爆炸的定律。
05OPC实践:研究型一人公司的五个落地场景
对OPC,更稀缺的资源很可能是注意力。每天一万次判断,即使只有1%转人工,也有一百次复核;每次两分钟,就是两百分钟。因此,除了控制错误,还要控制升级量,合并重复事件,并优先审核损失最大的项目。研究型OPC可以先选一个低风险流程,用数百至上千条人工标注材料建立基线,在不影响实际处理的情况下运行,再逐步开放自动分类。重点记录漏检率、错误放行率、人工处理量、尾延迟与每个有效结果的总成本。
可行的组合方式是:代码完成确定性检查,Jev承担高频、范围明确的判断,推理型LLM处理复杂或低置信案例,人负责高代价争议与最终责任。LLM也可以在开发阶段帮助设计问题和评测集。System One与System Two在这里描述任务分工;用Jev检查LLM输出能增加一道核验,但检查器也必须接受独立评测。同样,不宜要求Jev给一个笼统的“这篇研究值不值得发表”分数。更可操作的设计是分别判断资料是否新增、论点是否有来源、证据是否相互矛盾,再用代码组合。这样商业优先级由经营者控制,模型也不必在一个评分里偷偷权衡所有目标。
Jev展示了一种新的工程范式:把语义判断从聊天框中解放出来,变成软件可以直接调用的决策原语。对研究型一人公司而言,这意味着一个人能够维护的语义决策节点数量可能大幅扩展——不用为每种表达写关键词规则,可用问题定义复用同一模型。但真正的扩张不是自动发生的:概率需要验证、升级量需要控制、边界需要工程化。当判断足够便宜,软件会开始执行过去根本不值得执行的判断;但只有当这些判断的可靠性被独立验证、当人的注意力被用于最高价值的争议时,这种范式变化才真正转化为OPC的竞争优势。
这是一个持续更新的公开记录。重要修订会保留日期并说明原因。