主要内容
由ChatGPT联合发明者创立的TypeSafe今日正式推出Jev模型,采用并行采样架构实现程序决策自动化。该模型专为执行结构化概率决策设计,可直接嵌入生产代码库,避免传统对话式语言模型的语法错误与输出幻觉。
Jev基于校准决策强化学习(RLCD)训练,不同于传统模型通过RLHF或RLVR满足人类对话偏好,它专注于生成执行逻辑的校准概率,确保置信度与输出准确性直接相关。其硬件感知并行采样器摒弃自回归文本生成,一次性输出所有结构化值,限制输出至预定义模式,无需传统LLM部署所需的解析管道。
性能测试显示,Jev响应延迟70-500毫秒,远低于对话式模型的3-329秒,多步骤决策速度较GPT-6 Astra等基准快193.6倍,每百万输入令牌成本仅0.042美元,为传统模型的1/5至1/200。
实际测试中,Jev在Doom游戏状态和Wiki百科导航中展现高效决策能力,实时响应速度达每秒10次查询,每小时成本约7美元,适用于实时特征提取、海量数据流程等场景。
TypeSafe已开放早期开发者访问,工程团队可通过等待名单加入测试。