Baseten 发布 2B 开放权重决策模型 joey-1，宣称 20ms 延迟与 $0.01/百万 token 定价

Baseten发布2B开放权重决策模型joey-1，输出校准概率，宣称20ms延迟、$0.01/百万token

推理平台 Baseten 于 10 月 29 日发布 2B 开放权重模型 joey-1，定位为「决策模型」：它返回的不是文本，而是校准概率。据厂商口径，该模型 P50 延迟为 20 毫秒，输入定价为每百万 token 0.01 美元。材料指出，这类产品面向 Agent 路由、分类、风控等需要大量低成本、低延迟判断的高频小决策场景。需要注意的是，「校准概率」「20ms」等关键说法目前仅有厂商口径，材料中未见公开基准测试、模型仓库或模型卡片等可复核证据。

rss · MarkTechPost · 10月29日 21:20

「为何现在」 该模型刚于 10 月 29 日发布，价格与延迟数字具体，为观察「用小型专用模型承接高频小决策」这一方向提供了一个新样本。但其宣称的性能与校准能力尚未得到独立验证，实际效果仍待观察。

「可做角度」 可做角度：以 joey-1 为案例梳理「决策模型」这一细分产品形态——直接输出概率的 2B 小模型与通用生成式小模型在 Agent 路由、分类等高频场景中的定位差异，并如实说明其 20ms、$0.01/1M tokens 等指标目前仅有厂商口径、暂无公开基准可复核。

查看原文 ↗