TypeSafe AI 在 Modal 上三天内将 Jev 扩展至超万亿 token
Modal 官方工程博客(RSS)AIHOT score 43/100
Summary
TypeSafe AI 的首个模型 Jev 在 Modal 上于发布后三天内处理超 1 万亿 token,并在 OpenRouter 1K-10K token 上下文榜单登顶,承接 15.1% 的请求。Jev 并非大语言模型,而是非自回归的 System One Model,以状态和问题为输入,并行输出带概率的结构化类型值,训练采用自研的 RLCD 方法。
Original title
TypeSafe AI scales Jev to trillions of tokens in three days on Modal