ScaleDown 发布 3 个 Constrained Decoding Models:Classify、Extract 和 Summarize
X:Rohan Paul (@rohanpaul_ai)AIHOT スコア 54/100
要約
ScaleDown 发布 3 个面向单一任务的 Constrained Decoding Models(Classify、Extract、Summarize),不做逐 token 生成,只对输入做一次 prefill 并从原文中直接选出答案。
元の記事の見出し
Pulling a due date out of a 300-page PDF shouldn’t need a model that writes.