ScaleDown 发布 3 个 Constrained Decoding Models:Classify、Extract 和 Summarize
X:Rohan Paul (@rohanpaul_ai)AIHOT 评分 54/100
摘要
ScaleDown 发布 3 个面向单一任务的 Constrained Decoding Models(Classify、Extract、Summarize),不做逐 token 生成,只对输入做一次 prefill 并从原文中直接选出答案。
原始标题
Pulling a due date out of a 300-page PDF shouldn’t need a model that writes.