ScaleDown 发布 3 个 Constrained Decoding Models:Classify、Extract 和 Summarize
X:Rohan Paul (@rohanpaul_ai)AIHOT score 54/100
Summary
ScaleDown 发布 3 个面向单一任务的 Constrained Decoding Models(Classify、Extract、Summarize),不做逐 token 生成,只对输入做一次 prefill 并从原文中直接选出答案。
Original title
Pulling a due date out of a 300-page PDF shouldn’t need a model that writes.