用读取 token 概率实现 Jev 风格的单函数 LLM 封装器,支持视觉模型
Hacker News 热门(buzzing.cc 中文翻译)AIHOT score 62/100
Summary
作者 allanrbo 分享一个借鉴 Jev 思路的单函数封装方法:让模型只输出一个选项字母,通过 logprobs 读取各选项的 token 概率作为结构化答案,并扩展 attachments 字段支持图片输入。
Original title
一个用于大型语言模型(LLM)的单函数Jev样式封装器,包括视觉模型