Jev 新闻

用读取 token 概率实现 Jev 风格的单函数 LLM 封装器,支持视觉模型

Hacker News 热门(buzzing.cc 中文翻译)AIHOT 评分 62/100

摘要

作者 allanrbo 分享一个借鉴 Jev 思路的单函数封装方法:让模型只输出一个选项字母,通过 logprobs 读取各选项的 token 概率作为结构化答案,并扩展 attachments 字段支持图片输入。

原始标题

一个用于大型语言模型(LLM)的单函数Jev样式封装器,包括视觉模型