德州大学Jev-Mem让AI记忆构建提速6.6倍
X:Rohan Paul (@rohanpaul_ai)AIHOT スコア 42/100
要約
德州大学论文提出Jev-Mem,把链接、停止搜索等小决策交给快速打分模型Jev批量输出概率,LLM只在最后读取记忆并作答,使长对话记忆构建速度提升6.6倍。在LoCoMo长对话基准上,其回答得分0.777,高于最佳基线的0.700;记忆构建耗时158秒,最快对手为1,044秒,回答耗时0.93秒对1.47秒。
元の記事の見出し
University of Texas paper finds that handing small memory decisions to a fast scoring model let an AI memory system build its memory of l...