JudgeJev
BingelsWorth/JudgeJev
DeepThink meets llm as judge. Use heavy prefill caching to run the same request in parallel and let Jev give you the best result.
TypeScript
- スター
- 0
- フォーク
- 0
掲載理由
複数の上流モデルから候補を得て、Jev がクライアントへ返す回答を選ぶ非ストリーミング LLM プロキシ。
BingelsWorth/JudgeJev
DeepThink meets llm as judge. Use heavy prefill caching to run the same request in parallel and let Jev give you the best result.
複数の上流モデルから候補を得て、Jev がクライアントへ返す回答を選ぶ非ストリーミング LLM プロキシ。