vllm2jev
quaeast/vllm2jev
Jev-compatible adapter for vLLM: use any vLLM-served LLM for Choice, Score, and Noul decisions via logprobs—without modifying the model or vLLM service.
Python
- スター
- 1
- フォーク
- 0
掲載理由
vllm2jevはvLLMモデルを型付きChoice・Score・Noul判定に変換する独立アダプターで、TypeSafeのホスト型Jevではない。