すべてのプロジェクト

vllm2jev

quaeast/vllm2jev

Jev-compatible adapter for vLLM: use any vLLM-served LLM for Choice, Score, and Noul decisions via logprobs—without modifying the model or vLLM service.

Python
スター
1
フォーク
0

掲載理由

vllm2jevはvLLMモデルを型付きChoice・Score・Noul判定に変換する独立アダプターで、TypeSafeのホスト型Jevではない。

カテゴリー

タグ