better-cheaper-llm
davidzna/better-cheaper-llm
Use Jev instead of an LLM for RAG decisions: relevance grading, query routing, hallucination checks and LLM-as-a-judge evals. Faster, cheaper, measured first.
Python
- スター
- 0
- フォーク
- 0
掲載理由
既存 LLM ログの決定呼出しを監査し Jev で再実行、影運用・実適用と LLM へのフォールバックを提供する。切替前に実トラフィックで測定する。