switchboard
aniruddh-krovvidi/switchboard
Guardrail + model router for LLM gateways on TypeSafe's Jev (System One model), with an independent accuracy/calibration/latency evaluation. Stdlib Python.
Python
- スター
- 1
- フォーク
- 0
掲載理由
ゲートウェイがJevでプロンプト注入・有害内容・個人情報・モデル層を判定し、コードが方針を適用します。Jevに接続できない場合は大規模モデルへ通す設定が既定です。