inference-benchmarks
iammrduncan/inference-benchmarks
This is a LLM Gateway that mimics typesafe ai structured output. Like an imposter Jev.
TypeScript
- スター
- 38
- フォーク
- 5
掲載理由
合成ワークロードでTypeSafe Jev、制約付きQwen構造化出力、ローカルのツール呼び出しモデルを比較するベンチマークです。結果は作者の報告値です。
iammrduncan/inference-benchmarks
This is a LLM Gateway that mimics typesafe ai structured output. Like an imposter Jev.
合成ワークロードでTypeSafe Jev、制約付きQwen構造化出力、ローカルのツール呼び出しモデルを比較するベンチマークです。結果は作者の報告値です。