inference-benchmarks

iammrduncan/inference-benchmarks

This is a LLM Gateway that mimics typesafe ai structured output. Like an imposter Jev.

TypeScript

星标: 38
派生: 5

收录依据

该项目用合成工作负载比较 TypeSafe Jev、受约束的 Qwen 结构化输出方案和本地工具调用模型；结果为项目方报告。

README.md

项目分类

研究与评测