typed-lm
neurono-ml/typed-lm
Single-forward-pass semantic routing in Rust: turn dense LLMs (Llama, Qwen, Mistral, Gemma) into a typed decision API with LoRA/QLoRA training and FP8/FP4 quantization, built on Candle.
- 星标
- 10
- 派生
- 0
收录依据
通过 Rust/Candle 将解码模型转换为类型化布尔、选择和评分决策的实现,支持适配器训练及 System One 风格 HTTP 接口。按 Jev 相关替代实现收录,不认证官方身份或完全替换兼容性。