Jev 新闻

Unsloth 支持 4GB 内存本地运行 Laya Decision 模型

X:Unsloth (@UnslothAI)AIHOT 评分 55/100

摘要

Unsloth 宣布可在仅 4GB 内存的设备上本地运行 Laya Decision 模型,支持 Mac、Windows、Linux 的 CPU、统一内存和 GPU 环境。默认多语言模型 678MB,另有 English 与 Typed decisions 档需 5GB RAM、846MB;可通过 Unsloth Desktop 以 Jev 兼容 API 提供服务,数据留在本地,指南见 https://unsloth.ai/docs/models/decision-laya。

原始标题

You can now run Laya Decision models locally on just 4GB RAM! 🔥