Unsloth Desktop 主打轻量化本地模型训练与推理，以低显存消耗、高速微调著称。内置丰富模型库，支持文本对话、图生图、文生视频、音频生成，可训练 LoRA，导出 GGUF、NVFP4 格式。自带 RAG 知识库、私密网页检索，提供兼容 OpenAI 的 API，方便对接第三方程序，完整本地运行，数据不上传云端。 核心参数
- 支持系统：Windows、macOS、Linux
- 硬件：NVIDIA / AMD / Intel / Apple Silicon，支持多 GPU、CPU
- 模型类型：LLM、扩散图生图、文生视频、音频、GGUF、MLX
- 附加能力：LoRA 微调、RAG、OpenAI 兼容 API、LAN 局域网共享
- 授权：开源免费 优势
- 微调省显存，训练速度更快
- 一站式，文本、图像、视频、音频模型统一管理
- 全部离线运算，数据留在本机
- API 对接方便，可接入 Agent 适用场景 本地大模型微调、离线 AI 对话、本地图文视频生成、私有知识库 RAG、AI 开发调试。 使用提醒 模型微调对显卡显存有一定要求；下载大模型需要较大存储空间。
下载地址：
macos：https://github.com/unslothai/unsloth/releases/latest/download/Unsloth-Desktop-MacOS.dmg
linux：curl -fsSL https://unsloth.ai/install.sh | sh
windows：https://github.com/unslothai/unsloth/releases/download/v0.1.917-beta/Unsloth-Desktop-Windows.exe