标签:KoboldCPP

KoboldCPP下载 - 开源本地AI大模型运行工具

KoboldCPP下载 - 开源本地AI大模型运行工具

一、软件介绍 KoboldCPP 是一款专为本地大语言模型(LLM)打造的开源推理引擎。它基于高性能 C/C++ 开发,将复杂的 AI 运行环境精简为一个单一的可执行文件。在 AI 推理领域,它是目前公认的体验 GGUF 格式模型最轻量化的工具之一。 该软件不仅兼容性极强,更具备优秀的硬件适配能

guest guest 2026-02-08
668 0 0
KoboldCPP | 本地大模型推理框架 低显存运行 LLM GGUF 模型部署 免费开源

KoboldCPP | 本地大模型推理框架 低显存运行 LLM GGUF 模型部署 免费开源

KoboldCPP内容介绍:含核心特性、部署步骤、模型加载、性能优化、常见问题,适配 AI 爱好者 / 开发者,在低配设备上本地运行大语言模型,无需云端依赖。 核心信息速览 项目 详情 开源协议 AGPL-3.0(开源免费,可商用需遵守协议)

guest guest 2026-01-18
221 0 0