工具介绍
DwarfStar 4(ds4)是一款专为消费级硬件设计的本地大模型推理引擎,支持 Metal(Apple Silicon)、CUDA(NVIDIA GPU)和 ROCm(AMD GPU)三大硬件平台。项目目标是让少量优质大语言模型能在普通用户可购买的硬件上高效运行,采用小型原生推理引擎架构,针对 DeepSeek 4 Flash 和 PRO 等模型进行了深度优化。适合希望在本地设备上运行大语言模型、不依赖云端服务的开发者和高级用户,兼顾推理性能与多平台硬件兼容性。
提示:本页信息由 智能工具库 自动抓取与整理,仅供参考。工具的功能与定价以官网为准;外部链接为官方地址,请注意甄别。
