ggml-org
浏览模型
可下载并运行的开放模型。选择你的内存,看看哪些放得下。
模型结果
“GGUF”的前 12 个结果
适配仅估算内存,不代表速度测试。
BA
bartowski
granite-3.1-1B-a400m-instruct-GGUF
聊天与写作822 MBapache-2.0↓ 2.3K目录下载 2,258 次
QU
QuantFactory
EVA-D-Qwen2.5-1.5B-v0.0-GGUF
聊天与写作986 MBapache-2.0↓ 2.2K目录下载 2,246 次
BA
bartowski
Phi-3.1-mini-4k-instruct-GGUF
聊天与写作2.39 GBmit↓ 2.2K目录下载 2,239 次
QU
QuantFactory
L3-8B-Stheno-v3.2-GGUF
聊天与写作4.92 GBcc-by-nc-4.0↓ 2.2K目录下载 2,235 次
UN
unsloth
granite-4.0-h-small-GGUF
聊天与写作apache-2.0↓ 2.2K目录下载 2,235 次
BA
聊天与写作7.48 GBapache-2.0↓ 2.2K目录下载 2,232 次
UN
unsloth
orpheus-3B-0.1-ft-GGUF
Read text aloud2.09 GBapache-2.0↓ 2.2K目录下载 2,204 次
BA
bartowski
Hermes-2-Pro-Llama-3-8B-GGUF
聊天与写作4.92 GBapache-2.0↓ 2.2K目录下载 2,181 次
LM
lmstudio-community
Qwen2.5-Coder-0.5B-Instruct-GGUF
聊天与写作398 MBapache-2.0↓ 2.2K目录下载 2,169 次
QU
QuantFactory
Llama-3.1-8B-Lexi-Uncensored-V2-GGUF
聊天与写作4.92 GBllama3.1↓ 2.2K目录下载 2,165 次
UN
聊天与写作398 MBapache-2.0↓ 2.2K目录下载 2,156 次