QuantFactory
浏览模型
可下载并运行的开放模型。选择你的内存,看看哪些放得下。
模型结果
“GGUF”的前 12 个结果
适配仅估算内存,不代表速度测试。
BA
bartowski
Qwen2-7B-Instruct-GGUF
聊天与写作4.68 GBapache-2.0↓ 1.4K目录下载 1,379 次
GG
ggml-org
SmolLM2-135M-GGUF
聊天与写作101 MBapache-2.0↓ 1.4K目录下载 1,372 次
BA
bartowski
Stheno-Hercules-3.1-8B-GGUF
聊天与写作4.92 GBapache-2.0↓ 1.4K目录下载 1,364 次
QU
QuantFactory
Llama-3.2-3B-GGUF
聊天与写作2.02 GBllama3.2↓ 1.4K目录下载 1,359 次
BA
聊天与写作14.33 GBapache-2.0↓ 1.4K目录下载 1,356 次
LM
lmstudio-community
Devstral-Small-2505-GGUF
聊天与写作14.33 GBapache-2.0↓ 1.4K目录下载 1,356 次
QU
QuantFactory
llama3-8B-DarkIdol-2.3-Uncensored-32K-GGUF
聊天与写作4.92 GBllama3↓ 1.4K目录下载 1,356 次
聊天与写作4.68 GBapache-2.0↓ 1.4K目录下载 1,353 次
QU
QuantFactory
L3-8B-Stheno-v3.3-32K-GGUF
聊天与写作4.92 GBcc-by-nc-4.0↓ 1.4K目录下载 1,353 次
QU
QuantFactory
gemma-2-baku-2B-GGUF
聊天与写作1.71 GBgemma↓ 1.4K目录下载 1,351 次
BA
bartowski
MathCoder2-Mistral-7B-GGUF
聊天与写作4.37 GBapache-2.0↓ 1.3K目录下载 1,348 次