QuantFactory
Parcourir les modèles
Des modèles ouverts à télécharger et exécuter. Choisissez votre mémoire pour voir ce qui tient.
Résultats des modèles
Les 12 meilleurs résultats pour GGUF
La compatibilité estime la mémoire, pas la vitesse.
QU
QuantFactory
deepseek-math-7B-instruct-GGUF
Discuter et écrire4.22 GBAucune licence indiquée↓ 1.3K1,334 téléchargements dans le catalogue
QU
QuantFactory
Captain-Eris_Violet-V0.420-12B-GGUF
Discuter et écrire7.48 GBAucune licence indiquée↓ 1.3K1,306 téléchargements dans le catalogue
QU
QuantFactory
Llama-3.1-Korean-8B-Instruct-GGUF
Discuter et écrire4.92 GBAucune licence indiquée↓ 1.3K1,296 téléchargements dans le catalogue
QU
QuantFactory
SmallThinker-3B-Preview-abliterated-GGUF
Discuter et écrire2.1 GBAucune licence indiquée↓ 1.3K1,288 téléchargements dans le catalogue
QU
QuantFactory
LLama-3.1-Hyper-Stock-GGUF
Discuter et écrire4.92 GBAucune licence indiquée↓ 1.3K1,278 téléchargements dans le catalogue
BA
bartowski
internlm2_5-1_8b-chat-GGUF
Discuter et écrire1.17 GBAucune licence indiquée↓ 1.3K1,270 téléchargements dans le catalogue
QU
QuantFactory
L3-bluuwhale-SAO-MIX-8B-V1_fp32-merge-calc-GGUF
Discuter et écrire4.92 GBAucune licence indiquée↓ 1.3K1,260 téléchargements dans le catalogue
QU
QuantFactory
Bio-Medical-Llama-3-8B-GGUF
Discuter et écrire4.92 GBAucune licence indiquée↓ 1.2K1,224 téléchargements dans le catalogue
QU
QuantFactory
Gemma-Ataraxy-Dare-9B-GGUF
Discuter et écrire5.76 GBAucune licence indiquée↓ 1.2K1,215 téléchargements dans le catalogue
QU
QuantFactory
stable-code-instruct-3B-GGUF
Discuter et écrire1.71 GBAucune licence indiquée↓ 1.2K1,196 téléchargements dans le catalogue
QU
QuantFactory
Llama-3-8B-64k-PoSE-GGUF
Discuter et écrire4.92 GBAucune licence indiquée↓ 1.2K1,195 téléchargements dans le catalogue