QuantFactory
Parcourir les modèles
Des modèles ouverts à télécharger et exécuter. Choisissez votre mémoire pour voir ce qui tient.
Résultats des modèles
Les 12 meilleurs résultats pour GGUF
La compatibilité estime la mémoire, pas la vitesse.
BA
bartowski
allenai_Olmo-3-32B-Think-GGUF
Discuter et écrire19.48 GBapache-2.0↓ 1.2K1,160 téléchargements dans le catalogue
QU
QuantFactory
Llama-3-8B-ShareGPT-112K-GGUF
Discuter et écrire4.92 GBllama3↓ 1.2K1,160 téléchargements dans le catalogue
BA
bartowski
deepseek-coder-1.3B-kexer-GGUF
Discuter et écrire873 MBapache-2.0↓ 1.2K1,159 téléchargements dans le catalogue
QU
QuantFactory
internlm2-math-plus-7B-GGUF
Discuter et écrire4.71 GBAucune licence indiquée↓ 1.5K1,478 téléchargements dans le catalogue
QU
QuantFactory
Llama-3-Ko-Luxia-Instruct-GGUF
Discuter et écrire5.02 GBAucune licence indiquée↓ 1.5K1,477 téléchargements dans le catalogue
BA
bartowski
Falcon3-3B-Instruct-GGUF
Discuter et écrire2.01 GBAucune licence indiquée↓ 1.5K1,466 téléchargements dans le catalogue
QU
QuantFactory
Dolphin3.0-Qwen2.5-3B-GGUF
Discuter et écrire2.1 GBAucune licence indiquée↓ 1.4K1,442 téléchargements dans le catalogue
QU
QuantFactory
L3-Umbral-Mind-RP-v3.0-8B-GGUF
Discuter et écrire4.92 GBAucune licence indiquée↓ 1.4K1,429 téléchargements dans le catalogue
QU
QuantFactory
Llama-3-Alpha-Ko-8B-Instruct-GGUF
Discuter et écrire4.92 GBAucune licence indiquée↓ 1.4K1,419 téléchargements dans le catalogue
QU
QuantFactory
Gemma2-9B-TitanFusion-GGUF
Discuter et écrire5.76 GBAucune licence indiquée↓ 1.4K1,371 téléchargements dans le catalogue
QU
QuantFactory
Loki-v2.6-8B-1024k-GGUF
Discuter et écrire4.92 GBAucune licence indiquée↓ 1.4K1,355 téléchargements dans le catalogue