QuantFactory
Parcourir les modèles
Des modèles ouverts à télécharger et exécuter. Choisissez votre mémoire pour voir ce qui tient.
Résultats des modèles
Les 12 meilleurs résultats pour GGUF
La compatibilité estime la mémoire, pas la vitesse.
TH
TheBloke
SOLAR-10.7B-Instruct-v1.0-GGUF
Discuter et écrire6.46 GBapache-2.0↓ 1K1,031 téléchargements dans le catalogue
BA
Discuter et écrire2.39 GBmit↓ 1K1,030 téléchargements dans le catalogue
QU
QuantFactory
Ko-Llama-3.1-8B-Lexi-Uncensored-V2-GGUF
Discuter et écrire4.92 GBllama3.1↓ 1K1,026 téléchargements dans le catalogue
BA
bartowski
Peach-9B-8k-Roleplay-GGUF
Discuter et écrire5.33 GBmit↓ 1K1,025 téléchargements dans le catalogue
QU
QuantFactory
gemma-2-9B-it-abliterated-GGUF
Discuter et écrire5.76 GBgemma↓ 1K1,025 téléchargements dans le catalogue
QU
QuantFactory
Llama-3.2-Taiwan-Legal-3B-Instruct-GGUF
Discuter et écrire2.02 GBllama3.2↓ 1K1,025 téléchargements dans le catalogue
QU
QuantFactory
Celeste-12B-V1.6-GGUF
Discuter et écrire7.48 GBapache-2.0↓ 1K1,024 téléchargements dans le catalogue
QU
QuantFactory
SmolLM2-135M-Instruct-GGUF
Discuter et écrire105 MBapache-2.0↓ 1K1,024 téléchargements dans le catalogue
BA
bartowski
granite-3.0-1B-a400m-instruct-GGUF
Discuter et écrire822 MBapache-2.0↓ 1K1,022 téléchargements dans le catalogue
QU
QuantFactory
Llama-3.2-3B-Agent007-Coder-GGUF
Discuter et écrire2.02 GBapache-2.0↓ 1K1,022 téléchargements dans le catalogue
QU
QuantFactory
ClinicalGPT-base-zh-GGUF
Discuter et écrire5.27 GBafl-3.0↓ 1K1,021 téléchargements dans le catalogue