QuantFactory
Parcourir les modèles
Des modèles ouverts à télécharger et exécuter. Choisissez votre mémoire pour voir ce qui tient.
Résultats des modèles
Les 12 meilleurs résultats pour GGUF
La compatibilité estime la mémoire, pas la vitesse.
BA
bartowski
Replete-LLM-Qwen2-7B-GGUF
Discuter et écrire4.68 GBapache-2.0↓ 842842 téléchargements dans le catalogue
QU
QuantFactory
Llama-3-KoEn-8B-GGUF
Discuter et écrire4.92 GBcc-by-nc-sa-4.0↓ 839839 téléchargements dans le catalogue
BA
bartowski
SELM-Llama-3-8B-Instruct-iter-3-GGUF
Discuter et écrire4.92 GBmit↓ 836836 téléchargements dans le catalogue
GG
ggml-org
gemma-4-E4B-GGUF
Work with multiple media8.03 GBapache-2.0↓ 831831 téléchargements dans le catalogue
BA
bartowski
open-thoughts_OpenThinker3-7B-GGUF
Discuter et écrire4.68 GBapache-2.0↓ 830830 téléchargements dans le catalogue
QU
QuantFactory
Llama-3-8B-Instruct-262k-GGUF
Discuter et écrire4.92 GBllama3↓ 829829 téléchargements dans le catalogue
QU
QuantFactory
BgGPT-Gemma-2-9B-IT-v1.0-GGUF
Discuter et écrire5.76 GBgemma↓ 824824 téléchargements dans le catalogue
QU
QuantFactory
gemma-7B-aps-it-GGUF
Discuter et écrire5.33 GBgemma↓ 819819 téléchargements dans le catalogue
BA
bartowski
GRMR-2B-Instruct-GGUF
Discuter et écrire1.71 GBapache-2.0↓ 818818 téléchargements dans le catalogue
QU
QuantFactory
Reasoning-Llama-3B-v0.1-GGUF
Discuter et écrire2.02 GBllama3.2↓ 818818 téléchargements dans le catalogue
TH
TheBloke
TinyLlama-1.1B-python-v0.1-GGUF
Discuter et écrire668 MBapache-2.0↓ 817817 téléchargements dans le catalogue