ggml-org
Parcourir les modèles
Des modèles ouverts à télécharger et exécuter. Choisissez votre mémoire pour voir ce qui tient.
Résultats des modèles
Les 12 meilleurs résultats pour GGUF
La compatibilité estime la mémoire, pas la vitesse.
BA
bartowski
google_gemma-3-1B-it-GGUF
Discuter et écrire806 MBgemma↓ 13.4K13,422 téléchargements dans le catalogue
LM
lmstudio-community
Qwen2.5-0.5B-Instruct-GGUF
Discuter et écrire398 MBapache-2.0↓ 12.7K12,678 téléchargements dans le catalogue
UN
unsloth
Llama-3.1-8B-Instruct-GGUF
Discuter et écrire4.92 GBllama3.1↓ 12.5K12,470 téléchargements dans le catalogue
BA
bartowski
SmolLM2-360M-Instruct-GGUF
Discuter et écrire271 MBapache-2.0↓ 12.2K12,224 téléchargements dans le catalogue
BA
bartowski
Qwen2.5-Math-1.5B-Instruct-GGUF
Discuter et écrire986 MBapache-2.0↓ 12.1K12,068 téléchargements dans le catalogue
TH
TheBloke
MythoMax-L2-Kimiko-v2-13B-GGUF
Discuter et écrire7.87 GBcc-by-nc-4.0↓ 12K12,006 téléchargements dans le catalogue
BA
bartowski
Llama-3.1-8B-Stheno-v3.4-GGUF
Discuter et écrire4.92 GBcc-by-nc-4.0↓ 11.7K11,654 téléchargements dans le catalogue
Discuter et écrire14.33 GBAucune licence indiquée↓ 15.3K15,281 téléchargements dans le catalogue
LM
lmstudio-community
LFM2.5-1.2B-Instruct-GGUF
Discuter et écrire731 MBAucune licence indiquée↓ 15.1K15,133 téléchargements dans le catalogue
UN
unsloth
Nemotron-3-Nano-30B-A3B-GGUF
Discuter et écrire24.57 GBAucune licence indiquée↓ 14.9K14,911 téléchargements dans le catalogue
BA
bartowski
qwen2.5-7B-ins-v3-GGUF
Discuter et écrire4.68 GBAucune licence indiquée↓ 13.3K13,271 téléchargements dans le catalogue