QuantFactory
Parcourir les modèles
Des modèles ouverts à télécharger et exécuter. Choisissez votre mémoire pour voir ce qui tient.
Résultats des modèles
Les 12 meilleurs résultats pour GGUF
La compatibilité estime la mémoire, pas la vitesse.
QU
QuantFactory
Qwen2.5-0.5B-Instruct-GGUF
Discuter et écrire398 MBapache-2.0↓ 922922 téléchargements dans le catalogue
QU
QuantFactory
ArliAI-Llama-3-8B-Dolfin-v0.3-GGUF
Discuter et écrire4.92 GBllama3↓ 921921 téléchargements dans le catalogue
QU
QuantFactory
Control-8B-V1.1-GGUF
Discuter et écrire4.92 GBagpl-3.0↓ 916916 téléchargements dans le catalogue
BA
bartowski
TAID-LLM-1.5B-GGUF
Discuter et écrire986 MBapache-2.0↓ 914914 téléchargements dans le catalogue
QU
QuantFactory
Bielik-7B-Instruct-v0.1-GGUF
Discuter et écrire4.37 GBcc-by-nc-4.0↓ 914914 téléchargements dans le catalogue
BA
bartowski
Dans-DangerousWinds-V1.1.0-12B-GGUF
Discuter et écrire7.48 GBapache-2.0↓ 905905 téléchargements dans le catalogue
BA
bartowski
EVA-Qwen2.5-14B-v0.0-GGUF
Discuter et écrire8.99 GBapache-2.0↓ 903903 téléchargements dans le catalogue
QU
QuantFactory
Phi-3-mini-128k-instruct-GGUF
Discuter et écrire2.39 GBmit↓ 902902 téléchargements dans le catalogue
BA
bartowski
mathstral-7B-v0.1-GGUF
Discuter et écrire4.37 GBapache-2.0↓ 900900 téléchargements dans le catalogue
BA
Discuter et écrire8.99 GBcc-by-4.0↓ 900900 téléchargements dans le catalogue
QU
QuantFactory
Llama-3-8B-Magpie-Pro-SFT-100K-v0.1-GGUF
Discuter et écrire4.92 GBllama3↓ 900900 téléchargements dans le catalogue