ggml-org
Explorar modelos
Modelos abiertos que puedes descargar y ejecutar. Elige tu memoria para ver cuáles caben.
Resultados de modelos
Los 12 mejores resultados para GGUF
La compatibilidad estima la memoria, no la velocidad.
QU
QuantFactory
gemma-2-9B-it-SimPO-rudpo-GGUF
Chatear y escribir5.76 GBgemma↓ 1.1K1,094 descargas en el catálogo
QU
QuantFactory
llama-3-Nephilim-v3-8B-GGUF
Chatear y escribir4.92 GBcc-by-nc-4.0↓ 1.1K1,092 descargas en el catálogo
UN
unsloth
OLMo-2-0425-1B-Instruct-GGUF
Chatear y escribir936 MBapache-2.0↓ 1.1K1,085 descargas en el catálogo
QU
QuantFactory
Turkish-Llama-8B-Instruct-v0.1-GGUF
Chatear y escribir4.92 GBllama3↓ 1.1K1,083 descargas en el catálogo
BA
Chatear y escribir4.12 GBapache-2.0↓ 1.1K1,079 descargas en el catálogo
QU
QuantFactory
Qwen2.5-7B-Gutenberg-KTO-GGUF
Chatear y escribir4.68 GBgpl-3.0↓ 1.1K1,079 descargas en el catálogo
QU
QuantFactory
Llama-3-8B-WizardLM-196K-GGUF
Chatear y escribir4.92 GBllama3↓ 1.1K1,076 descargas en el catálogo
BA
Chatear y escribir7.48 GBapache-2.0↓ 1.1K1,073 descargas en el catálogo
BA
Chatear y escribir8.99 GBapache-2.0↓ 1.1K1,072 descargas en el catálogo
BA
bartowski
Qwen2.5-32B-ArliAI-RPMax-v1.3-GGUF
Chatear y escribir19.85 GBapache-2.0↓ 1.1K1,072 descargas en el catálogo
TH
TheBloke
typhoon-7B-GGUF
Chatear y escribir4.39 GBapache-2.0↓ 1.1K1,067 descargas en el catálogo