QuantFactory
Modelle durchsuchen
Offene Modelle zum Herunterladen und Ausführen. Wähle deinen Arbeitsspeicher, um zu sehen, was passt.
Modellergebnisse
Die 12 besten Treffer für GGUF
Die Eignung schätzt den Speicherbedarf, nicht die Geschwindigkeit.
QU
QuantFactory
Qwen2.5-Coder-1.5B-GGUF
Chatten & schreiben986 MBapache-2.0↓ 604604 Downloads im Katalog
UN
unsloth
Olmo-3-32B-Think-GGUF
Chatten & schreiben19.48 GBapache-2.0↓ 601601 Downloads im Katalog
UN
unsloth
Jan-nano-128k-GGUF
Chatten & schreiben2.5 GBapache-2.0↓ 598598 Downloads im Katalog
Chatten & schreiben4.68 GBapache-2.0↓ 597597 Downloads im Katalog
QU
QuantFactory
Lily-Cybersecurity-7B-v0.2-GGUF
Chatten & schreiben4.37 GBapache-2.0↓ 596596 Downloads im Katalog
BA
bartowski
Replete-LLM-Mist-Nemo-12B-GGUF
Chatten & schreiben7.48 GBapache-2.0↓ 592592 Downloads im Katalog
QU
QuantFactory
Mistral-Nemo-Instruct-2407-GGUF
Chatten & schreiben7.48 GBapache-2.0↓ 592592 Downloads im Katalog
QU
QuantFactory
dolphin-2.8-mistral-7B-v02-GGUF
Chatten & schreiben4.37 GBapache-2.0↓ 591591 Downloads im Katalog
TH
Chatten & schreiben28.45 GBapache-2.0↓ 587587 Downloads im Katalog
LM
lmstudio-community
nomic-embed-code-GGUF
Chatten & schreiben4.38 GBapache-2.0↓ 584584 Downloads im Katalog
TH
TheBloke
Nous-Hermes-Llama-2-7B-GGUF
Chatten & schreiben4.08 GBmit↓ 584584 Downloads im Katalog