QuantFactory
Modelle durchsuchen
Offene Modelle zum Herunterladen und Ausführen. Wähle deinen Arbeitsspeicher, um zu sehen, was passt.
Modellergebnisse
Die 12 besten Treffer für GGUF
Die Eignung schätzt den Speicherbedarf, nicht die Geschwindigkeit.
QU
QuantFactory
granite-3.0-1B-a400m-instruct-GGUF
Chatten & schreiben822 MBapache-2.0↓ 546546 Downloads im Katalog
QU
QuantFactory
Unichat-llama3-Chinese-8B-GGUF
Chatten & schreiben4.92 GBapache-2.0↓ 546546 Downloads im Katalog
UN
unsloth
rnj-1-instruct-GGUF
Chatten & schreiben5.11 GBapache-2.0↓ 546546 Downloads im Katalog
UN
unsloth
ERNIE-4.5-0.3B-PT-GGUF
Chatten & schreiben241 MBapache-2.0↓ 543543 Downloads im Katalog
BA
bartowski
Phi-3-mini-4k-instruct-v0.3-GGUF
Chatten & schreiben2.39 GBmit↓ 539539 Downloads im Katalog
TH
TheBloke
Autolycus-Mistral_7B-GGUF
Chatten & schreiben4.37 GBapache-2.0↓ 537537 Downloads im Katalog
QU
QuantFactory
Qwen2.5-Coder-1.5B-Instruct-GGUF
Chatten & schreiben986 MBapache-2.0↓ 534534 Downloads im Katalog
QU
QuantFactory
KingNish-Llama3-8B-GGUF
Chatten & schreiben4.92 GBmit↓ 533533 Downloads im Katalog
QU
QuantFactory
Qwen3-Reranker-0.6B-GGUF
Rank search results484 MBapache-2.0↓ 526526 Downloads im Katalog
BA
bartowski
JetBrains-Qwen3.8-3.6-27B-blend-GGUF
Bilder verstehenapache-2.0↓ 525525 Downloads im Katalog
BA
bartowski
Mistral-Evolved-11B-v0.1-GGUF
Chatten & schreiben6.72 GBapache-2.0↓ 523523 Downloads im Katalog