QuantFactory
Modelle durchsuchen
Offene Modelle zum Herunterladen und Ausführen. Wähle deinen Arbeitsspeicher, um zu sehen, was passt.
Modellergebnisse
Die 12 besten Treffer für GGUF
Die Eignung schätzt den Speicherbedarf, nicht die Geschwindigkeit.
TH
TheBloke
SOLAR-10.7B-Instruct-v1.0-GGUF
Chatten & schreiben6.46 GBapache-2.0↓ 1K1,031 Downloads im Katalog
BA
Chatten & schreiben2.39 GBmit↓ 1K1,030 Downloads im Katalog
QU
QuantFactory
Ko-Llama-3.1-8B-Lexi-Uncensored-V2-GGUF
Chatten & schreiben4.92 GBllama3.1↓ 1K1,026 Downloads im Katalog
BA
bartowski
Peach-9B-8k-Roleplay-GGUF
Chatten & schreiben5.33 GBmit↓ 1K1,025 Downloads im Katalog
QU
QuantFactory
gemma-2-9B-it-abliterated-GGUF
Chatten & schreiben5.76 GBgemma↓ 1K1,025 Downloads im Katalog
QU
QuantFactory
Llama-3.2-Taiwan-Legal-3B-Instruct-GGUF
Chatten & schreiben2.02 GBllama3.2↓ 1K1,025 Downloads im Katalog
QU
QuantFactory
Celeste-12B-V1.6-GGUF
Chatten & schreiben7.48 GBapache-2.0↓ 1K1,024 Downloads im Katalog
QU
QuantFactory
SmolLM2-135M-Instruct-GGUF
Chatten & schreiben105 MBapache-2.0↓ 1K1,024 Downloads im Katalog
BA
bartowski
granite-3.0-1B-a400m-instruct-GGUF
Chatten & schreiben822 MBapache-2.0↓ 1K1,022 Downloads im Katalog
QU
QuantFactory
Llama-3.2-3B-Agent007-Coder-GGUF
Chatten & schreiben2.02 GBapache-2.0↓ 1K1,022 Downloads im Katalog
QU
QuantFactory
ClinicalGPT-base-zh-GGUF
Chatten & schreiben5.27 GBafl-3.0↓ 1K1,021 Downloads im Katalog