TheBloke
Modelle durchsuchen
Offene Modelle zum Herunterladen und Ausführen. Wähle deinen Arbeitsspeicher, um zu sehen, was passt.
Modellergebnisse
Die 12 besten Treffer für GGUF
Die Eignung schätzt den Speicherbedarf, nicht die Geschwindigkeit.
QU
QuantFactory
SauerkrautLM-gemma-2-9B-it-GGUF
Chatten & schreiben5.76 GBgemma↓ 993993 Downloads im Katalog
BA
bartowski
SamsungSAILMontreal_ByteCraft-GGUF
Chatten & schreiben5.22 GBmit↓ 992992 Downloads im Katalog
BA
bartowski
Ichigo-llama3.1-s-instruct-v0.4-GGUF
Chatten & schreiben4.92 GBapache-2.0↓ 988988 Downloads im Katalog
TH
TheBloke
Nous-Capybara-34B-GGUF
Chatten & schreiben20.66 GBmit↓ 988988 Downloads im Katalog
UN
unsloth
SmolLM2-360M-Instruct-GGUF
Chatten & schreiben271 MBapache-2.0↓ 988988 Downloads im Katalog
BA
bartowski
open-thoughts_OpenThinker-32B-GGUF
Chatten & schreiben19.85 GBapache-2.0↓ 985985 Downloads im Katalog
QU
QuantFactory
Phi-3-mini-4k-instruct-Matter-0.1-Slim-A-GGUF
Chatten & schreiben2.32 GBapache-2.0↓ 985985 Downloads im Katalog
BA
Chatten & schreiben19.85 GBapache-2.0↓ 981981 Downloads im Katalog
BA
bartowski
StarDust-12B-v2-GGUF
Chatten & schreiben7.48 GBapache-2.0↓ 980980 Downloads im Katalog
BA
bartowski
granite-3.0-8B-instruct-GGUF
Chatten & schreiben4.94 GBapache-2.0↓ 975975 Downloads im Katalog
Chatten & schreiben2.58 GBapache-2.0↓ 974974 Downloads im Katalog