ggml-org
Modelle durchsuchen
Offene Modelle zum Herunterladen und Ausführen. Wähle deinen Arbeitsspeicher, um zu sehen, was passt.
Modellergebnisse
Die 12 besten Treffer für GGUF
Die Eignung schätzt den Speicherbedarf, nicht die Geschwindigkeit.
QU
QuantFactory
gemma-2-9B-it-SimPO-rudpo-GGUF
Chatten & schreiben5.76 GBgemma↓ 1.1K1,094 Downloads im Katalog
QU
QuantFactory
llama-3-Nephilim-v3-8B-GGUF
Chatten & schreiben4.92 GBcc-by-nc-4.0↓ 1.1K1,092 Downloads im Katalog
UN
unsloth
OLMo-2-0425-1B-Instruct-GGUF
Chatten & schreiben936 MBapache-2.0↓ 1.1K1,085 Downloads im Katalog
QU
QuantFactory
Turkish-Llama-8B-Instruct-v0.1-GGUF
Chatten & schreiben4.92 GBllama3↓ 1.1K1,083 Downloads im Katalog
BA
Chatten & schreiben4.12 GBapache-2.0↓ 1.1K1,079 Downloads im Katalog
QU
QuantFactory
Qwen2.5-7B-Gutenberg-KTO-GGUF
Chatten & schreiben4.68 GBgpl-3.0↓ 1.1K1,079 Downloads im Katalog
QU
QuantFactory
Llama-3-8B-WizardLM-196K-GGUF
Chatten & schreiben4.92 GBllama3↓ 1.1K1,076 Downloads im Katalog
BA
Chatten & schreiben7.48 GBapache-2.0↓ 1.1K1,073 Downloads im Katalog
BA
Chatten & schreiben8.99 GBapache-2.0↓ 1.1K1,072 Downloads im Katalog
BA
bartowski
Qwen2.5-32B-ArliAI-RPMax-v1.3-GGUF
Chatten & schreiben19.85 GBapache-2.0↓ 1.1K1,072 Downloads im Katalog
TH
TheBloke
typhoon-7B-GGUF
Chatten & schreiben4.39 GBapache-2.0↓ 1.1K1,067 Downloads im Katalog