QuantFactory
Modelle durchsuchen
Offene Modelle zum Herunterladen und Ausführen. Wähle deinen Arbeitsspeicher, um zu sehen, was passt.
Modellergebnisse
Die 12 besten Treffer für GGUF
Die Eignung schätzt den Speicherbedarf, nicht die Geschwindigkeit.
BA
bartowski
PygmalionAI_Eleusis-12B-GGUF
Chatten & schreiben7.48 GBapache-2.0↓ 2K1,952 Downloads im Katalog
BA
bartowski
ProCreations_grug-3B-GGUF
Chatten & schreiben2.68 GBapache-2.0↓ 2K1,951 Downloads im Katalog
TH
Chatten & schreiben28.45 GBapache-2.0↓ 1.9K1,924 Downloads im Katalog
LM
lmstudio-community
Devstral-Small-2507-GGUF
Chatten & schreiben14.33 GBapache-2.0↓ 1.9K1,923 Downloads im Katalog
GG
ggml-org
Nomic-Embed-Text-V2-GGUF
Sätze vergleichen512 MBapache-2.0↓ 1.9K1,910 Downloads im Katalog
LM
lmstudio-community
gemma-1.1-2B-it-GGUF
Chatten & schreiben1.63 GBgemma↓ 1.9K1,903 Downloads im Katalog
UN
unsloth
Qwen-Image-GGUF
Create images13.13 GBapache-2.0↓ 1.9K1,886 Downloads im Katalog
BA
bartowski
Phi-3.1-mini-128k-instruct-GGUF
Chatten & schreiben2.39 GBmit↓ 1.9K1,874 Downloads im Katalog
BA
bartowski
Qwen2.5-Coder-0.5B-GGUF
Chatten & schreiben398 MBapache-2.0↓ 1.9K1,871 Downloads im Katalog
BA
Chatten & schreiben4.92 GBapache-2.0↓ 1.9K1,868 Downloads im Katalog
BA
bartowski
FineMath-Llama-3B-GGUF
Chatten & schreiben2.02 GBapache-2.0↓ 1.9K1,862 Downloads im Katalog