QuantFactory
Modelle durchsuchen
Offene Modelle zum Herunterladen und Ausführen. Wähle deinen Arbeitsspeicher, um zu sehen, was passt.
Modellergebnisse
Die 12 besten Treffer für GGUF
Die Eignung schätzt den Speicherbedarf, nicht die Geschwindigkeit.
BA
bartowski
SELM-Llama-3-8B-Instruct-iter-3-GGUF
Chatten & schreiben4.92 GBmit↓ 836836 Downloads im Katalog
GG
ggml-org
gemma-4-E4B-GGUF
Work with multiple media8.03 GBapache-2.0↓ 831831 Downloads im Katalog
BA
bartowski
open-thoughts_OpenThinker3-7B-GGUF
Chatten & schreiben4.68 GBapache-2.0↓ 830830 Downloads im Katalog
QU
QuantFactory
Llama-3-8B-Instruct-262k-GGUF
Chatten & schreiben4.92 GBllama3↓ 829829 Downloads im Katalog
QU
QuantFactory
BgGPT-Gemma-2-9B-IT-v1.0-GGUF
Chatten & schreiben5.76 GBgemma↓ 824824 Downloads im Katalog
QU
QuantFactory
Llama3.1-DarkStorm-Aspire-8B-GGUF
Chatten & schreiben4.92 GBapache-2.0↓ 821821 Downloads im Katalog
BA
bartowski
Qwentile2.5-32B-Instruct-GGUF
Chatten & schreiben19.85 GBapache-2.0↓ 819819 Downloads im Katalog
QU
QuantFactory
gemma-7B-aps-it-GGUF
Chatten & schreiben5.33 GBgemma↓ 819819 Downloads im Katalog
BA
bartowski
GRMR-2B-Instruct-GGUF
Chatten & schreiben1.71 GBapache-2.0↓ 818818 Downloads im Katalog
QU
QuantFactory
Reasoning-Llama-3B-v0.1-GGUF
Chatten & schreiben2.02 GBllama3.2↓ 818818 Downloads im Katalog
TH
TheBloke
TinyLlama-1.1B-python-v0.1-GGUF
Chatten & schreiben668 MBapache-2.0↓ 817817 Downloads im Katalog