TheBloke
Modelle durchsuchen
Offene Modelle zum Herunterladen und Ausführen. Wähle deinen Arbeitsspeicher, um zu sehen, was passt.
Modellergebnisse
Die 12 besten Treffer für GGUF
Die Eignung schätzt den Speicherbedarf, nicht die Geschwindigkeit.
BA
bartowski
Llama-3-Instruct-8B-SPPO-Iter3-GGUF
Chatten & schreiben4.92 GBapache-2.0↓ 926926 Downloads im Katalog
QU
QuantFactory
gemma-2-baku-2B-it-GGUF
Chatten & schreiben1.71 GBgemma↓ 923923 Downloads im Katalog
QU
QuantFactory
Qwen2.5-0.5B-Instruct-GGUF
Chatten & schreiben398 MBapache-2.0↓ 922922 Downloads im Katalog
QU
QuantFactory
ArliAI-Llama-3-8B-Dolfin-v0.3-GGUF
Chatten & schreiben4.92 GBllama3↓ 921921 Downloads im Katalog
QU
QuantFactory
Control-8B-V1.1-GGUF
Chatten & schreiben4.92 GBagpl-3.0↓ 916916 Downloads im Katalog
BA
bartowski
TAID-LLM-1.5B-GGUF
Chatten & schreiben986 MBapache-2.0↓ 914914 Downloads im Katalog
QU
QuantFactory
Bielik-7B-Instruct-v0.1-GGUF
Chatten & schreiben4.37 GBcc-by-nc-4.0↓ 914914 Downloads im Katalog
BA
bartowski
Dans-DangerousWinds-V1.1.0-12B-GGUF
Chatten & schreiben7.48 GBapache-2.0↓ 905905 Downloads im Katalog
BA
bartowski
EVA-Qwen2.5-14B-v0.0-GGUF
Chatten & schreiben8.99 GBapache-2.0↓ 903903 Downloads im Katalog
QU
QuantFactory
Phi-3-mini-128k-instruct-GGUF
Chatten & schreiben2.39 GBmit↓ 902902 Downloads im Katalog
BA
bartowski
mathstral-7B-v0.1-GGUF
Chatten & schreiben4.37 GBapache-2.0↓ 900900 Downloads im Katalog