PC für Gemma 4 12B: die ideale Workstation

8. Juni 2026

Gemma 4 12B ist zweifellos das derzeit am besten ausbalancierte lokale Modell: multimodal, 256.000 Token Kontext, Apache 2.0-Lizenz und vor allem ein Speicherbedarf, der bequem auf einer 16-GB-Karte Platz findet. Genau für dieses Profil wurde unsere CoreIA RTX 5060 Ti Workstation entwickelt.

Dieser Leitfaden erklärt, was Gemma 4 12B bietet, wie viel VRAM je nach Quantisierung tatsächlich benötigt wird und warum eine gut konfigurierte 16-GB-Workstation die beste Wahl ist, um das volle Potenzial auszuschöpfen.

Gemma 4 12B im Überblick

Gemma 4 12B ist ein Open-Source-Modell mit 12 Milliarden Parametern von Google DeepMind. Es ist das mittlere Mitglied der Gemma 4-Familie, zwischen den kleinen Edge-Modellen (E4B) und dem großen 26B MoE-Modell.

Nativ multimodal

Text, Bild, Video und Audio nativ in einem einzigen Transformer. Es kann Eingaben wie mehrere Minuten lange Videoausschnitte mit synchronisiertem Audio verarbeiten.

256K Token Kontext

Ein massives Kontextfenster, ideal für die Analyse langer Dokumente, Codebasen oder vollständiger Chatverläufe.

Apache 2.0-Lizenz

Freie kommerzielle Nutzung ohne Einschränkungen. Das ist eine große Veränderung gegenüber Gemma 3, dessen Bedingungen restriktiver waren.

Mehrsprachig

Unterstützung von über 140 Sprachen, darunter ein hervorragendes Niveau in Französisch, sowohl für das Schreiben als auch für das Verständnis.

Seine wahre Stärke: Gemma 4 12B schließt die Lücke zwischen kleinen Modellen, die auf einem Smartphone laufen, und großen Modellen, die eine High-End-Karte erfordern. Es bietet erstklassige Qualität (über 77 % bei MMLU Pro) und passt dennoch auf eine Consumer-Karte. Das ist der optimale Kompromiss, den viele für den ernsthaften täglichen lokalen Einsatz suchen.

Wie viel VRAM benötigt Gemma 4 12B?

Hier glänzt Gemma 4 12B: Es ist für seine Qualität überraschend leicht. Hier sind die tatsächlichen Anforderungen je nach Quantisierung für einen kurzen bis mittleren Kontext.

Quantisierung	Benötigter VRAM	Qualität	Empfehlung
Q4_K_M	etwa 6,6 GB	Nah am Original	Der vernünftige Standard
QAT Q4_0	etwa 6,6 GB	Besser als ein klassisches Q4	Bestes Preis-Leistungs-Verhältnis
Q5_K_M	etwa 8 bis 9 GB	Sehr hoch	Wenn Sie Spielraum haben
Q8_0	etwa 13 GB	Maximale Genauigkeit	Ideal auf 16 GB

Das Detail, das den Unterschied macht: Google hat QAT-Versionen veröffentlicht (die unter Berücksichtigung der Quantisierung trainiert wurden). Bei gleicher Größe (etwa 6,6 GB) behalten sie eine Qualität bei, die viel näher am Original liegt als ein klassisches Q4. Für Gemma 4 12B ist QAT Q4_0 heute die beste Wahl für Qualität und Speicher. Prüfen Sie dennoch Ihre tatsächliche Aufgabe: „läuft auf einem Laptop“ und „läuft gut für Ihren genauen Einsatzbereich“ sind zwei verschiedene Dinge.

Warum 16 GB VRAM der ideale Spielraum sind

Gemma 4 12B passt technisch gesehen auf 8 GB in Q4. Aber eine 16-GB-Karte ändert in der Praxis alles, und zwar aus drei Gründen.

Erstens können Sie auf Q8_0 (etwa 13 GB) für maximale Genauigkeit wechseln, während Sie mit einer 8-GB-Karte auf Q4 beschränkt sind.

Zweitens verbraucht der 256K Token Kontext neben dem Modell enorm viel Speicher. Auf 8 GB ist der Platz schnell knapp, sobald Sie lange Dokumente nutzen. Auf 16 GB behalten Sie einen großen Spielraum für den Kontext.

Schließlich ermöglichen Ihnen 16 GB, Gemma 4 12B und andere Anwendungen parallel auszuführen: ein Embedding-Modell für die Dokumentensuche oder ein anderes gleichzeitig geladenes Modell.

Zusammenfassend: 8 GB reichen aus, um Gemma 4 12B auszuprobieren. 16 GB ermöglichen es Ihnen, es voll auszuschöpfen, in hoher Qualität, mit einem großen Kontext und mit Spielraum für zukünftige Entwicklungen. Das ist der Spielraum, den wir für einen ernsthaften und dauerhaften Einsatz empfehlen.

Unsere Empfehlung: die CoreIA RTX 5060 Ti Workstation

Die CoreIA RTX 5060 Ti ist genau auf dieses Profil abgestimmt. Ihre RTX 5060 Ti 16 GB Karte führt Gemma 4 12B in allen Quantisierungen bis Q8 mit einem großen Kontextspielraum aus und bleibt zukunftssicher. Wenn Ihre Anforderungen über dieses Profil hinausgehen, finden Sie leistungsstärkere Konfigurationen in unserem KI-Maschinen-Sortiment.

Die ideale Wahl für Gemma 4 12B

CoreIA RTX 5060 Ti

GPU NVIDIA RTX 5060 Ti 16 GB GDDR7
CPU AMD Ryzen 5 7500F
RAM DDR5 16 GB, erweiterbar
Speicher NVMe 1 TB
OS Windows 11 Pro oder Ubuntu
Format Kompaktes und leises Gehäuse

Gemma 4 12B in Q8 mit großem Kontext und Spielraum für 14B-Modelle und größer.

2 068 € ab, vollständig konfigurierbar

Diese Workstation konfigurieren

Lieferung einsatzbereit. Auf Wunsch wird die CoreIA RTX 5060 Ti mit der bereits installierten KI-Umgebung geliefert: Ollama oder LM Studio, Gemma 4 12B heruntergeladen in der Quantisierung Ihrer Wahl und eine fertige Chat-Oberfläche. Sie starten und chatten innerhalb weniger Minuten, ohne jegliche technische Handhabung.

Gemma 4 12B lokal starten

Am einfachsten geht es mit Ollama. Ein paar Befehle reichen aus.

# Standardversion
ollama run gemma4:12b

# QAT-Version (bessere Qualität bei gleicher Größe)
ollama run gemma4:12b-qat

# Für einen großen Kontext eine eigene Variante erstellen:
cat > Modelfile <<'EOF'
FROM gemma4:12b-qat
PARAMETER num_ctx 65536
EOF
ollama create gemma4-12b-ctx -f Modelfile

Gemma 4 12B funktioniert auch sehr gut mit LM Studio (integrierter Modellbrowser) und llama.cpp. Auf unseren Maschinen ist alles auf Wunsch vorinstalliert.

Was ist, wenn sich Ihre Anforderungen ändern?

Gemma 4 12B ist ein hervorragender Ausgangspunkt. Wenn Sie anschließend größere Modelle ausführen möchten, finden Sie hier unsere anderen Workstations aus derselben Werkstatt in Auriol (13390).

CoreIA Radeon AI PRO R970032 GB VRAM: 26B MoE-Modelle, großer Kontext. AMD-Karte, ohne CUDA. 4 162 €

CoreIA RTX 5090Modelle bis zu 30 Milliarden in 8 Bit, hohe Qualität lokal. 10 291 €

Kurz zusammengefasst

Wie viel VRAM für Gemma 4 12B?
6,6 GB in Q4 reichen für den Anfang. 16 GB ermöglichen Q8, einen großen Kontext und Spielraum. Das ist der empfohlene Spielraum für den ernsthaften Einsatz.

Q4, QAT Q4_0 oder Q8?
QAT Q4_0 bietet das beste Preis-Leistungs-Verhältnis (gleicher Speicherbedarf wie klassisches Q4, bessere Genauigkeit). Q8 ist für maximale Genauigkeit reserviert, ideal auf 16 GB.

Ist Gemma 4 12B kostenlos?
Ja, Apache 2.0-Lizenz, inklusive freier kommerzieller Nutzung. Sie zahlen nur die Hardware.

Kann es Bild, Video und Audio verarbeiten?
Ja, es ist ein natives multimodales Modell: Text, Bild, Video und Audio in einer einzigen Schnittstelle.

Welche Maschine sollte man kaufen?
Die CoreIA RTX 5060 Ti (RTX 5060 Ti 16 GB, ab 2 068 €) ist genau auf Gemma 4 12B abgestimmt und wird einsatzbereit geliefert.

Zurück zum Blog

Noch Fragen?

Schreiben Sie uns eine E-Mail an contact@radiancesystems.eu oder kontaktieren Sie uns über das Kontaktformular. Wir antworten innerhalb von 3 Stunden auf alle Anfragen während der Geschäftszeiten (Montag, Dienstag, Donnerstag und Freitag von 9 bis 17 Uhr, Mittwoch von 9 bis 12 Uhr, Samstag von 14 bis 17 Uhr).

📞 +33 4 65 84 48 21