Bester PC für Qwen 3.8 27B: Der VRAM, den Sie wirklich brauchen
„Es läuft mit 17 GB.“
Das stimmt. Und es ist irreführend.
Qwen 3.8-27B lädt auf 16 GB, am Rande des Grafikspeichers. Wie es sich dabei verhält, hängt davon ab, was Sie damit machen.
Qwen 3.8-27B ist das derzeit meistdiskutierte Open-Source-Modell. Es ist ein dichtes Modell mit 27 Milliarden Parametern, das von Alibaba unter der Apache 2.0-Lizenz veröffentlicht wurde und Reasoning, Agenten-Fähigkeiten, Programmierung und Vision mit einem nativen Kontextfenster von 256.000 Token kombiniert.
Überall liest man dieselbe Zahl: Es läuft mit etwa 17 GB. Diese Zahl ist korrekt. Sie sagt jedoch nicht die ganze Wahrheit.
Die 17-GB-Falle
Die Gewichte sind die Untergrenze, nicht der Gesamtbedarf
Die angegebenen 17 GB entsprechen dem Speicherbedarf des in 4-Bit quantisierten Modells. Das ist das, was beim Start geladen wird, noch bevor Sie die erste Frage stellen.
Dann kommt der KV-Cache hinzu. Er speichert den Kontext des Gesprächs und wächst mit jedem verarbeiteten Token. Bei langen Kontexten kann er den Speicherbedarf allein verdoppeln.
Dazu kommen Ausführungsbuffer, CUDA-Graphen, der visuelle Encoder, falls Sie Bilder verarbeiten, und der Speicherbedarf jeder gleichzeitigen Sitzung. Die Multi-Token-Vorhersage erfordert, falls Sie sie aktivieren, noch einmal 1 bis 2 GB Spielraum.
Daraus ergibt sich der Unterschied zwischen „Es lädt auf meiner Karte“ und „Es bewältigt meine Arbeitslast“.
Illustrative Verhältnisse. Der tatsächliche Speicherbedarf des Caches hängt von der Kontextlänge, der Anzahl der gleichzeitigen Sitzungen und den Quantisierungsoptionen des Caches ab.
Der tatsächlich benötigte VRAM
| Format | Nur Gewichte | Mindest-Grafikkarte | Empfohlene Grafikkarte |
|---|---|---|---|
| 4-Bit (GGUF, NVFP4) | etwa 16 bis 19 GB | 16 GB, kurzer Kontext | 24 bis 32 GB |
| 4-Bit + langer Kontext | 17 GB + KV-Cache | 24 GB | 32 GB |
| FP8 | etwa 27 bis 28 GB | 32 GB | 48 GB und mehr |
| BF16 (native Präzision) | etwa 54 bis 56 GB | 2 Karten oder 96 GB | 96 GB ECC |
Drei Szenarien, drei Rechner
Erkundung und konversationelle Nutzung
16 GBSie möchten Qwen 3.8-27B testen und es zum Verfassen, Zusammenfassen, Fragenstellen und Verarbeiten von Dokumenten angemessener Größe nutzen.
Eine 16-GB-Karte reicht in 4-Bit aus, solange Sie bei moderaten Kontexten bleiben. Das ist der kostengünstigste Einstieg für den ernsthaften individuellen Einsatz.
Die Grenzen werden spürbar, sobald Sie sehr lange Dokumente laden oder lange Gespräche hintereinander führen.
Code-Agent und Tools
32 GBHier spielt Qwen 3.8-27B seine Stärken aus: agentisches Programmieren, Tool-Aufrufe und Arbeit an einer Codebasis.
Ein Agent liest bei jedem Schritt seinen Kontext neu. Zehn Tool-Aufrufe in einer großen Codebasis lassen den Cache sehr schnell anwachsen. Auf 16 GB ist die Sitzung schließlich am Ende gesättigt.
Mit 32 GB haben Sie Spielraum für einen erweiterten Kontext und eine akzeptable Geschwindigkeit. Das ist die Referenzkonfiguration für den täglichen professionellen Einsatz.
Massiver Kontext, Vision, mehrere Benutzer
96 GB und mehrDie Nutzung von 256K Kontext-Token, die Verarbeitung von Bildern oder die gleichzeitige Bedienung mehrerer Personen gehören in eine andere Kategorie.
Der KV-Cache wird dann zum dominierenden Faktor und übertrifft die Gewichte bei weitem. Ein 128-GB-Unified-Memory oder eine professionelle 96-GB-ECC-Karte werden relevant, ebenso wie FP8 zur Erhaltung der Qualität.
Dies ist auch die Schwelle, ab der ein Fine-Tuning des Modells mit Ihren eigenen Daten in Betracht gezogen werden kann.
Unsere Empfehlung
CoreIA RTX 5090
- GPU RTX 5090, 32 GB GDDR7
- Bandbreite 1.792 GB/s
- CPU Ryzen 9 9900X
- RAM DDR5 64 GB
- Speicher NVMe 2 TB Gen 5
- Netzteil 1.200 W 80+ Gold
32 GB: das Modell in 4-Bit, ein erweiterter Kontext und Spielraum für Agenten.
Der Start in der Praxis
Am schnellsten geht es mit Ollama. Der Download umfasst etwa 18 GB.
# Direkter Start ollama run qwen3.8:27b # Variante mit erweitertem Kontext und quantisiertem Cache cat > Modelfile <<'EOF' FROM qwen3.8:27b PARAMETER num_ctx 65536 EOF ollama create qwen3.8-long -f Modelfile
Qwen 3.8-27B ist ein Hybridmodell: Es verfügt über einen Reasoning-Modus und einen direkten Instruct-Modus mit unterschiedlichen empfohlenen Einstellungen.
| Modus | temperature | top_p | top_k | Anwendung |
|---|---|---|---|---|
| Reasoning | 1.0 | 0.95 | 20 | Komplexe Probleme, Code, Analyse |
| Direkte Instruktion | 0.7 | 0.80 | 20 | Verfassen, schnelle Antworten |
Eine Auswahl aus unserem Sortiment
Jeder Rechner wird in Auriol (13390) von Hand zusammengebaut, abgesehen von GB10, das von ASUS montiert wird und vollständig konfigurierbar ist, entweder über den Online-Konfigurator oder auf Anfrage an contact@radiancesystems.eu. Sie können diese Modelle auf der Seite unseres KI-Rechner-Sortiments nebeneinander vergleichen.
Einzelrechner
CoreIA RTX 5060 TiQwen 3.8-27B in 4-Bit, kurzer Kontext. Der Einstieg.
2.068 €
CoreIA Radeon AI PRO R970032 GB VRAM, Spielraum für erweiterten Kontext. AMD-Karte, ohne CUDA: für Text.
4.162 €
CoreIA RTX 5090Die Referenz: Agenten, erweiterter Kontext, Vision, maximale Geschwindigkeit.
10.291 €
Kompakter Server
CoreIA GB10 (ASUS Ascent GX10)128 GB Unified Memory: 256K Kontext ohne Einschränkungen, mehrere Benutzer.
6.999 €
Rack und Multi-GPU
CoreIA 2x RTX 5090 (64 GB)Komfortables FP8, mehrere gleichzeitige Sitzungen, 4U-Rackformat.
20.954 €
CoreIA Threadripper PRO 4 GPU96 GB ECC: BF16 in nativer Präzision, Fine-Tuning des Modells.
32.647 €
CoreIA 2x RTX PRO 6000 (192 GB ECC)Produktion, viele Benutzer, Training, ECC-Zuverlässigkeit.
48.508 €
Kurz zusammengefasst
Wie viel VRAM für Qwen 3.8-27B?
16 GB für 4-Bit mit kurzem Kontext. 32 GB für Agenten und erweiterten Kontext. 96 GB und mehr für native Präzision oder Fine-Tuning.
Warum reichen 16 GB nicht immer?
Weil die angegebenen 17 GB nur die Gewichte berücksichtigen. KV-Cache, Ausführungsbuffer und visueller Encoder kommen hinzu, und der Cache wächst mit der Kontextlänge.
Ist Qwen 3.8-27B kostenlos?
Ja, Apache 2.0-Lizenz, inklusive kommerzieller Nutzung. Sie zahlen nur die Hardware.
Verarbeitet es Bilder?
Ja, es verfügt über einen visuellen Encoder. Vision verbraucht zusätzlichen Speicher, der bei der Dimensionierung berücksichtigt werden muss.
Kann man es mit eigenen Daten verfeinern?
Ja, das ist einer der Vorteile eines dichten Modells dieser Größe. Rechnen Sie jedoch mit deutlich mehr VRAM als für die Inferenz: Konfigurationen mit 96 GB ECC und mehr sind am besten geeignet.
Die angegebenen Speicherwerte sind Größenordnungen, die sich aus Rückmeldungen des Ökosystems ergeben, und variieren je nach Inferenz-Engine, Quantisierungsmethode, Kontextlänge und Anzahl der gleichzeitigen Sitzungen. Wir beraten Sie gerne entsprechend Ihrer tatsächlichen Nutzung.
