PC für lokale KI: Konfigurationen 2026
Teilen
Workstation mit einer RTX 5090, Multi-GPU-System mit bis zu 4 RTX PRO 6000, Rack-Server oder NVIDIA GB10 Mini-Server: Wir vergleichen jede Option, damit Sie das passende System für Ihre Modelle, Ihr Team und Ihre Daten auswählen können.
Die Antwort auf einen Blick
Für lokale KI ist das wichtigste Kriterium der für das Modell verfügbare Speicher (VRAM der GPU oder Unified Memory bei einem GB10). Rechnen Sie mit etwa 0,6 GB pro Milliarde Parametern bei 4-Bit-Quantisierung: Ein 14B-Modell passt auf 16 GB, ein 32B-Modell benötigt 32 GB (RTX 5090 oder Radeon AI PRO R9700), ein 70B-Modell benötigt mindestens 48 GB.
Für den individuellen Einsatz bis zu 32B reichen eine CoreIA Radeon AI PRO R9700 oder eine CoreIA RTX 5090. Für Modelle ab 70B oder für ein ganzes Team sollten Sie auf eine CoreIA RTX PRO 6000, ein Multi-GPU-System (CoreIA Threadripper PRO mit 4 GPUs, Rack-Server) oder einen ASUS Ascent GX10 Mini-Server umsteigen.
Warum KI lokal betreiben?
Im Jahr 2026 ist es nicht mehr nötig, einen Cloud-Dienst zu nutzen, um ein leistungsstarkes Sprachmodell zu verwenden. Open-Source-Modelle (Llama, Mistral, Qwen, gpt-oss, DeepSeek ...) laufen direkt auf einem System in Ihren Räumlichkeiten, ohne dass Daten an einen externen Server gesendet werden.
Für Berufe, die der Schweigepflicht unterliegen oder mit sensiblen Daten arbeiten (Anwälte, Notare, Steuerberater, Ärzte, Personalabteilungen, Ingenieurbüros), ist genau das der Grund, warum KI im Alltag nutzbar ist: Ihre Unterlagen bleiben bei Ihnen.
- Vertraulichkeit: Dokumente und Anfragen bleiben in Ihrem lokalen Netzwerk.
- Kein Abonnement pro Benutzer: Sobald das System eingerichtet ist, sind die Kosten pro Anfrage nahezu null.
- Offline-Betrieb: Die KI bleibt auch ohne Internetverbindung verfügbar.
- Vollständige Kontrolle: Auswahl der Modelle, RAG mit Ihren Dokumenten, Agenten, Fine-Tuning.
Gut zu wissen: Alle Systeme von Radiance Systems werden in Auriol (13) zusammengebaut und getestet und verfügen über eine 2-Jahres-Garantie sowie einen auf KI spezialisierten Kundendienst, der unter der Woche innerhalb von weniger als 3 Stunden antwortet.
Die wichtigsten Kriterien für eine PC-Konfiguration für KI
1. Der für das Modell verfügbare Speicher
Der VRAM (der Speicher der Grafikkarte) bestimmt die Größe der Modelle, die Sie laden können. Ein Modell muss vollständig im VRAM liegen, um mit voller Geschwindigkeit zu laufen: Wenn es auf den Systemspeicher ausweicht, wird die Generierung deutlich langsamer.
Eine einfache Faustregel zur Schätzung des Bedarfs: Bei 4-Bit-Quantisierung (eine Kompression der Modellgewichte, die den Großteil der Qualität erhält) rechnen Sie mit etwa 0,6 GB pro Milliarde Parametern plus einigen GB für den Kontext. Bei 8 Bit verdoppeln Sie diesen Wert. Bei voller Präzision (FP16) rechnen Sie mit etwa 2 GB pro Milliarde Parametern.
| Modelle (Beispiele) | Größe | Speicher bei 4 Bit (ca.) | Geeignete Systeme |
|---|---|---|---|
| Llama 3.1 8B, Qwen3 8B | 8B | ~6 GB | Das gesamte Sortiment |
| Qwen3 14B, Phi-4 | 14B | ~10 GB | Das gesamte Sortiment |
| Mistral Small 3 (24B), Qwen3 32B | 24 bis 32B | ~15 bis 22 GB | CoreIA Radeon AI PRO R9700, CoreIA RTX 5090 und höher (ein 24B-Modell ist auf 16 GB mit kurzem Kontext noch möglich) |
| Llama 3.3 70B | 70B | ~40 bis 45 GB | 2 × RTX 5090, RTX PRO 6000 96 GB, GX10 |
| gpt-oss-120b, Llama 4 Scout (MoE 109B) | 110 bis 120B | ~60 bis 70 GB | RTX PRO 6000 96 GB, GX10 |
| Qwen3 235B (MoE) | 235B | ~130 bis 140 GB | 2 × RTX PRO 6000 (192 GB), 2 × GX10 im Verbund |
| Llama 4 Maverick (MoE 400B) | 400B | ~230 bis 250 GB | 3 × RTX PRO 6000 (288 GB) |
Richtwerte für eine gängige 4-Bit-Quantisierung (Typ Q4_K_M) und einen moderaten Kontext. Ein langer Kontext oder mehrere gleichzeitige Benutzer erhöhen den Bedarf um mehrere GB.
MoE-Modelle (Mixture of Experts) wie Llama 4 oder Qwen3 235B benötigen viel Speicher, aktivieren aber bei jedem generierten Wort nur einen Teil ihrer Parameter. Sie sind daher schneller als ein herkömmliches Modell gleicher Größe.
2. Speicherbandbreite
Sobald das Modell geladen ist, hängt die Generierungsgeschwindigkeit vor allem von der Geschwindigkeit ab, mit der der Speicher gelesen wird. Eine RTX 5090 oder eine RTX PRO 6000 übertrifft 1,7 TB/s, während der Unified Memory des GB10 bei etwa 273 GB/s liegt. Die Folge: Bei einem Modell, das auf eine Grafikkarte passt, reagiert eine Workstation mit dedizierter GPU schneller. Der GB10 hat den Vorteil, sobald das Modell den VRAM einer einzelnen Karte überschreitet.
3. Systemspeicher, Prozessor und Speicherplatz
Der Systemspeicher ist für RAG-Pipelines, die Verarbeitung großer Dokumente und die Zusammenarbeit mehrerer Personen wichtig. 32 GB sind ein solides Minimum, 64 GB und mehr werden nützlich, sobald mehrere Aufgaben parallel laufen. Der Prozessor ist weniger wichtig als die GPU, außer bei Multi-GPU-Systemen: Hier ist eine Plattform mit ausreichend PCIe-Lanes erforderlich, wie der Threadripper PRO. Planen Sie außerdem eine NVMe-SSD mit mindestens 1 TB ein: Modelle können schnell mehrere Dutzend GB groß sein.
Vergleich der KI-Systeme von Radiance Systems
| System | GPU und KI-Speicher | Prozessor | Preis | Ideal für |
|---|---|---|---|---|
| CoreIA Radeon AI PRO R9700 | AMD Radeon AI PRO R9700, 32 GB | Ryzen 9 9900X | ab 4.162 € | Einsteiger: Textmodelle bis 30B in 8 Bit |
| CoreIA RTX 5090 | RTX 5090, 32 GB (GPU konfigurierbar) | Ryzen 9 9900X | ab 10.291 € | Modelle bis 32B, KI-Erstellung und -Entwicklung |
| CoreIA Threadripper PRO mit 4 GPUs | 1 bis 4 RTX PRO 6000 Blackwell im Konfigurator (384 GB mit 4 Karten) | Threadripper PRO 9955WX | ab 32.647 € | Modelle von 70B bis 400B, Teams, Fine-Tuning |
| CoreIA mit 2 × RTX PRO 6000 | 2 × RTX PRO 6000, 192 GB | Ryzen 9 9950X3D | ab 48.508 € | Geteilter KI-Server im Rack, mehrere Modelle |
| CoreIA mit 2 × RTX 5090 | 2 × RTX 5090, 64 GB | Ryzen 9 9950X3D | ab 20.954 € | Schnelle Inferenz im Rack, Modelle bis 70B |
| CoreIA GB10 (ASUS Ascent GX10) | NVIDIA GB10, 128 GB Unified Memory | Grace (ARM, 20 Kerne) | ab 6.999 € | Kompakter KI-Mini-Server, große Modelle, Linux |
Bruttopreise der Basiskonfiguration, automatisch aktualisiert aus unserem Shop. Alle Systeme sind konfigurierbar. Details zu jedem Modell und den dafür geeigneten Einsatzmöglichkeiten finden Sie auf der Seite unseres Sortiments an lokalen KI-Servern und Workstations.
CoreIA Radeon AI PRO R9700: die professionelle Einsteiger-KI-Workstation
Die CoreIA Radeon AI PRO R9700 ist der ideale Einstieg, um KI im Alltag ernsthaft zu nutzen – auf einer Workstation, die auch für alles andere verwendet werden kann.
- GPU: AMD Radeon AI PRO R9700, 32 GB VRAM
- Prozessor: AMD Ryzen 9 9900X, 12 Kerne / 24 Threads
- Speicher: 32 GB DDR5, erweiterbar auf bis zu 256 GB
- Speicherplatz: 1-TB-NVMe-SSD
- Betriebssystem: Windows 11 Professional
Mit 32 GB VRAM laufen Textmodelle bis 30B in 8 Bit (Qwen3 14B, Phi-4) problemlos, ebenso wie 8B-Modelle mit langem Kontext – über Ollama, LM Studio oder llama.cpp. Da es sich um eine AMD-Karte handelt, verfügt sie nicht über CUDA (sondern über ROCm oder Vulkan): Die Bildgenerierung mit FLUX oder Stable Diffusion funktioniert darauf weniger gut, daher ist eine CoreIA RTX 5090 die bessere Wahl. Dies ist das typische System für Anwälte, Steuerberater oder Selbstständige, die einen Assistenten für ihre eigenen Dokumente wünschen.
Wichtige Einschränkung: Bei Modellen über 30B in 8 Bit läuft der VRAM voll, und die Generierung wird deutlich langsamer. Für diese Anwendungen sollten Sie ein System mit mehr VRAM wählen (CoreIA RTX PRO 6000 oder höher).
CoreIA RTX 5090: die High-End-KI-Workstation
Die CoreIA RTX 5090 basiert auf der RTX 5090 mit 32 GB VRAM, der schnellsten Consumer-Grafikkarte für lokale KI. Sie führt Modelle bis 32B mit voller Geschwindigkeit aus und bietet Spielraum für den Kontext.
- GPU: NVIDIA GeForce RTX 5090, 32 GB VRAM
- Prozessor: AMD Ryzen 9 9900X, 12 Kerne / 24 Threads
- Speicher: 64 GB DDR5, erweiterbar auf bis zu 256 GB
- Speicherplatz: 2-TB-NVMe-SSD Gen 5, erweiterbar
- Betriebssystem: Windows 11 Professional
Sie ist die Referenz für KI-Entwicklung, anspruchsvolle RAG-Pipelines, leichtes Fine-Tuning (LoRA, QLoRA) und kreative Arbeiten (Bilder, Videos, 3D). Die GPU ist konfigurierbar: Wenn Ihre Modelle dies erfordern, können Sie auf eine 96-GB-RTX PRO 6000 Blackwell umsteigen oder eine zweite Karte hinzufügen.
CoreIA RTX 5090 konfigurierenCoreIA Threadripper PRO mit 4 GPUs und bis zu 4 RTX PRO 6000
Die CoreIA Threadripper PRO mit 4 GPUs ist unsere Multi-GPU-Plattform. Der Threadripper PRO bietet die PCIe-Lanes und den Speicher, die erforderlich sind, um bis zu 4 RTX PRO 6000 Blackwell mit 96 GB anzutreiben – das sind bis zu 384 GB VRAM mit 4 Karten.
- Eine Karte (96 GB): Llama 3.3 70B in 8 Bit, gpt-oss-120b, Llama 4 Scout.
- Zwei Karten (192 GB): Qwen3 235B oder mehrere Modelle, die parallel für ein Team bereitgestellt werden.
- Drei Karten (288 GB): Llama 4 Maverick (400B), Fine-Tuning von mittelgroßen Modellen.
- Vier Karten (384 GB): die größten Modelle oder mehrere große Modelle, die parallel für ein Team bereitgestellt werden.
Sie können mit einer einzigen Karte beginnen und später weitere hinzufügen: Das System ist auf Erweiterbarkeit ausgelegt. Es ist die richtige Wahl für ein KMU, das einen KI-Assistenten für mehrere Dutzend Personen bereitstellen möchte, oder für ein F&E-Team. Für die Auslegung entsprechend Ihrer Mitarbeiterzahl lesen Sie unseren Leitfaden zum lokalen KI-Server in Frankreich.
CoreIA Threadripper PRO mit 4 GPUs konfigurierenKI-Rack-Server
Wenn Sie über einen Serverraum verfügen, lassen sich unsere Rack-Server in Ihr Rechenzentrum integrieren und stellen KI für das gesamte Netzwerk bereit.
- CoreIA mit 2 × RTX PRO 6000: 192 GB VRAM, um große Modelle oder mehrere Modelle gleichzeitig bereitzustellen, Fine-Tuning durchzuführen oder ein unternehmensweites RAG zu hosten.
- CoreIA mit 2 × RTX 5090: 64 GB VRAM und sehr schnelle Generierung für Modelle bis 70B in 4 Bit.
Bei zwei Karten wird das Modell von der Inferenz-Software (vLLM, llama.cpp) auf die GPUs verteilt, wodurch sich deren Speicher addiert.
CoreIA mit 2 × RTX PRO 6000 ansehen CoreIA mit 2 × RTX 5090 ansehenASUS Ascent GX10 Mini-Server (NVIDIA GB10)
Der ASUS Ascent GX10 ist die ASUS-Version des NVIDIA DGX Spark und basiert auf dem GB10 Grace Blackwell Chip. Es ist kein Desktop-PC, sondern ein KI-Mini-Server mit den Maßen 150 × 150 × 51 mm, der für Inferenz, RAG, Agenten und Entwicklung konzipiert ist.
- 128 GB Unified Memory LPDDR5X, geteilt zwischen Prozessor und GPU
- Bis zu 1 PetaFLOP KI-Leistung bei FP4-Präzision
- Grace-Prozessor mit 20 ARM-Kernen
- DGX OS (basierend auf Ubuntu) mit vorinstalliertem CUDA, PyTorch und NVIDIA-Tools
- ConnectX-7-Netzwerk: Zwei GX10 können miteinander verbunden werden, um Modelle mit etwa 235B auszuführen
Mit seinen 128 GB können Modelle geladen werden, die auf keine Consumer-Karte passen, wie gpt-oss-120b oder Llama 4 Scout. Dafür ist die Speicherbandbreite geringer als die einer RTX 5090: Bei einem Modell, das in 32 GB passt, generiert eine CoreIA RTX 5090 schneller.
Wichtig: Der GX10 läuft unter Linux (DGX OS) und wird über das Netzwerk von einer Weboberfläche oder API aus genutzt. Es ist kein Windows-Desktop-System. Wenn Sie ein einziges System für alles wünschen, wählen Sie eine CoreIA Workstation.
Welche Konfiguration ist für Ihren Einsatz geeignet?
Drei Fragen reichen aus: Welche Modellgröße streben Sie an, wie viele Personen werden es nutzen und benötigen Sie Windows auf demselben System?
Anwalt, Notar, Steuerberater
Assistent für Ihre Unterlagen, Analyse von Verträgen oder Bilanzen. CoreIA Radeon AI PRO R9700 für einen Arbeitsplatz, CoreIA RTX 5090 oder GX10 für eine Kanzlei mit mehreren Personen.
Arztpraxis
Berichte und Zusammenfassungen von Unterlagen. GX10 oder CoreIA RTX 5090, im lokalen Netzwerk installiert und für das Team geteilt.
KMU mit 10 bis 50 Personen
Interner KI-Assistent für Ihre Dokumente. CoreIA Threadripper PRO mit 4 GPUs oder Rack-Server, je nachdem, ob Sie über ein Rack verfügen.
KI-Entwickler
RAG, Agenten, LoRA. CoreIA RTX 5090 für Geschwindigkeit unter Windows oder Linux, GX10 für eine native CUDA-Umgebung und große Modelle.
Kreativarbeit und 3D
Bilder, KI-Videos, Rendering. CoreIA RTX 5090 mit RTX 5090, der schnellsten bei der Generierung.
F&E und Data Science
Fine-Tuning, Modelle ab 70B. CoreIA Threadripper PRO mit 4 GPUs oder CoreIA mit 2 × RTX PRO 6000.
Sie schwanken zwischen Mac und PC? Wir haben die beiden in unserem Vergleich Mac Studio vs. PC RTX für lokale KI verglichen. Und für einen Fokus auf Sprachmodelle sehen Sie sich unseren Leitfaden Welcher PC für ein lokales LLM an.
Inbetriebnahme und Betreuung
Ein KI-System ist nur dann nützlich, wenn es richtig eingerichtet ist. Das unterscheidet uns von einem einfachen Hardware-Händler:
- KI-Schlüsselfertigpaket: installierte Modelle, eine sofort einsatzbereite Chat-Oberfläche und vor der Lieferung durchgeführte Tests.
- Installation vor Ort in Frankreich und Europa: Vernetzung, Einrichtung der Zugänge und Einführung.
- Maßgeschneiderte Entwicklung: n8n-Automatisierungen und Python-Anwendungen, die an Ihre Dokumente und Tools angebunden sind.
- KI-spezialisierter Kundenservice: ein einziger Ansprechpartner für Hardware und Software.
Benötigen Sie Hilfe bei der Auswahl Ihrer Konfiguration?
Wir antworten Ihnen unter der Woche in weniger als 3 Stunden mit einer auf Ihren tatsächlichen Bedarf abgestimmten Konfiguration – ohne Überdimensionierung.
Kostenloses Angebot anforderncontact@radiancesystems.eu
