Lokale KI: Welcher PC für KI in der Schweiz?

Aktualisiert: November 2026

Lokale KI: Welcher PC für die Schweizer KI?
Eine 16 GB Grafikkarte für das 8B-Modell, 64 bis 96 GB für das 70B-Modell.

Apertus 1.5, das offene Sprachmodell aus der Schweiz, ist in den Versionen 8B und 70B verfügbar. Das 8B-Modell benötigt in 4 Bit etwa 10,5 GB Grafikspeicher: Eine 16 GB Karte ist hierfür ausreichend. Das 70B-Modell benötigt etwa 52 GB: Hierfür sind zwei RTX 5090 (64 GB) oder eine RTX PRO 6000 (96 GB) erforderlich. Dies sind unsere Schätzungen für 32.768 Kontext-Token.

Apertus bietet einen besonderen Vorteil für Unternehmen in der Westschweiz und Frankreich: Es ist ein offenes Modell, das in der Schweiz entwickelt wurde und lokal betrieben werden kann. Hier erfahren Sie alles Wissenswerte dazu: den berechneten Speicherbedarf für jede Version, die passende Hardware, die aktuell verfügbaren Softwarelösungen, die veröffentlichten Benchmarks und die Details der Lizenz. Da wir Apertus noch nicht auf unseren eigenen Maschinen getestet haben, werden hier keine Geschwindigkeiten angegeben.

Was ist Apertus?

Apertus ist das große Sprachmodell der Swiss AI Initiative, entwickelt von der EPFL, der ETH Zürich und dem CSCS, dem Schweizer Zentrum für wissenschaftliches Rechnen. Das Besondere daran: Alles ist offen zugänglich. Nicht nur die Modellgewichte, sondern auch die Trainingsdaten und die vollständigen Rezepte werden veröffentlicht. Das Projekt gibt an, die Opt-out-Wünsche von Rechteinhabern bezüglich der Nutzung ihrer Daten für das Training konsequent umgesetzt zu haben, sofern dies nachträglich möglich war.

Die Version 1.5 wurde am 24. Juli 2026 auf Hugging Face veröffentlicht und ist in den Varianten mit 8 und 70 Milliarden Parametern verfügbar. Dies ist die aktuellste Version. Sie basiert auf der Architektur von Apertus 1.0, wurde jedoch länger trainiert und umfasst drei wesentliche Neuerungen.

Basierend auf dem Datenblatt von Apertus 1.5 und der Konfigurationsdatei von Apertus 1.0 auf Hugging Face. Video wird nicht direkt unterstützt; daraus können jedoch Bilder extrahiert werden.

Ein Token ist ein Wortfragment. Der Kontext umfasst alles, was das Modell während eines Gesprächs im Gedächtnis behält: Ihre Fragen, die Antworten des Modells sowie die bereitgestellten Dokumente. Bei Audio gibt das Datenblatt einen präzisen Richtwert vor: 40 Token pro Sekunde. Eine Stunde Aufnahme belegt somit 144.000 Token, was mehr als die Hälfte des maximalen Kontextes entspricht.

Wie viel Arbeitsspeicher GPU wird für Apertus benötigt?

Etwa 10,5 Go für das 8B und 52 Go für das 70B bei 4 Bit und einem Kontext von 32.768 Token. Der Speicherbedarf hängt von zwei Faktoren ab: der Präzision der Gewichte (4, 8 oder 16 Bit) und der Länge des Kontextes. Während die Gewichte fest sind, wächst der Kontext-Cache mit der Textmenge.

Bei einem langen Kontext nimmt der Cache schnell an Bedeutung zu, insbesondere beim 70B: Jedes Token belegt hier 320 Kio, im Vergleich zu 128 Kio beim 8B.

Schätzungen von Radiance Systems, ohne Messungen auf unseren Maschinen. Q4 = Q4_K_M, Q8 = Q8_0, 16-Bit-Cache, ein einziger Chat, Sicherheitsmarge von 1,5 GB. Offizielle Repository-Größe: 72,0 Milliarden Werte für 70B und 8,9 Milliarden für 8B, inklusive Bild- und Audio-Readern. Der Cache wurde basierend auf der Architektur von Apertus 1.0 berechnet (80 Layer und 8 geteilte Attention-Heads für 70B, 32 Layer für 8B), die laut Datenblatt unverändert geblieben ist. Eine Grafikkarte wird nur mit 95 % ihres Arbeitsspeichers berechnet.

Welcher PC für Apertus 8B?

Eine Grafikkarte mit 16 GB ist ausreichend. Unsere CoreIA RTX 5060 Ti lässt Apertus 1.5 8B in 4 Bit mit etwa 71.000 Kontext-Token oder in 8 Bit mit etwa 40.000 Token laufen. Das ist völlig ausreichend für einen Schreibassistenten, Übersetzungen oder das Zusammenfassen von aufgezeichneten Meetings von wenigen Minuten.

Um das gesamte Kontextfenster zu nutzen oder die ursprüngliche Präzision beizubehalten, sollten Sie auf 32 GB setzen. Auf einer CoreIA RTX 5090 unterstützt das 8B Modell etwa 195.000 Token in 4 Bit und 100.000 in 16 Bit. Die CoreIA GB10 mit 128 GB gemeinsam genutztem Speicher bewältigt 262.144 Token unabhängig von der Präzision.

Welcher PC für Apertus 70B?

Sie benötigen mindestens 64 GB GPU-Speicher. Zwei RTX 5090 betreiben das 70B Modell in 4 Bit mit einem durchschnittlichen Kontext. Eine RTX PRO 6000 mit 96 GB auf einer einzelnen Karte ermöglicht ein langes Kontextfenster in 4 Bit oder die Präzision von 8 Bit. Für die ursprüngliche Präzision sind zwei RTX PRO 6000 erforderlich.

Preise der Basiskonfigurationen, Live-Preise auf den Datenblättern. Die oben genannten Kontextberechnungen sind Schätzungen. Jede Maschine kann auf ihrem jeweiligen Datenblatt konfiguriert werden.

Ein hilfreicher Hinweis: Die 4-Bit-Version, die sowohl Bilder als auch Audio unterstützt (NVFP4-Format, von der Community veröffentlicht), wiegt 51,5 GB und ist damit schwerer als die reine Text-Version im GGUF-Format. Auf zwei RTX 5090 bleiben laut unserer Berechnung dann nur noch Platz für etwa 37.000 Token. Wenn Sie planen, lange Aufzeichnungen an Apertus zu übermitteln, bietet die CoreIA RTX PRO 6000 mehr Spielraum. Die Verteilung eines Modells auf zwei Karten funktioniert einwandfrei: Diesen Prozess erläutern wir in unserem Multi-GPU-Leitfaden.

Welche Software wird benötigt, um Apertus 1.5 auszuführen?

Offiziell werden vLLM und Transformers verwendet, in Versionen, die speziell vom Apertus-Team modifiziert wurden. Die Unterstützung ist in den öffentlichen Versionen dieser beiden Softwares noch nicht integriert. Das Team stellt ein einsatzbereites Docker-Image bereit, das für NVIDIA-Grafikkarten in den Versionen x86 und ARM optimiert ist und somit auch den GB10 abdeckt. Zudem werden die entsprechenden Befehle für jede Größe, sowohl mit als auch ohne Reflexionsmodus, bereitgestellt.

In den Spezifikationen werden weder Ollama noch LM Studio aufgeführt. Die Community hat weitere, nicht offizielle Versionen veröffentlicht, die wir nicht getestet haben.

Die aufgeführten Größen stammen von Hugging Face und sind in Milliarden Bytes angegeben, weshalb es zu geringfügigen Abweichungen von unserer Speicherübersicht kommen kann. Die GGUF-Versionen des 70B werden von den Autoren als Testversionen mit erforderlichen Starteinstellungen präsentiert.

Der Reflexionsmodus kann beim Start oder bei jeder Anfrage konfiguriert werden. Hierbei gibt es zwei wichtige Punkte zu beachten: Die Reflexion verbraucht Kontext, oft das Mehrfache der Länge der sichtbaren Antwort, und der Tool-Aufruf wird in diesem Modus nicht unterstützt. Für einen Agenten, der Ihre Software steuert, wird Apertus daher ohne Reflexion gestartet.

Wie gut schneidet Apertus laut den veröffentlichten Benchmarks ab?

Das Team gibt ein Leistungsniveau an, das mit anderen Modellen vergleichbarer Größe vergleichbar ist; ein vollständiger technischer Bericht wird noch veröffentlicht. Die Repositories veröffentlichen derzeit einige Ergebnisse, die hier aufgeführt sind.

Bewertungen auf einer Skala von 100, die von Swiss AI auf Hugging Face mit eigenen Einstellungen hochgeladen und von Hugging Face als nicht verifiziert markiert wurden: Dies dient als Größenordnung und nicht als unabhängiges Ranking. Das Datenblatt vergleicht Apertus nicht mit Qwen3.8-27B oder Gemma 4 12B, und die Tests weichen von denen in deren jeweiligen Datenblättern ab: Ein quantitativer Vergleich ist daher nicht möglich.

Zwei Anmerkungen: In Bezug auf die Einhaltung von Anweisungen erzielt das 8B-Modell eine höhere Punktzahl als das 70B-Modell, wobei die Reflexionsfunktion beiden hilft. Diese Zahlen messen jedoch nicht die Besonderheiten von Apertus: die Transparenz des Trainings und die enorme Anzahl an unterstützten Sprachen, laut Projektseite sind es mehr als 1.000. Testen Sie das Modell vor Ihrer Entscheidung an Ihren eigenen Dokumenten.

Kann Apertus in einem Unternehmen eingesetzt werden?

Ja. Apertus 1.5 unterliegt der Apache 2.0-Lizenz, die die kommerzielle Nutzung sowie die Modifikation und das Fine-Tuning mit Ihren eigenen Daten erlaubt. Der Zugriff auf die Gewichte erfordert jedoch zusätzlich zur Lizenz die Zustimmung zu einer Nutzungsrichtlinie.

Zusammenfassung der mit dem Modell veröffentlichten Lizenz und Nutzungsrichtlinie, die allein maßgeblich sind. Dies stellt keine Rechtsberatung dar. Apertus veröffentlicht zudem die vom europäischen AI Act geforderte Dokumentation: siehe unseren Artikel AI Act und KMU.

Warum sollten Sie Apertus lokal ausführen?

Damit Ihre Daten bei Ihnen bleiben. Ein auf einer Maschine in Ihren Räumlichkeiten installiertes Modell antwortet, ohne Daten an einen Online-Dienst zu senden. In der Schweiz ist das neue Datenschutzgesetz (nDSG) seit dem 1. September 2023 in Kraft; in Frankreich gilt die DSGVO. Die lokale KI entbindet Sie nicht von Ihrer eigenen Analyse, beseitigt jedoch die Frage der Datenübermittlung an einen externen Dienstleister.

Die Wahl von Apertus bietet einen entscheidenden Vorteil: Es handelt sich um ein Modell aus der Schweiz, bei dem die Trainingsdaten transparent sind. Für Treuhänder, Forschungseinrichtungen oder Behörden ist dies wesentlich einfacher zu begründen als ein Modell, dessen Trainingsprozess geheim bleibt.

Lieferung in die Schweiz: Preise, MwSt. und Zoll

Wir liefern unsere Maschinen in die Schweiz. Die Preise auf der Website sind in Euro angegeben und enthalten für die Schweiz keine französische MwSt. Die Schweizer MwSt. (Normalsteuersatz von 8,1 %) sowie die Einfuhrgebühren werden vom Kunden bei Erhalt beglichen. Seit dem 1. Januar 2024 erhebt die Schweiz keine Zölle mehr auf Industrieprodukte, was auch Computer einschließt. Wenn Ihr Unternehmen in der Schweiz mehrwertsteuerpflichtig ist, klären Sie mit Ihrem Treuhänder, wie Sie diese zurückerhalten können.

Wie in Frankreich wird die Maschine innerhalb von maximal 15 Werktagen vorbereitet, oft auch schneller, gefolgt vom Versand. Sie verfügt über eine Garantie von 2 Jahren, die verlängert werden kann, wobei der Transport während der gesamten Garantiezeit inbegriffen ist. MwSt., Zoll und nLPD: Alle Details finden Sie in unserem Artikel Lokale KI in der Schweiz.

Häufig gestellte Fragen

Wie viel GPU-Arbeitsspeicher wird für Apertus benötigt?
Für Apertus 1.5 8B: etwa 10,5 GB in 4 Bit, 14 GB in 8 Bit und 22 GB in 16 Bit. Für das 70B Modell: etwa 52, 83 und 146 GB. Diese Werte beziehen sich auf einen Kontext von 32.768 Token. Es handelt sich hierbei um Schätzungen von Radiance Systems, nicht um Messwerte.

Reicht eine Grafikkarte mit 16 GB Arbeitsspeicher für Apertus aus?
Für das 8B Modell gilt: Ja, es ist in 4 Bit mit etwa 71.000 Kontext-Token oder in 8 Bit mit etwa 40.000 verfügbar. Für das 70B Modell gilt: Nein, hierfür ist mindestens 64 GB Grafikspeicher erforderlich.

Welche Hardware für Apertus 70B?
Die CoreIA 2x RTX 5090 (64 Go) führt es in 4 Bit mit etwa 60.000 Token aus. Die CoreIA RTX PRO 6000 (96 Go) unterstützt etwa 160.000 Token in 4 Bit auf einer einzelnen Karte. Für die ursprüngliche Präzision ist die CoreIA 2x RTX PRO 6000 erforderlich.

Kann Apertus mit Ollama oder LM Studio ausgeführt werden?
Das offizielle Datenblatt führt diese nicht auf: Es werden modifizierte Versionen von vLLM und Transformers in Verbindung mit einem Docker-Image empfohlen. Die Community veröffentlicht reine Text-Versionen im GGUF-Format für llama.cpp, ohne Bilder oder Audio, die wir jedoch nicht getestet haben.

Kann Apertus in einem Unternehmen verwendet werden?
Ja. Die Apache 2.0 Lizenz erlaubt die kommerzielle Nutzung. Um die Gewichte herunterzuladen, müssen Sie zudem eine Nutzungsrichtlinie akzeptieren: Sie stellen die ETH Zürich und die EPFL gegenüber Ansprüchen Dritter frei und müssen diese Bedingung bei einer Weiterverteilung des Modells ebenfalls an Ihre Nutzer weitergeben.

Liefern Sie in die Schweiz?
Ja. Die Preise auf der Website sind in Euro angegeben und enthalten keine französische MwSt. für die Schweiz. Die Schweizer MwSt. (8,1 %) sowie die Einfuhrkosten werden vom Kunden bei Erhalt beglichen. Seit dem 1. Januar 2024 fallen keine Zölle mehr auf Industrieprodukte an.

Welche Geschwindigkeit ist zu erwarten?
Da wir Apertus nicht auf unseren Maschinen gemessen haben, geben wir keine konkreten Geschwindigkeitsangaben an. Diese hängen von der Grafikkarte, der gewählten Präzision, dem verwendeten Engine und der Länge der Reflexion ab.

Quellen

• Swiss AI, Apertus 1.5 70B Datenblatt auf Hugging Face und Apertus 1.5 8B Datenblatt
• Mit dem Modell veröffentlichte Apache 2.0 Lizenz
• Nutzungsrichtlinien von Apertus 1.5 und öffentliche Zusammenfassung für den europäischen AI Act
• Konfiguration von Apertus 1.0 70B (Architektur)
• Technischer Bericht „Apertus 1.5“ auf arXiv
• Projektseite von Apertus und die dazugehörige Dokumentation
• FP8-Version, NVFP4-Version und GGUF-Nur-Text-Version veröffentlicht von der Community
• Bundesamt für Zoll und Grenzsicherheit, Wegfall der Industriezölle
• Bundesamt für Zoll und Grenzsicherheit, MwSt. auf importierte Güter
• KMU-Portal des Bundes, neues Datenschutzgesetz

Stand 6. November 2026: Die Angaben zu Speicher und Kontext sind Schätzungen von Radiance Systems.