Lokaal met Apertus: welke PC voor AI in Zwitserland?

Bijgewerkt: november 2026

Apertus lokaal draaien: welke PC voor Zwitserse AI?
Een videokaart van 16 GB voor de 8B, 64 tot 96 GB voor de 70B.

Apertus 1.5, het open taalmodel uit Zwitserland, is beschikbaar in de 8B en 70B varianten. De 8B vereist ongeveer 10,5 GB werkgeheugen op de GPU in 4-bit: een kaart van 16 GB is hiervoor voldoende. De 70B vereist ongeveer 52 GB: hiervoor zijn twee RTX 5090 (64 GB) of een RTX PRO 6000 (96 GB) nodig. Dit zijn onze schattingen voor een context van 32.768 tokens.

Apertus heeft een uniek voordeel voor bedrijven in de Romandie en Frankrijk: het is een open model, ontwikkeld in Zwitserland, dat u lokaal kunt draaien. Hieronder vindt u de vereisten hiervoor: het berekende geheugen voor elke versie, de passende hardware, de software die het momenteel draait, de gepubliceerde scores en de voorwaarden van de licentie. We hebben Apertus nog niet gemeten op onze eigen machines; er worden hier dus geen specifieke snelheden vermeld.

Wat is Apertus?

Apertus is het grote taalmodel van de Swiss AI Initiative, ontwikkeld door de EPFL, de ETH Zurich en het CSCS, het Zwitserse centrum voor wetenschappelijke berekeningen. Het unieke aan dit model is dat alles openbaar is. Niet alleen de modelgewichten, maar ook de trainingsdata en de volledige recepten zijn gepubliceerd. Het project geeft aan dat zij de weigering van rechthebbenden om hun data te gebruiken voor training hebben gerespecteerd, zelfs achteraf wanneer dat mogelijk was.

Versie 1.5 werd op 24 juli 2026 gepubliceerd op Hugging Face, met 8 en 70 miljard parameters. Dit is de meest recente versie tot nu toe. Het maakt gebruik van de architectuur van Apertus 1.0, is langer getraind en bevat drie belangrijke toevoegingen.

Op basis van de fiche van Apertus 1.5 en het configuratiebestand van Apertus 1.0 op Hugging Face. Video wordt niet direct ondersteund; er kunnen wel afbeeldingen uit worden geëxtraheerd.

Een token is een fragment van een woord. De context is alles wat het model in zijn geheugen houdt tijdens een gesprek: uw vragen, de antwoorden van de AI en de door u verstrekte documenten. Voor audio geeft de specificatie een helder kader: 40 tokens per seconde. Een opname van één uur neemt dus 144.000 tokens in beslag, wat meer dan de helft van de maximale context is.

Hoeveel GPU-geheugen is nodig voor Apertus?

Ongeveer 10,5 Go voor de 8B en 52 Go voor de 70B, bij 4 bits met een context van 32.768 tokens. De hoeveelheid geheugen hangt af van twee factoren: de precisie van de gewichten (4, 8 of 16 bits) en de lengte van de context. De gewichten zijn vast, terwijl de contextcache meegroeit met de hoeveelheid tekst.

Bij een lange context neemt de cache snel veel ruimte in beslag, vooral bij de 70B: elk token neemt daar 320 Kio in beslag, tegenover 128 Kio bij de 8B.

Schattingen van Radiance Systems, niet gemeten op onze eigen machines. Q4 = Q4_K_M, Q8 = Q8_0, cache in 16 bits, één enkele conversatie, een werkmarge van 1,5 GB. De grootte is gebaseerd op de officiële repositories: 72,0 miljard waarden voor de 70B en 8,9 miljard voor de 8B, inclusief de modules voor afbeeldingen en audio. De cache is berekend op basis van de architectuur van Apertus 1.0 (80 lagen en 8 gedeelde attention heads voor de 70B, 32 lagen voor de 8B), die volgens de specificaties onveranderd is gebleven. Een videokaart wordt voor slechts 95% van zijn geheugen meegerekend.

Welke PC voor Apertus 8B?

Een videokaart met 16 Go is voldoende. Onze CoreIA RTX 5060 Ti draait Apertus 1.5 8B in 4-bit modus met een context van ongeveer 71.000 tokens, of in 8-bit met ongeveer 40.000 tokens. Dit is voldoende voor een redactieassistent, vertalingen of het samenvatten van opgenomen vergaderingen van enkele minuten.

Om de volledige context te benutten of de oorspronkelijke precisie te behouden, raden we 32 Go aan. Op een CoreIA RTX 5090 biedt de 8B een context van ongeveer 195.000 tokens in 4-bit, en 100.000 in 16-bit. De CoreIA GB10, met 128 Go gedeeld geheugen, ondersteunt 262.144 tokens ongeacht de precisie.

Welke PC voor Apertus 70B?

U heeft minimaal 64 Go GPU-geheugen nodig. Twee RTX 5090 draaien de 70B in 4-bit met een gemiddelde context. Een RTX PRO 6000, met 96 Go op één enkele kaart, maakt een lange context mogelijk in 4-bit of de precisie van 8-bit. Voor de oorspronkelijke precisie zijn twee RTX PRO 6000 nodig.

Prijzen van de basisconfiguraties, live te lezen op de productpagina's. Contexten berekend zoals hierboven vermeld: dit zijn schattingen. Elke machine is configureerbaar via de eigen pagina.

Een handige toevoeging: de 4-bits versie die zowel afbeeldingen als audio behoudt (NVFP4-formaat, uitgebracht door de community) weegt 51,5 GB, wat meer is dan de GGUF-versie die alleen tekst bevat. Op twee RTX 5090 blijft er volgens onze berekening slechts ruimte voor ongeveer 37.000 tokens. Als u van plan bent om lange opnames aan Apertus te voeren, biedt de CoreIA RTX PRO 6000 meer comfort. Het verdelen van een model over twee kaarten werkt uitstekend: dit leggen we uit in onze multi-GPU gids.

Welke software is nodig om Apertus 1.5 te draaien?

Officieel worden vLLM en Transformers gebruikt, in versies die zijn aangepast door het Apertus-team. De ondersteuning is nog niet geïntegreerd in de publieke versies van deze twee softwarepakketten. Het team stelt een kant-en-klare Docker-image beschikbaar, geoptimaliseerd voor NVIDIA-kaarten, in zowel x86- als ARM-versies, wat ook de GB10 omvat. Zij geven de specifieke commando's voor elke grootte, met of zonder reflectiemodus.

In de fiche worden noch Ollama, noch LM Studio genoemd. De community heeft andere, niet-officiële versies uitgebracht die wij niet hebben getest.

De vermelde groottes zijn afkomstig van Hugging Face in miljarden bytes, wat een klein verschil kan geven met onze tabel voor werkgeheugen. De GGUF-versies van de 70B worden door de auteur gepresenteerd als testversies, waarbij specifieke opstartinstellingen verplicht zijn.

De reflectiemodus kan bij de start of bij elke individuele aanvraag worden ingesteld. Houd hierbij rekening met twee zaken: reflectie verbruikt context, soms wel meerdere keren de lengte van de zichtbare reactie, en tool-calls worden in deze modus niet ondersteund. Voor een agent die uw software aanstuurt, wordt Apertus daarom zonder reflectie gestart.

Wat is de waarde van Apertus op basis van de gepubliceerde scores?

Het team geeft aan dat het niveau vergelijkbaar is met andere modellen van dezelfde omvang; een volledig technisch rapport volgt binnenkort. De repositories publiceren momenteel enkele scores, zoals hieronder te zien.

Scores op een schaal van 100, geplaatst op Hugging Face door Swiss AI met eigen instellingen en gemarkeerd als niet-geverifieerd door Hugging Face: dit is een indicatie van de grootte, geen onafhankelijke ranglijst. De fiche vergelijkt Apertus niet met Qwen3.8-27B of Gemma 4 12B, en de tests wijken af van de tests in hun eigen documentatie: een kwantitatieve vergelijking is daarom niet mogelijk.

Twee opmerkingen. Wat betreft de instructies volgt: het 8B-model behaalt een hogere score dan het 70B-model, en reflectie helpt beide modellen. Deze cijfers meten echter niet wat Apertus uniek maakt: de transparantie van de training en het grote aantal ondersteunde talen, meer dan 1.000 volgens de projectwebsite. Test het model op uw eigen documenten voordat u een keuze maakt.

Kan Apertus worden gebruikt in een onderneming?

Ja. Apertus 1.5 valt onder de Apache 2.0-licentie, die commercieel gebruik, aanpassingen en fine-tuning op uw eigen data toestaat. Toegang tot de gewichten vereist echter wel de acceptatie van een gebruiksvoorwaardenbeleid, naast de licentie.

Samenvatting van de licentie en het gebruikbeleid dat samen met het model zijn gepubliceerd; enkel deze documenten zijn bindend. Dit is geen juridisch advies. Apertus publiceert ook de documentatie die vereist is door de Europese AI Act: zie ons artikel AI Act en mkb.

Waarom Apertus lokaal draaien?

Zodat uw gegevens bij u blijven. Een model dat is geïnstalleerd op een machine in uw eigen pand, geeft antwoord zonder gegevens naar een online service te verzenden. In Zwitserland is de nieuwe wet op de gegevensbescherming (nLPD) sinds 1 september 2023 van kracht; in Frankrijk is dit de RGPD. Lokale IA ontslaat u niet van uw eigen analyse, maar het elimineert wel de kwestie van het verzenden van gegevens naar een externe provider.

De keuze voor Apertus biedt een extra voordeel: het is een Zwitsers model waarvan de trainingsdata transparant zijn. Voor een fiduciaire, een onderzoeksinstituut of een overheidsinstantie is dit veel makkelijker te verantwoorden dan een model waarvan de trainingsmethode geheim blijft.

Levering in Zwitserland: prijzen, btw en douane

Wij leveren onze machines in Zwitserland. De prijzen op de website zijn in euro's en exclusief Franse btw voor leveringen naar Zwitserland. De Zwitserse btw (normaal tarief van 8,1%) en de importkosten worden door de klant betaald bij ontvangst. Sinds 1 januari 2024 heft Zwitserland geen invoerrechten meer op industriële producten, wat ook geldt voor computers. Als uw bedrijf onderworpen is aan de Zwitserse btw, kunt u met uw fiduciaire bespreken hoe u deze kunt terugvorderen.

Net als in Frankrijk wordt de machine binnen maximaal 15 werkdagen klaargemaakt, vaak zelfs sneller, waarna de verzending volgt. De machine heeft een garantie van 2 jaar, met opties voor verlenging, en de verzendkosten zijn gedurende de gehele garantieperiode inbegrepen. Over btw, douane en nLPD: alle details vindt u in ons artikel lokale AI in Zwitserland.

Veelgestelde vragen

Hoeveel GPU-geheugen is nodig voor Apertus?
Voor Apertus 1.5 8B: ongeveer 10,5 GB in 4-bit, 14 GB in 8-bit en 22 GB in 16-bit. Voor de 70B: ongeveer 52, 83 en 146 GB. Deze cijfers gelden voor een context van 32.768 tokens. Dit zijn schattingen van Radiance Systems, geen exacte metingen.

Is een kaart met 16 GB voldoende voor Apertus?
Voor de 8B, ja: in 4-bit met ongeveer 71.000 tokens context, of in 8-bit met ongeveer 40.000. Voor de 70B, nee: hiervoor is minimaal 64 GB GPU-geheugen nodig.

Welke machine voor Apertus 70B?
De CoreIA 2x RTX 5090 (64 Go) draait het model in 4-bit met ongeveer 60.000 tokens. De CoreIA RTX PRO 6000 (96 Go) ondersteunt ongeveer 160.000 tokens in 4-bit op een enkele kaart. Voor de originele precisie is de CoreIA 2x RTX PRO 6000 vereist.

Kan Apertus worden uitgevoerd met Ollama of LM Studio?
De officiële documentatie vermeldt deze niet: er wordt aangeraden om aangepaste versies van vLLM en Transformers te gebruiken met een Docker-image. De community publiceert tekst-only GGUF-versies voor llama.cpp, zonder beeld of audio, die wij niet hebben getest.

Kan Apertus worden gebruikt in een bedrijf?
Ja. De Apache 2.0-licentie staat commercieel gebruik toe. Om de gewichten te downloaden, moet u ook een gebruiksvoorwaarde accepteren: u vrijwaart ETH Zurich en de EPFL van claims van derden, en als u het model herdistribueert, moet u deze voorwaarde ook doorgeven.

Leveren jullie in Zwitserland?
Ja. De prijzen op de website zijn in euro's, exclusief Franse btw voor Zwitserland. De Zwitserse btw (8,1 %) en de importkosten worden door de klant betaald bij ontvangst. Sinds 1 januari 2024 zijn er geen invoerrechten meer op industriële producten.

Welke snelheid kunnen we verwachten?
Wij hebben Apertus niet op onze machines gemeten en kondigen daarom geen specifieke snelheid aan. De snelheid is afhankelijk van de videokaart, de gekozen precisie, de engine en de lengte van de reflectie.

Bronnen

• Swiss AI, modelpagina van Apertus 1.5 70B op Hugging Face en modelpagina van Apertus 1.5 8B
• Apache 2.0-licentie gepubliceerd met het model
• Acceptabel gebruikbeleid van Apertus 1.5 en publieke samenvatting voor de Europese AI Act
• Configuratie van Apertus 1.0 70B (architectuur)
• Technisch rapport "Apertus 1.5" op arXiv
• Projectwebsite van Apertus en de bijbehorende documentatie
• FP8-versie, NVFP4-versie en GGUF tekst-only versie gepubliceerd door de community
• Federaal Douane- en Grensbureau, afschaffing van industriële invoerrechten
• Federaal Douane- en Grensbureau, btw op geïmporteerde goederen
• MKB-portaal van de Confederatie, nieuwe wet op de gegevensbescherming

Stand van 6 november 2026: de cijfers voor geheugen en context zijn schattingen van Radiance Systems.