{"product_id":"serveur-ia-epyc-768-go","title":"AI-server met EPYC en 768 GB werkgeheugen","description":"\u003cp\u003eDe AI-server EPYC met 768 GB RAM is bedoeld voor modellen die niet in videogeheugen passen. De AMD EPYC 9005-platform met 12 geheugencanalen biedt een doorvoer die bureauplatforms niet bereiken.\u003c\/p\u003e\u003ch3\u003eBasisconfiguratie\u003c\/h3\u003e\u003cul\u003e\n\u003cli\u003eAMD EPYC 9005 processor, 12 geheugencanalen\u003c\/li\u003e\n\u003cli\u003eRDIMM-geheugen van 384 GB, uitbreidbaar tot 768 GB\u003c\/li\u003e\n\u003cli\u003eEen NVIDIA RTX PRO 6000 Blackwell Server Edition videokaart\u003c\/li\u003e\n\u003cli\u003eNetwerkkort 25 of 100 GbE, rackchassis\u003c\/li\u003e\n\u003c\/ul\u003e\u003ch3\u003eOndersteunde modellen\u003c\/h3\u003e\u003cp\u003eEenvoudige regel: een model van ongeveer 1 miljard parameters neemt in 8 bits ongeveer 1 GB videogeheugen in beslag, en de helft minder in 4 bits. Hier moet de ruimte voor de context bij worden geteld.\u003c\/p\u003e\u003cp\u003eDe 768 GB systeemgeheugen stelt u in staat om veel grotere modellen uit te voeren dan het beschikbare videogeheugen, langzamer maar zonder ze op te splitsen. De videokaart versnelt de delen die binnen zijn 96 GB passen.\u003c\/p\u003e\u003ch3\u003eGelijktijdige gebruikers\u003c\/h3\u003e\u003cp\u003e2 tot 5 personen tegelijkertijd op een zeer groot model dat in systeemgeheugen wordt gehouden. Deze machine is gemaakt om te laden wat anderen niet kunnen laden, niet om een team te bedienen.\u003c\/p\u003e\u003ch3\u003eSchaalbaarheid\u003c\/h3\u003e\u003cp\u003eTot 2 videokaarten en 768 GB geheugen. Deze configuratie wordt verkocht op aanvraag: vraag het via de configurator aan.\u003c\/p\u003e\u003cp\u003eElke machine wordt door Radiance Systems in Frankrijk samengesteld, getest en geleverd klaar voor gebruik.\u003c\/p\u003e","brand":"Radiance Systems","offers":[{"title":"Default Title","offer_id":59299783966984,"sku":null,"price":0.0,"currency_code":"EUR","in_stock":true}],"thumbnail_url":"\/\/cdn.shopify.com\/s\/files\/1\/0702\/4816\/9736\/files\/telechargement_13_0ce9b85f-2a45-4589-8123-bc9ed361475e_9233ac63-67c2-4a37-a7c0-9205bbf6d97b.png?v=1793462402","url":"https:\/\/www.radiancesystems.eu\/nl\/products\/serveur-ia-epyc-768-go","provider":"Radiance Systems","version":"1.0","type":"link"}