{"product_id":"carte-graphique-pro-nvidia-a100-pcie-80go-pny-copy","title":"NVIDIA H100 NVL 94GB Profi-Grafikkarte","description":"\u003cp data-start=\"0\" data-end=\"507\"\u003eDie \u003cstrong data-start=\"3\" data-end=\"28\"\u003eNVIDIA H100 NVL 94 GB\u003c\/strong\u003e ist ein \u003cstrong data-start=\"36\" data-end=\"67\"\u003eDatacenter-GPU-Beschleuniger\u003c\/strong\u003e (Klasse „Hopper“), der für die anspruchsvollsten Workloads entwickelt wurde, insbesondere \u003cstrong data-start=\"153\" data-end=\"189\"\u003egenerative KI \/ LLM in der Inferenz\u003c\/strong\u003e, \u003cstrong data-start=\"194\" data-end=\"201\"\u003eHPC\u003c\/strong\u003e und groß angelegte Analysen. Die \u003cstrong data-start=\"247\" data-end=\"254\"\u003eNVL\u003c\/strong\u003e-Version ist für den Betrieb \u003cstrong data-start=\"283\" data-end=\"297\"\u003epaarweise\u003c\/strong\u003e von GPUs konzipiert, die über \u003cstrong data-start=\"317\" data-end=\"327\"\u003eNVLink\u003c\/strong\u003e verbunden sind, um die nutzbare Speicherkapazität und den Inter-GPU-Durchsatz zu erhöhen, während sie gleichzeitig ein \u003cstrong data-start=\"430\" data-end=\"438\"\u003ePCIe\u003c\/strong\u003e-Format beibehält, das für viele Server geeignet ist. \u003cspan class=\"\" data-state=\"closed\"\u003e\u003c\/span\u003e\u003c\/p\u003e\n\u003ch2 data-start=\"509\" data-end=\"523\"\u003eHauptmerkmale\u003c\/h2\u003e\n\u003cul data-start=\"524\" data-end=\"1055\"\u003e\n\n\u003cli data-start=\"524\" data-end=\"704\"\u003e\n\n\u003cp data-start=\"526\" data-end=\"704\"\u003e\u003cstrong data-start=\"526\" data-end=\"557\"\u003eSehr großer Speicher pro GPU\u003c\/strong\u003e und massive \u003cstrong data-start=\"561\" data-end=\"587\"\u003eSpeicherbandbreite\u003c\/strong\u003e, ideal für große Modelle und latenzarmes Serving. \u003cspan class=\"\" data-state=\"closed\"\u003e\u003c\/span\u003e\u003c\/p\u003e\n\n\n\u003c\/li\u003e\n\n\u003cli data-start=\"705\" data-end=\"897\"\u003e\n\n\u003cp data-start=\"707\" data-end=\"897\"\u003e\u003cstrong data-start=\"707\" data-end=\"741\"\u003eNVLink zwischen zwei Karten (NVL)\u003c\/strong\u003e: Ermöglicht die Bildung eines Paares mit insgesamt \u003cstrong data-start=\"780\" data-end=\"804\"\u003e188 GB HBM3\u003c\/strong\u003e (94 GB + 94 GB) und einer Hochgeschwindigkeitsverbindung zwischen den GPUs. \u003cspan class=\"\" data-state=\"closed\"\u003e\u003c\/span\u003e\u003c\/p\u003e\n\n\n\u003c\/li\u003e\n\n\u003cli data-start=\"898\" data-end=\"1055\"\u003e\n\n\u003cp data-start=\"900\" data-end=\"1055\"\u003eFür den \u003cstrong data-start=\"920\" data-end=\"936\"\u003e24\/7-Serverbetrieb\u003c\/strong\u003e konzipiert (passive Kühlung je nach Integration) und NVIDIA-Ökosystem für KI\/HPC. \u003cspan class=\"\" data-state=\"closed\"\u003e\u003c\/span\u003e\u003c\/p\u003e\n\n\n\u003c\/li\u003e\n\n\n\u003c\/ul\u003e\n\u003ch2 data-start=\"1057\" data-end=\"1089\"\u003eWichtigste technische Details\u003c\/h2\u003e\n\u003cul data-start=\"1090\" data-end=\"2041\"\u003e\n\n\u003cli data-start=\"1090\" data-end=\"1175\"\u003e\n\n\u003cp data-start=\"1092\" data-end=\"1175\"\u003e\u003cstrong data-start=\"1092\" data-end=\"1108\"\u003eArchitektur\u003c\/strong\u003e: NVIDIA \u003cstrong data-start=\"1118\" data-end=\"1135\"\u003eHopper (H100)\u003c\/strong\u003e \u003cspan class=\"\" data-state=\"closed\"\u003e\u003c\/span\u003e\u003c\/p\u003e\n\n\n\u003c\/li\u003e\n\n\u003cli data-start=\"1176\" data-end=\"1304\"\u003e\n\n\u003cp data-start=\"1178\" data-end=\"1304\"\u003e\u003cstrong data-start=\"1178\" data-end=\"1189\"\u003eSpeicher\u003c\/strong\u003e: \u003cstrong data-start=\"1192\" data-end=\"1206\"\u003e94 GB HBM3\u003c\/strong\u003e pro GPU (oft paarweise \u003cstrong data-start=\"1242\" data-end=\"1252\"\u003e188 GB\u003c\/strong\u003e über NVLink verwendet) \u003cspan class=\"\" data-state=\"closed\"\u003e\u003c\/span\u003e\u003c\/p\u003e\n\n\n\u003c\/li\u003e\n\n\u003cli data-start=\"1305\" data-end=\"1404\"\u003e\n\n\u003cp data-start=\"1307\" data-end=\"1404\"\u003e\u003cstrong data-start=\"1307\" data-end=\"1333\"\u003eSpeicherbandbreite\u003c\/strong\u003e: bis zu \u003cstrong data-start=\"1344\" data-end=\"1356\"\u003e3,9 TB\/s\u003c\/strong\u003e pro GPU \u003cspan class=\"\" data-state=\"closed\"\u003e\u003c\/span\u003e\u003c\/p\u003e\n\n\n\u003c\/li\u003e\n\n\u003cli data-start=\"1405\" data-end=\"1480\"\u003e\n\n\u003cp data-start=\"1407\" data-end=\"1480\"\u003e\u003cstrong data-start=\"1407\" data-end=\"1420\"\u003eSchnittstelle\u003c\/strong\u003e: \u003cstrong data-start=\"1423\" data-end=\"1440\"\u003ePCIe Gen5 x16\u003c\/strong\u003e \u003cspan class=\"\" data-state=\"closed\"\u003e\u003c\/span\u003e\u003c\/p\u003e\n\n\n\u003c\/li\u003e\n\n\u003cli data-start=\"1481\" data-end=\"1603\"\u003e\n\n\u003cp data-start=\"1483\" data-end=\"1603\"\u003e\u003cstrong data-start=\"1483\" data-end=\"1501\"\u003eVerbindung\u003c\/strong\u003e: \u003cstrong data-start=\"1504\" data-end=\"1514\"\u003eNVLink\u003c\/strong\u003e (NVL-Paar, Hochgeschwindigkeitsverbindung zwischen zwei H100 NVL) \u003cspan class=\"\" data-state=\"closed\"\u003e\u003c\/span\u003e\u003c\/p\u003e\n\n\n\u003c\/li\u003e\n\n\u003cli data-start=\"1604\" data-end=\"1724\"\u003e\n\n\u003cp data-start=\"1606\" data-end=\"1724\"\u003e\u003cstrong data-start=\"1606\" data-end=\"1629\"\u003eTDP (max. Leistung)\u003c\/strong\u003e: bis zu \u003cstrong data-start=\"1640\" data-end=\"1649\"\u003e400 W\u003c\/strong\u003e pro GPU (gemäß NVL-Spezifikationen) \u003cspan class=\"\" data-state=\"closed\"\u003e\u003c\/span\u003e\u003c\/p\u003e\n\n\n\u003c\/li\u003e\n\n\u003cli data-start=\"1725\" data-end=\"1918\"\u003e\n\n\u003cp data-start=\"1727\" data-end=\"1918\"\u003e\u003cstrong data-start=\"1727\" data-end=\"1782\"\u003eKI-Beschleunigung (Tensor Cores + Transformer Engine)\u003c\/strong\u003e: optimiert für die von LLMs verwendeten Formate und Berechnungen (FP8\/FP16\/BF16\/TF32 je nach Modus) \u003cspan class=\"\" data-state=\"closed\"\u003e\u003c\/span\u003e\u003c\/p\u003e\n\n\n\u003c\/li\u003e\n\n\u003cli data-start=\"1919\" data-end=\"2041\"\u003e\n\n\u003cp data-start=\"1921\" data-end=\"2041\"\u003e\u003cstrong data-start=\"1921\" data-end=\"1933\"\u003eDekodierung\u003c\/strong\u003e: Erwähnung von \u003cstrong data-start=\"1947\" data-end=\"1959\"\u003e7× NVDEC\u003c\/strong\u003e (und \u003cstrong data-start=\"1964\" data-end=\"1975\"\u003e7× JPEG\u003c\/strong\u003e) in den H100 NVL-Spezifikationen \u003cspan class=\"\" data-state=\"closed\"\u003e\u003c\/span\u003e\u003c\/p\u003e\n\n\n\u003c\/li\u003e\n\n\n\u003c\/ul\u003e\n\u003ch2 data-start=\"2043\" data-end=\"2056\"\u003eFür wen?\u003c\/h2\u003e\n\u003cul data-start=\"2057\" data-end=\"2501\"\u003e\n\n\u003cli data-start=\"2057\" data-end=\"2210\"\u003e\n\n\u003cp data-start=\"2059\" data-end=\"2210\"\u003e\u003cstrong data-start=\"2059\" data-end=\"2083\"\u003eKI \/ LLM (Inferenz)\u003c\/strong\u003e: Serving großer Modelle, großer Kontexte, großer Batches, kontrollierte Latenz. \u003cspan class=\"\" data-state=\"closed\"\u003e\u003c\/span\u003e\u003c\/p\u003e\n\n\n\u003c\/li\u003e\n\n\u003cli data-start=\"2211\" data-end=\"2348\"\u003e\n\n\u003cp data-start=\"2213\" data-end=\"2348\"\u003e\u003cstrong data-start=\"2213\" data-end=\"2250\"\u003eHPC \/ Simulation \/ Datenanalyse\u003c\/strong\u003e: intensive Berechnungen und speicher- \/ bandbreitenbegrenzte Workloads. \u003cspan class=\"\" data-state=\"closed\"\u003e\u003c\/span\u003e\u003c\/p\u003e\n\n\n\u003c\/li\u003e\n\n\u003cli data-start=\"2349\" data-end=\"2501\"\u003e\n\n\u003cp data-start=\"2351\" data-end=\"2501\"\u003e\u003cstrong data-start=\"2351\" data-end=\"2379\"\u003eServerinfrastrukturen\u003c\/strong\u003e: dichte Bereitstellungen, bei denen das PCIe-Format und die Produktionseffizienz wichtig sind.\u003c\/p\u003e\n\n\n\u003c\/li\u003e\n\n\n\u003c\/ul\u003e","brand":"Radiance Systems","offers":[{"title":"Default Title","offer_id":53398363308296,"sku":null,"price":38233.29,"currency_code":"EUR","in_stock":true}],"thumbnail_url":"\/\/cdn.shopify.com\/s\/files\/1\/0702\/4816\/9736\/files\/41FprRdH2RL._AC_SL1260_1024x_1a3d13ab-8f1b-4eee-bd9c-5fec0f8453f0.webp?v=1772210432","url":"https:\/\/www.radiancesystems.eu\/de\/products\/carte-graphique-pro-nvidia-a100-pcie-80go-pny-copy","provider":"Radiance Systems","version":"1.0","type":"link"}