Deutschland – Zentralrechner – Upgrade eines NVIDIA DGX A100 GPU-Clusters um drei NVIDIA DGX B300 Deep-Learning-Systeme für das dtec.bw-Forschungsprojekt MORE und weitere dtec.bw-Forschungsprojekte

Gegenstand des Auftrags ist die Erweiterung des bestehenden GPU-Clusters. Der Auftragnehmer muss drei NVIDIA DGX B300 Deep-Learning-Systeme, vier NVMe-basierte CEPH-Storage-Server sowie die notwendigen Vernetzungskomponenten liefern, installieren und mit dem bestehenden GPU Cluster vernetzen. Darüber hinaus verpflichtet sich der Auftragnehmer für den Zeitraum von fünf Jahren ab Vertragsschluss, alle in der Leistungsbeschreibung sowie in dem Angebot genannten Service- und Wartungsleistungen durch sicherheitsunterwiesenes Personal zu erbringen ("Service- und Wartungsleistungen"). Aufgrund der bestehenden Architektur, insbesondere der NVLink-basierten Höchstgeschwindigkeitsvernetzung innerhalb der DGX-Systeme sowie der Infiniband-basierten Hochgeschwindigkeitsvernetzung zwischen den DGX-Systemen untereinander und mit dem Storage-Cluster, kann die UniBw M ausschließlich die neueste Generation von NVIDIA-DGX-Systemen, die DGX B300, beschaffen und in das vorhandene GPU-Cluster integrieren. Die drei NVIDIA-DGX-B300-Deep-Learning-Systeme müssen folgende Spezifikationen erfüllen: - GPUs: 8x NVIDIA Blackwell B300 Tensor Core GPUs (Gesamtspeicher GPU: 2.304 GB HBM3 (288 GB pro GPU); Rechenleistung: 72 petaFLOPS (Training), 144 petaFLOPS (Inferenz)) - GPU-Interconnect: NVLink-Switch mit 14.400 GB/s aggregierter Bandbreite - CPU: 2x Intel Xeon Platinum 6776P (128 Cores, 2,3-3,9 GHz) - System-RAM: 2 TB DDR5 (4 TB maximal) - Netzwerk (8x OSFP-Ports (800 Gb/s InfiniBand / Ethernet); 2x Dual-port QSFP112 NVIDIA BlueField-3 DPU (400 Gb/s InfiniBand / Ethernet); 1x RJ45 1Gb/s für Management; 1x RJ45 1Gb/s für BMC/IPMI) - Storage (2x 1,92 TB M.2 NVMe als RAID1 für Betriebssystem; 30 TB (8x 3,84 TB E1.S NVMe) für Datenzwischenspeicherung) - Leistungsaufnahme: max. 15 kW über 12x 230V-PSU - 19"-Rack-Gehäuse mit 10 HE, Gewicht 158 kg Für diese Hardware benötigt die UniBw M auch eine fachlich abgestimmte Wartung für fünf Jahre und den entsprechenden Software-Support mit dem folgenden Umfan