Germany – Information systems and servers – KI-Bestandsinfrastruktur-Erweiterung - Projekte Racoon & Athene

2.1 NVIDIA Deep Learning System DGX B300-Cluster - Los 1 Erforderliche Beschaffung von vier NVIDIA DGX B300 Systemen zur effizienten Bearbeitung rechenintensiver KI-Fragestellungen (z. B. medizinische Bildgebung, digitale Pathologie, Omics und NLP). Das System dient als zentrale Infrastruktur und ermöglicht über fortschrittliche Virtualisierung mit DGX OS / NVIDIA Enterprise AI die flexible Bereitstellung von GPU-Arbeitsplatzumgebungen für universitäre Partner im RACOON Verbundprojekt. Dabei fügen sich die neuen Systeme nahtlos in die bereits bestehende Management-Infrastruktur ein, welche auf dem NVIDIA Base Command Manager und NVIDIA Mission Control basiert. Dies sichert eine hocheffiziente, konsistente Administration ohne zusätzlichen Einarbeitungs- oder Migrationsaufwand für das Betriebsteam. Da sämtliche Algorithmen und KI-Modelle auf der proprietären NVIDIA CUDA-Architektur basieren, ist das System technisch alternativlos; eine Umstellung auf andere Architekturen oder APIs wäre mit einem unverhältnismäßig hohen und wirtschaftlich nicht vertretbaren Aufwand verbunden. Zudem baut das vorhandene GPU-Cluster-Management nativ auf diesem Software-Stack auf. Die gewählte Blackwell-Generation (B300) bietet mit 8x NVIDIA B300 GPUs, 2304 GB Gesamtspeicher und einer 800 Gbit/s InfiniBand-Anbindung die einzig adäquate Leistungsklasse. Zudem garantiert die enorme Leistungsdichte (10 HE im Rack bei max. 15,1 kW pro System) eine ressourcenschonende Integration in das kapazitätsbegrenzte Rechenzentrum. 2.2 NVIDIA GPU-Server, Netzwerk sowie Spark Cluster - Los 2 Die Beschaffung dient der Erweiterung und Optimierung der bestehenden Infrastruktur des Research Compute Cluster (RCC) zur Deckung des steigenden Bedarfs an leistungsfähigen Ressourcen für KI- und datenintensive Forschungsanwendungen. Die NVIDIA DGX-Spark-Systeme ermöglichen die Entwicklung, Erprobung und Inferenz von KI-Modellen in derselben NVIDIA-Softwareumgebung wie die zentralen GPU-Server des RCC. Dadurch können entwickelte Anwendungen ohne grundlegende Anpassungen auf die leistungsfähigeren RCC-Ressourcen übertragen werden. Der zusätzliche GPU-Server erweitert die zentrale Rechenkapazität des RCC und wird insbesondere für medizinische KI, Bildanalyse, Genomik/Metagenomik sowie das Training und die Inferenz großer KI-Modelle eingesetzt. Die Integration erfolgt in die bestehende Slurm-basierte Infrastruktur. Zur Anbindung der zusätzlichen Komponenten wird zudem die bestehende Management- und BMC-Netzinfrastruktur durch einen technisch identischen SuperMicro SSE-G3748R-SONIC erweitert. Dadurch wird eine einheitliche und betrieblich konsistente Infrastruktur ohne Aufbau einer separaten Netzwerklösung sichergestellt.