Germany - System services and support services - Leibniz University Hannover - Procurement of GPU and CPU computing power for training an LLM

Die Gottfried Wilhelm Leibniz Universität Hannover schreibt für das Projekt "EU-SAI" die Beschaffung von GPU- und CPU-Rechenleistung für das Training eines großen Sprachmodells (Large Language Model, LLM) mit mindestens 100 Milliarden Parametern und mindestens 12 Billionen Token aus. Im Rahmen eines staatlich geförderten Projekts, das bis zum 30. Juni 2026 läuft, veröffentlicht die Gottfried Wilhelm Leibniz Universität Hannover (LUH, Auftraggeber) diese europaweite Ausschreibung zur Beschaffung von GPU- und CPU-Rechenleistung für das Training eines Large Language Models (LLM) mit mindestens 100 Milliarden Parametern und mindestens 12 Billionen Token, einschließlich weiterer Aufgaben wie in den Vergabeunterlagen aufgeführt. Die verbindliche Mindestanforderung an die GPU-Rechenleistung beträgt 3,133 × 10²⁵ FLOPs. Dies entspricht ungefähr 8,8 Millionen GPU-Stunden auf einer NVIDIA H100 (H100 80 GB SXM5). Zusätzlich zur GPU-Kapazität verlangt der Auftraggeber 7,5 Millionen CPU-Kernstunden für ergänzende Vorverarbeitung, Orchestrierung und unterstützende Arbeitslasten. FLOPs werden definiert als das Produkt aus (Anzahl der gelieferten GPU-Stunden) x (vom Hersteller angegebener nicht-spärlicher BF16-Tensor-Core-Durchsatz pro GPU). Alle in dieser Ausschreibung definierten Anforderungen ergeben sich direkt aus dem Ziel des Auftraggebers, ein Modell mit mindestens 100 Milliarden Parametern auf mindestens 12 Billionen Tokes innerhalb von 8-10 Monaten zu trainieren. Für das Training des Modells und die zu erfüllenden Aufgabe sind ausschließlich NVIDIA-GPUs zugelassen (H100, H200 oder spätere Generationen wie B100, B200 oder GB200). Diese Einschränkung ist eine technische Notwendigkeit und stellt keine Präferenz für einen bestimmten Anbieter dar. Der Trainings-Framework und der Software-Stack der Vergabestelle sind ausschließlich auf NVIDIA-Hardware validiert und unterstützt. Insbesondere ist die bestehende Modell-Trainingspipeline (einschließlich CUDA, NCCL, PyTorch/Megatron-LM und zugehöriger Optimierungen) eng mit den NVIDIA-Toolchains verzahnt. Für alternative GPU-Anbieter existiert innerhalb des Zeitrahmens dieser Beschaffung keine gleichwertig validierte Umgebung. Die Portierung, das Testen und die Validierung auf Nicht-NVIDIA-Hardware würden umfangreiche Entwicklungsaufwände erfordern, die mit dem verfügbaren Zeitplan unvereinbar sind. Daher ist die Beschränkung dieser Beschaffung auf NVIDIA-GPUs unerlässlich, um Durchführbarkeit, Stabilität und termingerechte Lieferung sicherzustellen. Der Leistungszeitraum beträgt 8-10 Monate ab November 2025. Alle Dienstleistungen müssen innerhalb der EU/EEA oder in Ländern mit einem Angemessenheitsbeschluss der EU-Kommission erbracht werden. Nähere Informationen entnehmen Sie bitte der Leistungsbeschreibung