Beschaffung von GPU- und CPU-Rechenleistung zum Training eines LLM
Zusammenfassung
Automatisch erstellt aus den VergabeunterlagenDie Leibniz Universität Hannover beschafft im Rahmen des Soofi-Projekts zwei Arten von GPU-Cluster-Rechenleistung für das Training großer Sprachmodelle.
Los 1 – GPU-Knoten (DGX/HGX B200/B300): dedizierter Cluster mit mindestens 1.024 GPUs für 65 Tage, danach mindestens 128 GPUs, insgesamt mindestens 1,5 × 10²⁵ FLOPs. Verwendung für Finishing/Post-Training großer MoE-Modelle, Evaluation, synthetische Datengenerierung und Destillation.
Los 2 – NVL72 Rack-Systeme (GB200/GB300): mindestens 29 NVL72-Racks (2.048 GPUs), mindestens 2,4 × 10²⁵ FLOPs. Verwendung für das Pre-Training eines MoE-Modells mit >350 Mrd. Parametern.
Beide Lose umfassen zudem dedizierte CPU-Kapazitäten, großen Storage (1 PB Parallel-File-System + 1 PB S3-Storage), Netzwerk mit NDR/XDR InfiniBand, Support, EU-Datenresidenz, SLAs (GPU 99,5 %, CPU 99 %, Storage 99,5 %) sowie eine optionale Verlängerung um bis zu 3 Monate.
Zeitplan & Fristen
Aus den Vergabeunterlagen extrahiertZuschlagskriterien
Gewichtung laut Vergabeunterlagen- F1a — Total guaranteed FLOPs40%
Gesamtanzahl der vom Bieter garantierten FLOPs (BF16 dense, hersteller-spezifiziert) innerhalb der Basisperiode des Loses. Lineare Skalierung: bestes Angebot erhält 100 Punkte, andere anteilig. Mindestwert: 1,5 × 10^25 FLOPs (sonst Ausschluss).
- F1b — Effective unit price per 10^23 FLOPs20%
Effektiver Stückpreis pro 10^23 FLOPs (Gesamtpreis inkl. 19% MwSt. geteilt durch garantierte FLOPs × 10^23). Lineare Skalierung: niedrigster Wert erhält 100 Punkte, andere anteilig. Preisobergrenze: 16.400.000 € inkl. MwSt. (sonst Ausschluss).
- A4 Start date15%
Angebotenes Startdatum der Leistungserbringung. Lineare Skalierung auf absoluter Skala: 10. Dezember 2026 oder früher = 100%, 1. Februar 2027 = 0%. Gleiche Skala gilt für Haupt- und Nebenangebote.
- A5 GPU service-level agreement5%
Clusterweite Verfügbarkeit von mindestens 99,5% pro Monat für Compute-Knoten, NVLink, InfiniBand-Fabric und gemeinsamen Speicher. Incident-Bestätigung innerhalb 30 Minuten, Behebung/Failover innerhalb 4 Stunden. Hot-Spares (Los 1: mind. 3 Ersatzknoten in der 128-Knoten-Phase, mind. 1 danach). Geplante Wartung 72 Stunden im Voraus angekündigt, max. 4 Stunden pro Monat. Lineare Skalierung relativ zum besten Angebot.
- A6 Local NVMe storage5%
Lokaler NVMe-Speicher pro GPU-Knoten. Lineare Skalierung relativ zum besten Angebot im Los.
- A14 Performance benchmarks (LLM-relevant MLPerf Training)5%
LLM-relevante MLPerf-Training-Benchmarks. Lineare Skalierung relativ zum besten Angebot im Los.
- B2 Shared storage capacity5%
Kapazität des gemeinsamen Speichers (parallel filesystem). Lineare Skalierung relativ zum besten Angebot im Los.
- B5 Storage service-level agreement5%
SLA für den gemeinsamen Speicher (Verfügbarkeit, Reaktions- und Wiederherstellungszeiten). Lineare Skalierung relativ zum besten Angebot im Los.
Gesamtpunktzahl pro Los = Preissubtotal (max. 60) + Funktionalitätssubtotal (max. 40). Preissubtotal: F1a (40%) = lineare Skalierung der garantierten Gesamt-FLOPs (bester Bieter = 100 Punkte); F1b (20%) = lineare Skalierung des effektiven Stückpreises pro 10^23 FLOPs (niedrigster = 100 Punkte). Funktionalitätssubtotal: lineare Skalierung relativ zum besten Angebot pro Kriterium (bester = 100 Punkte). Das Angebot mit der höchsten Gesamtpunktzahl je Los ist das wirtschaftlichste.
Leistungsumfang
Aus den VergabeunterlagenGeltungsbereich beider Lose
Mindest-SLAs (beide Lose)
Software-Stack (beide Lose)
Testphase und Vertragslaufzeit (beide Lose)
Kaufmännische und finanzielle Rahmenbedingungen (beide Lose)
Eignungskriterien
Geforderte Nachweise laut VergabeunterlagenWirtschaftliche und finanzielle Eignung
Ausschlussgründe und Sanktionen
Eintragungen und Erklärungen
Ausschlusskriterien (Ausschluss bei Nichterfüllung)
Bis zu 3 Referenzen über frühere Aufträge für öffentliche Einrichtungen gemäß EU- oder nationalen Vergabevorschriften, mit Use Cases und Ressourcennutzung (max. GPU-Anzahl, Job-Dauer)
Eigenerklärung zu Referenzen über vergleichbare Leistungen
Erfahrung mit LLM-Training mit mindestens 1.000 GPUs außerhalb von MLPerf-Benchmarking
Eigenerklärung; zusätzlich MLPerf-Ergebnisse (Version 5.0 oder neuer) für LLM-relevante Workloads
Erfahrung mit LLM-Training mit mindestens 1.000 GPUs und Erfahrung mit NVL72 Rack-Scale-Training
Eigenerklärung; zusätzlich MLPerf-Ergebnisse
Wettbewerb & Angebotsprognose
Erwartete Konkurrenz auf Basis vergleichbarer VergabenAuf einen Blick
Erfüllungsort
Weitere Ausschreibungen Niedersachsen
Alle anzeigen →Erneuerung Gleis 5
Niedersachsen Ports GmbH & Co. KG · 26388 WilhelmshavenFrist: NiedersachsenStrassenneubau Nahversorger, Tief- und Strassenbauarbeiten
Landkreis Celle · 29303 Bergen, OT SuelzeFrist: NiedersachsenStrassenmarkierungsarbeiten - Hbs Windausstrasse
Infrastrukturgesellschaft Region Hannover GmbH · 30163 HannoverFrist: NiedersachsenLieferung eines Kommunalschleppers (Gemeinde Rastede)
KWL mbH · 26180 RastedeFrist: NiedersachsenNeubau Mütterzentrum - Mobile Trennwand_MS
Stadt Braunschweig Fachbereich Bauordnung und Zentrale Vergabestelle · 38118 BraunschweigFrist: NiedersachsenBauvorbereitende Untersuchungen 2027 im GB Stade
Niedersächsische Landesbehörde für Straßenbau und Verkehr - Geschäftsbereich Stade · 21680 StadeFrist:Bereit für die Zukunft der Vergabe?
Setzen Sie auf den neuen technologischen Standard und verschaffen Sie sich den entscheidenden Vorsprung in der Auftragsakquise.