Procurement observatory.

<!-- PAGE 1 -->

| Technická specifikace |
| --- |
| veřejné zakázky s názvem |
|  |
| „LF/ÚMTM/UPOL – Dodávka AI serveru“ |
|  |
|  |
|  |

Popis předmětu Veřejné zakázky

Zadavatel požaduje dodávku jednoho kompletního rackového serveru určeného pro výpočty umělé inteligence, strojové učení, inferenci velkých jazykových modelů a obecné GPU/HPC výpočty. Dodávka bude tvořit plně funkční celek a bude obsahovat zejména:

jeden AI server se dvěma procesory architektury x86_64;

čtyři výpočetní GPU akcelerátory s vysokokapacitní pamětí HBM v šasi připraveném pro budoucí rozšíření až na osm GPU;

operační paměť, systémová a lokální vysokorychlostní datová úložiště;

síťová rozhraní, vzdálený management, redundantní napájení a veškeré příslušenství nezbytné k uvedení serveru do provozu;

záruku a podporu dle této Technické specifikace.

Obecná ustanovení a definice pojmů

K veškeré funkcionalitě požadované v této Technické specifikaci musí v době podání nabídky existovat oficiální dokumentace výrobce serveru nebo příslušné komponenty, kterou je dodavatel schopen na vyžádání Zadavateli předložit a která požadovanou funkcionalitu jednoznačně prokazuje.

Není-li explicitně uvedeno jinak, všechny požadavky této Technické specifikace musí být splněny současně v jediné provozní konfiguraci. Dodané komponenty musí být vzájemně kompatibilní, osazené v serveru a připravené k provozu.

Pokud je pro plnou funkcionalitu serveru, vzdáleného managementu, GPU akcelerátorů nebo jiných komponent vyžadována licence, musí být licence potřebná k provozu po dobu požadované záruky součástí dodávky, není-li v této specifikaci uvedeno jinak.

Pokud není uvedeno jinak, kapacity datových úložišť jsou uváděny v dekadických násobcích (1 TB = 10¹² B), kapacity operační a GPU paměti v GB dle označení výrobce.

V následujícím textu jsou používány následující zkratky a pojmy:

BMC – Baseboard Management Controller;

ECC – Error-Correcting Code;

HBM – High Bandwidth Memory;

NVMe – Non-Volatile Memory Express;

RDMA – Remote Direct Memory Access;

SMT – Simultaneous Multithreading;

DWPD – Drive Writes Per Day;

GPU – Graphics Processing Unit / výpočetní akcelerátor.

SPECrate2017_fp_base – základní (baseline) výsledek benchmarku SPEC CPU® 2017 Floating Point Rate;

25GE – 25Gb/s Ethernet;

SED – Self-Encrypting Drive (samošifrovací disk);

TPM – Trusted Platform Module;

PSIRT – Product Security Incident Response Team;

CVE – Common Vulnerabilities and Exposures;

KMIP – Key Management Interoperability Protocol;

NTP – Network Time Protocol;

TLS – Transport Layer Security.

Základní požadavky na server

Server musí být proveden jako 19" rackový server určený pro nepřetržitý provoz v datovém centru a musí umožňovat současný plný výkon všech osazených CPU, GPU, pamětí, NVMe disků a síťových adaptérů bez omezení vyplývajícího z nedostatečného napájení, chlazení nebo počtu PCIe linek.

Server musí obsahovat právě dva procesory architektury x86_64 a při dodání musí být osazen čtyřmi shodnými výpočetními GPU akcelerátory. Šasi serveru musí být výrobcem navrženo a určeno pro osazení až osmi dvouslotových PCIe GPU akcelerátorů s příkonem až 600 W na GPU; čtyři zbývající GPU pozice musí zůstat dostupné pro budoucí rozšíření bez výměny šasi nebo základní desky.

Server musí mít redundantní hot-swap napájení a redundantní hot-swap ventilátory. Již při dodání musí být osazeny všechny napájecí zdroje potřebné pro budoucí konfiguraci osmi GPU s příkonem až 600 W na GPU. Napájecí soustava musí v podporovaném redundantním režimu pokrýt současný maximální příkon osmi GPU, obou CPU, pamětí, disků, síťových adaptérů a ostatních komponent bez power-cappingu nebo snížení výkonu. Budoucí rozšíření ze čtyř na osm GPU nesmí vyžadovat doplnění ani výměnu napájecích zdrojů.

Součástí dodávky musí být rackové ližiny a všechny napájecí kabely odpovídající všem osazeným napájecím zdrojům. Dodavatel v nabídce uvede maximální elektrický příkon plně osazeného serveru s osmi GPU a požadavky na počet, typ a jištění napájecích přívodů.

Server a jeho firmware musí podporovat UEFI, Secure Boot, TPM 2.0 a IOMMU. V BIOS/UEFI musí být možné zapnout nebo vypnout SMT, IOMMU a související virtualizační funkce.

Konstrukce serveru a dodaná sestava ventilátorů musí být dimenzována pro budoucí plné osazení osmi GPU s příkonem až 600 W na GPU a pro současné maximální zatížení obou CPU. Budoucí rozšíření ze čtyř na osm GPU nesmí vyžadovat výměnu šasi ani změnu základního chladicího konceptu serveru. Při standardních provozních podmínkách datového centra nesmí docházet k tepelnému throttlingu CPU nebo GPU z důvodu nedostatečného chlazení serveru.

Požadavky na procesory

Server musí být osazen dvěma shodnými procesory architektury x86_64. Každý procesor musí mít nejméně 96 fyzických jader, tedy server celkem nejméně 192 fyzických CPU jader.

Každý procesor musí mít základní taktovací frekvenci nejméně 2,30 GHz, celkovou cache nejméně 256 MB a musí podporovat SMT.

Procesory musí podporovat instrukce AVX2 a AVX-512 a musí poskytovat dostatečný počet PCIe 5.0 linek pro současné plnohodnotné připojení všech požadovaných GPU, NVMe disků a síťových adaptérů bez snížení šířky PCIe linek GPU.

Procesory musí podporovat operační paměť DDR5 ECC RDIMM s efektivní rychlostí nejméně 6400 MT/s v konfiguraci požadované touto specifikací.

Minimální výkon dvouprocesorové konfigurace měřený benchmarkem SPEC CPU® 2017 ve variantě Floating Point Rate, baseline, musí být alespoň 1 870 bodů SPECrate2017_fp_base. Hodnota může být prokázána veřejně dostupným výsledkem v databázi SPEC pro dvouprocesorovou konfiguraci s nabízeným typem procesoru; není vyžadováno provedení benchmarku na dodaném serveru. Požadovaná hodnota odpovídá veřejně publikovanému výsledku pro konfiguraci se dvěma procesory AMD EPYC 9645.

Požadavky na operační paměť

Server musí být osazen nejméně 1024 GB operační paměti DDR5 ECC RDIMM, tvořené šestnácti moduly o kapacitě nejméně 64 GB každý.

Všechny osazené paměťové moduly musí být identické z hlediska kapacity, organizace, typu a rychlosti. Požadována je rychlost nejméně DDR5-6400 a organizace modulu nejméně odpovídající 2Rx4.

Paměťové moduly musí být rovnoměrně rozděleny mezi oba procesory, tj. nejméně osm modulů na každý procesor. Server musí umožnit budoucí rozšíření operační paměti bez výměny všech stávajících modulů.

GPU akcelerátory a PCIe topologie

Server musí být osazen čtyřmi shodnými datacentrovými GPU akcelerátory v provedení PCIe, každý s vlastní HBM pamětí o kapacitě nejméně 141 GB. Celková fyzická kapacita GPU paměti serveru musí být nejméně 564 GB.

Paměťová propustnost každého GPU musí být nejméně 4,8 TB/s. Každý GPU akcelerátor musí podporovat výpočty minimálně FP64, FP32, TF32, BF16, FP16, FP8 a INT8 a hardwarově akcelerované maticové/tensorové operace.

Výkon jednoho GPU v tensorových výpočtech musí být nejméně 1 670 TFLOPS pro BF16 nebo FP16 a nejméně 3 340 TFLOPS pro FP8 při použití výrobcem podporovaného režimu sparsity.

Každý dodaný GPU akcelerátor musí být dvouslotový nebo konstrukčně ekvivalentní, vzduchem chlazený a musí podporovat maximální příkon alespoň 600 W. Server musí být výrobcem určen pro současný provoz až osmi takových GPU; při dodání budou osazeny čtyři GPU.

Každá z osmi GPU pozic podporovaných šasi musí poskytovat samostatné elektrické rozhraní PCI Express 5.0 x16. Při současném osazení dodaných čtyř GPU musí každý akcelerátor vyjednat a trvale používat PCIe Gen5 x16. Stejná šířka a generace linky musí být zachována i po budoucím rozšíření na osm GPU. Osazení NVMe disků, síťových karet nebo jiných rozšiřujících karet nesmí snížit šířku ani generaci PCIe linky žádného GPU.

Pro připojení žádné z podporovaných GPU pozic nesmí být použita PCIe bifurkace základní desky, tj. rozdělení jednoho fyzického PCIe x16 root portu na více užších rozhraní (například x8+x8 nebo x4+x4+x4+x4). Každá GPU pozice musí mít k dispozici plnohodnotnou elektrickou x16 linku. Použití riser karty je přípustné pouze tehdy, pokud transparentně vede celou PCIe x16 linku bez jejího dělení nebo omezení.

Topologie PCIe musí umožňovat přímou komunikaci GPU-to-GPU (P2P) a nesmí hardwarově znemožňovat použití GPUDirect RDMA a GPUDirect Storage. Funkce ACS/IOMMU nesmí při standardní výrobcem podporované konfiguraci blokovat P2P komunikaci mezi GPU.

GPU musí podporovat vysokorychlostní přímé propojení typu NVLink nebo funkčně ekvivalentní s propustností nejméně 900 GB/s na GPU. Dodávka musí obsahovat veškeré propojovací prvky podporované výrobcem serveru pro propojení čtyř osazených GPU do společné 4-GPU topologie, pokud je takové propojení pro nabízený typ GPU výrobcem podporováno.

GPU musí být podporována aktuálním produkčním ovladačem pro OS Linux a výpočetním ekosystémem CUDA verze 12 nebo vyšší, včetně knihoven pro hluboké učení a kolektivní komunikaci mezi GPU. Podpora MIG nebo funkčně ekvivalentního hardwarového dělení GPU je požadována.

Lokální úložiště

Server musí být osazen čtyřmi shodnými datovými NVMe SSD disky o kapacitě nejméně 3,84 TB každý, tedy s celkovou hrubou kapacitou nejméně 15,36 TB.

Datové NVMe SSD musí používat rozhraní PCIe 5.0, paměť typu TLC nebo technologii s minimálně srovnatelnou životností a výkonem a musí mít deklarovanou životnost nejméně 1 DWPD po dobu záruční životnosti disku.

Datové NVMe SSD musí být operačnímu systému dostupné jako samostatná NVMe bloková zařízení; jejich připojení přes hardwarový RAID řadič není přípustné. Musí být možné vyčítat SMART/NVMe health informace a sériová čísla.

Server musí být osazen dvěma shodnými systémovými SSD disky o kapacitě nejméně 480 GB každý, s pamětí TLC nebo technologií s minimálně srovnatelnou životností a s životností nejméně 1 DWPD. Systémové disky musí být zapojeny v RAID1.

Pro systémové disky musí být server vybaven interním SAS/SATA RAID adaptérem s rozhraním hostitele minimálně PCIe 4.0, s nejméně osmi interními 12Gb/s SAS porty a podporou nejméně 16 zařízení. Řadič musí podporovat RAID 0, 1 a 10 a musí umožnit monitoring stavu disků a RAID pole z OS Linux a prostřednictvím managementu serveru.

Všechny disky musí být řádně chlazeny pro dlouhodobý provoz pod zátěží. Pokud šasi umožňuje hot-swap výměnu příslušného typu disku, musí být všechny dodané disky osazeny v hot-swap pozicích.

Síťová konektivita

Server musí být vybaven minimálně jedním dvouportovým síťovým adaptérem se dvěma porty 25GbE SFP28. Každý port musí podporovat Ethernet, jumbo rámce alespoň 9000 B, RDMA/RoCEv2 a běžné hardwarové offload funkce. Oba 25GbE porty musí být použitelné současně a jejich osazení nesmí omezit PCIe linky GPU.

25GbE síťový adaptér musí být podporován v OS Red Hat Enterprise Linux 9 a musí umožňovat použití GPUDirect RDMA s osazenými GPU. Adaptér musí používat standardní SFP28 rozhraní kompatibilní s optickými moduly použitými ve stávající síťové infrastruktuře Zadavatele.

Server musí mít samostatný fyzický management port 1GbE RJ45 pro BMC. Management port nesmí být sdílen s datovým síťovým rozhraním a musí být možné jej připojit do samostatné management sítě Zadavatele.

Instalace a připojení do stávající infrastruktury Zadavatele

Server bude instalován do stávajícího racku HP10KG2 Zadavatele (19"; výška 42U; hloubka 1075 mm; šířka 800 mm; nosnost nejméně 1300 kg). Dodané šasi, ližiny, kabeláž a způsob montáže musí být s tímto rackem kompatibilní.

Datová síť je v racku dostupná prostřednictvím optických van a je ukončena na dvou switchích Cisco C9500-48Y4C provozovaných v redundantní/HA konfiguraci. Server musí být připojen dvěma nezávislými 25GbE SFP28 linkami, přičemž jeden 25GbE port bude připojen do prvního a druhý port do druhého switche. Zapojení musí umožňovat použití obou linek v agregaci podle stávající konfigurace síťové infrastruktury Zadavatele.

Součástí dodávky musí být kompletní optická kabeláž pro obě 25GbE linky přes stávající optické vany. Pro každou linku musí být dodán optický patch kabel mezi serverem a optickou vanou na straně serveru a samostatný optický patch kabel mezi odpovídající optickou vanou a switchem na straně síťové infrastruktury; celkem tedy nejméně čtyři optické patch kabely. Součástí dodávky musí být rovněž všechny potřebné SFP28 optické moduly na straně serveru i na straně obou switchů, tedy nejméně čtyři SFP28 moduly. Typ optiky, konektorů a kabelů musí být kompatibilní se stávající optickou trasou Zadavatele a se switchemi Cisco C9500-48Y4C.

Management síť Zadavatele je 1GbE a je v racku dostupná prostřednictvím RJ45 patch panelu; na straně aktivní infrastruktury je připojena do management switche Cisco C9200 PoE. Dedikovaný 1GbE RJ45 BMC port serveru musí být do této sítě fyzicky připojen. Součástí dodávky musí být měděný patch kabel ze serveru do rackového patch panelu a další měděný patch kabel z odpovídajícího portu patch panelu do management switche, včetně veškeré další nezbytné kabeláže.

Dodavatel provede montáž serveru do racku, zapojení všech napájecích, datových a management kabelů, označení kabeláže na obou koncích a základní ověření fyzické konektivity. Délky patch kabelů a typy optických modulů musí dodavatel před dodáním ověřit podle skutečného provedení serverovny tak, aby po instalaci nevznikla potřeba dodatečného nákupu propojovacích prvků.

Management a monitoring

Server musí obsahovat BMC kompatibilní minimálně s IPMI 2.0 a Redfish. BMC musí poskytovat vzdálené zapnutí, vypnutí a reset serveru, vzdálenou grafickou konzoli HTML5, vzdálený přístup do BIOS/UEFI a připojení virtuálního instalačního média bez potřeby dodatečné placené licence.

BMC musí monitorovat minimálně stav napájecích zdrojů, ventilátorů, teplot CPU, GPU a základní desky, napětí, stav operační paměti a stav disků/RAID, pokud je tato informace prostřednictvím platformy dostupná.

Management musí být použitelný z OS Linux pomocí CLI nebo standardního API a současně prostřednictvím webového prohlížeče. Požadována je podpora SNMP nebo Redfish událostí pro integraci do monitorovacího systému.

Zadavatel musí získat plný administrátorský přístup k BMC, BIOS/UEFI, RAID řadiči a ostatním konfigurovatelným komponentám. Nesmí být použity přístupové údaje nebo účty, které Zadavatel nemůže změnit.

Kompatibilita operačního systému a software

Server musí být kompatibilní s OS Red Hat Enterprise Linux 9. Kompatibilitu lze prokázat certifikací celého nabízeného modelu serveru nebo serverové platformy tvořené šasi a základní deskou v Red Hat Ecosystem Catalog pro RHEL 9, případně veřejně dostupnou dokumentací výrobce, která kompatibilitu s RHEL 9 výslovně uvádí. Je-li kompatibilita prokázána na úrovni celého serveru nebo kombinace šasi a základní desky, nevyžaduje se samostatná certifikace CPU, operační paměti, systémových disků a řadiče. GPU a síťový adaptér musí mít pro RHEL 9 dostupné výrobcem podporované ovladače bez dodatečných licenčních poplatků po dobu záruky.

Musí být dostupné produkční ovladače GPU, CUDA toolkit verze 12 nebo vyšší, NCCL nebo funkčně ekvivalentní knihovna pro kolektivní komunikaci GPU a nástroje pro monitoring GPU v OS Linux.

Firmware serveru, BMC, BIOS/UEFI, RAID řadiče, síťových adaptérů a GPU musí být možné aktualizovat výrobcem podporovaným způsobem. Dodavatel při předání nainstaluje aktuální stabilní firmware doporučený výrobcem.

Požadavky na kybernetickou bezpečnost

Požadavky tohoto článku vycházejí ze systému řízení bezpečnosti informací Zadavatele certifikovaného podle normy ISO/IEC 27001:2022 a vztahují se na server a všechny jeho dodané komponenty. Odkazuje-li tento článek na konkrétní normu, standard nebo specifikaci, připouští Zadavatel i jiné, kvalitativně a technicky obdobné řešení, jehož rovnocennost dodavatel prokáže.

Server musí zajišťovat integritu platformy a firmware, zejména musí:

obsahovat hardwarově ukotvený kořen důvěry (hardware root of trust), který před spuštěním ověřuje kryptografický podpis firmware BIOS/UEFI a BMC;

umožňovat instalaci pouze firmware BIOS/UEFI a BMC kryptograficky podepsaného výrobcem a umožňovat zablokovat návrat na starší verzi firmware (ochrana proti downgrade);

při zjištění poškozeného nebo neautorizovaně změněného firmware BIOS/UEFI nebo BMC zabránit jeho spuštění a zajistit obnovu důvěryhodné verze firmware (např. v souladu s NIST SP 800-193 Platform Firmware Resiliency Guidelines);

obsahovat modul TPM 2.0 s certifikací FIPS 140-2 nebo FIPS 140-3 nebo s certifikací TCG a podporovat měřený start (measured boot) se zápisem měření do TPM;

umožňovat v rámci UEFI Secure Boot správu vlastních klíčů Zadavatele (zápis a odebrání klíčů PK, KEK, db a dbx), včetně odebrání výchozích klíčů;

umožňovat ochranu konfigurace BIOS/UEFI heslem a uzamčení konfigurace serveru a firmware proti změně (např. režim systémového uzamčení) nebo rovnocennou funkcionalitu;

detekovat otevření šasi a zaznamenat tuto událost do logu BMC;

umožňovat v BIOS/UEFI vypnutí nepoužívaných externích rozhraní, zejména USB portů.

Dodávka musí splňovat následující požadavky na původ a integritu:

všechny komponenty musí být nové, nepoužité a originální, dodané prostřednictvím autorizovaného distribučního kanálu výrobce a určené pro trh Evropské unie, s platnou zárukou výrobce ověřitelnou podle sériového čísla;

dodavatel předá Zadavateli nejpozději při předání záznam o hardwarové konfiguraci serveru z výroby (seznam komponent se sériovými čísly), a to přednostně ve formě kryptograficky ověřitelné vůči výrobci (např. certifikát platformy podle specifikace TCG Platform Certificate Profile nebo rovnocenný nástroj výrobce), jinak ve formě výpisu vystaveného výrobcem; záznam bude při akceptačních testech porovnán se skutečnou konfigurací;

dodavatel v nabídce uvede výrobce serveru, výrobce GPU akcelerátorů, síťového adaptéru, datových a systémových SSD a RAID řadiče a dále poddodavatele, kteří se budou podílet na instalaci nebo servisu serveru.

Vzdálený management (BMC) musí splňovat následující bezpečnostní požadavky:

každý server musí být dodán s jedinečným výchozím heslem administrátorského účtu BMC, nebo musí být vynucena jeho změna při prvním přihlášení; BMC ani jiné komponenty nesmí obsahovat skryté nebo servisní účty, které Zadavatel nemůže zjistit, změnit nebo deaktivovat;

BMC musí podporovat autentizaci uživatelů vůči adresářové službě Zadavatele (LDAP přes TLS nebo Microsoft Active Directory), lokální účty, řízení přístupu na základě rolí nejméně v rozsahu administrátor, operátor a pouze čtení, nastavitelnou politiku hesel a zablokování účtu po opakovaných neúspěšných pokusech o přihlášení;

musí být možné jednotlivě vypnout nepoužívané síťové služby a protokoly BMC, nejméně IPMI over LAN, HTTP bez TLS, SNMPv1/v2c, SSH, vzdálenou konzoli a virtuální média; požadavek na podporu IPMI 2.0 podle článku J tím není dotčen, musí však být možné IPMI over LAN zcela vypnout a zakázat anonymní přístup a šifrovací sadu 0 (cipher suite 0);

webové rozhraní a rozhraní Redfish musí být dostupné výhradně přes TLS 1.2 nebo vyšší s možností zakázat starší verze protokolu a slabé šifrovací sady; BMC musí umožnit vygenerování žádosti o certifikát (CSR) a import certifikátu vydaného certifikační autoritou Zadavatele; SNMP musí být podporováno ve verzi 3 s autentizací a šifrováním (authPriv);

BMC musí umožňovat omezení přístupu na vybrané IP adresy nebo rozsahy IP adres, případně obdobnou funkcionalitu;

BMC musí zaznamenávat bezpečnostně relevantní události (zejména úspěšná i neúspěšná přihlášení, změny konfigurace a účtů, aktualizace firmware, zapnutí a vypnutí serveru a hardwarové události) a průběžně je odesílat na vzdálený syslog server Zadavatele, přednostně přes TLS; čas BMC musí být synchronizován prostřednictvím NTP;

musí být možné vypnout nebo omezit rozhraní mezi hostitelským OS a BMC (např. Redfish Host Interface, interní USB síťové rozhraní, in-band IPMI) tak, aby z OS nebylo možné bez autentizace měnit konfiguraci BMC.

Server musí být provozovatelný bez závislosti na vnějších službách a bez nežádoucího předávání dat, zejména:

veškerá funkcionalita serveru, managementu, GPU akcelerátorů a síťových adaptérů musí být plně použitelná bez připojení k internetu a ke cloudovým službám výrobce či dodavatele; je-li pro některou funkcionalitu vyžadována licence, musí být možné ji aktivovat a používat bez trvalého připojení k internetu (např. prostřednictvím lokálního licenčního serveru);

automatické odesílání telemetrie, diagnostických dat nebo servisních hlášení výrobci či dodavateli (tzv. call-home) musí být možné trvale vypnout a při předání musí být vypnuto, nerozhodne-li Zadavatel jinak;

aktualizace firmware všech komponent musí být proveditelné bez přístupu k internetu z lokálního úložiště Zadavatele, přičemž výrobce musí poskytovat prostředky k ověření integrity a původu aktualizačních balíčků (elektronický podpis nebo kontrolní součet zveřejněný výrobcem);

dodávka, instalace, provoz, aktualizace, servis ani podpora serveru nesmí vyžadovat předávání systémových nebo uživatelských dat do Čínské lidové republiky (včetně zvláštních administrativních oblastí Hongkong a Macao) ani výkon vzdálené správy technických aktiv Zadavatele z jejího území nebo subjekty podléhajícími její jurisdikci.

Všechny dodané datové NVMe SSD i systémové SSD musí:

být samošifrovacími disky (SED) s hardwarovým šifrováním algoritmem AES s délkou klíče 256 bitů podle specifikace TCG Opal 2.0 nebo TCG Enterprise nebo rovnocenné;

umožňovat správu šifrovacích klíčů (zapnutí ochrany, změnu a zneplatnění klíče) z OS Linux, prostřednictvím RAID řadiče nebo prostřednictvím managementu serveru; podpora externí správy klíčů prostřednictvím KMIP se nevyžaduje;

podporovat bezpečné vymazání dat kryptografickým vymazáním (crypto erase) nebo blokovým vymazáním podle specifikace NVMe (Format/Sanitize), resp. SATA/SAS (Sanitize), iniciovatelné z OS Linux nebo z managementu serveru.

Po celou dobu servisního krytí požadovaného touto Technickou specifikací musí být zajištěno řízení zranitelností, zejména:

výrobce serveru, GPU akcelerátorů a síťového adaptéru musí mít zavedený proces pro příjem a řešení bezpečnostních zranitelností (PSIRT) a veřejně publikovat bezpečnostní oznámení k zranitelnostem svých produktů včetně identifikátorů CVE;

bezpečnostní aktualizace firmware BIOS/UEFI, BMC, RAID řadiče, síťového adaptéru, SSD a GPU a příslušných ovladačů musí být Zadavateli dostupné bez dalších poplatků;

nabízený model serveru nesmí před uplynutím požadovaného servisního krytí dosáhnout konce servisní podpory výrobce (end of service life); dodavatel v nabídce uvede datum konce servisní podpory nabízeného modelu, je-li výrobcem stanoveno.

Dodavatel při instalaci v součinnosti se Zadavatelem nastaví bezpečnostní konfiguraci serveru a BMC podle pokynů Zadavatele (zejména změní všechny výchozí přístupové údaje, vypne nepoužívané služby, nastaví NTP, syslog a certifikát Zadavatele, zapne Secure Boot a šifrování nosičů dat) a předá Zadavateli:

návod výrobce pro bezpečnou konfiguraci (hardening guide) serveru a BMC, pokud jej výrobce vydává;

seznam všech výchozích, servisních a technických účtů všech komponent (BMC, BIOS/UEFI, RAID řadič, síťový adaptér aj.) s potvrzením o jejich změně nebo deaktivaci;

přehled síťových služeb a portů BMC aktivních po předání;

dokumentaci skutečného provedení obsahující zejména schéma zapojení, MAC adresy datových a management rozhraní, verze firmware a sériová čísla všech komponent;

přístupové údaje, a to výhradně zabezpečeným způsobem dohodnutým se Zadavatelem; Zadavatel je oprávněn je po předání změnit.

Záruka a servisní podpora

Na server a všechny jeho komponenty je požadováno minimálně pět let servisního krytí. Nejméně první tři roky musí zahrnovat díly a práci; zbývající dva roky musí zahrnovat minimálně výměnu vadných komponent formou cross-shipment nebo službu srovnatelné či vyšší úrovně.

Záruka musí pokrývat CPU, GPU, operační paměť, základní desku, napájecí zdroje, ventilátory, síťové adaptéry, řadiče a všechny dodané SSD. Dodavatel musí po dobu záruky poskytovat přístup k firmware a ovladačům bez dodatečných poplatků.

Dodavatel musí být schopen podle sériového čísla serveru nebo komponenty ověřit platnost záruky a zahájit servisní případ bez požadavku na nákup další podpory.

Vadné nosiče dat (SSD, NVMe SSD, moduly M.2 a jiné komponenty s trvalým úložištěm uživatelských dat) zůstávají po výměně v držení Zadavatele, a to po celou dobu servisního krytí a bez dodatečných poplatků (tzv. retence vadných nosičů dat); jejich bezpečnou likvidaci zajistí Zadavatel. U ostatních vracených komponent s nevolatilní pamětí obsahující konfiguraci nebo přístupové údaje (zejména základní deska s BMC, RAID řadič a síťový adaptér) poskytne dodavatel postup jejich bezpečného vymazání, který Zadavatel před vrácením komponenty provede.

Servisní zásahy v prostorách Zadavatele budou probíhat výhradně za přítomnosti pověřené osoby Zadavatele. Vzdálený přístup dodavatele nebo výrobce k serveru je přípustný pouze po předchozím souhlasu Zadavatele v každém jednotlivém případě, prostředky určenými Zadavatelem a pod jeho dohledem. Diagnostické údaje (logy) pro účely servisu předává dodavateli Zadavatel, a to po kontrole jejich obsahu.

Akceptační testy

Po dodání a instalaci provede dodavatel v součinnosti se Zadavatelem akceptační testy. Testy budou provedeny na dodané konfiguraci a musí ověřit minimálně následující skutečnosti:

inventarizaci CPU, RAM, GPU, disků, síťových karet, napájecích zdrojů a firmware;

detekci čtyř GPU operačním systémem a ověření kapacity nejméně 141 GB HBM na každém GPU;

ověření, že všechny čtyři GPU současně používají PCIe 5.0 x16; výsledek musí být doložen výstupem diagnostického nástroje výrobce GPU a/nebo příkazem lspci s detailními parametry linky;

ověření PCIe topologie a skutečnosti, že GPU sloty nejsou realizovány bifurkací jednoho x16 root portu na užší linky;

ověření z dokumentace výrobce a fyzické konfigurace serveru, že šasi podporuje až osm dvouslotových GPU s příkonem až 600 W, že jsou dostupné čtyři další GPU pozice a že dodaná napájecí soustava a chlazení jsou dimenzovány pro provoz plně osazené konfigurace osmi GPU bez nutnosti doplnění nebo výměny napájecích zdrojů;

ověření GPU-to-GPU P2P komunikace a, je-li osazeno, funkčnosti NVLink propojení mezi všemi GPU;

minimálně 60minutový souběžný zátěžový test všech CPU a GPU bez neočekávaného resetu, neopravitelné ECC chyby nebo tepelného throttlingu způsobeného nedostatečným chlazením;

ověření funkčnosti RAID1 systémových disků a viditelnosti všech čtyř datových NVMe SSD jako samostatných zařízení;

výkonový test všech čtyř datových NVMe SSD pomocí nástroje fio nebo funkčně ekvivalentního nástroje. Test bude proveden nejprve nad každým datovým NVMe SSD samostatně a následně souběžně nad všemi čtyřmi disky, vždy na testovacích souborech o velikosti nejméně 100 GB na disk, s přímým I/O (direct I/O), velikostí bloku 1 MiB a dostatečnou hloubkou fronty pro sekvenční čtení a sekvenční zápis. Každý disk při samostatném testu musí dosáhnout nejméně 80 % výrobcem deklarované sekvenční rychlosti čtení a zápisu pro nabízený model. Souběžný test musí prokázat, že všechny čtyři NVMe disky mohou být zatěžovány současně bez chyb, nestability nebo tepelného throttlingu způsobeného nedostatečným chlazením či omezením platformy;

ověření funkčnosti obou 25GbE SFP28 rozhraní při vyjednané rychlosti 25 Gb/s, fyzického připojení každého portu do jiného switche Cisco C9500-48Y4C přes optické vany, podpory jumbo rámců a RDMA/RoCEv2;

ověření připojení dedikovaného BMC portu rychlostí 1GbE do management sítě Zadavatele přes RJ45 patch panel a management switch a ověření vzdálené konzole, virtuálního média, vzdáleného restartu a vstupu do BIOS/UEFI prostřednictvím BMC;

ověření kompatibility s OS Red Hat Enterprise Linux 9, instalace produkčního GPU ovladače a funkčního CUDA runtime;

ověření zapnutého UEFI Secure Boot s klíči podle pokynů Zadavatele a funkčnosti TPM 2.0 z OS Linux;

porovnání skutečné hardwarové konfigurace se záznamem o konfiguraci z výroby podle článku L odst. 3 písm. b);

ověření, že výchozí přístupové údaje všech komponent byly změněny a že v BMC, BIOS/UEFI a RAID řadiči nejsou jiné účty než účty schválené Zadavatelem;

ověření bezpečnostní konfigurace BMC, zejména vypnutí nepoužívaných služeb podle předaného přehledu, použití výhradně TLS 1.2 nebo vyšší verze s certifikátem Zadavatele, autentizace vůči adresářové službě Zadavatele, odesílání záznamů na syslog server Zadavatele a synchronizace času;

ověření aktivního hardwarového šifrování na všech nosičích dat a provedení kryptografického vymazání alespoň jednoho datového NVMe SSD;

ověření, že server ani BMC po dobu akceptačních testů nenavazují síťová spojení na jiné než Zadavatelem určené cíle; ověření provede Zadavatel monitoringem síťového provozu.

Za úspěšný akceptační test se považuje stav, kdy jsou všechny požadavky této Technické specifikace prokazatelně splněny současně v dodané konfiguraci. Dodavatel předá Zadavateli protokol s výsledky testů a inventarizací komponent včetně jejich modelů a sériových čísel.

Page 1

| Technická specifikace                       |
| ------------------------------------------- |
| veřejné zakázky s názvem                    |
|                                             |
| „LF/ÚMTM/UPOL – Dodávka AI serveru“         |
|                                             |
|                                             |
|                                             |

Popis předmětu Veřejné zakázky

Zadavatel požaduje dodávku jednoho kompletního rackového serveru určeného pro výpočty umělé inteligence, strojové učení, inferenci velkých jazykových modelů a obecné GPU/HPC výpočty. Dodávka bude tvořit plně funkční celek a bude obsahovat zejména:

jeden AI server se dvěma procesory architektury x86_64;

čtyři výpočetní GPU akcelerátory s vysokokapacitní pamětí HBM v šasi připraveném pro budoucí rozšíření až na osm GPU;

operační paměť, systémová a lokální vysokorychlostní datová úložiště;

síťová rozhraní, vzdálený management, redundantní napájení a veškeré příslušenství nezbytné k uvedení serveru do provozu;

záruku a podporu dle této Technické specifikace.

Obecná ustanovení a definice pojmů

K veškeré funkcionalitě požadované v této Technické specifikaci musí v době podání nabídky existovat oficiální dokumentace výrobce serveru nebo příslušné komponenty, kterou je dodavatel schopen na vyžádání Zadavateli předložit a která požadovanou funkcionalitu jednoznačně prokazuje.

Není-li explicitně uvedeno jinak, všechny požadavky této Technické specifikace musí být splněny současně v jediné provozní konfiguraci. Dodané komponenty musí být vzájemně kompatibilní, osazené v serveru a připravené k provozu.

Pokud je pro plnou funkcionalitu serveru, vzdáleného managementu, GPU akcelerátorů nebo jiných komponent vyžadována licence, musí být licence potřebná k provozu po dobu požadované záruky součástí dodávky, není-li v této specifikaci uvedeno jinak.

Pokud není uvedeno jinak, kapacity datových úložišť jsou uváděny v dekadických násobcích (1 TB = 10¹² B), kapacity operační a GPU paměti v GB dle označení výrobce.

V následujícím textu jsou používány následující zkratky a pojmy:

BMC – Baseboard Management Controller;

ECC – Error-Correcting Code;

HBM – High Bandwidth Memory;

NVMe – Non-Volatile Memory Express;

RDMA – Remote Direct Memory Access;

SMT – Simultaneous Multithreading;

DWPD – Drive Writes Per Day;

GPU – Graphics Processing Unit / výpočetní akcelerátor.

SPECrate2017_fp_base – základní (baseline) výsledek benchmarku SPEC CPU® 2017 Floating Point Rate;

25GE – 25Gb/s Ethernet;

SED – Self-Encrypting Drive (samošifrovací disk);

Page 2

TPM – Trusted Platform Module;

PSIRT – Product Security Incident Response Team;

CVE – Common Vulnerabilities and Exposures;

KMIP – Key Management Interoperability Protocol;

NTP – Network Time Protocol;

TLS – Transport Layer Security.

Základní požadavky na server

Server musí být proveden jako 19" rackový server určený pro nepřetržitý provoz v datovém centru a musí umožňovat současný plný výkon všech osazených CPU, GPU, pamětí, NVMe disků a síťových adaptérů bez omezení vyplývajícího z nedostatečného napájení, chlazení nebo počtu PCIe linek.

Server musí obsahovat právě dva procesory architektury x86_64 a při dodání musí být osazen čtyřmi shodnými výpočetními GPU akcelerátory. Šasi serveru musí být výrobcem navrženo a určeno pro osazení až osmi dvouslotových PCIe GPU akcelerátorů s příkonem až 600 W na GPU; čtyři zbývající GPU pozice musí zůstat dostupné pro budoucí rozšíření bez výměny šasi nebo základní desky.

Server musí mít redundantní hot-swap napájení a redundantní hot-swap ventilátory. Již při dodání musí být osazeny všechny napájecí zdroje potřebné pro budoucí konfiguraci osmi GPU s příkonem až 600 W na GPU. Napájecí soustava musí v podporovaném redundantním režimu pokrýt současný maximální příkon osmi GPU, obou CPU, pamětí, disků, síťových adaptérů a ostatních komponent bez power-cappingu nebo snížení výkonu. Budoucí rozšíření ze čtyř na osm GPU nesmí vyžadovat doplnění ani výměnu napájecích zdrojů.

Součástí dodávky musí být rackové ližiny a všechny napájecí kabely odpovídající všem osazeným napájecím zdrojům. Dodavatel v nabídce uvede maximální elektrický příkon plně osazeného serveru s osmi GPU a požadavky na počet, typ a jištění napájecích přívodů.

Server a jeho firmware musí podporovat UEFI, Secure Boot, TPM 2.0 a IOMMU. V BIOS/UEFI musí být možné zapnout nebo vypnout SMT, IOMMU a související virtualizační funkce.

Konstrukce serveru a dodaná sestava ventilátorů musí být dimenzována pro budoucí plné osazení osmi GPU s příkonem až 600 W na GPU a pro současné maximální zatížení obou CPU. Budoucí rozšíření ze čtyř na osm GPU nesmí vyžadovat výměnu šasi ani změnu základního chladicího konceptu serveru. Při standardních provozních podmínkách datového centra nesmí docházet k tepelnému throttlingu CPU nebo GPU z důvodu nedostatečného chlazení serveru.

Požadavky na procesory

Server musí být osazen dvěma shodnými procesory architektury x86_64. Každý procesor musí mít nejméně 96 fyzických jader, tedy server celkem nejméně 192 fyzických CPU jader.

Každý procesor musí mít základní taktovací frekvenci nejméně 2,30 GHz, celkovou cache nejméně 256 MB a musí podporovat SMT.

Procesory musí podporovat instrukce AVX2 a AVX-512 a musí poskytovat dostatečný počet PCIe 5.0 linek pro současné plnohodnotné připojení všech požadovaných GPU, NVMe disků a síťových adaptérů bez snížení šířky PCIe linek GPU.

Procesory musí podporovat operační paměť DDR5 ECC RDIMM s efektivní rychlostí nejméně 6400 MT/s v konfiguraci požadované touto specifikací.

Minimální výkon dvouprocesorové konfigurace měřený benchmarkem SPEC CPU® 2017 ve variantě Floating Point Rate, baseline, musí být alespoň 1 870 bodů SPECrate2017_fp_base. Hodnota může být prokázána veřejně dostupným výsledkem v databázi SPEC pro dvouprocesorovou konfiguraci s nabízeným typem procesoru; není vyžadováno provedení benchmarku na dodaném serveru. Požadovaná hodnota odpovídá veřejně publikovanému výsledku pro konfiguraci se dvěma procesory AMD EPYC 9645.

Požadavky na operační paměť

Server musí být osazen nejméně 1024 GB operační paměti DDR5 ECC RDIMM, tvořené šestnácti moduly o kapacitě nejméně 64 GB každý.

Page 3

Všechny osazené paměťové moduly musí být identické z hlediska kapacity, organizace, typu a rychlosti. Požadována je rychlost nejméně DDR5-6400 a organizace modulu nejméně odpovídající 2Rx4.

Paměťové moduly musí být rovnoměrně rozděleny mezi oba procesory, tj. nejméně osm modulů na každý procesor. Server musí umožnit budoucí rozšíření operační paměti bez výměny všech stávajících modulů.

GPU akcelerátory a PCIe topologie

Server musí být osazen čtyřmi shodnými datacentrovými GPU akcelerátory v provedení PCIe, každý s vlastní HBM pamětí o kapacitě nejméně 141 GB. Celková fyzická kapacita GPU paměti serveru musí být nejméně 564 GB.

Paměťová propustnost každého GPU musí být nejméně 4,8 TB/s. Každý GPU akcelerátor musí podporovat výpočty minimálně FP64, FP32, TF32, BF16, FP16, FP8 a INT8 a hardwarově akcelerované maticové/tensorové operace.

Výkon jednoho GPU v tensorových výpočtech musí být nejméně 1 670 TFLOPS pro BF16 nebo FP16 a nejméně 3 340 TFLOPS pro FP8 při použití výrobcem podporovaného režimu sparsity.

Každý dodaný GPU akcelerátor musí být dvouslotový nebo konstrukčně ekvivalentní, vzduchem chlazený a musí podporovat maximální příkon alespoň 600 W. Server musí být výrobcem určen pro současný provoz až osmi takových GPU; při dodání budou osazeny čtyři GPU.

Každá z osmi GPU pozic podporovaných šasi musí poskytovat samostatné elektrické rozhraní PCI Express 5.0 x16. Při současném osazení dodaných čtyř GPU musí každý akcelerátor vyjednat a trvale používat PCIe Gen5 x16. Stejná šířka a generace linky musí být zachována i po budoucím rozšíření na osm GPU. Osazení NVMe disků, síťových karet nebo jiných rozšiřujících karet nesmí snížit šířku ani generaci PCIe linky žádného GPU.

Pro připojení žádné z podporovaných GPU pozic nesmí být použita PCIe bifurkace základní desky, tj. rozdělení jednoho fyzického PCIe x16 root portu na více užších rozhraní (například x8+x8 nebo x4+x4+x4+x4). Každá GPU pozice musí mít k dispozici plnohodnotnou elektrickou x16 linku. Použití riser karty je přípustné pouze tehdy, pokud transparentně vede celou PCIe x16 linku bez jejího dělení nebo omezení.

Topologie PCIe musí umožňovat přímou komunikaci GPU-to-GPU (P2P) a nesmí hardwarově znemožňovat použití GPUDirect RDMA a GPUDirect Storage. Funkce ACS/IOMMU nesmí při standardní výrobcem podporované konfiguraci blokovat P2P komunikaci mezi GPU.

GPU musí podporovat vysokorychlostní přímé propojení typu NVLink nebo funkčně ekvivalentní s propustností nejméně 900 GB/s na GPU. Dodávka musí obsahovat veškeré propojovací prvky podporované výrobcem serveru pro propojení čtyř osazených GPU do společné 4-GPU topologie, pokud je takové propojení pro nabízený typ GPU výrobcem podporováno.

GPU musí být podporována aktuálním produkčním ovladačem pro OS Linux a výpočetním ekosystémem CUDA verze 12 nebo vyšší, včetně knihoven pro hluboké učení a kolektivní komunikaci mezi GPU. Podpora MIG nebo funkčně ekvivalentního hardwarového dělení GPU je požadována.

Lokální úložiště

Server musí být osazen čtyřmi shodnými datovými NVMe SSD disky o kapacitě nejméně 3,84 TB každý, tedy s celkovou hrubou kapacitou nejméně 15,36 TB.

Datové NVMe SSD musí používat rozhraní PCIe 5.0, paměť typu TLC nebo technologii s minimálně srovnatelnou životností a výkonem a musí mít deklarovanou životnost nejméně 1 DWPD po dobu záruční životnosti disku.

Datové NVMe SSD musí být operačnímu systému dostupné jako samostatná NVMe bloková zařízení; jejich připojení přes hardwarový RAID řadič není přípustné. Musí být možné vyčítat SMART/NVMe health informace a sériová čísla.

Server musí být osazen dvěma shodnými systémovými SSD disky o kapacitě nejméně 480 GB každý, s pamětí TLC nebo technologií s minimálně srovnatelnou životností a s životností nejméně 1 DWPD. Systémové disky musí být zapojeny v RAID1.

Page 4

Pro systémové disky musí být server vybaven interním SAS/SATA RAID adaptérem s rozhraním hostitele minimálně PCIe 4.0, s nejméně osmi interními 12Gb/s SAS porty a podporou nejméně 16 zařízení. Řadič musí podporovat RAID 0, 1 a 10 a musí umožnit monitoring stavu disků a RAID pole z OS Linux a prostřednictvím managementu serveru.

Všechny disky musí být řádně chlazeny pro dlouhodobý provoz pod zátěží. Pokud šasi umožňuje hot-swap výměnu příslušného typu disku, musí být všechny dodané disky osazeny v hot-swap pozicích.

Síťová konektivita

Server musí být vybaven minimálně jedním dvouportovým síťovým adaptérem se dvěma porty 25GbE SFP28. Každý port musí podporovat Ethernet, jumbo rámce alespoň 9000 B, RDMA/RoCEv2 a běžné hardwarové offload funkce. Oba 25GbE porty musí být použitelné současně a jejich osazení nesmí omezit PCIe linky GPU.

25GbE síťový adaptér musí být podporován v OS Red Hat Enterprise Linux 9 a musí umožňovat použití GPUDirect RDMA s osazenými GPU. Adaptér musí používat standardní SFP28 rozhraní kompatibilní s optickými moduly použitými ve stávající síťové infrastruktuře Zadavatele.

Server musí mít samostatný fyzický management port 1GbE RJ45 pro BMC. Management port nesmí být sdílen s datovým síťovým rozhraním a musí být možné jej připojit do samostatné management sítě Zadavatele.

Instalace a připojení do stávající infrastruktury Zadavatele

Server bude instalován do stávajícího racku HP10KG2 Zadavatele (19"; výška 42U; hloubka 1075 mm; šířka 800 mm; nosnost nejméně 1300 kg). Dodané šasi, ližiny, kabeláž a způsob montáže musí být s tímto rackem kompatibilní.

Datová síť je v racku dostupná prostřednictvím optických van a je ukončena na dvou switchích Cisco C9500-48Y4C provozovaných v redundantní/HA konfiguraci. Server musí být připojen dvěma nezávislými 25GbE SFP28 linkami, přičemž jeden 25GbE port bude připojen do prvního a druhý port do druhého switche. Zapojení musí umožňovat použití obou linek v agregaci podle stávající konfigurace síťové infrastruktury Zadavatele.

Součástí dodávky musí být kompletní optická kabeláž pro obě 25GbE linky přes stávající optické vany. Pro každou linku musí být dodán optický patch kabel mezi serverem a optickou vanou na straně serveru a samostatný optický patch kabel mezi odpovídající optickou vanou a switchem na straně síťové infrastruktury; celkem tedy nejméně čtyři optické patch kabely. Součástí dodávky musí být rovněž všechny potřebné SFP28 optické moduly na straně serveru i na straně obou switchů, tedy nejméně čtyři SFP28 moduly. Typ optiky, konektorů a kabelů musí být kompatibilní se stávající optickou trasou Zadavatele a se switchemi Cisco C9500-48Y4C.

Management síť Zadavatele je 1GbE a je v racku dostupná prostřednictvím RJ45 patch panelu; na straně aktivní infrastruktury je připojena do management switche Cisco C9200 PoE. Dedikovaný 1GbE RJ45 BMC port serveru musí být do této sítě fyzicky připojen. Součástí dodávky musí být měděný patch kabel ze serveru do rackového patch panelu a další měděný patch kabel z odpovídajícího portu patch panelu do management switche, včetně veškeré další nezbytné kabeláže.

Dodavatel provede montáž serveru do racku, zapojení všech napájecích, datových a management kabelů, označení kabeláže na obou koncích a základní ověření fyzické konektivity. Délky patch kabelů a typy optických modulů musí dodavatel před dodáním ověřit podle skutečného provedení serverovny tak, aby po instalaci nevznikla potřeba dodatečného nákupu propojovacích prvků.

Management a monitoring

Server musí obsahovat BMC kompatibilní minimálně s IPMI 2.0 a Redfish. BMC musí poskytovat vzdálené zapnutí, vypnutí a reset serveru, vzdálenou grafickou konzoli HTML5, vzdálený přístup do BIOS/UEFI a připojení virtuálního instalačního média bez potřeby dodatečné placené licence.

BMC musí monitorovat minimálně stav napájecích zdrojů, ventilátorů, teplot CPU, GPU a základní desky, napětí, stav operační paměti a stav disků/RAID, pokud je tato informace prostřednictvím platformy dostupná.

Page 5

Management musí být použitelný z OS Linux pomocí CLI nebo standardního API a současně prostřednictvím webového prohlížeče. Požadována je podpora SNMP nebo Redfish událostí pro integraci do monitorovacího systému.

Zadavatel musí získat plný administrátorský přístup k BMC, BIOS/UEFI, RAID řadiči a ostatním konfigurovatelným komponentám. Nesmí být použity přístupové údaje nebo účty, které Zadavatel nemůže změnit.

Kompatibilita operačního systému a software

Server musí být kompatibilní s OS Red Hat Enterprise Linux 9. Kompatibilitu lze prokázat certifikací celého nabízeného modelu serveru nebo serverové platformy tvořené šasi a základní deskou v Red Hat Ecosystem Catalog pro RHEL 9, případně veřejně dostupnou dokumentací výrobce, která kompatibilitu s RHEL 9 výslovně uvádí. Je-li kompatibilita prokázána na úrovni celého serveru nebo kombinace šasi a základní desky, nevyžaduje se samostatná certifikace CPU, operační paměti, systémových disků a řadiče. GPU a síťový adaptér musí mít pro RHEL 9 dostupné výrobcem podporované ovladače bez dodatečných licenčních poplatků po dobu záruky.

Musí být dostupné produkční ovladače GPU, CUDA toolkit verze 12 nebo vyšší, NCCL nebo funkčně ekvivalentní knihovna pro kolektivní komunikaci GPU a nástroje pro monitoring GPU v OS Linux.

Firmware serveru, BMC, BIOS/UEFI, RAID řadiče, síťových adaptérů a GPU musí být možné aktualizovat výrobcem podporovaným způsobem. Dodavatel při předání nainstaluje aktuální stabilní firmware doporučený výrobcem.

Požadavky na kybernetickou bezpečnost

Požadavky tohoto článku vycházejí ze systému řízení bezpečnosti informací Zadavatele certifikovaného podle normy ISO/IEC 27001:2022 a vztahují se na server a všechny jeho dodané komponenty. Odkazuje-li tento článek na konkrétní normu, standard nebo specifikaci, připouští Zadavatel i jiné, kvalitativně a technicky obdobné řešení, jehož rovnocennost dodavatel prokáže.

Server musí zajišťovat integritu platformy a firmware, zejména musí:

obsahovat hardwarově ukotvený kořen důvěry (hardware root of trust), který před spuštěním ověřuje kryptografický podpis firmware BIOS/UEFI a BMC;

umožňovat instalaci pouze firmware BIOS/UEFI a BMC kryptograficky podepsaného výrobcem a umožňovat zablokovat návrat na starší verzi firmware (ochrana proti downgrade);

při zjištění poškozeného nebo neautorizovaně změněného firmware BIOS/UEFI nebo BMC zabránit jeho spuštění a zajistit obnovu důvěryhodné verze firmware (např. v souladu s NIST SP 800-193 Platform Firmware Resiliency Guidelines);

obsahovat modul TPM 2.0 s certifikací FIPS 140-2 nebo FIPS 140-3 nebo s certifikací TCG a podporovat měřený start (measured boot) se zápisem měření do TPM;

umožňovat v rámci UEFI Secure Boot správu vlastních klíčů Zadavatele (zápis a odebrání klíčů PK, KEK, db a dbx), včetně odebrání výchozích klíčů;

umožňovat ochranu konfigurace BIOS/UEFI heslem a uzamčení konfigurace serveru a firmware proti změně (např. režim systémového uzamčení) nebo rovnocennou funkcionalitu;

detekovat otevření šasi a zaznamenat tuto událost do logu BMC;

umožňovat v BIOS/UEFI vypnutí nepoužívaných externích rozhraní, zejména USB portů.

Dodávka musí splňovat následující požadavky na původ a integritu:

všechny komponenty musí být nové, nepoužité a originální, dodané prostřednictvím autorizovaného distribučního kanálu výrobce a určené pro trh Evropské unie, s platnou zárukou výrobce ověřitelnou podle sériového čísla;

dodavatel předá Zadavateli nejpozději při předání záznam o hardwarové konfiguraci serveru z výroby (seznam komponent se sériovými čísly), a to přednostně ve formě kryptograficky ověřitelné vůči výrobci (např. certifikát platformy podle specifikace TCG Platform Certificate Profile nebo rovnocenný nástroj výrobce), jinak ve formě výpisu vystaveného výrobcem; záznam bude při akceptačních testech porovnán se skutečnou konfigurací;

dodavatel v nabídce uvede výrobce serveru, výrobce GPU akcelerátorů, síťového adaptéru, datových a systémových SSD a RAID řadiče a dále poddodavatele, kteří se budou podílet na instalaci nebo servisu serveru.

Page 6

Vzdálený management (BMC) musí splňovat následující bezpečnostní požadavky:

každý server musí být dodán s jedinečným výchozím heslem administrátorského účtu BMC, nebo musí být vynucena jeho změna při prvním přihlášení; BMC ani jiné komponenty nesmí obsahovat skryté nebo servisní účty, které Zadavatel nemůže zjistit, změnit nebo deaktivovat;

BMC musí podporovat autentizaci uživatelů vůči adresářové službě Zadavatele (LDAP přes TLS nebo Microsoft Active Directory), lokální účty, řízení přístupu na základě rolí nejméně v rozsahu administrátor, operátor a pouze čtení, nastavitelnou politiku hesel a zablokování účtu po opakovaných neúspěšných pokusech o přihlášení;

musí být možné jednotlivě vypnout nepoužívané síťové služby a protokoly BMC, nejméně IPMI over LAN, HTTP bez TLS, SNMPv1/v2c, SSH, vzdálenou konzoli a virtuální média; požadavek na podporu IPMI 2.0 podle článku J tím není dotčen, musí však být možné IPMI over LAN zcela vypnout a zakázat anonymní přístup a šifrovací sadu 0 (cipher suite 0);

webové rozhraní a rozhraní Redfish musí být dostupné výhradně přes TLS 1.2 nebo vyšší s možností zakázat starší verze protokolu a slabé šifrovací sady; BMC musí umožnit vygenerování žádosti o certifikát (CSR) a import certifikátu vydaného certifikační autoritou Zadavatele; SNMP musí být podporováno ve verzi 3 s autentizací a šifrováním (authPriv);

BMC musí umožňovat omezení přístupu na vybrané IP adresy nebo rozsahy IP adres, případně obdobnou funkcionalitu;

BMC musí zaznamenávat bezpečnostně relevantní události (zejména úspěšná i neúspěšná přihlášení, změny konfigurace a účtů, aktualizace firmware, zapnutí a vypnutí serveru a hardwarové události) a průběžně je odesílat na vzdálený syslog server Zadavatele, přednostně přes TLS; čas BMC musí být synchronizován prostřednictvím NTP;

musí být možné vypnout nebo omezit rozhraní mezi hostitelským OS a BMC (např. Redfish Host Interface, interní USB síťové rozhraní, in-band IPMI) tak, aby z OS nebylo možné bez autentizace měnit konfiguraci BMC.

Server musí být provozovatelný bez závislosti na vnějších službách a bez nežádoucího předávání dat, zejména:

veškerá funkcionalita serveru, managementu, GPU akcelerátorů a síťových adaptérů musí být plně použitelná bez připojení k internetu a ke cloudovým službám výrobce či dodavatele; je-li pro některou funkcionalitu vyžadována licence, musí být možné ji aktivovat a používat bez trvalého připojení k internetu (např. prostřednictvím lokálního licenčního serveru);

automatické odesílání telemetrie, diagnostických dat nebo servisních hlášení výrobci či dodavateli (tzv. call-home) musí být možné trvale vypnout a při předání musí být vypnuto, nerozhodne-li Zadavatel jinak;

aktualizace firmware všech komponent musí být proveditelné bez přístupu k internetu z lokálního úložiště Zadavatele, přičemž výrobce musí poskytovat prostředky k ověření integrity a původu aktualizačních balíčků (elektronický podpis nebo kontrolní součet zveřejněný výrobcem);

dodávka, instalace, provoz, aktualizace, servis ani podpora serveru nesmí vyžadovat předávání systémových nebo uživatelských dat do Čínské lidové republiky (včetně zvláštních administrativních oblastí Hongkong a Macao) ani výkon vzdálené správy technických aktiv Zadavatele z jejího území nebo subjekty podléhajícími její jurisdikci.

Všechny dodané datové NVMe SSD i systémové SSD musí:

být samošifrovacími disky (SED) s hardwarovým šifrováním algoritmem AES s délkou klíče 256 bitů podle specifikace TCG Opal 2.0 nebo TCG Enterprise nebo rovnocenné;

umožňovat správu šifrovacích klíčů (zapnutí ochrany, změnu a zneplatnění klíče) z OS Linux, prostřednictvím RAID řadiče nebo prostřednictvím managementu serveru; podpora externí správy klíčů prostřednictvím KMIP se nevyžaduje;

podporovat bezpečné vymazání dat kryptografickým vymazáním (crypto erase) nebo blokovým vymazáním podle specifikace NVMe (Format/Sanitize), resp. SATA/SAS (Sanitize), iniciovatelné z OS Linux nebo z managementu serveru.

Po celou dobu servisního krytí požadovaného touto Technickou specifikací musí být zajištěno řízení zranitelností, zejména:

výrobce serveru, GPU akcelerátorů a síťového adaptéru musí mít zavedený proces pro příjem a řešení bezpečnostních zranitelností (PSIRT) a veřejně publikovat bezpečnostní oznámení k zranitelnostem svých produktů včetně identifikátorů CVE;

Page 7

bezpečnostní aktualizace firmware BIOS/UEFI, BMC, RAID řadiče, síťového adaptéru, SSD a GPU a příslušných ovladačů musí být Zadavateli dostupné bez dalších poplatků;

nabízený model serveru nesmí před uplynutím požadovaného servisního krytí dosáhnout konce servisní podpory výrobce (end of service life); dodavatel v nabídce uvede datum konce servisní podpory nabízeného modelu, je-li výrobcem stanoveno.

Dodavatel při instalaci v součinnosti se Zadavatelem nastaví bezpečnostní konfiguraci serveru a BMC podle pokynů Zadavatele (zejména změní všechny výchozí přístupové údaje, vypne nepoužívané služby, nastaví NTP, syslog a certifikát Zadavatele, zapne Secure Boot a šifrování nosičů dat) a předá Zadavateli:

návod výrobce pro bezpečnou konfiguraci (hardening guide) serveru a BMC, pokud jej výrobce vydává;

seznam všech výchozích, servisních a technických účtů všech komponent (BMC, BIOS/UEFI, RAID řadič, síťový adaptér aj.) s potvrzením o jejich změně nebo deaktivaci;

přehled síťových služeb a portů BMC aktivních po předání;

dokumentaci skutečného provedení obsahující zejména schéma zapojení, MAC adresy datových a management rozhraní, verze firmware a sériová čísla všech komponent;

přístupové údaje, a to výhradně zabezpečeným způsobem dohodnutým se Zadavatelem; Zadavatel je oprávněn je po předání změnit.

Záruka a servisní podpora

Na server a všechny jeho komponenty je požadováno minimálně pět let servisního krytí. Nejméně první tři roky musí zahrnovat díly a práci; zbývající dva roky musí zahrnovat minimálně výměnu vadných komponent formou cross-shipment nebo službu srovnatelné či vyšší úrovně.

Záruka musí pokrývat CPU, GPU, operační paměť, základní desku, napájecí zdroje, ventilátory, síťové adaptéry, řadiče a všechny dodané SSD. Dodavatel musí po dobu záruky poskytovat přístup k firmware a ovladačům bez dodatečných poplatků.

Dodavatel musí být schopen podle sériového čísla serveru nebo komponenty ověřit platnost záruky a zahájit servisní případ bez požadavku na nákup další podpory.

Vadné nosiče dat (SSD, NVMe SSD, moduly M.2 a jiné komponenty s trvalým úložištěm uživatelských dat) zůstávají po výměně v držení Zadavatele, a to po celou dobu servisního krytí a bez dodatečných poplatků (tzv. retence vadných nosičů dat); jejich bezpečnou likvidaci zajistí Zadavatel. U ostatních vracených komponent s nevolatilní pamětí obsahující konfiguraci nebo přístupové údaje (zejména základní deska s BMC, RAID řadič a síťový adaptér) poskytne dodavatel postup jejich bezpečného vymazání, který Zadavatel před vrácením komponenty provede.

Servisní zásahy v prostorách Zadavatele budou probíhat výhradně za přítomnosti pověřené osoby Zadavatele. Vzdálený přístup dodavatele nebo výrobce k serveru je přípustný pouze po předchozím souhlasu Zadavatele v každém jednotlivém případě, prostředky určenými Zadavatelem a pod jeho dohledem. Diagnostické údaje (logy) pro účely servisu předává dodavateli Zadavatel, a to po kontrole jejich obsahu.

Akceptační testy

Po dodání a instalaci provede dodavatel v součinnosti se Zadavatelem akceptační testy. Testy budou provedeny na dodané konfiguraci a musí ověřit minimálně následující skutečnosti:

inventarizaci CPU, RAM, GPU, disků, síťových karet, napájecích zdrojů a firmware;

detekci čtyř GPU operačním systémem a ověření kapacity nejméně 141 GB HBM na každém GPU;

ověření, že všechny čtyři GPU současně používají PCIe 5.0 x16; výsledek musí být doložen výstupem diagnostického nástroje výrobce GPU a/nebo příkazem lspci s detailními parametry linky;

ověření PCIe topologie a skutečnosti, že GPU sloty nejsou realizovány bifurkací jednoho x16 root portu na užší linky;

ověření z dokumentace výrobce a fyzické konfigurace serveru, že šasi podporuje až osm dvouslotových GPU s příkonem až 600 W, že jsou dostupné čtyři další GPU pozice a že dodaná napájecí soustava a chlazení jsou dimenzovány pro provoz plně osazené konfigurace osmi GPU bez nutnosti doplnění nebo výměny napájecích zdrojů;

Page 8

ověření GPU-to-GPU P2P komunikace a, je-li osazeno, funkčnosti NVLink propojení mezi všemi GPU;

minimálně 60minutový souběžný zátěžový test všech CPU a GPU bez neočekávaného resetu, neopravitelné ECC chyby nebo tepelného throttlingu způsobeného nedostatečným chlazením;

ověření funkčnosti RAID1 systémových disků a viditelnosti všech čtyř datových NVMe SSD jako samostatných zařízení;

výkonový test všech čtyř datových NVMe SSD pomocí nástroje fio nebo funkčně ekvivalentního nástroje. Test bude proveden nejprve nad každým datovým NVMe SSD samostatně a následně souběžně nad všemi čtyřmi disky, vždy na testovacích souborech o velikosti nejméně 100 GB na disk, s přímým I/O (direct I/O), velikostí bloku 1 MiB a dostatečnou hloubkou fronty pro sekvenční čtení a sekvenční zápis. Každý disk při samostatném testu musí dosáhnout nejméně 80 % výrobcem deklarované sekvenční rychlosti čtení a zápisu pro nabízený model. Souběžný test musí prokázat, že všechny čtyři NVMe disky mohou být zatěžovány současně bez chyb, nestability nebo tepelného throttlingu způsobeného nedostatečným chlazením či omezením platformy;

ověření funkčnosti obou 25GbE SFP28 rozhraní při vyjednané rychlosti 25 Gb/s, fyzického připojení každého portu do jiného switche Cisco C9500-48Y4C přes optické vany, podpory jumbo rámců a RDMA/RoCEv2;

ověření připojení dedikovaného BMC portu rychlostí 1GbE do management sítě Zadavatele přes RJ45 patch panel a management switch a ověření vzdálené konzole, virtuálního média, vzdáleného restartu a vstupu do BIOS/UEFI prostřednictvím BMC;

ověření kompatibility s OS Red Hat Enterprise Linux 9, instalace produkčního GPU ovladače a funkčního CUDA runtime;

ověření zapnutého UEFI Secure Boot s klíči podle pokynů Zadavatele a funkčnosti TPM 2.0 z OS Linux;

porovnání skutečné hardwarové konfigurace se záznamem o konfiguraci z výroby podle článku L odst. 3 písm. b);

ověření, že výchozí přístupové údaje všech komponent byly změněny a že v BMC, BIOS/UEFI a RAID řadiči nejsou jiné účty než účty schválené Zadavatelem;

ověření bezpečnostní konfigurace BMC, zejména vypnutí nepoužívaných služeb podle předaného přehledu, použití výhradně TLS 1.2 nebo vyšší verze s certifikátem Zadavatele, autentizace vůči adresářové službě Zadavatele, odesílání záznamů na syslog server Zadavatele a synchronizace času;

ověření aktivního hardwarového šifrování na všech nosičích dat a provedení kryptografického vymazání alespoň jednoho datového NVMe SSD;

ověření, že server ani BMC po dobu akceptačních testů nenavazují síťová spojení na jiné než Zadavatelem určené cíle; ověření provede Zadavatel monitoringem síťového provozu.

Za úspěšný akceptační test se považuje stav, kdy jsou všechny požadavky této Technické specifikace prokazatelně splněny současně v dodané konfiguraci. Dodavatel předá Zadavateli protokol s výsledky testů a inventarizací komponent včetně jejich modelů a sériových čísel.