Med den snabba ökningen av AI-applikationer, ledda av modeller som ChatGPT, har efterfrågan på datorkraft skjutit i höjden. För att möta de ökande beräkningskraven från AI-eran, presenterade H3C Group, under paraplyet av Tsinghua Unigroup, nyligen 11 nya produkter i H3C UniServer G6- och HPE Gen11-serierna vid NAVIGATE Leader Summit 2023. Dessa nya serverprodukter skapar en heltäckande matris för AI över olika scenarier, och tillhandahåller en kraftfull underliggande plattform för att hantera massiva data- och modellalgoritmer, och säkerställer ett gott utbud av AI-beräkningsresurser.
Olika produktmatriser för att tillgodose olika AI-datorbehov
Som ledare inom intelligenta datorer har H3C Group varit djupt engagerad inom AI i många år. År 2022 uppnådde H3C den högsta tillväxttakten på den kinesiska marknaden för accelererad datoranvändning och samlade totalt 132 världsledande rankningar i det internationellt kända AI-riktmärket MLPerf, vilket visar sin starka tekniska expertis och kapacitet.
Med hjälp av en avancerad datorarkitektur och intelligenta datorkraftshanteringsfunktioner byggda på grunden för intelligent datoranvändning, har H3C utvecklat det intelligenta datorflaggskeppet H3C UniServer R5500 G6, speciellt designad för storskalig modellutbildning. De har också introducerat H3C UniServer R5300 G6, en hybridberäkningsmotor som lämpar sig för storskaliga slutlednings-/träningsscenarier. Dessa produkter uppfyller dessutom de olika datorkraven i olika AI-scenarier, vilket ger en omfattande AI-beräkningstäckning.
Intelligent beräkningsflaggskepp Designat för storskalig modellträning
H3C UniServer R5500 G6 kombinerar styrka, låg strömförbrukning och intelligens. Jämfört med föregående generation erbjuder den tre gånger så mycket beräkningskraft, vilket minskar träningstiden med 70 % för GPT-4 storskaliga modellträningsscenarier. Det är tillämpligt på olika AI-affärsscenarier, såsom storskalig utbildning, taligenkänning, bildklassificering och maskinöversättning.
Styrka: R5500 G6 stöder upp till 96 CPU-kärnor, vilket ger en 150 % ökning av kärnprestanda. Den är utrustad med den nya NVIDIA HGX H800 8-GPU-modulen, som ger 32 PFLOPS beräkningskraft, vilket resulterar i en 9x förbättring i storskalig modell AI träningshastighet och en 30x förbättring av storskalig modell AI slutledningsprestanda. Dessutom, med stöd av PCIe 5.0- och 400G-nätverk, kan användare distribuera högpresterande AI-datorkluster, vilket påskyndar införandet och tillämpningen av AI i företag.
Intelligens: R5500 G6 stöder två topologikonfigurationer, intelligent anpassning till olika AI-applikationsscenarier och accelererar djupinlärning och vetenskapliga datorapplikationer, vilket avsevärt förbättrar GPU-resursanvändningen. Tack vare multi-instans GPU-funktionen i H800-modulen kan en enda H800 delas upp i 7 GPU-instanser, med möjlighet till upp till 56 GPU-instanser, som var och en har oberoende dator- och minnesresurser. Detta förbättrar avsevärt flexibiliteten hos AI-resurser.
Low Carbon Footprint: R5500 G6 stöder fullt ut vätskekylning, inklusive vätskekylning för både CPU och GPU. Med en PUE (Power Usage Effectiveness) på under 1,1 möjliggör den "cool computing" i värmen från beräkningsvågen.
Det är värt att nämna att R5500 G6 erkändes som en av "Top 10 enastående högpresterande servrar 2023" i "2023 Power Ranking for Computational Performance" när den släpptes.
Hybrid beräkningsmotor för flexibel matchning av utbildnings- och slutledningskrav
H3C UniServer R5300 G6, som nästa generations AI-server, erbjuder betydande förbättringar av CPU- och GPU-specifikationer jämfört med sin föregångare. Den har enastående prestanda, intelligent topologi och integrerad dator- och lagringskapacitet, vilket gör den lämplig för djupinlärningsmodellträning, djupinlärningsinferens och andra AI-applikationsscenarier, som flexibelt matchar utbildnings- och slutledningsdatorbehov.
Enastående prestanda: R5300 G6 är kompatibel med den senaste generationen NVIDIAs GPU:er i företagsklass, vilket ger en prestandaförbättring på 4,85 gånger jämfört med föregående generation. Den stöder olika typer av AI-accelerationskort, såsom GPU:er, DPU:er och NPU:er, för att möta de heterogena datorkraftskraven för AI i olika scenarier, vilket ger intelligensens era kraft.
Intelligent topologi: R5300 G6 erbjuder fem GPU-topologiinställningar, inklusive HPC, parallell AI, seriell AI, 4-korts direktåtkomst och 8-korts direktåtkomst. Denna oöverträffade flexibilitet förbättrar avsevärt anpassningsförmågan till olika användarapplikationsscenarier, tilldelar resurser intelligent och driver effektiv datorkraftdrift.
Integrerad datoranvändning och lagring: R5300 G6 rymmer flexibelt AI-accelerationskort och intelligenta nätverkskort, som kombinerar tränings- och slutledningsmöjligheter. Den stöder upp till 10 dubbelbredds GPU:er och 24 LFF (Large Form Factor) hårddiskplatser, vilket möjliggör samtidig träning och slutledning på en enda server och ger en kostnadseffektiv datormotor för utvecklings- och testmiljöer. Med en lagringskapacitet på upp till 400TB uppfyller den till fullo kraven på lagringsutrymme för AI-data.
Med AI-boomen som svallar framåt, omformas och utmanas datorkraften hela tiden. Utgivningen av nästa generations AI-servrar markerar ytterligare en milstolpe i H3C Groups engagemang för "inneboende intelligens"-teknik och dess kontinuerliga drivkraft för utvecklingen av intelligenta datorer.
Med en blick mot framtiden, vägledd av "Cloud-Native Intelligence"-strategin, följer H3C Group konceptet "noggrann pragmatism, som förser eran med intelligens." De kommer att fortsätta att odla den bördiga jorden av intelligent datoranvändning, utforska djupa scenarier för AI-applikationer och påskynda ankomsten av en intelligent värld med framtidsredo, anpassningsbar datorkraft.
Posttid: 2023-04-04
