ChatGPT와 같은 모델이 주도하는 AI 애플리케이션의 급속한 증가로 인해 컴퓨팅 성능에 대한 수요가 급증했습니다.AI 시대의 증가하는 컴퓨팅 수요를 충족하기 위해 Tsinghua Unigroup 산하의 H3C Group은 최근 2023 NAVIGATE Leader Summit에서 H3C UniServer G6 및 HPE Gen11 시리즈의 11개 신제품을 공개했습니다.이 새로운 서버 제품은 다양한 시나리오에서 AI를 위한 포괄적인 매트릭스를 생성하여 방대한 데이터 및 모델 알고리즘을 처리하기 위한 강력한 기본 플랫폼을 제공하고 AI 컴퓨팅 리소스의 충분한 공급을 보장합니다.
다양한 AI 컴퓨팅 요구 사항을 해결하기 위한 다양한 제품 매트릭스
지능형 컴퓨팅의 선두주자인 H3C Group은 수년 동안 AI 분야에 깊이 관여해 왔습니다.2022년 H3C는 중국 가속 컴퓨팅 시장에서 가장 높은 성장률을 달성하고 국제적으로 유명한 AI 벤치마크인 MLPerf에서 총 132개의 세계 1위 순위를 달성하며 강력한 기술 전문성과 역량을 입증했습니다.
H3C는 지능형 컴퓨팅 기반에 구축된 고급 컴퓨팅 아키텍처와 지능형 컴퓨팅 전력 관리 기능을 활용하여 대규모 모델 교육을 위해 특별히 설계된 지능형 컴퓨팅 플래그십 H3C UniServer R5500 G6를 개발했습니다.또한 대규모 추론/훈련 시나리오에 적합한 하이브리드 컴퓨팅 엔진인 H3C UniServer R5300 G6도 도입했습니다.이러한 제품은 다양한 AI 시나리오에서 다양한 컴퓨팅 요구 사항을 충족하여 포괄적인 AI 컴퓨팅 범위를 제공합니다.
대규모 모델 학습을 위해 설계된 지능형 컴퓨팅 플래그십
H3C UniServer R5500 G6는 강도, 낮은 전력 소비 및 인텔리전스를 결합합니다.이전 세대에 비해 3배의 계산 능력을 제공하여 GPT-4 대규모 모델 교육 시나리오의 교육 시간을 70% 단축합니다.대규모 훈련, 음성인식, 이미지 분류, 기계번역 등 다양한 AI 비즈니스 시나리오에 적용할 수 있다.
강점: R5500 G6는 최대 96개의 CPU 코어를 지원하여 코어 성능을 150% 향상시킵니다.새로운 NVIDIA HGX H800 8-GPU 모듈이 장착되어 32PFLOPS의 계산 능력을 제공하여 대규모 모델 AI 교육 속도가 9배 향상되고 대규모 모델 AI 추론 성능이 30배 향상됩니다.또한 PCIe 5.0 및 400G 네트워킹 지원을 통해 사용자는 고성능 AI 컴퓨팅 클러스터를 배포하여 기업에서 AI 채택 및 적용을 가속화할 수 있습니다.
인텔리전스: R5500 G6는 두 가지 토폴로지 구성을 지원하여 다양한 AI 애플리케이션 시나리오에 지능적으로 적응하고 딥 러닝 및 과학적 컴퓨팅 애플리케이션을 가속화하여 GPU 리소스 활용도를 크게 향상시킵니다.H800 모듈의 다중 인스턴스 GPU 기능 덕분에 단일 H800을 7개의 GPU 인스턴스로 나눌 수 있으며 각각 독립적인 컴퓨팅 및 메모리 리소스를 갖는 최대 56개의 GPU 인스턴스가 가능합니다.이는 AI 리소스의 유연성을 크게 향상시킵니다.
낮은 탄소 배출량: R5500 G6는 CPU와 GPU 모두에 대한 액체 냉각을 포함하여 액체 냉각을 완벽하게 지원합니다.1.1 미만의 PUE(Power Usage Effectiveness)로 컴퓨팅 서지의 열기 속에서 "쿨 컴퓨팅"을 가능하게 합니다.
R5500 G6는 출시와 동시에 "2023년 컴퓨팅 성능 파워 랭킹"에서 "2023년 상위 10대 뛰어난 고성능 서버" 중 하나로 인정받았습니다.
교육 및 추론 요구의 유연한 일치를 위한 하이브리드 컴퓨팅 엔진
차세대 AI 서버인 H3C UniServer R5300 G6는 이전 제품에 비해 CPU 및 GPU 사양이 크게 향상되었습니다.뛰어난 성능, 지능형 토폴로지, 통합 컴퓨팅 및 스토리지 기능을 자랑하므로 딥 러닝 모델 교육, 딥 러닝 추론 및 기타 AI 애플리케이션 시나리오에 적합하며 교육 및 추론 컴퓨팅 요구 사항을 유연하게 일치시킵니다.
뛰어난 성능: R5300 G6는 최신 세대의 NVIDIA 엔터프라이즈급 GPU와 호환되어 이전 세대에 비해 4.85배 향상된 성능을 제공합니다.GPU, DPU 및 NPU와 같은 다양한 유형의 AI 가속 카드를 지원하여 다양한 시나리오에서 AI의 이기종 컴퓨팅 성능 요구 사항을 충족하여 인텔리전스 시대를 지원합니다.
지능형 토폴로지: R5300 G6는 HPC, 병렬 AI, 직렬 AI, 4카드 직접 액세스 및 8카드 직접 액세스를 포함한 5가지 GPU 토폴로지 설정을 제공합니다.이 전례 없는 유연성은 다양한 사용자 애플리케이션 시나리오에 대한 적응성을 크게 향상시키고 리소스를 지능적으로 할당하며 효율적인 컴퓨팅 성능 운영을 주도합니다.
통합 컴퓨팅 및 스토리지: R5300 G6는 훈련 및 추론 기능을 결합하여 AI 가속 카드 및 지능형 NIC를 유연하게 수용합니다.최대 10개의 이중 너비 GPU와 24개의 LFF(대형 폼 팩터) 하드 드라이브 슬롯을 지원하여 단일 서버에서 동시 교육 및 추론을 가능하게 하고 개발 및 테스트 환경을 위한 비용 효율적인 컴퓨팅 엔진을 제공합니다.최대 400TB의 저장 용량으로 AI 데이터의 저장 공간 요구 사항을 완벽하게 충족합니다.
AI 붐이 급증하면서 컴퓨팅 파워는 끊임없이 재편되고 도전을 받고 있습니다.차세대 AI 서버의 출시는 "고유 지능" 기술에 대한 H3C 그룹의 약속과 지능형 컴퓨팅의 진화를 위한 지속적인 노력에 또 다른 이정표가 되었습니다.
H3C Group은 "클라우드 네이티브 인텔리전스" 전략에 따라 미래를 내다보며 "시대에 인텔리전스를 부여하는 세심한 실용주의"라는 개념을 고수합니다.그들은 계속해서 지능형 컴퓨팅의 비옥한 토양을 경작하고 심층적인 AI 애플리케이션 시나리오를 탐색하며 미래에 대비하고 적응 가능한 컴퓨팅 성능을 갖춘 지능형 세계의 도래를 가속화할 것입니다.
게시 시간: 2023년 7월 4일
