ChatGPT와 같은 모델이 주도하는 AI 애플리케이션의 급속한 증가로 인해 컴퓨팅 성능에 대한 수요가 급증했습니다. AI 시대의 증가하는 컴퓨팅 수요를 충족하기 위해 Tsinghua Unigroup 산하의 H3C Group은 최근 2023 NAVIGATE Leader Summit에서 H3C UniServer G6 및 HPE Gen11 시리즈의 11개 신제품을 공개했습니다. 이러한 새로운 서버 제품은 다양한 시나리오에서 AI를 위한 포괄적인 매트릭스를 생성하여 대규모 데이터 및 모델 알고리즘을 처리하기 위한 강력한 기본 플랫폼을 제공하고 AI 컴퓨팅 리소스의 충분한 공급을 보장합니다.
다양한 AI 컴퓨팅 요구 사항을 해결하기 위한 다양한 제품 매트릭스
지능형 컴퓨팅 분야의 선두주자인 H3C 그룹은 수년간 AI 분야에 깊이 관여해 왔습니다. 2022년 H3C는 중국 가속 컴퓨팅 시장에서 가장 높은 성장률을 달성했고, 국제적으로 유명한 AI 벤치마크 MLPerf에서 총 132개의 세계 1위 순위를 누적하며 강력한 기술 전문성과 역량을 입증했다.
H3C는 지능형 컴퓨팅을 기반으로 구축된 고급 컴퓨팅 아키텍처와 지능형 컴퓨팅 전력 관리 기능을 활용하여 대규모 모델 훈련을 위해 특별히 설계된 지능형 컴퓨팅 플래그십 H3C UniServer R5500 G6을 개발했습니다. 또한 대규모 추론/훈련 시나리오에 적합한 하이브리드 컴퓨팅 엔진인 H3C UniServer R5300 G6도 출시했습니다. 이러한 제품은 다양한 AI 시나리오의 다양한 컴퓨팅 요구 사항을 더욱 충족하여 포괄적인 AI 컴퓨팅 범위를 제공합니다.
대규모 모델 훈련을 위해 설계된 지능형 컴퓨팅 플래그십
H3C UniServer R5500 G6는 강도, 낮은 전력 소비 및 지능을 결합합니다. 이전 세대에 비해 3배의 컴퓨팅 성능을 제공하여 GPT-4 대규모 모델 훈련 시나리오의 훈련 시간을 70% 단축합니다. 대규모 훈련, 음성 인식, 이미지 분류, 기계 번역 등 다양한 AI 비즈니스 시나리오에 적용 가능합니다.
장점: R5500 G6는 최대 96개의 CPU 코어를 지원하여 코어 성능을 150% 향상시킵니다. 새로운 NVIDIA HGX H800 8-GPU 모듈이 탑재되어 32PFLOPS의 컴퓨팅 성능을 제공하여 대규모 모델 AI 훈련 속도가 9배 향상되고 대규모 모델 AI 추론 성능이 30배 향상됩니다. 또한 PCIe 5.0 및 400G 네트워킹 지원을 통해 사용자는 고성능 AI 컴퓨팅 클러스터를 배포하여 기업의 AI 채택 및 적용을 가속화할 수 있습니다.
인텔리전스: R5500 G6는 다양한 AI 애플리케이션 시나리오에 지능적으로 적응하고 딥 러닝 및 과학 컴퓨팅 애플리케이션을 가속화하는 두 가지 토폴로지 구성을 지원하여 GPU 리소스 활용도를 크게 향상시킵니다. H800 모듈의 멀티 인스턴스 GPU 기능 덕분에 단일 H800은 7개의 GPU 인스턴스로 나눌 수 있으며, 각각 독립적인 컴퓨팅 및 메모리 리소스를 갖는 최대 56개의 GPU 인스턴스가 가능합니다. 이는 AI 리소스의 유연성을 크게 향상시킵니다.
저탄소 발자국: R5500 G6는 CPU와 GPU 모두에 대한 액체 냉각을 포함하여 액체 냉각을 완벽하게 지원합니다. 1.1 미만의 PUE(Power Usage Effectiveness)를 통해 컴퓨팅 급증 속에서도 "쿨 컴퓨팅"이 가능합니다.
R5500 G6는 출시와 동시에 "2023년 컴퓨팅 성능 파워 랭킹"에서 "2023년 뛰어난 고성능 서버 상위 10개" 중 하나로 인정받았습니다.
훈련 및 추론 요구 사항의 유연한 매칭을 위한 하이브리드 컴퓨팅 엔진
H3C 유니서버 R5300 G6는 차세대 AI 서버로 이전 제품에 비해 CPU, GPU 사양이 대폭 향상됐다. 뛰어난 성능, 지능형 토폴로지, 통합 컴퓨팅 및 스토리지 기능을 자랑하므로 딥 러닝 모델 교육, 딥 러닝 추론 및 기타 AI 애플리케이션 시나리오에 적합하며 교육 및 추론 컴퓨팅 요구 사항을 유연하게 일치시킵니다.
뛰어난 성능: R5300 G6는 최신 세대의 NVIDIA 엔터프라이즈급 GPU와 호환되어 이전 세대에 비해 4.85배 향상된 성능을 제공합니다. GPU, DPU, NPU 등 다양한 유형의 AI 가속 카드를 지원하여 다양한 시나리오에서 AI의 이기종 컴퓨팅 성능 요구 사항을 충족하고 인텔리전스 시대를 지원합니다.
지능형 토폴로지: R5300 G6는 HPC, 병렬 AI, 직렬 AI, 4카드 직접 액세스, 8카드 직접 액세스를 포함한 5가지 GPU 토폴로지 설정을 제공합니다. 이러한 전례 없는 유연성은 다양한 사용자 애플리케이션 시나리오에 대한 적응성을 크게 향상시키고 리소스를 지능적으로 할당하며 효율적인 컴퓨팅 성능 작동을 촉진합니다.
통합 컴퓨팅 및 스토리지: R5300 G6는 훈련 및 추론 기능을 결합하여 AI 가속 카드와 지능형 NIC를 유연하게 수용합니다. 최대 10개의 이중 너비 GPU와 24개의 LFF(대형 폼 팩터) 하드 드라이브 슬롯을 지원하여 단일 서버에서 동시에 교육 및 추론을 가능하게 하고 개발 및 테스트 환경을 위한 비용 효율적인 컴퓨팅 엔진을 제공합니다. 최대 400TB의 저장 용량으로 AI 데이터의 저장 공간 요구 사항을 완벽하게 충족합니다.
AI 붐이 급증하면서 컴퓨팅 성능은 끊임없이 재편되고 도전받고 있습니다. 차세대 AI 서버의 출시는 '내재된 지능' 기술에 대한 H3C 그룹의 약속과 지능형 컴퓨팅 발전을 위한 지속적인 노력의 또 다른 이정표입니다.
H3C 그룹은 "클라우드 네이티브 인텔리전스" 전략을 바탕으로 미래를 내다보며 "세심한 실용주의, 시대에 인텔리전스를 부여한다"는 개념을 고수합니다. 그들은 계속해서 지능형 컴퓨팅의 비옥한 토양을 경작하고, 심층적인 AI 애플리케이션 시나리오를 탐구하며, 미래에 대비하고 적응 가능한 컴퓨팅 능력을 갖춘 지능형 세계의 도래를 가속화할 것입니다.
게시 시간: 2023년 7월 4일
