H200 서버 GPU와 주피터 슈퍼컴퓨터에 대한 정보를 공개한 엔비디아

H200 서버 GPU와 주피터 슈퍼컴퓨터에 대한 정보를 공개한 엔비디아

(출처:엔비디아)엔비디아가 HBM3e기억 장치를 탑재한 그레이스 호퍼 GH200슈퍼 칩의 GPU버전인 H200과 이를 이용한 쥬피터 슈퍼 컴퓨터에 관한 정보를 공개했습니다.GH200:https://blog.naver.com/jjy0501/223178886149 H200은 메모리 인터페이스를 6144비트에 확장하고 메모리 용량도 141GB로 늘리고 대역 폭도 4.8TB/s로 높인 제품입니다.GPU는 같은 GH100을 사용하기 때문에 연산 능력은 H100과 다를 바 없지만, 보다 빠른 용량이 많은 HBM3E메모리를 사용하는 만큼 대용량 데이터 분석 및 처리 병목을 줄이고 실제 성능을 높일 수 있습니다.물론 HBM3E메모리가 아직 공급되지 않아 실제 제품 출시는 GH200와 함께 내년이 될 것입니다.8개의 H100 SXM5패키지를 모은 HGX H100플랫폼은 물론 H200모두 완전히 호환성이 있고 내년 HGX H200으로 발매될 예정입니다.NVIDIA는 여기에 4개의 GH200을 1개의 보드에 올린 쿼드 GH200도 함께 공개했습니다.4개의 CPU와 GPU가 4way NVLink로 접속되고 있으며 288개의 ARM CPU코어와 합계 2.3TB의 대용량 메모리를 가지고 있습니다.각각의 CPU가 480GB LPDDR5X메모리를 사용하고 GPU는 96GB HBM3메모리를 사용하기 때문입니다.마지막으로 공개한 것은 유럽의 엑사 스케일 컴퓨터인 주피터입니다.쿼드 GH200보드를 베이스로 만든 슈퍼 컴퓨터에서 23,762개의 그레이스 GPU와 같은 H100GPU을 사용하고 있습니다.그러므로, 메모리 용량도 방대해서 합계 10.9PB의 LPDDR5X메모리와 2.2PB의 HBM3메모리가 사용됩니다.주피터의 연산 능력은 AI연산 기준 93EFLOPS에 이르는 일반적인 HPC연산 기준으로 1EFLOPS에 이른다는 것이 NVIDIA의 설명입니다.다만 GPU와 AI연산에 특화된 만큼, 슈퍼 컴퓨터의 연산 능력을 비교하는 LINPACK순위는 생각보다 높지 않을지도 모릅니다.자세한 성능은 역시 2024년에 실물이 등장하지 않는다고 모르지만 독일 유릿히 연구소(ForschungszentrumJülich)에 내년 설치된다는 것만 공개되면서 정확한 가동 날은 밝히지 않았어요.NVIDIA GPU는 이미 슈퍼 컴퓨터로 많이 사용되고 있지만 CPU+GPU의 조합은 처음이지만 100%NVIDIA표시의 슈퍼 컴퓨터의 실제 성능이 궁금합니다.참고 https://www.anandtech.com/show/21136/nvidia-at-sc23-h200-accelerator-with-hbm3e-and-jupiter-supercomputer-for-2024#IT#엔비디아#H200#쥬피터 슈퍼 컴퓨터