안녕하세요. 동국시스템즈 영업마케팅팀 이빛나 입니다.
오늘은 관심을 많이 가져야만 알 수 있는 서버 DL384 Gen12에 대해 간략히 소개 드리려고 합니다.
Gen12 ? 오타 인가 싶으셨나요? Gen11 나온지 얼마 되지도 않았는데 벌써 Gen12 라니?
기존에 런칭된 HPE DL380 Gen11 과는 다른 "4로 끝나는 서버"는 NVIDIA 서버 입니다.
오늘날 모든 기업들은 데이터분석, AI, 클라우드 컴퓨팅 등의 고성능 컴퓨팅을 위한 안정적이고 확장 가능한 인프라를 필요로 하고 있고, 2024년을 돌아보면 AI의 해가 아니었나 싶을 정도로 기존에 우리가 자주 접하지 않았던 용어들과 기술들이 장악을 했습니다.
특히, 방대한 데이터를 다루고 실시간으로 분석해야 하는 환경들이 많아졌습니다. 그리고 앞으로도 그런 환경들 속에서 보다 빠르고 정확한 데이터 처리가 가능해야만 살아남을 수 있게 될 것입니다.
이러한 요구에 맞게 HPE에서 출시한 서버가 바로 DL384 Gen12 서버입니다.
이 서버는 NVIDIA의 GH200 NVL2 Grace Hopper 슈퍼칩을 탑재하여 이전 세대보다 뛰어난 성능을 자랑하며,
특히 AI와 데이터 중심 워크로드에 적합한 최적의 솔루션을 제공합니다.
자, 그럼 하나씩 살펴 볼까요?
외관은 DL380과 동일한 2U 이지만, 눈여겨 봐야 하는 것은 GH200 NVL2 입니다.
GPU를 1개로 묶어서 사용할 수 있어 빠르고 정확한 데이터 처리가 가능합니다.
Node Architecture 장표를 가져와 봤는데요,
CPU와 CPU 간 NVLink 600GB/s, GPU와 GPU 간 NVLink 900GB/s 속도로 통신 가능하며,
CPU 메모리 480GB, GPU 메모리 144GB x 총 2SET = 1.2TB
즉, 1.2TB의 일관된 메모리로 메모리 집약적인 워크로드에 특화 되어 있습니다.
메모리 집약적인 워크로드란 데이터 처리나 연산중에 메모리 사용량이 특히 높은 작업을 말하는데 일반적으로 AI와 머신러닝, 특히 딥러닝 분야에서 이런 작업들이 많이 발생합니다. (ex. LLM, 이미지 인식 모델이나 비디오 분석 등..)
DL384 Gen12 는 Scale-out 서버로 최대 장착 개수는 CPU 2개, GPU 2개입니다.
* Scale out 방식
해당 서버를 구성할 때 고려해야 할 것은 Fabric인데요,
인피니밴드, 이더넷, 블루필드등 연결 방식을 어느 것으로 할 것인지 잘 선택을 하셔야 합니다.
앞면의 디스크 스토리지는 EDSFF NVMe SSD 또는 NVMe SSD가 장착 되고, GH200 NVL2 GPU 1개당 디스크 2개 장착을 권고 하고 있습니다.
Raid를 지원하지 않아 NS204 Boot Device 또한 지원하지 않습니다.
만약 장착한다면 동작은 하겠지만 장애 발생 시 ILO에서 확인을 할 수 없습니다.
후면을 보면 DL560 Gen11과 비슷한 후면을 가지고 있네요.
Power는 최대 2200W 4개 장착 가능합니다.
GPU 하나당 대략 1000W 정도로 보고 있어 여유 있는 Power 구성이 필요 합니다.
주의하셔야 할 점은 추 후 2CPU로 증설 불가능 하기 때문에 굳이 1CPU로 구매하지 마시고 2CPU로 구매하시면 되겠습니다.
마지막으로 서버사양 장표 첨부드리니 오늘 요약한 내용들과 함께 업무에 참고하시기 바랍니다.
마지막으로..
DL384 Gen12 는 시장에 최초로 출시하는 GH200 NVL2 기반의 2P 서버입니다.
앞서 말했다시피 Scale-out이 가능한 아키텍처를 지원하여 복잡한 AI모델을 동시에 다중 시스템에서 학습 시킬 수 있습니다.
이런 고급기능들은 특히 머신러닝 훈련과 추론 뿐만 아니라 대용량 학습에도 강력한 성능을 제공하여 사람들이 방대한 데이터를 효과적으로 활용하여 경쟁 우위를 확보할 수 있게 할 것입니다.
앞으로 DL384 Gen12가 다양한 산업에서 AI와 데이터 중심의 미래를 열어가는 중요한 역할을 할거라 생각이 드네요.
글 읽어주셔서 감사합니다.
안녕하세요. 동국시스템즈 영업마케팅팀 이빛나 입니다.
오늘은 관심을 많이 가져야만 알 수 있는 서버 DL384 Gen12에 대해 간략히 소개 드리려고 합니다.
Gen12 ? 오타 인가 싶으셨나요? Gen11 나온지 얼마 되지도 않았는데 벌써 Gen12 라니?
기존에 런칭된 HPE DL380 Gen11 과는 다른 "4로 끝나는 서버"는 NVIDIA 서버 입니다.
오늘날 모든 기업들은 데이터분석, AI, 클라우드 컴퓨팅 등의 고성능 컴퓨팅을 위한 안정적이고 확장 가능한 인프라를 필요로 하고 있고, 2024년을 돌아보면 AI의 해가 아니었나 싶을 정도로 기존에 우리가 자주 접하지 않았던 용어들과 기술들이 장악을 했습니다.
특히, 방대한 데이터를 다루고 실시간으로 분석해야 하는 환경들이 많아졌습니다. 그리고 앞으로도 그런 환경들 속에서 보다 빠르고 정확한 데이터 처리가 가능해야만 살아남을 수 있게 될 것입니다.
이러한 요구에 맞게 HPE에서 출시한 서버가 바로 DL384 Gen12 서버입니다.
이 서버는 NVIDIA의 GH200 NVL2 Grace Hopper 슈퍼칩을 탑재하여 이전 세대보다 뛰어난 성능을 자랑하며,
특히 AI와 데이터 중심 워크로드에 적합한 최적의 솔루션을 제공합니다.
자, 그럼 하나씩 살펴 볼까요?
외관은 DL380과 동일한 2U 이지만, 눈여겨 봐야 하는 것은 GH200 NVL2 입니다.
GPU를 1개로 묶어서 사용할 수 있어 빠르고 정확한 데이터 처리가 가능합니다.
Node Architecture 장표를 가져와 봤는데요,
CPU와 CPU 간 NVLink 600GB/s, GPU와 GPU 간 NVLink 900GB/s 속도로 통신 가능하며,
CPU 메모리 480GB, GPU 메모리 144GB x 총 2SET = 1.2TB
즉, 1.2TB의 일관된 메모리로 메모리 집약적인 워크로드에 특화 되어 있습니다.
메모리 집약적인 워크로드란 데이터 처리나 연산중에 메모리 사용량이 특히 높은 작업을 말하는데 일반적으로 AI와 머신러닝, 특히 딥러닝 분야에서 이런 작업들이 많이 발생합니다. (ex. LLM, 이미지 인식 모델이나 비디오 분석 등..)
DL384 Gen12 는 Scale-out 서버로 최대 장착 개수는 CPU 2개, GPU 2개입니다.
* Scale out 방식
해당 서버를 구성할 때 고려해야 할 것은 Fabric인데요,
인피니밴드, 이더넷, 블루필드등 연결 방식을 어느 것으로 할 것인지 잘 선택을 하셔야 합니다.
앞면의 디스크 스토리지는 EDSFF NVMe SSD 또는 NVMe SSD가 장착 되고, GH200 NVL2 GPU 1개당 디스크 2개 장착을 권고 하고 있습니다.
Raid를 지원하지 않아 NS204 Boot Device 또한 지원하지 않습니다.
만약 장착한다면 동작은 하겠지만 장애 발생 시 ILO에서 확인을 할 수 없습니다.
후면을 보면 DL560 Gen11과 비슷한 후면을 가지고 있네요.
Power는 최대 2200W 4개 장착 가능합니다.
GPU 하나당 대략 1000W 정도로 보고 있어 여유 있는 Power 구성이 필요 합니다.
주의하셔야 할 점은 추 후 2CPU로 증설 불가능 하기 때문에 굳이 1CPU로 구매하지 마시고 2CPU로 구매하시면 되겠습니다.
마지막으로 서버사양 장표 첨부드리니 오늘 요약한 내용들과 함께 업무에 참고하시기 바랍니다.
마지막으로..
DL384 Gen12 는 시장에 최초로 출시하는 GH200 NVL2 기반의 2P 서버입니다.
앞서 말했다시피 Scale-out이 가능한 아키텍처를 지원하여 복잡한 AI모델을 동시에 다중 시스템에서 학습 시킬 수 있습니다.
이런 고급기능들은 특히 머신러닝 훈련과 추론 뿐만 아니라 대용량 학습에도 강력한 성능을 제공하여 사람들이 방대한 데이터를 효과적으로 활용하여 경쟁 우위를 확보할 수 있게 할 것입니다.
앞으로 DL384 Gen12가 다양한 산업에서 AI와 데이터 중심의 미래를 열어가는 중요한 역할을 할거라 생각이 드네요.
글 읽어주셔서 감사합니다.