HPEAI를 위한 새로운 혁신! DL380a Gen11 두둥

이빛나
2024-03-26
조회수 757

안녕하세요. 영업마케팅팀 이빛나 입니다.


오늘은 DL380a Gen11 서버에 대해 이야기를 해보려고 합니다.

요즘에 AI가 IT시장의 핵심이다 보니 저희 DKNYOU 포탈에서 AI 메뉴를 따로 만들어 관리할 만큼 저희 IT인들에게는 정말 중요한 소재 인데요, 이런 AI를 주도하고 있는 것이 바로 GPU이고, 용도에 따라 다양한 GPU가 서버의 성능을 만들어버리기도 합니다.

DL380a는 HPE의 GPU 전용 서버로 높은 그래픽 성능을 필요로 할 때, 쉽게 말해 GPU 많이 꽂아야 될 때 제안하는 서버 입니다. DL380a 서버는 일반 Gen11 과 달리 Accelerator의 A가 붙은 GPU 전용 샷시 입니다.


작년 말 까지만 해도 견적팀 에서 DL380a Double Wide(4DW) 샷시 만 구성할 수 있었는데요, 최근에는 Single Wide(8SW) 샷시도 구성이 가능하여 여러분들께 알려드리려고 합니다.


호곡..?

DW와 SW가 뭐였지? 하고 까먹으신 분들을 위해 Link 남겨 둘께요. - 아래 이미지 클릭해주세요😉

참고하여 한번 읽어보시면 좋을 것 같습니다.



읽어보셨나요?

그렇다면 DL380a 서버 맛보기가 되셨을 것 같네요.


DL380a 는 DL380 Gen11 서버와 동일한 2U 서버이고, 겉으로 보기에는 비슷한 외관을 가지고 있습니다.

Gen11의 큰 장점인 Gen4 Gen5 Intel Xeon CPU를 사용하여 CPU당 기존 대비 많은 코어를 사용하고, 

DDR5 RAM과 PCIe Gen5를 활용하여 대역폭을 늘려 I/O 성능을 향상 시켰습니다. 

또한 ILO 6를 사용하여 서버를 보다 안전하게 모니터링 할 수 있도록 지원 합니다.

(서버의 정보, 온도 및 전력 레포트, 펌웨어와 상태 이벤트로그 등등등.. 너무 많죠)


다만, 여기서 다른 점은 GPU의 새로운 설계 방식 입니다. 

아래처럼 GPU를 샷시 전면에 장착하여 공기 흐름을 향상 시켰습니다.

저 양쪽으로 각 4DW GPU or 8SW GPU가 장착됩니다.



HPE 유튜브 채널에서 영상을 한번 가져와 봤는데요,

[영상출처: HPE 유튜브채널, 녹화출처: 반디캠]


이렇게 보니 어떻게 장착되는지 눈에 확 들어오시죠?


양쪽에 장착되는 GPU들은 GPU끼리 다이렉트로 연결이 가능하고, 다이렉트로 연결 시 GPU의 사용 가능한 메모리들끼리 결합을 합니다. 메모리가 올라가니 데이터를 주고받는 속도가 높아지겠죠?

데이터를 주고 받는 속도가 올라가니 많은 양의 데이터를 처리하는 시간이 짧아지게 되는거에요.

이 성능은 최대 8 Tflops의 처리가 가능하여 방대한 양의 계산 리소스를 필요로 하는 AI 알고리즘의 복잡한 상황에서도 효율적으로 일 처리를 할 수 있는 능력을 제공할 수 있는 겁니다.


또한, 고 전력 GPU를 위한 전용 Power 공급 장치도 있습니다. 



1800W-2200W 총 4개까지 장착 가능하여 고 전력에 대한 부담을 줄였습니다.



GPU들 사이에 들어가는 Disk Bay에는 x4 Lane의 NVMe만 장착이 가능합니다.

* System Insight Display 와 Internel DVD를 위한 Univesal Media Bay는 전용 공간이 없어 장착 불가능 합니다.


서버 안쪽을 살펴 볼까요?




GPU에 최적화 되어 만들어진 DL380a Gen11 서버 정말 놀랍지 않나요?

필요에 따라 GPU를 추가하거나 제거할 수 있어서 AI 인프라를 쉽게 확장할 수 있는 것도 큰 장점입니다.


그렇다면 On-Premise와 Cloud computing을 결합한 GPU에 최적화된 플랫폼! DL380a Gen11 서버에 어떤 GPU들이 장착되는지 보고 마무리 해볼까요?


* NVIDIA H100 NVL (S2D86C)


  • Focus : AI / 데이터 분석 / 고성능 컴퓨팅 
  • Form factor : double-wide / full-height / full-length
  • GPU : NVIDIA Hopper / 300-400W
  • GPU clock : 1,080 MHz (base) / 1,785 MHz (boost)
  • Memory : 94GB HBM3 (3,938GB/s, 6,016-bit)
  • Interface : PCI Express Gen5 x16; Gen5 x8; Gen4 x16
👉 동국 재고 있음 



* NVIDIA L40 (S0K90C)



  • Focus: Visual Computing / AI / 고성능 VDI
  • Form factor: double-wide / full-height / full-length
  • GPU: NVIDIA Ada, AD102 chip (18179 CUDA cores) / 300W
  • GPU clock: 735 MHz (base) / 2490MHz (boost)
  • Memory: 48GB GDDR6 (864GB/s, 384-bit)
  • Interface: PCIe 4.0 x16, 4x DisplayPort 1.4a
👉 동국 재고 있음



* NVIDIA L40s (S2L70C)



  • Focus: Visual Computing / AI / 고성능 VDI
  • Form factor: double-wide / full-height / full-length
  • GPU: NVIDIA Ada, AD102 chip (18176 CUDA cores) / 350W
  • GPU clock: 1110 MHz (base) / 2520MHz (boost)
  • Memory: 48GB GDDR6 (864GB/s, 384-bit)
  • Interface: PCIe 4.0 x16, 4x DisplayPort 1.4a
👉 동국 재고 있음



* NVIDIA L4 (S0K89C)



  • Focus: AI 추론 / VDI
  • Form factor: single-wide / low-profile / half-length
  • GPU: NVIDIA Ada, AD104 chip (7680 CUDA cores) / 72W
  • GPU clock: 795 MHz (base) / 2040MHz (boost)
  • Memory: 24GB GDDR6 (300GB/s, 192-bit)
  • Interface: PCIe 4.0 x16

 👉 동국 재고 있음



HPE의 새로운 서버 DL380a Gen11 소개를 즐겁게 보셨다면, AI는 동국시스템즈와 함께💕하시기를 바랍니다.

저희가 보유한 H100 NVL, L40S, L40, L4 GPU 관련 문의는 아래 참고하시기 바랍니다.



감사합니다.









이용약관 ㅣ 개인정보취급방침 ㅣ 마케팅활용동의

동국시스템즈 ㅣ 주소: (04539)서울특별시 중구 을지로5길 19 페럼타워 9층  대표이사: 김오련

사업자등록번호: 102-81-42611  전화: 02) 2101-0900  팩스: 02) 3789-8780 Copyright 2020 DONGKUK SYSTEMS  All rights reserved