안녕하세요. 동국시스템즈 영업마케팅팀 이빛나 입니다.
이번 시간에는 평소에 자주 듣는 것은 아니지만 한번 정도는 들어본 경험이 있는 인피니밴드에 대해서 설명 드리려고 합니다.
그리고 이 인피니밴드를 왜 꼭 알고 계셔야 하는지 알려 드릴께요.
고고! 👉👉
인피니밴드는 네트웍 기술의 한 종류라고 볼 수 있는데요,
새로 나온 기술은 아니고 수년 전부터 계속 발전되어 왔습니다.
SDR - DDR - QDR - FDR - EDR 을 거쳐 현재 유통중인 HDR 200G에 이어 NDR 400G까지 출시가 되었네요.
이번 시간에 공유할 내용은 총 4가지 입니다.
1. 인피니밴드란 무엇인가
2. 인피니밴드와 이더넷의 차이점
3. 인피니밴드의 종류
4. Q&A
Mellanox InfiniBand HDR Switch
1. 인피니밴드(InfiniBand)가 뭐에요?
인피니밴드(InfiniBand)를 한마디로 이야기 한다면
고성능 컴퓨팅 환경(HPC)에서 서버 간 통신을 위해 사용되는 네트워크 기술 이라고 할 수 있습니다.
인피니밴드의 속도와 대역폭이 이더넷과 비교 했을 때 훨씬 높다 보니
일반 사무 환경보다는 데이터 센터에서 특정 고성능 작업이 필요할 때 많이 사용합니다.
# 그렇다면 고성능 컴퓨팅이란?
HPC (High Performance Computing) 라고 하는 이 기술은 다른 컴퓨터를 훨씬 능가하는 속도로 데이터를 처리하고 계산을 실행할 수 있는 솔루션을 아우릅니다. (출처:HPE)
제조업, 항공 우주 공학, 환경 연구, 생명 과학, 금융 서비스, 자동차, 석유, 가스, 국방 및 보안, 재료 과학 등
어마어마한 양의 데이터를 수집하고 처리 해야 하는 다양한 분야에서 필수적으로 HPC를 사용 하고 있습니다.
이처럼 데이터 집약적인 환경에서는 빠른 처리와 연산이 필요하기 때문에 빠른 속도와 높은 대역폭이 필요하고,
이때 선택하는 네트워크 방식이 바로 인피니밴드입니다.
2. 인피니밴드와 이더넷의 차이점을 알아볼까요?
인피니밴드는 주로 서버 클러스터링, 통신 및 스토리지 관리를 위해 단일로 연결하여 여러 데이터 스트림을 연결하는데 많이 쓰이고,
이더넷은 보다 일반적인 목적의 네트워킹에 사용하며, 다양한 장치와 서비스 간의 연결에 많이 쓰입니다.
또한 통신 방식에도 차이가 있는데요,
인피니밴드는 RDMA 기술이 있습니다.
# RDMA 기술이란?
Remote Direct Memory Access 의 약자로 두 컴퓨터 간의 메모리 접근을 OS, Cache 를 거치지 않고 직접 수행함으로써 CPU의 부하를 줄이고,
RDMA 전용 프로토콜을 사용하여 데이터를 직접적으로 교환함으로써 높은 처리량과 네트워크 지연을 최소화하여 효율성을 높일 수 있는 기술입니다.
(출처:HPE Community)
RDMA를 사용하면 네트웍 트래픽이 CPU를 우회하고, TCP 사용을 하지 않아 중복 데이터 없이 바로 데이터 전달이 되어 서버 간 직접적이고 빠른 데이터 전송을 가능하게 합니다.
반면 이더넷은 이러한 기능을 기본적으로 지원하지 않습니다. 데이터 전송 시 CPU를 거치며 CPU 부하를 경험할 수 있고, 네트워크가 확장됨에 따라 병목 현상이 발생할 가능성이 높고 성능에 제약이 있을 수 있습니다.
3. 인피니밴드 종류는 어떤것들이 있나요?
인피니밴드(InfiniBand)는 현재 HDR, NDR이 유통되고 있습니다.(EDR은 단종)
HDR, NDR은 데이터 전송률을 나타내는 용어로
- HDR (High Data Rate): 초당 200 기가비트(Gbps)의 속도 제공
- NDR (Next Data Rate): NDR은 더욱 진보된 기술로, 초당 400 기가비트(Gbps)의 속도 제공
NDR은 출시 된지 얼마 되지 않았고, 높은 데이터 전송률을 요구하는 최신 시스템에서 사용됩니다.
또한, 특정 Cable로만 구성이 가능하니 꼭 호환 어댑터와 Cable을 HPE에 문의 후 구성하시기 바랍니다.
(NDR의 경우 200G와 400G의 Description 구분이 아직은 헷갈릴 수 있어 확인 후 진행하셔야 합니다.)
# 인피니밴드도 100G가 있고 이더넷도 100G가 있는데 이 둘은 서로 통신할 수 없나요?
-> 인피니밴드(InfiniBand)와 이더넷(Ethernet)은 본질적으로 다른 네트워킹 기술이라 Direct로 통신할 수 없어요.
하지만 특정 어댑터나 게이트웨이 장치를 사용하여 데이터 전송을 가능하게 하는 솔루션들이 존재하므로 호환성 문제를 해결할 수는 있습니다.
다만, 비용이 비싼 인피니밴드를 사용할때는 인피니밴드 전용망으로 구성하시는 것을 추천 드립니다^^
# 인피니밴드 100G 는 EDR만 사용 가능한가요? 단종인데요?
-> 아니요! EDR 말고 HDR을 활용하세요.
호환 어댑터와 Cable로 HDR은 100G로, NDR은 200G 의 속도로 사용이 가능합니다.
호환되는 어댑터와 Cable은 꼭 확인 후 진행해 주세요.
# GPU 사용할 때 왜 꼭 인피니밴드를 쓰나요?
-> 앞서 계속 이야기 하는 부분이지만 GPU를 사용하는 시스템인 고성능 컴퓨팅(HPC)과 인공 지능(AI) 분야에서 인피니밴드의 빠른 속도와 높은 대역폭의 중요성이 두드러지기 때문입니다.
✔ 인피니밴드는 GPU 노드 간의 통신을 높은 대역폭에서 지연 없이 지원합니다.
또한, RDMA를 통한 직접적인 통신으로 데이터와 명령을 빠르고 효율적으로 전송할 수 있게 해줍니다.
마지막으로 대규모로 시스템을 확장하더라도 일관된 성능을 보여주기 때문에 대규모 시스템을 구축할 수 있어
HPC, AI 영역에서는 필수적이라고 보시면 됩니다.
오늘 제가 준비한 내용은 여기까지인데요,
인피니밴드는 GPU를 사용하는 복잡한 컴퓨팅 환경에서 성능 향상과 효율 증대에 크게 기여하고 있습니다.
아직 업계에서는 400Gb/s의 초고속 속도를 안정적으로 지원하는 제품은 보이지 않고 있고요,
전 세계적으로 인피니밴드의 사용량은 지속적으로 증가하고 있으며,
전세계 HPC 시장에서 45%가 인피니밴드 기술을 사용하고 있다고 합니다.
현재 동국시스템즈에서는 Cray XD DEMO장비를 인피니밴드 NDR로 연결하여 성능 테스트를 진행 중에 있습니다. 관련 기술력도 준비하고 있으니 많은 관심 부탁 드립니다^^
감사합니다.
안녕하세요. 동국시스템즈 영업마케팅팀 이빛나 입니다.
이번 시간에는 평소에 자주 듣는 것은 아니지만 한번 정도는 들어본 경험이 있는 인피니밴드에 대해서 설명 드리려고 합니다.
그리고 이 인피니밴드를 왜 꼭 알고 계셔야 하는지 알려 드릴께요.
고고! 👉👉
인피니밴드는 네트웍 기술의 한 종류라고 볼 수 있는데요,
새로 나온 기술은 아니고 수년 전부터 계속 발전되어 왔습니다.
SDR - DDR - QDR - FDR - EDR 을 거쳐 현재 유통중인 HDR 200G에 이어 NDR 400G까지 출시가 되었네요.
이번 시간에 공유할 내용은 총 4가지 입니다.
1. 인피니밴드란 무엇인가
2. 인피니밴드와 이더넷의 차이점
3. 인피니밴드의 종류
4. Q&A
Mellanox InfiniBand HDR Switch
1. 인피니밴드(InfiniBand)가 뭐에요?
인피니밴드(InfiniBand)를 한마디로 이야기 한다면
고성능 컴퓨팅 환경(HPC)에서 서버 간 통신을 위해 사용되는 네트워크 기술 이라고 할 수 있습니다.
인피니밴드의 속도와 대역폭이 이더넷과 비교 했을 때 훨씬 높다 보니
일반 사무 환경보다는 데이터 센터에서 특정 고성능 작업이 필요할 때 많이 사용합니다.
# 그렇다면 고성능 컴퓨팅이란?
HPC (High Performance Computing) 라고 하는 이 기술은 다른 컴퓨터를 훨씬 능가하는 속도로 데이터를 처리하고 계산을 실행할 수 있는 솔루션을 아우릅니다. (출처:HPE)
제조업, 항공 우주 공학, 환경 연구, 생명 과학, 금융 서비스, 자동차, 석유, 가스, 국방 및 보안, 재료 과학 등
어마어마한 양의 데이터를 수집하고 처리 해야 하는 다양한 분야에서 필수적으로 HPC를 사용 하고 있습니다.
이처럼 데이터 집약적인 환경에서는 빠른 처리와 연산이 필요하기 때문에 빠른 속도와 높은 대역폭이 필요하고,
이때 선택하는 네트워크 방식이 바로 인피니밴드입니다.
2. 인피니밴드와 이더넷의 차이점을 알아볼까요?
인피니밴드는 주로 서버 클러스터링, 통신 및 스토리지 관리를 위해 단일로 연결하여 여러 데이터 스트림을 연결하는데 많이 쓰이고,
이더넷은 보다 일반적인 목적의 네트워킹에 사용하며, 다양한 장치와 서비스 간의 연결에 많이 쓰입니다.
또한 통신 방식에도 차이가 있는데요,
인피니밴드는 RDMA 기술이 있습니다.
# RDMA 기술이란?
Remote Direct Memory Access 의 약자로 두 컴퓨터 간의 메모리 접근을 OS, Cache 를 거치지 않고 직접 수행함으로써 CPU의 부하를 줄이고,
RDMA 전용 프로토콜을 사용하여 데이터를 직접적으로 교환함으로써 높은 처리량과 네트워크 지연을 최소화하여 효율성을 높일 수 있는 기술입니다.
RDMA를 사용하면 네트웍 트래픽이 CPU를 우회하고, TCP 사용을 하지 않아 중복 데이터 없이 바로 데이터 전달이 되어 서버 간 직접적이고 빠른 데이터 전송을 가능하게 합니다.
반면 이더넷은 이러한 기능을 기본적으로 지원하지 않습니다. 데이터 전송 시 CPU를 거치며 CPU 부하를 경험할 수 있고, 네트워크가 확장됨에 따라 병목 현상이 발생할 가능성이 높고 성능에 제약이 있을 수 있습니다.
3. 인피니밴드 종류는 어떤것들이 있나요?
인피니밴드(InfiniBand)는 현재 HDR, NDR이 유통되고 있습니다.(EDR은 단종)
HDR, NDR은 데이터 전송률을 나타내는 용어로
NDR은 출시 된지 얼마 되지 않았고, 높은 데이터 전송률을 요구하는 최신 시스템에서 사용됩니다.
또한, 특정 Cable로만 구성이 가능하니 꼭 호환 어댑터와 Cable을 HPE에 문의 후 구성하시기 바랍니다.
(NDR의 경우 200G와 400G의 Description 구분이 아직은 헷갈릴 수 있어 확인 후 진행하셔야 합니다.)
# 인피니밴드도 100G가 있고 이더넷도 100G가 있는데 이 둘은 서로 통신할 수 없나요?
-> 인피니밴드(InfiniBand)와 이더넷(Ethernet)은 본질적으로 다른 네트워킹 기술이라 Direct로 통신할 수 없어요.
하지만 특정 어댑터나 게이트웨이 장치를 사용하여 데이터 전송을 가능하게 하는 솔루션들이 존재하므로 호환성 문제를 해결할 수는 있습니다.
다만, 비용이 비싼 인피니밴드를 사용할때는 인피니밴드 전용망으로 구성하시는 것을 추천 드립니다^^
# 인피니밴드 100G 는 EDR만 사용 가능한가요? 단종인데요?
-> 아니요! EDR 말고 HDR을 활용하세요.
호환 어댑터와 Cable로 HDR은 100G로, NDR은 200G 의 속도로 사용이 가능합니다.
호환되는 어댑터와 Cable은 꼭 확인 후 진행해 주세요.
# GPU 사용할 때 왜 꼭 인피니밴드를 쓰나요?
-> 앞서 계속 이야기 하는 부분이지만 GPU를 사용하는 시스템인 고성능 컴퓨팅(HPC)과 인공 지능(AI) 분야에서 인피니밴드의 빠른 속도와 높은 대역폭의 중요성이 두드러지기 때문입니다.
✔ 인피니밴드는 GPU 노드 간의 통신을 높은 대역폭에서 지연 없이 지원합니다.
또한, RDMA를 통한 직접적인 통신으로 데이터와 명령을 빠르고 효율적으로 전송할 수 있게 해줍니다.
마지막으로 대규모로 시스템을 확장하더라도 일관된 성능을 보여주기 때문에 대규모 시스템을 구축할 수 있어
HPC, AI 영역에서는 필수적이라고 보시면 됩니다.
오늘 제가 준비한 내용은 여기까지인데요,
인피니밴드는 GPU를 사용하는 복잡한 컴퓨팅 환경에서 성능 향상과 효율 증대에 크게 기여하고 있습니다.
아직 업계에서는 400Gb/s의 초고속 속도를 안정적으로 지원하는 제품은 보이지 않고 있고요,
전 세계적으로 인피니밴드의 사용량은 지속적으로 증가하고 있으며,
전세계 HPC 시장에서 45%가 인피니밴드 기술을 사용하고 있다고 합니다.
현재 동국시스템즈에서는 Cray XD DEMO장비를 인피니밴드 NDR로 연결하여 성능 테스트를 진행 중에 있습니다. 관련 기술력도 준비하고 있으니 많은 관심 부탁 드립니다^^
감사합니다.