딥러닝, 머신 러닝, AI, 자율 주행 등 요즘 많이 보고 듣는 4차 산업혁명 기술의 주요 키워드들입니다

이 단어들의 공통점은 모두 GPU를 활용한다는 것 입니다 압도적인 시장 점유율로 GPU의 대명사처럼 인식되고 있는 nVidia에서도 다양한 종류와 라인업의 GPU를 출시하고 있어 어떤 제품을 선택 해야할지 우리 회사 워크로드에는 어떤 제품이 적합한지 혼란스러우실 텐데요

이 글을 보시면 GPU 선택에 많은 도움이 되실거에요

1. GPU Lineup

GeForce 

일반 개인 컴퓨팅 환경을 위한 제품군으로 주로 게임용이라고 보시면 됩니다.

최신 모델 : GeForce RTX 30 Serise (3090,3080Ti, 3080, 3070Ti, 3070, 3060Ti, 3060)

Quadro

그래픽 전문가용 제품군으로 랜더링 그래픽 작업자 또는 CAD/CAE를 위한 엔지니어링 작업자가 사용하는 Workstation에 주로 적용됩니다.

최신 모델 : RTX A6000, RTX A5000, RTX 8000, RTX 5000 등

Tesla

기업 데이터센터용 제품군으로 개인장비가 아닌 서버에 GPU를 넣어야 한다면 Tesla 제품군을 선택해야 합니다. 

최신 모델 : A100, A40, A16, A10, V100, T4 등

2. GPU Architecture

Ampere

Volta와 Turing 의 후속작으로 개발된 nvidia의 최신 아키텍쳐이며, 2020년 5월 14일 공식 발표되었습니다

Ampere 의 특장점으로는 

1. 3세대 Tensor 코어 도입으로 AI를 위한 트레이닝 시간을 획기적으로 단축시켜주고 추론 속도도 크게 개선 하였습니다.
2. MIG(Multi-Instance GPU) 기술은 워크로드가 GPU를 공유할 수 있도록 합니다.  Time Sliced 방식의 vGPU와는 달리 MIG는 인스턴스 단위로 파티셔닝을 함으로서 분할된 GPU간 컴퓨팅 파워를 독리적으로 보장받을 수 있으며, GPU간 간섭현상이 완벽하게 격리되어 상호간 간섭현상이 없습니다.
3. 3세대 NVLink 가 적용되어 GPU 간의 데이터 통신 대역폭이 600GB/s로 2배 증가되었으며 이는 PCIe Gen4의 10배에 달하여 대량의 데이터셋 처리에 더 신속한 결과를 얻을 수 있습니다.
4. 2세대 RT 코어는 영화 콘텐츠의 사실적인 렌더링, 건축 디자인 평가, 제품 디자인의 가상 프로토타입 제작과 같은 워크로드에 엄청난 속도 향상을 제공합니다

Turing

Turing 아키텍쳐는 2018년 8월에 SIGGRAPH에서 처음 발표 되었습니다

특장점으로는

1. 실시간 레이 트레이싱이 가능한 RT Core가 처음 적용된 아키텍쳐로 사실적인 조명 반사 및 그림자를 위한 최상의 솔루션으로 기존의 렌더링 기술 대비 훨씬 높은 차원의 사실감을 제공합니다. 
2. 그래픽 랜더링 뿐만 아니라 AI를 위한 Tensor Core도 적용되어 향상된 AI 연산 능력을 제공합니다. 
3. 세계 최고의 속도를 자랑하는 GDDR6 메모리가 적용되었습니다.

Volta

Volta는 현재 기준 2세대 전의 아키텍처로 2017년 5월이 발표되었습니다

Volta 아키텍처의 특장점으로는

1. 640개의 TENSOR Core를 탑재하여 초당 125 테라플롭스 이상의 딥러닝 성능을 제공하여 이전 세대 보다 5배 이상 증가한 성능을 제공합니다
2. 210억 개 이상의 트렌지스터를 장착한 Volta는 NVIDIA® CUDA® 및 Tensor 코어를 페어링하여 GPU에서 AI 슈퍼컴퓨터의 성능을 제공합니다
3. Volta는 혁명적인 차세대 NVIDIA NVLink™ 고속 상호 연결 기술을 사용합니다. 이를 통해 이전 세대 NVLink에 비해 2배의 처리량을 제공합니다

3. GPU 선택 가이드

고가의 GPU는 용도와 작업량에 따라 유효 적절한 선택을 해야 불필요한 낭비를 줄이고 투자대비 효과를 극대화 할 수 있습니다.

일부 가격 상승요인이 있더라도 Old Architecture 제품을 선택할 이유는 없습니다. 가격 상승 분을 성능으로 만회하고도 남으니 기본적으로 최신 Architecture인 Ampere 모델중에 선택을 권고 드립니다.

종종 고객이나 파트너께서 직접 모델을 특정하여 주문을 하기도 하는데  용도에 맞지않는 GPU를 선택하기도 하고, 불필요하게 고성능 모델을 선택하거나 가격적인 유혹 때문에 필요 용량보다 저성능의 모델을 선택하는 모습을 종종 볼수 있습니다.

또 한, 동일한 GPU라도 쓰임에 맞는 드라이버를 선택해야 함은 물론 O/S와 Application 등과 호환성도 점검해야 합니다.  

위의 분류표를 통하여 개괄적인 선택의 폭을 가늠할 수는 있지만 전문가의 조언이 필수적이라고 할 수 있습니다.

HPE의 GPU Striker 총판인 동국시스템즈는 GPU선택에서부터 효율적인 서버구성(CPU/Memory/NW)은 물론 스토리지 부분까지 전체적인 Infra 구성에 있어 전문 컨설팅이 가능합니다. 

GPU 관련해서 궁금한 점이나 AI/HPC/GPU관련 Business가 있으실 경우 저희 동국시스템즈를 찾아주시면 적극 지원 해드리겠습니다. 파트너사와 고객사를 방문하여 진행하는 On-site 세미나도 준비되어 있으니 더 궁금하신 분은 연락주세요~~~!!