전용 GPU 서버란?

전용 GPU 서버는 비디오 렌더링, 데이터 분석 및 머신러닝과 같은 컴퓨팅 집약적인 작업을 실행할 수 있도록 향상된 성능과 속도를 제공하는 하나 이상의 그래픽 처리 유닛(GPU)을 갖춘 서버입니다. 전용 GPU 서버에는 전문 CPU가 있으며, 대용량 RAM 및 스토리지가 함께 제공될 수 있습니다.

원래 그래픽 및 비디오 처리를 처리하도록 설계된 GPU의 병렬 아키텍처를 통해 전용 GPU 서버는 CPU 기반 서버의 기능을 넘어서는 속도로 여러 작업을 동시에 관리할 수 있습니다.

GPU 랙 서버란?

GPU 랙 서버는 서버 랙에 맞게 설계된 GPU가 장착된 서버입니다. 서버 랙은 랙 서버 및 기타 네트워킹 구성 요소를 고정하도록 설계된 여러 장착 슬롯이 있는 직사각형 프레임워크입니다. 서버는 바닥 공간의 사용을 최소화하기 위해 서로 겹쳐져 있으며, 필요에 따라 랙 안팎으로 미끄러져 들어갑니다.

GPU 랙 서버는 공간 활용 향상, 확장성 향상, 공기 흐름 극대화, 유지보수 용이성 등 여러 가지 이점을 제공합니다.

전용 GPU 서버를 사용해야 하는 이유

GPU는 CPU에 비해 처리량이 최적화되고 전문화되어 있습니다. GPU는 다양한 연산 작업을 수행할 수 있는 높은 클럭 속도를 가진 몇 개의 고중량 코어를 보유하는 대신, 동일한 작업을 병렬로 처리하도록 최적화된 수천 개의 경량 코어를 사용합니다(즉, 단일 명령어, 다중 데이터[SIMD]).

이러한 코어에는 차원 매트릭스 산술 및 부동 소수점 계산에 최적화된 명령어 세트가 있어 선형 대수의 속도를 높입니다. 그 결과 병렬 컴퓨팅에 최적화된 시스템이 탄생했습니다.

전용 GPU 서버를 사용하는 이유는 다음과 같습니다.

• 빅데이터 분석 파이프라인
• 스트리밍 동영상
• 이미지 처리
• 3D 애니메이션 및 시뮬레이션(예: 단백질 사슬 접기 모델링)
• 딥러닝 애플리케이션(예: 음성 인식)
• 해시 크래킹(예: 비밀번호 복구)
• 광업 암호화폐

수천 개의 코어에서 병렬 실행을 통해 혜택을 얻을 수 있는 가속화가 필요한 단일 작업이 있다면 전용 GPU 서버가 도움이 될 수 있습니다.

GPU 랙 서버의 유형

GPU 랙 서버는 랙 서버 또는 캐비닛에 적합합니다. 서버 랙과 그 안에 설치된 장비는 랙 단위로 측정되며, “U” 또는 “RU”로 표기됩니다. “U”는 장비의 높이(예: 서버의 높이 또는 서버 랙의 선반의 높이와 개수)를 나타냅니다.

1U는 1.75인치이므로 1U 서버의 높이는 1.75인치이고 2U 서버는 3.5인치입니다. 예를 들어, 32U 랙 유닛에는 32대의 1U 서버, 4대의 8U 서버 또는 1대의 32U 서버가 포함될 수 있습니다.

랙 크기에 대한 자세한 내용은 “19-Inch 서버 랙 크기에 대한 확실한 가이드”를 참조하십시오.

더 작은 폼 팩터 vs. 더 큰 폼 팩터

더 작은 랙 서버 폼 팩터와 더 큰 랙 서버 폼 팩터의 주요 차이점은 밀도와 확장성입니다.

1U 및 2U GPU 랙 서버

1U 및 2U GPU 랙 서버와 같은 소형 폼 팩터는 성능 집적도를 염두에 두고 설계되었지만 대형 GPU 서버 폼 팩터보다 덜 강력합니다. 이는 일반적으로 비용이 절감되고 서버 랙 공간을 절약할 수 있기 때문에 사용됩니다.

1U 및 2U GPU 랙 서버는 유지보수가 쉽고, 휴대성이 높으며, 확장이 쉽습니다(여러 대의 서버를 사용하여 성능을 확장할 수 있음). 1U 서버는 일반적으로 CPU 1~2개, 수 테라바이트의 메모리 및 여러 GPU를 저장할 수 있습니다. 12U1U 서버는 컴퓨팅 성능과 스토리지를 위한 공간을 제공합니다.

소형 폼 팩터 서버에서 GPU는 일반적으로 공간 제약으로 인해 수평으로 장착됩니다. PCIe 슬롯과 스토리지를 위한 공간도 적지만 PCIe 확장 키트나 JBOD 인클로저를 사용하여 PCIe 확장할 수 있습니다.

8U 및 16U GPU 랙 서버

8U 및 16U와 같은 더 큰 GPU 랙 서버는 더 광범위한 성능 기능이 필요한 워크로드에 맞춰져 있습니다. 스토리지를 위한 더 많은 공간과 추가 확장 슬롯을 제공하므로 추가 PCIe 카드를 연결하여 데이터 처리 성능을 향상시킬 수 있습니다. 또한 추가 공간은 과열을 방지하기 위해 더 나은 공기 순환을 촉진합니다.

더 큰 폼 팩터에서 GPU는 후면이 아닌 카드 상단에 위치한 전원 연결을 위한 추가 공간을 통해 수직으로 설치됩니다.

전용 GPU 서버의 크기를 조정하는 방법

전용 GPU 서버의 크기를 조정할 때는 현재와 미래의 비즈니스 요구 사항뿐만 아니라 원하는 제품 기능을 고려해야 합니다. 최적의 서버 구성은 대상 워크로드, 해당 서버의 특정 사용 사례 및 필요한 속도에 따라 달라집니다.

전용 GPU 서버는 비디오 렌더링, 딥러닝 트레이닝, 추론, 빅데이터 분석 및 고성능 컴퓨팅(HPC)과 같은 특정 대상 워크로드에 맞게 구성할 수 있습니다. 최적의 서버 구성은 대상 워크로드, 해당 서버의 특정 사용 사례 및 필요한 속도에 따라 달라집니다.

GPU는 많은 전력을 사용하며 엄청난 열을 발생시킵니다. CPU보다 크고 파워 커넥터를 위한 추가 공간이 필요합니다. 서버 섀시는 사용하려는 GPU 양에 맞게 충분히 커야 할 뿐만 아니라 과열 및 열 조절을 방지하기 위해 우수한 환기를 제공해야 합니다.

전용 GPU 서버 비용은 얼마인가요?

비용은 자체 전용 GPU 서버 구축, 서버 임대 또는 클라우드 기반 서비스 사용 여부에 따라 달라질 수 있습니다.

자체 서버를 구축하려면 GPU 비용과 전원 공급 장치, 섀시, 전문 CPU, RAM 및 스토리지를 고려해야 합니다. 또한 전력, 공간, 냉각 및 유지보수 비용 등 온-프레미스 데이터센터 구축에 수반되는 비용을 고려해야 할 수도 있습니다.

GPU는 전문화에 따라 분류되며, 가격은 사용 사례에 따라 다릅니다. 예를 들어 NVIDIA는 딥러닝 및 고정밀 계산에 적합한 Tesla V100-based 서버를 제공합니다. NVIDIA의 Nvidia GTX Titan Z와 같은 최고 등급의 GPU는 약 $3,000의 비용이 들 수 있습니다.

클라우드 플랫폼을 선택하는 경우, AWS V2 클라우드, Google 클라우드 플랫폼 및 Azure와 같은 주요 클라우드 서비스 제공업체를 포함하여 전용 GPU 기반 서버 플랜을 제공하는 여러 클라우드 서비스 제공업체가 있습니다. 예를 들어, AWS 는GPU 1개 및 가상 코어 4개에 대해 시간당 $0.900부터 온디맨드 가격을 제공합니다.

GPU 랙 서버: 구매 vs. 임대

구매 또는 임대 여부를 선택하는 것은 몇 가지 요인으로 이어집니다. 귀사의 예산과 잠재적 활용 사례가 주요 사례입니다.

GPU 랙 서버를 구매하려면 선불 비용이 필요합니다. 머신러닝 워크로드를 위한 최고 등급의 GPU에는 막대한 가격표가 붙을 수 있습니다. 이를 통해 GPU 서버를 온프레미스에 저장하는 유지보수, 에너지 및 대역폭 비용을 절감할 수 있습니다. 초기 투자 비용은 매우 비약적일 수 있습니다.

현대적인 기술 혁신의 속도로 GPU 서버를 구매하면 투자 수익을 창출하기 전에 서버가 노후화될 위험이 있습니다. 시스템을 업데이트하면 추가 비용이 발생합니다. 

대규모 데이터 세트로 작업하고 프로덕션 환경에 모델을 배포할 계획이라면 클라우드 서비스 제공업체를 통해 GPU 인프라를 임대하는 것을 고려해 보세요. 이 구독 모델을 사용하면 사용하는 리소스에 따라 1시간 또는 월 단위로 비용을 지불하고 현재 수요에 따라 확장 또는 축소할 수 있습니다.

퓨어스토리지를 통해 최첨단 AI 인프라 확보

전용 GPU 서버는 CPU 기반 서버에 비해 더 높은 성능, 향상된 유연성 및 CPU 리소스의 더 나은 활용 등 여러 가지 이점을 제공합니다. 전용 GPU 서버는 서비스 제공업체로부터 직접 구매하거나 대여할 수 있습니다. 

에이리(AIRI) ™는 퓨어스토리지®와 NVIDIA가 개발한 단순하고 확장성이 뛰어난 플래시 기반 AI 인프라입니다. 에이리(AIRI) 는 퓨어스토리지 FlashBlade//S ® 스토리지, 퓨어스토리지 Purity//FB 운영 체제 및 퓨어1(Pure1)® 클라우드 관리를 갖춘 최신 NVIDIA DGX 시스템을 기반으로 합니다.

퓨어스토리지와 AI에이리(AIRI)RI를 통해 새로운 차원의 AI 성공을 경험하세요.