액침 냉각 스토리지로 에지 AI 및 지진 데이터 처리 혁신

인공 지능(artificial intelligence, AI), 고성능 컴퓨팅(high-performance computing, HPC) 및 에지 구축의 융합에는 데이터 처리 인프라에 대한 혁신적인 접근 방식이 요구됩니다. HPC 및 액침 냉각 솔루션의 선두주자인 DUG Technology는 운송 컨테이너에 획기적인 데이터 센터인 DUG Nomad를 만들었습니다. Hypertec 서버 및 Solidigm™ NVMe SSD와 결합하면 DUG Nomad는 전례 없는 컴퓨팅 성능을 에지 구축에 직접 적용합니다.

이러한 협업은 액침 냉각 기술, 특수 제작된 서버 및 고성능 스토리지가 에지에서 AI와 HPC를 혁신할 수 있는 방법을 보여줍니다. 

기존의 데이터 처리 작업 흐름은 방대한 양의 원시 데이터를 원격 수집 사이트에서 중앙 집중식 데이터 센터로 전송하여 분석해야 하는데, 이는 상당한 문제가 따르는 프로세스입니다. 

• 네트워크 대역폭 제한 시 전송할 수 있는 데이터의 양 제한 

• 데이터 처리 지연으로 중요한 의사 결정 지연

•  네트워크 전반에 걸친 모든 원시 데이터를 이동하는 것에는 과도한 비용 소모 

세계에서 가장 외딴 곳이자 열악한 환경 중 하나인 사우디아라비아의 사막에서 데이터를 획득, 처리 및 전송할 때의 문제를 고려해 보십시오. 혁신적인 에지 컴퓨팅 솔루션은 격리된 모바일 데이터 수집 사이트에서 데이터 획득을 혁신하여 지진 데이터를 매우 효율적으로 수집할 수 있도록 합니다. 

실시간 데이터 피드에서 높은 수준의 컴퓨팅 집약적 알고리즘을 실행할 수 있기 때문에 실시간 분석이 가능합니다. 고밀도 스토리지 솔루션을 추가하면 연속적이고 중단 없는 운영이 가능해져 효율성을 극대화하고 통찰력을 확보하는 시간을 단축할 수 있습니다. 

컨테이너화된 액침 냉각 데이터 센터인 DUG Nomad는 전 세계 어디에서나 구축할 수 있습니다. 이 모바일 솔루션은 데이터 수집 사이트에 고성능 컴퓨팅 기능을 직접 제공하여 에지에서 실시간 처리 및 분석을 가능하게 합니다.

이 시스템은 10피트, 20피트 및 40피트 컨테이너 크기를 포함한 여러 구성으로 제공되며, 10피트 모델은 사용 가능한 랙 유닛 26개의 컴퓨팅 공간을 제공합니다. 컨테이너는 통합된 리프팅 지점이 있는 헬리콥터 운송용으로 설계되어 기존의 컴퓨팅 인프라로는 도달할 수 없는 위치에도 배치할 수 있습니다. DUG Nomad는 -40°C~+50°C의 범위와 내후성 및 밀폐형 설계로 인해 거의 모든 곳에서 작동할 수 있으며, 전원 연결만 있으면 완전한 자립 운영이 가능합니다. 

가장 주목할 만한 점은 전체 시스템을 2시간 이내에 구축하고 운영할 수 있어 외딴 위치에서도 데이터 센터 수준의 컴퓨팅 및 스토리지 기능에 즉시 액세스할 수 있다는 것입니다.

Hypertec에서 기여한 점은 서버 설계를 “Immersion-Ready”에서 “Immersion-Born”으로 근본적으로 전환한 것입니다. Hypertec은 액체 환경에 맞게 공랭식 서버를 조정하는 대신 처음부터 액침 냉각을 위한 서버를 특별히 설계하여 우수한 성능, 신뢰성 및 효율성을 제공합니다.

Immersion-Born 설계 철학은 서버 섀시를 통해 최적화된 구성 요소 배치를 보여줍니다. GPU는 온도가 가장 낮은 탱크 하단에 배치되는 반면, 전원 공급 장치 및 기타 열 발생 구성 요소는 최대 효율성을 위해 전략적으로 배치됩니다. 특수 재질에는 특정 냉각수 점도를 위해 설계된 맞춤형 히트 싱크, 액체 환경에서도 훼손되지 않는 인듐 포일 열 인터페이스, 액침 인증 케이블 및 커넥터가 포함됩니다. Hypertec TRIDENT Immersion-Born 서버의 내부 섀시 및 레이아웃은 냉각수 흐름을 원활하게 하고 핫스팟을 최소화하여 열이 균일하게 분포될 수 있도록 설계되었습니다. 맞춤형 히트 싱크의 핀 피치는 유전체 유체의 높은 점도에 최적화되어 순환 및 열 전달 효율을 개선합니다. 모든 구성품은 팽창, 부식 및 열화에 대한 저항성을 확인하기 위해 초가속 온도, 습도 스트레스 시험(Highly Accelerated Stress Tests, HAST), 유체 노화 시험 및 호환성 시험을 포함하여 장기 액침 성능에 대해 엄격한 테스트를 거쳤습니다. 열 전달 물질(thermal interface material, TIM)은 액침 환경에서 내구성과 전도율을 고려하여 선택되어 일관되고 장기적인 시스템 신뢰성을 지원합니다. 

밀도 향상 성과는 두드러집니다. 10피트 높이의 DUG Nomad 모델은 기존 컴퓨팅 공간의 사용 가능한 랙 유닛 26개를 제공하며, 다양한 높이의 특수 액침 냉각 탱크를 수용할 수 있습니다. 단일 26RU 탱크는 AMD EPYC 또는 Intel Xeon 프로세서를 사용하는 50개 이상의 최신 CPU 서버 또는 1RU 섀시에서 4개의 GPU로 구성된 매우 조밀한 구성을 사용하는 100개 이상의 H200 GPU를 지원할 수 있습니다. 

신뢰성 지표에 따르면 일부 배치에서는 4년 이상 작동한 부품 고장이 전혀 보고되지 않았으며, 안정적인 작동 온도를 통해 기존의 공랭식 시스템에서 부품을 훼손하는 열 순환 스트레스가 발생하지 않습니다. DUG는 처음 투입 후 9년이 지나도 여전히 원활하게 작동하는 서버를 보유하고 있습니다(서버의 일반적인 수명은 5년임). 

Solidigm NVMe SSD 솔루션은 에지 AI 및 지진 처리 워크로드에 최적화된 고성능 스토리지 기반을 제공합니다. 컴팩트한 폼 팩터와 탁월한 성능 특성 덕분에 DUG Nomad 시스템의 공간 제약이 있고 성능이 중요한 환경에 이상적입니다.

Solidigm은 DUG 및 Hypertec과 협력하여 이 개념 증명을 검증했습니다. 현재 스토리지 구현에서는 단일 1U 스토리지 서버 내에 16개의 Solidigm E1.S SSD를 사용하여 스토리지 노드당 총 용량이 약 320TB입니다. 확장성 잠재력이 크게 확장되었으며, E1.L 폼 팩터를 지원하여 단일 1U 서버에서 최대 1.9페타바이트(petabytes, PB)의 스토리지 용량을 구현할 수 있습니다.

높은 IOPS 성능은 동시 AI 추론 워크로드를 지원하는 반면, 낮은 지연 시간으로 실시간 의사 결정을 가능하게 합니다. 에지에 더 많은 데이터를 저장하면 원시 데이터를 원격 처리 센터로 전송할 필요가 크게 줄어들어 지능형 데이터 필터링 시스템이 대역폭 요구 사항을 크게 줄일 수 있습니다. 

HPC, 스토리지 및 냉각을 결합하면 에지에서 정교한 AI 및 컴퓨팅 집약적 애플리케이션을 활용할 수 있습니다.   활용 사례에는 원격 모니터링을 위한 컴퓨터 비전 처리, 실시간 센서 데이터를 사용한 예측 분석, 저지연 의사 결정이 필요한 자율 시스템, 에지 데이터 수집 사이트에서의 직접 과학 모델링 및 시뮬레이션이 포함됩니다.

민감한 정보 또는 기밀 정보가 포함된 애플리케이션의 경우 에지 컴퓨팅은 프라이빗 기능, 시설 내 기능적 능력 또는 국내 기능을 제공합니다. 

실시간 에지 처리는 원시 데이터 전송 요구 사항을 대폭 줄여 클라우드 스토리지 및 대역폭 비용을 크게 절감하는 동시에 지질학적 조사 및 탐사 활동에 대한 통찰력을 얻는 시간을 가속화합니다.

Immersion-Born 서버 설계는 기존의 공랭식 솔루션에 비해 의미 있는 전력 절감 효과를 제공합니다. Energy Informatics에 발표된 연구에 따르면 액침 냉각 데이터 센터는 공랭식 데이터 센터보다 최대 50% 적은 에너지를 소비합니다. DUG는 액침 냉각 데이터 센터 설계로 전환했을 때 전체 전력 소비를 51% 줄였습니다. 서버 팬만 제거하면 총 전력 소비량이 최대 25%까지 감소했습니다. DUG는 업계 평균 1.55+에 비해 최저 1.02의 전력 효율 지수(power usage effectiveness, PUE) 등급을 달성합니다. 일관된 낮은 작동 온도를 통해 프로세서는 성능을 저하시키고 공랭식 시스템의 전력 소비를 증가시키는 열 스로틀링을 피하면서 피크 효율 곡선을 유지할 수 있습니다.

여러 개의 고정 설비를 구축하는 대신 단일 모바일 장치를 사용하면 프로젝트 전반에서 장비 활용도를 극대화할 수 있습니다. 액침 냉각은 부품의 신뢰성을 크게 개선하여 교체 및 유지보수 비용을 절감하는 동시에 까다로운 환경에서도 일관된 성능을 제공합니다.

향상된 데이터 분석 기능, 장비 고장 위험 감소, 운영 유연성 증가를 통해 조직은 기존의 컴퓨팅 인프라로는 불가능한 기회를 추구할 수 있습니다.

훨씬 큰 용량을 갖춘 Solidigm SSD로의 마이그레이션, 차세대 PCIe 프로토콜의 통합, 잠재적인 컴퓨팅 스토리지 기술 등 스토리지 발전을 통해 기술 발전이 계속될 것입니다. 컴퓨팅 플랫폼 성장은 차세대 GPU 아키텍처와 특수 AI 가속기를 DUG Nomad 40과 같은 대규모 컨테이너 구성에 통합할 것입니다.

시장 확장 기회는 원격 제조 및 산업용 IoT 애플리케이션, 극한 환경에서의 과학적 연구, 컴퓨팅 리소스의 신속한 배포가 중요한 비상 대응 시나리오로 확장됩니다. 

DUG Nomad, Hypertec Immersion-Born 서버 및 Solidigm 고성능 SSD의 조합은 에지 컴퓨팅 인프라의 패러다임 전환을 나타내며, 이는 원격의 까다로운 환경에 고급 컴퓨팅 기능을 도입하여 근본적인 문제를 해결합니다. 

이 솔루션은 다양한 아키텍처 기술의 여러 혁신적인 솔루션을 결합하여 전 세계 어디에서나 효과적으로 작동할 수 있는 독립형 모바일 패키지에서 데이터 센터 수준의 성능을 달성할 수 있음을 보여줍니다. 

이 통합 솔루션은 DUG의 고급 데이터 처리, AI 추론 또는 과학적 연구를 통해 지진 이미징에 적용되든 관계없이 조직이 원격 환경에서 데이터 처리에 접근하는 방식을 변화시키는 탁월한 기능을 제공합니다.

에지 AI 및 HPC 워크로드가 산업 전반에 걸쳐 지속적으로 중요해짐에 따라, DUG Nomad와 같은 솔루션은 데이터의 가치를 극대화하는 동시에 기존의 중앙 집중식 처리 접근 방식의 비용과 복잡성을 최소화하려는 기업에게 점점 더 중요해질 것입니다. 이 통합 솔루션의 입증된 신뢰성, 성능 및 배포 유연성은 미래의 기술 및 애플리케이션 개발에 영향을 미칠 에지 컴퓨팅 인프라에 대한 새로운 표준을 수립합니다.