AI 시대의 액체 냉각식 SSD

열적 한계에서 시스템 수준의 가치로

AI 및 HPC 시스템의 전력 밀도가 지속적으로 증가함에 따라, 액체 냉각은 고급 옵션에서 기본 아키텍처로 자리 잡고 있습니다. GPU와 CPU는 이미 이러한 변화를 선도했으며, 이제 스토리지(SSD)가 다음 핵심 구성 요소로 부상하고 있습니다.

중요한 것은 SSD가 다른 유형의 스토리지보다 3초 더 빠른지 여부가 아니라, 보다 시스템 차원적인 문제입니다. 컴퓨팅이 액체 냉각 시대로 완전히 진입했을 때, 공랭식 SSD를 계속 사용한다면 성능, 에너지 소비, ROI는 어떻게 될까요?

아래 내용을 계속 읽고 솔리다임이 설계된 액체 냉각식 SSD 솔루션으로 이러한 시스템 차원의 제약을 어떻게 해결했는지 확인해 보십시오.

문제: SSD의 열적 거동이 시스템 병목 현상이 되고 있습니다

eSSD의 진화로 스토리지의 열 및 전력 부담이 가중되고 있습니다

데이터 스토리지는 심각한 불균형에 직면해 있습니다. PCIe 프로토콜이 4.0에서 7.0으로 발전함에 따라, 드라이브당 SSD 전력 소비량이 25W에서 60W로 급증했습니다. 컴퓨팅 노드가 완전히 액체 냉각되는 AI 아키텍처에서도 스토리지 방열은 여전히 "공기를 불어 냉각"하는 구시대적인 방식에 머물러 있습니다. SSD 전력 밀도의 이러한 비약적인 상승과 구식 방열 방식 사이에 명백한 세대 간 불일치가 발생하여 전체 시스템의 신뢰성 한계를 제한하고 있습니다.

eSSD 온도는 성능에 서서히 영향을 미치는 수준을 넘어 시스템 장애를 직접적으로 유발하고 있습니다 

표 1. SSD 온도 및 성능 임계값

이것은 무엇을 의미할까요? 열 상한선에 도달하면 데이터 채널이 거의 완전히 차단됩니다.

AI 시스템에서 이러한 현상은 단순히 국지적인 문제가 아니라, 빠르게 증폭될 수 있는 문제입니다.

eSSD 열 폭주는 시스템 경로를 따라 그 영향을 증폭시킵니다

그 결과는 단순히 "SSD 속도가 느려지는" 데 그치지 않고, AI 서버에서 가장 고가인 GPU들이 유휴 상태가 되기 시작한다는 것입니다.

기존의 공랭식 SSD는 더 이상 AI 시스템에 적합하지 않습니다

고전력 SSD 공랭의 물리적 및 경제적 한계

SSD 전력 소비량이 40W에서 60W로 증가할 경우:

• 35°C 미만의 공기 유입 조건이 요구됩니다
• 더 높은 풍량과 더 많은 팬이 필요합니다
• 에너지 소비와 소음이 크게 증가합니다

이는 냉각 비용을 증가시킬 뿐만 아니라 시스템 밀도를 제한합니다.

GPU/CPU 액체 냉각은 공랭식 SSD의 환경을 더욱 악화시킵니다

GPU와 CPU가 액체 냉각 방식으로 전환될 경우:

• 서버의 내부 공기 덕트가 재설계됩니다
• SSD는 방열에 불리한 위치에 놓이는 경향이 있습니다

결론: SSD는 가장 고가인 AI 서버에서 열 관련 영향에 가장 취약한 부품 중 하나입니다.

액체 냉각식 SSD를 위한 과제 및 설계 고려 사항

액체 냉각식 SSD의 핵심 과제는 드라이브에 콜드 플레이트를 부착하는 데 있지 않습니다. 그 대신, 다음 사항에 있습니다.

• 양면 열 발생의 근본적인 열 특성 해결
• 액체 냉각 환경에서 핫플러그 기능 구현
• 표준화를 위한 실행 가능한 경로 정의

궁극적으로 이는 액체 냉각 스토리지 아키텍처에 대한 시스템 차원의 재검토를 필요로 합니다.

양면 SSD 열 관리를 위한 단일 능동 냉각

기존 E1.S SSD에서는 컨트롤러, DRAM 및 NAND 구성 요소가 인쇄 회로 기판(PCB)의 양면에 분산되어 있습니다. 드라이브의 한쪽 면에만 콜드 플레이트를 부착하면 반대쪽 면이 열 사각지대로 남아, 열 제거에 내재적인 한계가 발생합니다.

이 문제를 해결하려면 단일 콜드 플레이트를 사용하여 PCB 양면에서 열을 방출할 수 있도록 아키텍처를 변경해야 합니다. 이는 SSD의 열 성능을 향상시킬 뿐만 아니라 시스템 수준에서 액체를 통한 열 회수도 증가시킵니다. 

핫스왑 가능한 액체 콜드 플레이트 솔루션

실제 운영 환경에서는 액체 냉각 방식으로 인해 근본적인 상충 문제가 발생합니다. 효과적인 열전도를 위해서는 콜드 플레이트와 SSD 사이에 충분한 압력을 가해야 하지만, 지나치게 단단히 결합하면 핫플러그 기능을 사용할 수 없게 됩니다.

정밀하게 설계된 메커니즘을 도입하면 최적의 열전달을 위해 SSD와 콜드 플레이트 간의 견고한 물리적 접촉을 유지하면서도 유지보수 시 즉시 분리할 수 있습니다. 이는 시스템을 중단하거나 냉각수 연결을 해제하지 않고도 핫 플러그와 서비스 용이성을 지원하여, 공랭식 환경에 준하는 운영 경험을 제공합니다.

높은 수준의 서비스 용이성을 유지하는 것은 매우 중요합니다. 이것이 뒷받침되지 않으면 액체 냉각식 SSD는 실제 운영 환경에 적용 가능한 솔루션이 아니라 데이터 센터를 구축하기에 비실용적인 솔루션이 될 위험이 있습니다.

표준화: 확장 가능한 배포를 위한 필수 조건

액체 냉각식 SSD를 표준화하는 것은 고밀도의 에너지 효율적인 완전 액체 냉각식 데이터 센터 아키텍처를 구현하기 위한 중요한 단계입니다. 업계를 선도하는 기업들은 공식 사양의 개발 및 채택을 적극적으로 주도하고 있습니다. 솔리다임은 SNIA와 협력하여 E1.S 폼 팩터의 액체 냉각 구현 방식을 정의하는 SFF TA-1006(Rev 2.0) 사양을 발표했습니다. 이는 독점적인 맞춤형 솔루션에서 개방형의 재사용 가능한 산업 표준으로의 전환을 의미합니다.

이 사양은 예측 가능하고 반복 가능한 열 성능을 보장하기 위해 콜드 플레이트 접촉 면적, 표면 평탄도, 거칠기 공차와 같은 매개변수를 엄격하게 정의합니다. 또한, 모따기 처리된 에지 설계와 같은 기능은 높은 접촉 압력 조건에서 발생하는 기계적 삽입 및 제거 문제를 해결합니다.

이 노력의 핵심 가치는 액체 냉각식 SSD를 사례별 맞춤형 엔지니어링에서 표준화된 대량 배포 가능한 구성 요소로 전환하고, 데이터 센터에서 산업 규모로 도입할 수 있는 탄탄한 기반을 마련한다는 데 있습니다.

ODCC(Open Data Center Committee) 파트너십

향후 차세대 데이터 센터에서 액체 냉각 기술의 표준화와 대규모 도입을 가속화하기 위해서는 생태계 차원의 협력이 필수적일 것입니다. 2014년에 설립된 ODCC는 중국 데이터 센터 산업의 선도적인 오픈 플랫폼으로 자리 잡았습니다. ODCC는 서버, 네트워킹, 액체 냉각, 에지 인프라, 데이터 센터 시설 전반에 걸쳐 기술 표준화 및 혁신을 적극적으로 추진해 왔습니다. 또한 성숙한 개방형 기술 사양을 다양하게 확립했습니다.

ODCC와 긴밀히 협력함으로써 기업은 자사의 액체 냉각 제품 및 솔루션을 선진 업계 표준에 더욱 부합하도록 하고, 적시에 기술적 인사이트를 확보하며, ODCC의 생태계 영향력과 플랫폼 신뢰성으로부터 혜택을 얻을 수 있습니다. 이러한 협력은 시장 수용을 가속화하고, 솔루션 신뢰도를 향상시키며, 효율적이고 안정적이며 지속 가능한 액체 냉각 인프라의 보다 광범위한 배포를 지원하는 데 도움이 될 수 있습니다. 

ODCC 채널을 통해 본 글을 게시함으로써,¹ ODCC는 확장 가능하고 효율적인 액체 냉각 도입에 집중하고 있는 데이터 센터 생태계에 솔리다임의 업계 선도적인 액체 냉각식 SSD 설계에 대한 인사이트를 공유하는 데 기여하고 있습니다.

액체 냉각식 SSD에서 시스템 설계와 투자 수익률(ROI)이라는 자연스러운 결과에 이르기까지

액체 냉각을 통해 SSD는 스로틀링 없이 장기간 작동할 수 있으며, 지속적이고 안정적인 데이터 공급을 보장합니다. 이러한 안정성은 스토리지 측의 냉각 병목 현상으로 인해 발생하는 GPU 유휴 시간(대기 상태)을 직접적으로 제거하여 컴퓨팅 자원을 완전히 활용할 수 있게 합니다. 시스템 관점에서 ROI 향상은 별개의 목표가 아니라 스토리지 아키텍처와 컴퓨팅 요구 사항이 물리적으로 부합할 때 나타나는 자연스러운 결과입니다.

액체 냉각식 SSD는 서버 수준은 물론, 전체 데이터 센터에 걸쳐 국소적인 최적화를 넘어 시스템 효율성이 전반적으로 향상되는 효과를 제공합니다. 액체 냉각은 기존 방식 대비 동일한 방열 요건에서 공랭식보다 에너지 사용량이 훨씬 적으며, 더 높은 밀도의 팬리스 설계와 결합하면 랙 공간 요건과 지속적인 운영 및 유지보수의 복잡성을 크게 줄여 줍니다. 이러한 아키텍처 간소화는 데이터 센터 에너지 효율의 의미 있는 향상으로 직결되며, 구성 요소 수준에서 전체 인프라에 이르는 이점을 창출합니다.

액체 냉각 스토리지: AI 시스템의 기반이 되는 폐루프

오늘날의 AI 아키텍처에서 GPU는 컴퓨팅을 담당하며, 스토리지는 데이터 공급을 유지하는 역할을 합니다. 냉각 솔루션은 실제 배포 환경에서 이 두 구성 요소가 지속적이고 안정적으로 협력할 수 있는지를 결정합니다. 솔리다임의 액체 냉각식 SSD 솔루션은 단순히 구성 요소를 냉각하는 데 그치지 않고, 컴퓨팅과 스토리지 간의 세대적 격차를 잇는 가교 역할을 하도록 설계되었습니다. 당사의 접근 방식은 전체 AI 시스템이 극한의 성능, 전반적인 에너지 효율성, 그리고 아키텍처 일관성 사이에서 안정적인 물리적 균형을 달성할 수 있도록 합니다. 이러한 심층적인 시스템 수준의 결합이 달성되면, ROI 향상은 더 이상 별개의 비즈니스 지표가 아니라 이러한 기술적 균형이 가져오는 필연적인 결과가 됩니다.