CoreWeave 및 Solidigm, 액체 냉각에 올인
CoreWeave의 컴퓨팅 아키텍처 수석 이사인 Jacob Yundt는 오늘날 AI 데이터 센터의 전반적인 과제 중 하나를 강조합니다. 냉각. 고성능 배포에서 구성 요소를 운용할 때 적절한 온도를 유지하는 것이 가장 중요합니다. 그렇지 않으면 스로틀링, 성능 문제, 그리고 심지어 구성 요소의 수명을 단축할 수도 있습니다.
이러한 과제에 대한 CoreWeave의 솔루션은 액체 냉각을 적극적으로 채택하는 것입니다. 공기는 이러한 고출력 고밀도 랙에 필요한 냉각 능력을 갖추지 못합니다. GPU 제품을 위한 네이티브 직접 칩 액체 냉각 방식에 대한 노력으로 Solidigm의 직접 칩 수냉식 SSD가 액체 냉각 빌드에서 중요한 역할을 하고 있는 것은 당연한 일입니다.
Solidigm은 CSAL 소프트웨어와 액체 냉각 방식을 사용하여 이를 최적화함으로써 고밀도 SSD로 데이터 스토리지의 경계를 넓히고 있습니다. CoreWeave는 AI 배포를 위한 클라우드에서 이러한 스토리지 혁신을 활용할 수 있습니다. Solidigm과 협력하여 CoreWeave는 지속적으로 확장하기 위한 표준을 정의하는 데 의견을 제공했으며, 이러한 표준을 활용하여 고객에게 신제품을 적극적으로 제공하고 있습니다.
Solidigm 수냉식 SSD가 마음에 드는 이유 중 하나는 전체 밀도를 달성할 수 있도록 수냉식의 고성능, 복원력이 뛰어난 솔루션을 보유할 수 있기 때문입니다. Solidigm은 협업하기에 훌륭했습니다.
CoreWeave는 가속화된 컴퓨팅에 중점을 둔 전문 클라우드 제공업체입니다. 우리는 AI를 위한 필수 클라우드입니다. 우리의 시스템은 물리 법칙과 싸우고 있습니다.
제 이름은 제이컵 윤트(Jacob Yundt)이고, 저는 CoreWeave의 컴퓨팅 아키텍처 수석 이사입니다.
AI는 인프라의 요구 사항을 근본적으로 변화시켰습니다. 이제 전례 없는 규모의 성능이 필요합니다. 수십만 개의 GPU가 일제히 작동할 때는 모든 단일 구성 요소가 완벽하게 작동하고 있어야 합니다.
AI 아키텍처의 몇 가지 과제는 각 서버에 전력을 공급할 수 있는 고정된 예산이 있다는 것입니다. 팬에 그 예산의 상당 부분을 지출하면 GPU에 사용할 수 있는 전력이 줄어들어 사용 가능한 GPU가 고객에게 더 적게 제공됩니다. 공기 냉각은 단순히 작동하지 않습니다.
이러한 GPU 랙의 고출력 요구 사항에 대한 냉각 능력이 충분하지 않기 때문에 말 그대로 이 열을 발생시키는 구성 요소 위로 충분한 공기를 이동시켜 적절한 온도에서 작동하게 할 수 없습니다. 스로틀링되지 않게 하기 위해서입니다. 구성 요소의 수명이 유지되도록 보장하기 위해서입니다 . 그리고 이는 성능상의 영향을 고객에게 초래합니다.
고객이 CoreWeave 클라우드를 사용하는 이유 중 하나는 놀라운 성능의 경험을 보장하기 때문이며, 열적 이유로 인해 이러한 구성 요소가 스로틀링되면 우리는 이를 제공할 수 없습니다. CoreWeave는 적극적으로 액체 냉각을 채택하고 있습니다. 2024년에 다양한 로드맵을 보았을 때 액체 냉각이 이러한 제품 중 일부에 대한 유일한 방법이라는 것을 깨달았습니다. 우리는 GPU 제품에 대한 기본 직접 칩 수랭식 냉각만 제공하도록 데이터 센터 계획을 조정했습니다. 그리고 이는 실질적인 영향을 미쳤는데, GB 200을 가장 먼저 시장에 출시하고, GB 300도 시장에 먼저 출시할 수 있었기 때문입니다. 이는 우리의 모든 데이터 센터가 기본 액체 냉각 솔루션을 지원할 준비가 되어 있었기 때문입니다.
Solidigm이 SSD의 직접 칩 액랭식 냉각 분야를 선도하는 방법 중 하나는 표준을 정의하는 데 도움을 주는 것입니다. 이것은 우리가 계속 확장할 수 있게 해주고, 우리가 먼저 시장에 진출할 수 있게 해주며, 개방형 표준을 활용하여 고객에게 신제품을 적극적으로 제공할 수 있게 해줍니다.
Solidigm 수냉식 SSD가 마음에 드는 이유 중 하나는 전체 밀도를 달성할 수 있도록 수냉식 냉각을 통해 고성능의 복원력이 뛰어난 솔루션을 제공할 수 있기 때문입니다. Solidigm은 협업하기에 정말 좋았습니다. 우리는 개방형 표준을 최대한 활용하고 있으며, Solidigm과 협력하는 것은 매우 보람 있는 일입니다. 그들이 이러한 개방형 표준을 앞으로 더 추진하는 데 도움이 될 것임을 알고 있기 때문입니다.
