미래를 위한 AI 스토리지에 대한 NVIDIA와 Solidigm의 대화: 2026년과 그 이후의 속도, 규모 및 냉각
Serve the Home의 Patrick Kenedy가 NVIDIA의 Kevin Deierling과 Solidigm의 Greg Matson과 함께 AI 스토리지에 대해 논의하는 자리에 함께하세요. 이 대화에서는 오늘날 AI 인프라에서 일어나는 가장 큰 변화 중 하나를 분석합니다. AI 팩토리에서 스토리지가 중요한 성능 계층으로 부상하고 있습니다.
AI가 학습에서 추론으로, 이제는 에이전틱 워크플로우로 이동함에 따라 메모리 및 데이터 인프라에 대한 수요가 폭발적으로 증가하고 있습니다. KV 캐시 재사용에서 컨텍스트 메모리에 이르기까지 이 토론에서는 기존 아키텍처가 더 이상 충분하지 않은 이유와 GPU를 완전히 활용하기 위해 새로운 스토리지 계층이 어떻게 부상하고 있는지 살펴봅니다.
또한 수냉식 SSD, 익스트림 코디자인, 풀스택 최적화와 같은 혁신이 하이퍼스케일 데이터 센터에서 엣지 배포에 이르는 AI 시스템의 미래를 어떻게 만들어가고 있는지 들어 보실 수 있습니다.
- 인터뷰 진행자: Serve the Home의 Patrick Kennedy
- Solidigm 게스트: Greg Matson, SVP 겸 제품 및 마케팅 책임자
- NVIDIA 게스트: Kevin Deierling, 네트워킹 부문 SVP
1장. 2026년은 메모리 및 스토리지의 해입니다.
Solidigm과 NVIDIA의 관점
AI 혁명에는 스토리지 문제가 있으며 업계는 마침내 이를 공개적으로 인정하고 있습니다.
2026년 초 주요 기술 모임에서 실리콘과 시스템 분야에서 가장 영향력 있는 업체들 사이에 눈에 띄는 합의가 나타났습니다.바로 우리가 메모리와 스토리지의 중대한 변곡점을 지나고 있다는 것입니다.
NVIDIA의 SVP인 Kevin Deierling은 이를 분명하게 말했습니다. "메모리와 스토리지의 해입니다. 그리고 이는 스토리지가 핵심적인 계층이기 때문에 중요합니다. 정말 중요합니다. 단지 충분하지 않은 것뿐이며, AI에는 더 많은 메모리와 스토리지가 필요합니다."
이는 AI 확장 과제의 핵심을 꿰뚫는 문구입니다. 수년 동안 헤드라인은 GPU, 모델 아키텍처, 그리고 훈련 연산에 집중됐습니다. 그러나 모델이 커지고 추론 수요가 폭발적으로 증가함에 따라 병목 현상은 조용히 이동했습니다. 데이터는 어딘가에 존재해야 하며 이를 컴퓨팅 에 빠르게 전달하는 것이 지난 10년의 결정적인 엔지니어링 과제가 되었습니다.
세계 최고의 NAND 플래시 제조업체 중 하나인 Solidigm은 한동안 이러한 주장을 해왔습니다. 우리의 관점은 명확합니다: AI 워크로드는 기초 모델을 훈련하는 데 필요한 페타바이트부터 실시간 추론 및 검색 증강 생성(RAG)의 지연 시간이 짧은 검색 수요에 이르기까지 끝없는 스토리지 소비자입니다. 스토리지 계층은 더 이상 부차적인 존재가 아닙니다. 이제는 기반입니다.
2026년이 다른 점은 긴급함과 인식이 함께 수렴한다는 것입니다. 하이퍼스케일러들은 AI 팩토리를 구축하기 위해 경쟁하고 있습니다. 그리고 모든 AI 팩토리에는 초당 수조 개의 작업을 처리할 수 있는 가속기와 보조를 맞출 수 있는 메모리와 스토리지 백본이 필요합니다. 컴퓨팅 기능과 스토리지 대역폭 간의 격차는 그 어느 때보다 더 눈에 띄고 더 중대해졌습니다.
Solidigm과 NVIDIA의 메시지는 같습니다. 칩은 영광을 얻지만, AI를 실제로 작동시키는 것은 스토리지입니다.
2장. 컨텍스트 스토리지의 부상
AI가 속도와 규모 사이에서 새로운 계층을 필요로 하는 이유
수십 년 동안 스토리지 계층 구조는 정해진 것이었습니다. 맨 위에는 초고속 DRAM, 그 아래에는 고밀도이면서 저렴한 NAND 플래시, 맨 아래에는 테이프나 클라우드 아카이브가 있었습니다. 각 계층의 역할이 있었습니다. 각각에 대한 장단점은 모두 인식되고 있었습니다.
추론 워크로드가 확장되고 컨텍스트 창이 수백만 개의 토큰으로 확장됨에 따라, 새로운 아키텍처 설계 상의 압력이 등장했습니다. DRAM과 기존 SSD가 해결할 수 없도록 설계된 압력입니다. 업계에는 그 중간이 필요했습니다. 방대한 AI 컨텍스트를 담을 만큼의 용량, 굶주린 가속기를 공급할 만큼의 속도, 그리고 완전한 내구성 보장에 따른 오버헤드에서 벗어난 것이 그것입니다.
Nvidia의 Kevin Deierling은 현재 나타나고 있는 것이 무엇인지 가장 명확하게 표현했습니다. "이제 우리는 그 사이에 있는 용량과 성능을 제공하는 정말 좋은 새 스토리지 계층을 갖게 되었으며 항상 다시 계산할 수 있기 때문에 내구성이 필요하지 않다는 것입니다."
마지막 절이 주요 통찰력입니다. 기존 스토리지는 어떤 대가를 치르더라도 데이터를 보존해야 한다고 가정합니다. 그러나 AI 컨텍스트, 활성화, KV 캐시 및 대화나 작업에서 모델이 맥락을 유지하도록 하는 중간 상태는 본질적으로 일시적입니다. 그것이 손실되면, 백업에서 복원하지 않습니다. 재계산합니다. 이는 설계 요구 사항을 완전히 바꾸어, 내구성과 지속성보다는 처리량과 밀도에 최적화된 스토리지 솔루션의 한 부류를 열어 줍니다.
Solidigm과 더 광범위한 NAND 생태계에서 큰 기회를 엿보는 곳이 바로 여기입니다. AI 추론의 실제 읽기/쓰기 패턴을 중심으로 설계된 전용 컨텍스트 스토리지는, DRAM의 메모리 압력을 크게 줄이면서도 지연 시간을 충분히 낮게 유지해 임계 경로에 영향을 주지 않도록 할 수 있습니다.
스토리지 계층 구조는 대체되고 있는 것이 아닙니다. 새로운 AI 워크로드를 위해 특별히 구축된 새롭고 필수적인 계층이 추가되고 있습니다.
3장. 스토리지에서 열로
Solidigm과 NVIDIA의 AI 코디자인 엔진 내부
AI 팩토리를 구축하는 것은 조달 과정이 아닙니다. 이는 PCB의 구리 트레이스부터 서버 섀시의 기류 패턴에 이르기까지 모든 구성 요소가 의도적으로 조화를 이루며 작동하도록 설계되어야 하는 엔지니어링 “Act One”입니다. 기성품 부품을 혼합 및 매칭하고 최선을 기대하는 시대는 끝났습니다.
NVIDIA가 "익스트림 코디자인"이라고 설명하는 것의 핵심 철학이 바로 이것입니다. 이는 기존 공급업체 파트너십을 훨씬 뛰어넘는 방법론입니다. NVIDIA의 SVP인 Kevin Deierling은 다음과 같이 설명합니다. "익스트림 코디자인은 시장에 최적화되도록 함께 만드는 것입니다. 적절한 밀도, 적절한 전력, 적절한 열 특성을 갖추고 있습니다. 가장 효율적인 AI 팩토리를 구축하려면 이 모든 것이 함께 이루어져야 합니다."
"extreme"이라는 단어는 그 문장에서 실제로 중요한 역할을 하고 있습니다. 이 단계에서 코디자인은 Solidigm과 같은 스토리지 공급업체가 단순히 사후에 GPU 사양에 맞춰 대응하는 것이 아니라는 뜻입니다. 그들은 초기부터 테이블에 함께 앉아, AI 가속기가 주변 인프라에 요구하는 바를 정의하는 컴퓨팅 아키텍트들과 함께 폼 팩터, 전력 예산 및 열 프로파일을 구체화합니다.
밀도, 전력 및 열은 단단히 결합된 삼각형을 형성합니다. 전력 소비를 해결하지 않고 밀도를 지나치게 높이면 성능을 저하시키는 열 문제가 발생합니다. 물리적 레이아웃을 고려하지 않고 냉각을 최적화하면 AI 팩토리를 경제적으로 실현할 수 있게 하는 랙 효율성을 희생하게 됩니다. 모든 결정은 연쇄적으로 이어집니다.
Solidigm의 경우, 이는 종이 위의 사양만 충족하는 데 그치지 않는 NAND 솔루션을 엔지니어링한다는 것을 의미합니다. 차세대 AI 인프라의 실제 물리적 및 전기적 상태에 맞춥니다. 올바른 폼 팩터에 올바른 용량을 제공하고, 올바른 전력을 소비하며, 시스템이 처리하도록 설계된 방식으로 열을 분산시킵니다.
4장. AI 팩토리의 미래
기가와트 규모에서 어디서나 인텔리전스까지
AI 도입이 가속화됨에 따라 “AI 팩토리”의 개념은 중앙 집중식 하이퍼스케일 인프라에서 전 세계적으로 분산된 인텔리전스 플랫폼으로 빠르게 진화하고 있습니다. NVIDIA의 Greg Matson 및 Kevin Deierling과의 대화에서 핵심 주제가 부상합니다. 차세대 AI 인프라는 규모뿐만 아니라 컴퓨팅, 네트워킹, 스토리지 및 전력이 통합 시스템으로 함께 얼마나 효율적으로 작동하는지에 의해 정의됩니다.
기가와트 규모의 AI 팩토리는 에너지 효율성, 액체 냉각, 고성능 상호 연결 및 데이터 이동에서 전례 없는 발전을 필요로 하는 모델 교육 및 대규모 추론의 새로운 중추가 되고 있습니다. 문제는 더 이상 단순히 더 큰 클러스터를 구축하는 것이 아닙니다. 산업 수준에서 지속적인 인텔리전스 생산을 유지할 수 있는 인프라를 설계하는 것입니다.
동시에, AI의 미래는 대규모의 중앙 집중식 데이터 센터에만 국한되지 않을 것입니다. 인텔리전스는 점점 더 데이터 생성 위치에 가까워지고 있으며 기업, 공장, 의료 시스템, 금융 시장, 연구 기관 및 에지 환경 전반에 걸쳐 의사 결정이 내려지고 있습니다.
“모든 곳에서 인텔리전스”로의 전환은 인프라 설계 우선순위를 재편하고 있습니다. AI 팩토리는 초대규모의 중앙 집중식 교육과 짧은 지연 시간과 실시간 응답성을 바탕으로 고도로 분산된 추론을 모두 지원해야 합니다.
Greg Matson과 Kevin Deierling이 논의한 바와 같이, 이 다음 시대의 성공은 전체 AI 스택에서 성능, 전력 및 데이터 접근성의 균형을 맞추는 데 달려 있습니다. 엣지에서 코어, 클라우드에 이르기까지 데이터를 효율적으로 오케스트레이션할 수 있는 조직이 차세대 AI 혁신을 규정할 것입니다.
