엣지로 이동하는 엔터프라이즈 컴퓨팅

폭발적으로 증가하는 AI 채택 속도를 유지하는 가장 빠른 방법은 컴퓨팅을 엣지에 있는 데이터에 보다 가깝게 밀어붙이는 것입니다. 이러한 추세는 엣지 데이터 센터에 대한 막대한 투자로 이어지고 있는데, Research and Markets는 CAGR이 약 17% 증가하고 글로벌 시장은 2024년 약 150억 달러에서 2030년 약 400억 달러 규모로 증가할 것으로 예상하고 있습니다.

엣지 데이터 센터는 정의상 조직의 서비스를 이용하는 고객, 파트너, 장치와 더 가까운 곳에 위치합니다. 서버 몇 대로 구성된 소매점 클로짓에서 IT 장비 랙을 갖춘 코로케이션센터(“코로”)까지 범위와 규모가 다양합니다. 엣지 데이터 센터는 마이크로컨트롤러와 실시간 소프트웨어를 사용하는 IoT 장치와는 대조적으로 좁은 공간에서만 풀스택 애플리케이션 처리 기능을 제공합니다.

엣지 처리로 전환하는 이유는 트랜잭션 응답성, 서비스 확장성, 데이터 주권 등입니다. 이에 대해 좀 더 자세히 살펴보겠습니다.

왜 컴퓨팅을 엣지로 이동해야 하는가?

많은 조직의 주 데이터 센터가 한계에 부딪치고 있습니다. 전력, 냉각, 공간, 시스템 아키텍처 같은 한계에 부딪치고 있는 것입니다. 엣지 데이터 처리는 주 데이터 센터에서 IT 서비스 소비자에게 가까운 곳으로 컴퓨팅을 배포함으로써 이러한 장애물을 대부분을 극복합니다. 

엣지 처리가 오늘날의 IT 조직에 적합한 이유는 다음과 같습니다.

• 응답성과 대기 시간: 응답 시간이 늘어나면서 고객 만족도가 급락했습니다. 그리고 안전성이 중요한 의사결정(예: 로봇, 자율주행 자동차, 드론 등)을 위해서는 장애물을 피하는 신속한 의사결정이 중요할 수 있습니다. 대기 시간을 줄이는 확실한 방법 중 하나는 고객, 파트너, 장치가 서비스를 사용하는 곳으로 컴퓨팅과 스토리지를 옮기는 것입니다. 이렇게 하면 핵심 데이터 센터와 요청과 응답을 주고 받는 데 필요한 왕복 네트워킹 시간과 비용을 없앨 수 있습니다.
• 확장성: 대부분의 경우, 주 데이터 센터에서의 데이터 처리는 소프트웨어 및 하드웨어와 관련된 시스템 또는 아키텍처 제한으로 이어집니다. 엣지 처리를 배포하면 전력, 냉각, 공간 제약을 완화할 수 있는 방법을 쉽게 확인할 수 있지만, 일부 작업을 엣지에 배포하면 시스템 아키텍처 제한을 일상적으로 완화할 수 있습니다. 이렇게 하면 장기적으로 조직의 IT 서비스를 더 빠르게 확장할 수 있습니다.
• 데이터 절감: 좋은 것, 나쁜 것, 흉한 것 등을 가리지 않고 모든 데이터를 핵심 데이터 센터로 다시 보내는 것은 불필요할 때가 많고 경우에 따라 삭제 가능합니다. 예를 들어, 지형, 지상 인프라, 작물 등의 중요한 위성 이미지가 구름으로 가려질 때가 있습니다. 이런 이미지를 모두 지상 스테이션으로 보내 저장, 처리, 분석하는 것은 낭비가 될 수 있습니다. 엣지에서 수행되는 데이터 감소는 소스에서 불량 또는 중복 데이터를 제거하여 비용 효율성을 높일 수 있으며, 이를 통해 추가 데이터 전송 및 처리를 줄일 수 있습니다. 
• 데이터 프라이버시: 데이터 프라이버시 요건은 데이터를 처리하는 장소와 방법에 갈수록 더 많은 영향을 미치고 있습니다. 엣지 컴퓨팅은 데이터 레지던시 규칙이 엄격한 관할권에서는 실용적인 아키텍처 방식을 제시합니다. 데이터가 생성되는 곳에 더 가까운 곳에서 로컬로 처리함으로써 조직은 국가별로 보유할 개인 데이터를 보다 쉽게 결정할 수 있습니다. 엣지 배포는 데이터 이동을 제한하고 데이터 액세스 및 보존에 대한 보다 현지화된 제어를 가능하게 함으로써 인프라 전략을 지원할 수 있습니다.

데이터 처리의 엣지 이동이 유용한 이유를 설명하는 예시는 이 외에도 많습니다. 조직의 필요에 따라 다른 이점도 찾을 수 있습니다.

엣지 성장을 가속화하는 AI 추론

앞서 언급한 바와 같이, 시스템 제약을 완화하고, 응답 시간을 단축하고, 불필요한 데이터 전송과 처리를 제거할 수 있다면 무엇이든 엣지 처리를 고려할 가치가 있습니다. 대표적인 예가 AI 추론입니다.

앞서 언급한 대로 일원화된 데이터 센터는 전력과 냉각 상의 제약을 안고 있습니다. 일반적으로 대부분의 조직에서 AI 훈련 및 추론 인프라는 이러한 한계에 달하는 가장 큰 원인입니다. 대부분의 AI 모델 훈련을 수행하려면 대규모의 일원화된 GPU 가속 서버 클러스터가 필요하지만, AI 추론 솔루션 배포와 관련된 인프라 장애물은 훨씬 더 낮을 수 있습니다. 추론을 엣지로 옮기면 핵심 데이터 센터 전력 및 냉각 요건을 훨씬 더 지속 가능한 수준으로 줄일 수 있습니다. 또한 추론 처리 부하를 처리하기 위해 AI 인프라를 확장할 때 핵심 데이터 센터에서 모두 처리되는 것보다 여러 엣지 데이터 센터에서 수행하는 것이 훨씬 쉽습니다.

뿐만 아니라, AI 추론을 서비스가 사용되는 곳에 더 가깝게 옮기면 추론 응답 시간을 줄이는 데 도움이 될 수 있습니다. 엣지에서는 두 가지의 매우 다른 추론 프로필이 작동하며, 각각 별도의 스토리지 필요가 있습니다.

• 무상태 LLM/문자 채팅: CPU 중심이고, 지연 시간에 민감하며, 모델 로딩 후에는 대부분 읽기 전용인 스토리지는 빠른 순차 읽기와 비용 효율적인 용량에 중점을 두어야 합니다. 쓰기 내구성은 문제가 없기 때문에 고밀도 QLC SSD가 매우 적합합니다.
• 비전 + 센서 분석: 연속 영상, LiDAR, IoT 원격 측정을 수집하는 GPU/NPU 기반 파이프라인 워크로드는 랜덤 읽기와 일정한 소용량 쓰기(메타데이터, 기능 벡터, 롤링 버퍼)로 스토리지를 타격합니다. 높은 혼합 IOPS와 우수한 쓰기 내구성으로 24×7 캡처 사이클을 견딜 수 있습니다.

Solidigm이 중시하는 이유: 각 프로필에 적합한 SSD를 페어링하면 $/성능이 극대화되기 때문입니다. QLC 기반 Solidigm™ D5-P5336 드라이브는 대규모 LLM 저장소에서 빛을 발하는 반면, Solidigm TLC 기반 D7-Series 드라이브는 DWPD 쓰기 속도가 3 이상인 NAND에 가해지는 비전 작업 부하를 처리하여 과도한 프로비저닝 없이 수명을 늘립니다.  

성능 이외에 데이터 절감 역시 엣지에서 수행되는 작업의 또 다른 이점입니다. AI 추론은 갈수록 시스템에서 좋은 데이터와 나쁜 데이터, 중복 데이터를 구분하는 주요한 수단이 되고 있으며, 이에 따라 시스템 기능에 영향을 주지 않고 나쁜 데이터를 제거할 수 있게 되었습니다. 

마찬가지로, 규정상 국내 또는 기관에서 개인 데이터 처리가 필요할 수 있습니다. 엣지에서 추론을 수행하면 국경 요건을 충족하는 데 도움이 될 수 있습니다. 

조직이 엣지에 배포하여 시스템 목표를 달성하는 데 도움이 될 수 있는 IT 워크로드는 AI 추론 외에도 있습니다. 그러나 기업의 엣지 처리 배포가 정당한 여러 가지 이유를 보여주는 엣지 작업의 좋은 예시입니다. 

Solidigm의 장점

분산형 엣지 처리는 핵심 데이터 센터와 멀리 떨어져 있는 사용자를 보유한 조직에게 매우 적합합니다. 응답성은 엣지 처리를 도입하는 주요 동인이지만 유일한 동인은 아닙니다.

엣지 처리를 사용하여 소스에서 외부 데이터를 줄이고 제거하면 데이터 전송, 처리, 저장 비용을 모두 크게 줄일 수 있습니다. 또한 확장 시스템은 중앙 데이터 센터의 소프트웨어 및 하드웨어 한계로 이어지는 경우가 많지만, 엣지 처리를 배포하면 이러한 제약을 완화할 수 있습니다. 

AI 추론은 엣지 처리가 큰 혜택을 가져오는 대표적인 예입니다. 엔터프라이즈 IT에서 AI 애플리케이션이 보편화됨에 따라, 엣지에서 수행된 추론은 여러 가지 측면에서 기업의 성패를 좌우하는 결정이 될 수 있습니다.

스마트 데이터 인프라의 선택은 이 과정의 핵심입니다. Solidigm 제품 포트폴리오와 엣지 AI 권장사항에 대한 자세한 내용은 www.solidigm.com/ai에서 확인하십시오.