AI 데이터센터 인프라 경쟁의 무게중심이 GPU와 전력·냉각에서 데이터저장과 이동, 장기보존을 포함한 스토리지 아키텍처로 확대되고 있다.

 

AI가 학습데이터를 소비하는 데 그치지 않고 모델 체크포인트와 추론결과, 로그, 합성데이터 등 새로운 데이터를 지속적으로 생성하면서 컴퓨팅이 종료된 이후에도 데이터가 누적되기 때문이다. 과거 저장해 놓고 거의 사용하지 않았던 데이터까지 검색증강생성(RAG)과 AI추론의 입력자료로 다시 활용되면서 데이터센터의 스토리지 경제성도 변화하고 있다.

 

WD는 9월10일 글로벌 시장조사업체 IDC가 수행한 백서 ‘확장성을 위한 설계: AI시대 HDD의 지속적 역할(Built for Scale: The Enduring Role of HDDs in the AI Era)’을 공개했다.

 

이번 백서는 WD가 후원했으며 IDC가 2026년 5월 미국·사우디아라비아·독일·인도·중국·일본·한국 등 7개국 AI 인프라 및 데이터 스토리지 의사결정자 763명을 대상으로 조사했다. 조사대상기업은 직원 500명 이상이며 응답자는 관련 의사결정에 직접 참여하는 디렉터급 이상이다.

 

2026년 생성데이터 274ZB→ 2030년 718ZB

IDC는 전 세계에서 생성되는 데이터가 2026년 274.4ZB에서 2030년 연간 718.4ZB 이상으로 증가할 것으로 전망했다. 같은 기간 전 세계 설치 스토리지 용량도 13.1ZB에서 26ZB 이상으로 두 배 이상 확대될 것으로 예상했다. 생성되는 모든 데이터를 저장하는 것은 아니지만 AI 확산으로 보존가치가 있는 데이터 자체가 빠르게 늘고 있다는 분석이다.

 

조사대상 기업 및 기관의 94.7%는 최근 12개월 동안 AI와 생성형AI 도입으로 데이터량이 증가했다고 답했다. 이중 60.9%는 증가폭이 25% 이상이었다. 향후 증가속도는 더욱 빨라질 것으로 예상됐다. 응답자의 73.8%는 향후 3년간 데이터량이 25% 이상 증가할 것으로 예상했으며 50% 이상 증가할 것이라는 응답은 현재 16.1%에서 향후 30.5%로 약 두 배 확대됐다.

 

데이터 레이크도 같은 흐름을 보였다. 85.4%는 지난 12개월간 데이터 레이크 규모가 증가했다고 답했으며 85.8%는 향후 3~5년에도 증가할 것으로 내다봤다. 데이터 레이크 확대 요인으로는 합성데이터와 모델 로그, 추론결과 등 ‘AI 생성데이터’가 59.4%로 가장 높았으며 AI·머신러닝 학습데이터 확대가 50.1%로 뒤를 이었다.

 

백서는 이를 일시적인 데이터 증가가 아니라 AI 자체의 특성으로 인한 ‘누적적 성장(Compounding Expansion)’으로 규정했다. 데이터 생성과 보존이 반복되면서 스토리지 용량은 특정 시점의 투자로 해결되는 문제가 아니라 지속적으로 확대되는 인프라 과제가 된다는 것이다.

 

AI, ‘버리던 데이터’ 자산으로 전환

AI 확산은 데이터의 양뿐만 아니라 보존가치도 바꾸고 있다. 조사기업의 94.7%는 AI 및 생성형AI 도입 이후 기업이 보유한 데이터 가치가 상승했다고 답했으며 74.3%는 데이터를 이전보다 장기간 보존하게 됐다고 밝혔다.

 

IDC는 특히 과거 활용도가 낮았던 데이터를 AI가 다시 가치 있는 자원으로 바꾸고 있다는 점에 주목했다. 감시영상은 컴퓨터비전 모델로 다시 분석되고 통신사는 과거 네트워크 데이터를 고객행동모델 학습에 활용하고 있다. 공공기관에서는 수십년간 축적된 종이기록을 디지털화해 AI 학습데이터로 전환하는 사례도 나타나고 있다.

 

과거에는 저장할 필요가 없다고 판단했던 데이터까지 미래 AI 활용 가능성을 이유로 보존대상이 되고 있는 것이다.

 

데이터의 경제적 가치 자체도 변하고 있다. 조사기업의 90% 이상은 이전보다 데이터셋을 더 많이 구매하거나 판매하고 있다고 답했다. 44.8%는 구매와 판매가 모두 늘었다고 응답했다. 또한 73%는 대규모 고품질 데이터셋이 AI 모델 정확도 개선에 ‘매우 중요하다’고 평가했다.

 

RAG, 콜드데이터 깨운다

가장 큰 변화는 아카이브 데이터에서 나타났다. 응답자의 75.9%는 AI 워크로드를 지원하기 위해 기존 콜드스토리지에 저장했던 데이터를 온라인으로 다시 가져오는 규모가 증가하고 있다고 답했다. 이중 23.9%는 증가폭이 크다고 답했다.

 

RAG와 AI 추론 확대가 배경이다. 전체 응답자의 96%는 AI 추론이나 RAG 파이프라인을 위해 기존 아카이브 데이터에 더욱 빠르게 접근해야 할 것으로 예상했다. 45.3%는 이러한 요구가 크게 증가할 것으로 전망했다.

 

과거 콜드스토리지는 장기간 보관하면서 거의 접근하지 않는 데이터를 대상으로 했지만 RAG는 기업 내부 문서나 과거 데이터베이스를 실시간에 가깝게 검색해 생성형AI 모델의 답변에 활용한다. 이에 따라 IDC는 기존 콜드와 웜스토리지의 경계가 흐려지고 있다고 분석했다. 아카이브가 단순한 ‘수동적 저장소(Passive Repository)’에서 실제 AI 워크로드에 데이터를 공급하는 ‘능동적 인프라(Active Infrastructure)’로 바뀌고 있다는 것이다.

 

AI 데이터 3/4, 고성능 스토리지 밖에 존재

이번 조사에서 주목되는 또 다른 부분은 실제 데이터가 위치하는 스토리지 계층이다. 기업이 보유한 전체 데이터 중 핫(Hot)스토리지는 평균 25.4%였다. 웜(Warm)은 26.5%, 쿨(Cool)은 25.1%, 콜드(Cold)는 23.0%로 웜·쿨·콜드 계층을 합하면 전체 데이터의 74.6%에 달했다.

 

AI 데이터의 대부분을 초고성능 스토리지에 저장할 필요는 없다는 의미다. IDC는 이를 근거로 HDD와 SSD를 경쟁관계가 아닌 상호보완적인 기술로 규정했다. 저지연과 높은 처리속도가 필요한 워크로드는 SSD가 담당하고 대규모 용량과 장기간 보존, TB당 비용이 중요한 데이터는 HDD가 담당하는 계층형 스토리지 구조가 AI 환경에서도 지속될 것으로 분석했다.

 

특히 모델 학습과 장기보존의 스토리지 요구조건이 크게 달랐다.AI 수명주기를 △데이터 수집·전처리 △모델 학습 △추론 △AI 생성데이터 저장 △장기보존·아카이브 등 5단계로 나눠 조사한 결과 모델 학습에서는 45.5%가 처리량과 지연시간 등 성능을 가장 중요한 요소로 꼽았다.

 

반면 데이터 수집에서는 신뢰성이 상대적으로 높았으며 추론에서는 성능과 신뢰성을 함께 평가한 응답이 가장 많았다. AI 생성데이터 저장에서는 양쪽이 비슷했으며 장기보존·아카이브에서는 신뢰성·데이터 내구성이 성능을 크게 앞섰다. AI 스토리지 설계를 GPU 학습성능만 기준으로 구성할 경우 전체 데이터 수명주기의 실제 요구조건과 괴리가 발생할 수 있다는 분석이다.

 

스토리지 병목, 비싼 GPU도 세운다

스토리지는 AI 데이터센터의 투자수익률(ROI)과도 직접 연결된다. IDC는 GPU가 데이터를 기다리며 유휴상태에 들어가면 고가 컴퓨팅자원의 비용손실이 빠르게 누적될 수 있다고 지적했다. 이에 따라 AI 투자에서 스토리지가 단순 지원설비가 아니라 AI ROI를 결정하는 주요 인프라 요소로 변화하고 있다고 분석했다.

 

AI 스토리지의 가장 큰 우려요소에서도 성능만이 압도적인 요소는 아니었다. 보안·데이터보호가 58.1%로 가장 높았으며 신뢰성·데이터 내구성 49.7%, 성능 48.4%, 스토리지 비용 44.2%, 데이터 이동·계층관리 복잡성 37.5%, 확장성 37.5%, 전력소비·랙밀도 34.5% 등이 고르게 나타났다.

 

여러 스토리지 계층을 운영하는 복잡성도 커지고 있다. 응답자의 50.6%는 AI 워크로드를 위한 다계층 스토리지 관리가 ‘복잡하다’고 답했으며 이중 10.1%는 ‘매우 복잡하다’고 평가했다.

 

TB당 TCO 98.2% “중요”… HDD·SSD 경제성 계층별 달라

스토리지 비용도 중요한 변수다. 응답자의 98.2%는 스토리지 선택에서 TB당 TCO를 중요하거나 매우 중요한 판단요소로 평가했다. 핫과 웜스토리지에서는 SSD의 TB당 TCO가 더 낮다고 평가한 응답이 HDD보다 다소 많았다. 쿨스토리지에서는 양쪽이 통계적으로 비슷했으며 콜드스토리지에서는 HDD가 우위를 보였다. IDC는 대용량 데이터가 집중되는 Capacity Tier에서는 HDD의 경제성이 최소한 경쟁력을 유지하거나 더 유리하다고 평가했다.

 

에너지효율에서도 SSD에 대한 인식이 다소 앞섰다. AI 스토리지 선택에서 에너지효율이 중요하거나 매우 중요하다는 응답은 99.2%에 달했으며 어느 기술이 더 효율적이라고 보는지를 묻는 질문에서는 SSD 49.3%, HDD 40.8%, 차이가 없다는 응답이 10%였다. 이는 AI 스토리지시장이 특정 저장매체 하나로 통합되기보다는 워크로드에 따라 SSD와 HDD가 혼용되는 하이브리드 구조로 전개될 가능성을 뒷받침한다.

 

실제 조사기업의 AI 워크로드용 스토리지 사용현황에서도 클라우드스토리지가 74.8%로 가장 높았으며 HDD 공급사의 JBOD·JBOF 플랫폼은 57.8%, HPE·Dell 등 전통적인 OEM 시스템은 55.2%, 자체구축·ODM은 21.0%였다. IDC는 이 수치가 시장점유율이 아닌 ‘도입 여부’를 의미하며 HDD 플랫폼시장은 클라우드 및 기존 OEM과 비교해 아직 초기단계라는 점도 함께 명시했다.

 

HDD, ‘아카이브용’서 AI 데이터 백본으로

IDC는 HDD의 역할도 기존 장기보관용 저장장치에서 AI 데이터 수명주기 전반으로 확대되고 있다고 평가했다. 원시데이터와 과거데이터를 처음 수집하는 단계부터 대규모 학습데이터 준비, 모델 체크포인트 저장, 추론 백본스토리지, AI 생성데이터 축적, 장기보존에 이르기까지 HDD가 활용되고 있다는 것이다. 모델 학습 중 실제 활성연산에는 SSD와 GPU 메모리가 사용되더라도 이를 뒷받침하는 대규모 데이터를 HDD가 저장하는 구조다.

 

향후 HDD 용량확대의 기술적 기반으로는 HAMR(Heat-Assisted Magnetic Recording: 열보조 자기기록) 등 기록밀도 향상기술도 제시됐다. IDC는 HDD의 TB당 비용경쟁력이 유지되는 가운데 기록밀도와 처리량, 전력효율이 개선되면서 대규모 Capacity Tier에서 역할이 지속될 것으로 전망했다.

 

어빙 탄(Irving Tan) WD CEO는 “지난 수년간 AI 인프라에 대한 논의는 컴퓨팅을 중심으로 이어져 왔지만 AI의 기반은 결국 데이터”라며 “기업들은 더 많은 데이터를 생성하고 더 오래 보존하는 동시에 이미 보유한 데이터에서 새로운 가치를 창출하는 방법을 찾고 있다”고 밝혔다.

 

이어 “컴퓨팅 수요는 시간이 지나면서 변화할 수 있지만 대규모 환경에서 데이터를 저장·관리하고 필요할 때 접근해야 하는 수요는 계속 증가할 것”이라며 “이러한 데이터 기반이 AI가 얼마나 확장될 수 있는지를 결정하는 핵심 요소가 될 것”이라고 강조했다.

 

백서는 AI 스토리지 아키텍처가 가장 빠른 ‘핫티어’만을 기준으로 설계되는 방식에서 데이터 수집·학습·추론·생성데이터 저장·장기보존을 함께 고려하는 구조로 변화하고 있다고 분석했다.

 

특히 RAG와 AI 추론이 과거의 콜드데이터를 다시 실시간 워크로드로 끌어들이면서 데이터센터 스토리지의 핵심 경쟁요소도 ‘얼마나 빨리 저장하느냐’에서 ‘얼마나 많은 데이터를 경제적으로 보존하고 필요할 때 다시 공급할 수 있느냐’로 확대되고 있다.