AI 발전에 따라 투자 내러티브도 변화하고 있습니다. 처음에는 연산반도체 GPU가 주목 받았지만, 이제는 데이터를 저장하고 실어나르는 메모리반도체가 주요 투자처로 주목 받고 있죠. 그 흐름을 놓쳤다면, 또는 내용이 너무 어려워서 쫓아가지 못하고 있었다면 오늘 포스팅에 주목해 주세요! AI 시대에 메모리가 왜 가장 큰 '병목'이 됐는지, 그리고 그 병목이 구체적으로 어떻게 확산되고 있는지(HBM>DRAM>NAND) 찬찬히 짚어보겠습니다.

1. 속도 전쟁의 승부처, HBM

시작하기 전, 먼저 가벼운 비유로 각 반도체의 역할을 짚어볼까요? 복잡한 반도체 세계도 주방에 비유하면 이해가 한결 편해집니다. CPU는 주방 전체를 지휘하는 주방장으로, 일의 순서를 정하고 관리합니다. GPU는 재료를 손질하는 직원들로, 단순 반복작업을 빠르게 해내죠. HBM은 속도가 중요한 재료 손질 작업에 붙는 재료 냉장고·컨베이어벨트라고 볼 수 있습니다. GPU가 쉬지 않고 일하도록 꼭 필요한 재료들을 저장했다 순식간에 대령하는 역할을 하죠.

병목은 여기서 발생합니다. GPU는 엄청나게 빨라졌는데, 재료(데이터) 공급 속도가 작업(연산) 속도를 못 따라가기 시작했습니다. 이렇게 '연산 능력'과 '데이터 공급 속도' 사이에 생긴 벽을 ‘메모리 장벽(Memory Wall)’이라고 합니다.

실제로 거대한 AI 모델은 복잡한 계산 자체보다 데이터를 이리저리 옮기는 데 더 많은 시간과 전력을 씁니다. 결국 AI 서버의 진짜 성능은 GPU가 얼마나 빠른지가 아니라, HBM이 데이터를 얼마나 빨리, 많이 공급하느냐에 좌우되는 구조가 된 것입니다. 이것이 바로 메모리, 특히 HBM이 'AI 시대 최대 병목'으로 떠오른 이유입니다.

2. 추론 시대, 속도 다음은 용량 싸움, DRAM

메모리 병목은 HBM에서 끝나지 않습니다. AI가 '학습'에서 '추론'으로 진화하면서 병목은 DRAM으로 확산됐습니다.

핵심은 KV 캐시(KV Cache)입니다. 학습 단계와 달리, 사용자가 AI에게 질문을 하고 답을 받는 추론 단계에서는 AI가 작업을 이어가기 위해 앞서 나눈 내용을 계속 기억해야 합니다. 이 기억 메모(문맥 데이터)를 바로 KV 캐시라고 불러요.

문제는 HBM만으로는 KV 캐시를 다 담을 수 없다는 점입니다. HBM은 빠르지만 용량이 작고 비싸기 때문이죠. 그래서 HBM이 미처 감당하지 못하는 데이터를 상대적으로 저렴하고 용량 큰 DRAM으로 밀어내 보관하게 됩니다. 학습이 '속도(HBM)' 싸움이었다면, 추론은 여기에 '용량(DRAM)' 싸움이 더해진 양상입니다.

뿐만 아니라 HBM 가격이 먼저 큰 폭으로 오르자 제조사들은 수익성이 높은 HBM 쪽으로 생산 능력(캐파)를 집중했어요. 때문에 DRAM 생산량을 늘리기가 어려워진 점도 병목을 심화시키는 요인입니다.

3. 기억이 눈덩이처럼 불어나는 에이전트 시대, NAND

최근에는 한 단계 더 나아간 'AI 에이전트' 시대가 도래하면서, NAND가 새로운 병목이자 핵심 변수로 떠올랐어요. 스스로 판단해 여러 단계를 처리하는 에이전틱 AI가 늘어날수록 기억해야 할 메모(KV 캐시)의 양은 눈덩이처럼 불어납니다. 에이전트가 24시간 알아서 일하며 맥락을 축적하기 때문이죠.

이로 인해 당장 급한 데이터, 주로 쓰는 데이터만 HBM, DRAM에 두고, 덜 급한 데이터는 값싸고 용량 큰 NAND(SSD)로 내려보내는 '오프로딩(offloading, 짐 덜어내기)' 방식이 본격화됐어요. 초대형 모델을 담기 위해 100TB가 넘는 SSD도 출시되었는데, 이런 SSD 하나에는 NAND 칩이 수백 개씩 들어가요. 스마트폰·노트북에 기대던 과거와는 수요의 규모 자체가 다른 셈입니다.

여기서 한걸음 더 나아가 볼까요? 지금의 AI는 화면 속 대화에 머물러있지만, 앞으로는 로봇이나 자율주행 자동차처럼 현실 세계에서 움직이고 판단하는 ‘피지컬 AI’로 확장될 전망입니다. 이 단계에서는 카메라·센서로 들어오는 방대한 현실 데이터를 실시간으로 처리하고, 지나온 경험을 계속 쌓아 학습하고, 이를 기반으로 상황을 즉각적으로 판단, 대처해야 합니다. 다시 말해 HBM, DRAM, NAND 모든 종류의 메모리 수요가 동시에 커질 수 있다는 뜻이죠.

HBM, DRAM, NAND 풀 커버하려면, PLUS SK하이닉스샌디스크채권혼합50 (8/4 상장 예정)

이렇듯 메모리반도체 병목은 HBM으로 시작해 DRAM, NAND로까지 확산되고 있습니다. 중요한 것은 이전 병목이 해결된 것이 아니라, 누적 확장되고 있다는 점입니다. HBM과 DRAM, NAND를 전반적으로 바라봐야 하는 이유입니다.

그렇다면 투자처는 어떤 관점에서 살펴봐야 할까요? 메모리 반도체 전반을 커버하는 것은 물론, 다른 사업을 영위하지 않아 매출의 대부분이 메모리에서 나오는 ‘퓨어 플레이어’를 살펴보는 것도 유효한 전략이 될 수 있습니다. 메모리반도체에 집중투자 하고 싶다면, 메모리 퓨어 플레이어 SK하이닉스와 NAND 퓨어 플레이어인 샌디스크 두 종목을 각각 25%씩 담은 ‘PLUS SK하이닉스샌디스크채권혼합50 ETF'(8/4 상장 예정)와 함께해보세요!

※ 26.06.30 지수 기준, 출처 한화자산운용

※ 실제 펀드에서 투자하고 있는 구성종목 비중은 시점에 따라 상이할 수 있으며, 구성종목은 시장 상황에 따라 추후 변동될 수 있습니다.

자주묻는질문(FAQ)

Q. 연산반도체와 메모리반도체는 뭐가 다른가요?

A. CPU(중앙처리장치), GPU(그래픽처리장치) 등 연산반도체는 데이터를 계산하고 처리하는 역할(두뇌)을 맡습니다. HBM, DRAM, NAND 등 메모리반도체는 데이터를 저장하고, 필요한 데이터를 빠르게 읽고 쓰는 역할(기억력)을 담당합니다.

Q. AI 시대에 메모리반도체가 중요한 이유는 무엇인가요?

A. 인공지능(AI)이 발전하면서 데이터를 더 빨리, 더 많이 저장하고 불러오는 능력이 어느 때보다 중요해졌습니다. 복잡한 AI 연산에서 데이터를 실어나르는 속도가 성능 전체를 좌우하기 때문에, HBM·DRAM·NAND 같은 메모리반도체가 AI 시대의 병목을 해소하는 핵심이 되고 있습니다.

Q. HBM, DRAM, NAND는 어떻게 다른가요?

A. HBM은 초고속·소용량의 고가 메모리, DRAM은 속도와 용량의 균형이 강점인 중간급 메모리, NAND는 대용량·저가 메모리입니다.

Q. HBM, DRAM, NAND 중 가장 중요한 것은 무엇인가요?

학습>추론>AI에이전트>피지컬AI로 AI가 발전하는 과정에서 HBM>DRAM>NAND 순으로 병목이 확장되고 있습니다. 다만, 이전의 병목이 해소되는 것이 아니라 누적 확산되고 있기 때문에, 모두 중요하다고 할 수 있습니다.

Q. SK하이닉스와 샌디스크는 어떤 사업을 하는 기업인가요?

SK하이닉스는 HBM, DRAM, NAND를 모두 만드는 메모리 퓨어 플레이어, 샌디스크는 NAND 퓨어 플레이어 기업입니다.

[ETF 개요]

• 한화 PLUS SK하이닉스샌디스크채권혼합50증권상장지수투자신탁(채권혼합) (종목코드 : A0226A0)

• 투자위험등급 : 4등급 (보통 위험)

• 총보수(연) : 0.25% (집합투자업자 보수 0.224%, 지정참가회사보수 0.001%, 신탁업자보수 0.015%, 일반사무관리회사보수 0.01%)

[투자 유의사항]

※투자자는 집합투자증권에 대하여 금융상품판매업자로부터 충분한 설명을 받을 권리가 있으며, 투자전 (간이)투자설명서 및 집합투자규약을 반드시 읽어보시기 바랍니다. ※이 금융상품은 예금자보호법에 따라 보호되지 않습니다. ※집합투자증권은 자산가격 변동, 환율 변동, 신용등급 하락 등에 따라 투자원금의 손실(0~100%)이 발생할 수 있으며, 그 손실은 투자자에게 귀속됩니다. ※ETF거래 총 보수 이외에 ETF거래수수료, 증권거래비용 및 기초지수사용료 등의 기타비용이 추가적으로 발생가능 합니다. ※ETF의 추적오차와 괴리율이 커질 경우 투자손실이 발생할 수 있습니다. ※ETF의 운용전략이 구체화된 자산구성내역(PDF)를 한국거래소 또는 당사 홈페이지에서 확인하시기 바랍니다. ※이 투자신탁은 반도체산업이라는 특정한 주제를 가지고 투자하는 투자신탁입니다. 그러므로 특정한 업종에 집중적으로 투자할 수 있기 때문에 특정 업종의 성과에 따라 투자신탁의 성과가 좌우될 수 있습니다. ※한화자산운용(주) 준법감시인 심사필 제2026-442호(2026.07.24~2027.07.23)