HBM4는 왜 중요한가? Rubin 시대 AI 메모리 경쟁의 시작

 저는 아이폰 4S 때부터 계속 아이폰을 사용하고 있습니다.

예전에는 아이폰의 램 용량이 삼성 갤럭시보다 낮아도 크게 불편하다고 느끼지 않았습니다. 애플이 하드웨어와 소프트웨어 최적화를 잘해서 실제 사용감은 충분히 부드러웠기 때문입니다. 당시에는 단순 스펙표만 보고 램 용량을 비교하는 것이 큰 의미가 없다고 생각했습니다.

그런데 최근에는 조금 다르게 느낍니다.

앱은 점점 무거워지고, 사진과 영상 처리도 많아졌고, 여기에 AI 기능까지 들어오기 시작했습니다. 예전처럼 프로세서 성능과 최적화만으로 모든 것을 해결하기에는 메모리 사용량 자체가 너무 커지고 있습니다. 애플도 최근 아이폰에서 램 용량을 늘리고 있지만, 절대적인 램 용량만 놓고 보면 여전히 삼성 플래그십 대비 보수적인 편입니다.

이 흐름을 보면서 AI 반도체도 비슷하다는 생각이 들었습니다.

AI 시대에는 연산 성능만큼 메모리가 중요합니다.

GPU가 아무리 빨라도 데이터를 가져오지 못하면 성능을 낼 수 없습니다. AI 모델이 커지고, 추론량이 늘어나고, 에이전트 AI처럼 여러 단계를 스스로 판단하는 구조가 되면 GPU는 더 많은 데이터를 더 빠르게 읽어야 합니다.

그래서 HBM3E도 아직 부족한데, 시장은 벌써 HBM4로 이동하고 있습니다.

오늘은 HBM4가 왜 필요한지, HBM3E와 무엇이 달라지는지, SK hynix·삼성전·Micron의 경쟁 구도는 어떻게 바뀌는지, 그리고 투자자가 HBM4 시대에 무엇을 봐야 하는지 정리해보겠습니다.

1. HBM4가 필요한 이유

HBM은 AI GPU 옆에 붙는 고대역폭 메모리입니다. 이전 글에서 이미 HBM의 구조와 CoWoS 연결 방식은 다뤘기 때문에 여기서는 핵심만 짚겠습니다.

HBM은 GPU가 계산할 데이터를 빠르게 공급하는 메모리입니다.

AI GPU는 수많은 연산을 동시에 처리합니다. 하지만 연산할 데이터가 제때 들어오지 않으면 GPU는 기다릴 수밖에 없습니다. 이때 병목을 줄이기 위해 GPU 바로 옆에 초고속 메모리를 붙이는 방식이 HBM입니다.

문제는 AI 모델이 계속 커지고 있다는 점입니다.

NVIDIA Blackwell 세대는 이미 HBM3E를 대량으로 사용합니다. 그런데 Rubin 세대부터는 HBM4가 본격적으로 필요해집니다. NVIDIA Rubin 플랫폼은 더 큰 모델, 더 많은 추론, 더 복잡한 AI 작업을 처리해야 하기 때문에 메모리 대역폭과 용량이 동시에 커져야 합니다.

NVIDIA는 GTC에서 공개한 차세대 로드맵을 통해 Rubin 플랫폼에 HBM4를, Rubin Ultra에는 HBM4E를 적용할 계획을 제시했습니다. SemiAnalysis는 Rubin GPU가 개별 GPU당 최대 288GB의 HBM4를 탑재하고, 메모리 대역폭은 초당 약 22TB에 이를 것으로 전망했습니다. Blackwell Ultra의 약 8TB와 비교하면 HBM4는 단순한 메모리 세대교체가 아니라 AI GPU 성능을 뒷받침하는 핵심 변화라고 볼 수 있습니다.

즉 HBM4는 선택이 아닙니다.

Rubin 이후 AI GPU가 제 성능을 내려면 HBM4가 필요합니다.

2. HBM3E와 HBM4의 가장 큰 차이

HBM4의 핵심 변화는 단순히 용량이 늘어나는 것이 아닙니다.

가장 중요한 변화는 I/O 폭 확대와 베이스 다이 고도화입니다.

JEDEC JESD270-4는 HBM4에서 버스 폭을 기존 HBM 세대의 1,024비트에서 2,048비트로 확대하는 방향을 제시했습니다. 쉽게 말하면 GPU와 메모리 사이의 데이터 통로가 더 넓어지는 것입니다.

기존 도로가 4차선이었다면, HBM4는 8차선으로 넓어지는 느낌에 가깝습니다. 물론 실제 반도체 구조는 훨씬 복잡하지만, 투자자 관점에서는 데이터가 오가는 길이 넓어진다는 점이 중요합니다.

또 하나 중요한 변화는 베이스 다이입니다.

HBM3E까지는 베이스 다이가 상대적으로 단순한 역할을 했습니다. 하지만 HBM4에서는 베이스 다이가 더 많은 제어 기능을 맡게 됩니다. 전력 분배, 신호 제어, 테스트 효율, 메모리 컨트롤 기능이 더 중요해지면서 베이스 다이는 사실상 로직 칩에 가까워지고 있습니다.

이 변화는 공급망을 바꿉니다.

SK hynix와 Micron은 HBM4 베이스 다이에서 TSMC의 선단 로직 공정을 활용하는 방향으로 움직이고 있습니다. 반면 삼성전자는 메모리와 파운드리를 모두 보유한 장점을 활용해 자체 4nm 기반 베이스 다이를 내세우는 전략을 가져가고 있습니다.

HBM4부터는 메모리 회사만 잘한다고 끝나는 싸움이 아닙니다.

DRAM 다이, 베이스 다이, 로직 파운드리, CoWoS, 테스트까지 모두 맞아야 합니다. 그래서 HBM4 경쟁은 단순 메모리 경쟁이 아니라 AI 반도체 공급망 전체 경쟁에 가깝습니다.

3. SK hynix는 선두를 지킬 수 있을까

현재 HBM 시장의 가장 강한 기업은 SK hynix입니다.

Counterpoint Research는 2025년 HBM 매출 기준 SK hynix의 점유율을 약 58~61% 수준으로 제시했습니다. 같은 기준에서 삼성전와 Micron은 각각 약 21% 수준으로 정리됐습니다.

이 숫자가 중요한 이유는 HBM 시장이 단순한 범용 DRAM 시장과 다르기 때문입니다. HBM은 고객사와의 조기 협력, 품질 검증, 패키징 호환성, 장기 공급 계약이 모두 중요합니다. 한 번 주요 고객사의 플랫폼에 들어가면 다음 세대까지 이어질 가능성이 커집니다.

SK hynix는 NVIDIA와의 협력에서 가장 앞선 위치를 유지하고 있습니다. SemiAnalysis는 Rubin 플랫폼 초기 HBM4 공급 물량의 약 3분의 2를 SK hynix가 확보한 것으로 전망했습니다. 이는 HBM4 초반 시장 주도권을 판단하는 중요한 지표입니다.

다만 SK hynix에도 약점은 있습니다.

자체 선단 파운드리가 없기 때문에 HBM4의 베이스 다이는 TSMC와의 협력이 필수적입니다. TrendForce와 SemiAnalysis는 SK hynix가 TSMC의 N5 공정을 활용한 베이스 다이를 적용하고, 이후 HBM4E에서는 N3 계열 공정까지 확대할 가능성을 언급했습니다. HBM4부터는 메모리 제조 기술뿐 아니라 선단 로직 공정 확보도 경쟁력의 중요한 요소가 됩니다.

생산능력 확대도 공격적으로 진행하고 있습니다. SK hynix는 청주 M15X를 HBM 전용 생산기지로 육성하고 있으며, 용인 반도체 클러스터 투자까지 포함해 약 50조 원 규모의 중장기 투자 계획을 발표했습니다. HBM 수요가 빠르게 증가하는 만큼 생산능력을 선제적으로 확보해 시장 지배력을 유지하려는 전략으로 해석됩니다.

정리하면 SK hynix의 강점은 명확합니다.

NVIDIA와의 조기 협력, HBM 양산 경험, 높은 시장점유율, TSMC와의 협력 구조입니다.

HBM4 초반에도 SK hynix가 가장 유리한 위치에 있는 이유입니다.

4. 삼성전자의 반격 포인트

삼성전자는 HBM3E 경쟁에서 SK hynix보다 늦었다는 평가를 받았습니다.

하지만 HBM4에서는 이야기가 조금 달라질 수 있습니다. 이유는 삼성전자가 메모리, 파운드리, 패키징을 모두 가지고 있기 때문입니다.

삼성전자는 HBM4에서 자체 10nm급 6세대 DRAM 공정과 자체 4nm 파운드리 기반 베이스 다이를 결합하는 전략을 추진하고 있습니다. 삼성전자는 2026년 2월 HBM4 상업 양산을 공식 발표하며 HBM4 시장 선점을 위한 경쟁에 본격적으로 뛰어들었습니다

이 부분은 삼성전자 입장에서 중요합니다.

HBM4는 베이스 다이의 중요성이 커지는 세대입니다. SK hynix와 Micron은 TSMC와 협력해야 하지만, 삼성전자는 자체 파운드리를 활용할 수 있습니다. 물론 이것이 무조건 장점으로만 작동하는 것은 아닙니다. 파운드리 수율, 고객사 검증, 패키징 호환성까지 모두 통과해야 하기 때문입니다.

하지만 구조적으로 보면 삼성전자는 턴키 전략을 내세울 수 있습니다.

메모리 다이, 베이스 다이, 파운드리, 패키징을 한 회사 안에서 조율할 수 있다는 점은 HBM4 세대에서 분명한 차별화 요소입니다. 특히 고객사가 공급망 다변화를 원한다면 삼성전자는 중요한 대안이 될 수 있습니다.

삼성전자가 실제로 HBM4에서 반격하려면 NVIDIA 검증, 수율 안정화, 대량 공급능력, 가격 경쟁력을 모두 증명해야 합니다.

즉 삼성전자의 HBM4는 가능성은 크지만, 아직은 검증 통과와 고객사 확대가 핵심 변수입니다.

5. Micron은 작지만 무시하기 어렵습니다

Micron은 SK hynix와 삼성전자보다 HBM 시장점유율은 낮지만, 최근 존재감이 커지고 있습니다.

Micron은 HBM3E 12-Hi 제품을 앞세워 AI 메모리 시장에서 빠르게 존재감을 키우고 있습니다. Micron은 2026년과 2027년 공급 가능한 HBM 물량이 이미 모두 고객사와 계약을 마쳤다고 밝혔습니다. 이는 AI 메모리 수요가 여전히 공급을 크게 웃돌고 있으며, HBM 시장이 장기 공급 계약 중심으로 움직이고 있다는 점을 보여줍니다.

Micron의 강점은 지정학입니다.

미국 기업이라는 점은 미국 빅테크, 금융, 정부 데이터센터 고객에게 의미가 있습니다. 미국 내 반도체 공급망 재편 흐름이 강해질수록 Micron의 전략적 가치는 커질 수 있습니다.

Micron은 HBM4 초기 제품에는 1-beta DRAM 공정을 활용하고, 이후 HBM4E에서는 1-gamma 공정으로 전환하는 방향을 제시하고 있습니다. 또한 베이스 다이에서는 TSMC와 협력하는 구조를 가져갑니다.

Micron의 약점은 생산 규모입니다. SK hynix처럼 압도적인 HBM 점유율을 갖고 있지는 않습니다. 하지만 HBM 시장이 워낙 타이트하기 때문에, 공급 가능한 물량 자체가 프리미엄을 받을 수 있습니다.

특히 HBM4와 HBM4E로 넘어가면서 고객사들이 공급처를 다변화하려고 한다면 Micron은 의미 있는 3번째 축이 될 수 있습니다.

6. HBM4는 새로운 병목도 만든다

HBM4는 AI GPU 성능을 끌어올리지만, 동시에 새로운 병목을 만듭니다.

첫 번째는 베이스 다이입니다.

HBM4부터 베이스 다이는 단순한 하부 연결층이 아니라 로직 기능을 더 많이 담당합니다. 이 때문에 TSMC나 삼성 파운드리 같은 선단 로직 공정이 필요해집니다. 메모리 기업의 HBM 생산능력만 늘리면 되는 것이 아니라, 선단 파운드리 캐파까지 함께 확보해야 합니다.

두 번째는 CoWoS입니다.

Silicon Analysts는 TSMC의 CoWoS 생산능력이 2026년 말 월 13만 장 이상으로 확대될 수 있다고 봤습니다. 하지만 같은 내용에서 NVIDIA가 향후 2년 가용 물량의 60% 이상을 선점한 것으로 정리됐습니다. HBM4 수요가 늘어도 CoWoS 슬롯이 부족하면 최종 AI GPU 출하는 제한될 수 있습니다.

세 번째는 ABF 기판입니다.

SemiAnalysis는 Rubin 가속기에 사용되는 고사양 패키지 기판의 내부 적층 구조가 16~18층까지 확대되고, 기판 면적도 이전 세대보다 3.5배 이상 커질 것으로 전망했습니다. AI GPU가 대형화될수록 Ibiden과 Unimicron 같은 고사양 ABF 기판 업체의 역할도 더욱 중요해집니다. 동시에 기판 생산 난이도와 리드타임도 늘어나면서 ABF 기판은 새로운 공급망 병목으로 떠오르고 있습니다.

네 번째는 테스트입니다.

HBM4는 적층 구조가 더욱 복잡해지고 신호 검증 난이도도 크게 높아집니다. Mordor Intelligence는 Rubin 같은 차세대 AI 가속기 도입으로 테스트 시간과 검사 항목이 기존 세대보다 2배 이상 증가할 것으로 분석했습니다. HBM4 공급망 분석에서는 실제 검사 시간이 기존 대비 최소 2.5배 이상 늘어날 가능성도 제시됐습니다. 테스트 시간이 길어질수록 Advantest와 Teradyne 같은 테스트 장비 업체의 중요성도 함께 커질 수밖에 없습니다.

마지막은 전력과 냉각입니다.

HBM4 시대는 메모리만 바뀌는 것이 아닙니다. GPU와 랙 전체의 전력 밀도도 함께 높아집니다. NVIDIA가 공개한 Rubin 로드맵에서는 Rubin GPU 카드의 소비전력이 1,800W~2,300W 수준까지 증가하고, Rubin Ultra NVL576 시스템은 최대 600kW급 랙 전력을 목표로 하고 있습니다. 이 정도 수준이면 HBM4뿐 아니라 전력 공급과 액체 냉각까지 함께 확대되지 않으면 AI 인프라 전체가 새로운 병목에 직면할 가능성이 큽니다.

이 정도 수준이면 기존 공랭식 데이터센터로는 대응이 어렵습니다. HBM4는 메모리 기술이지만, 실제로는 파운드리, 패키징, 기판, 테스트, 전력, 냉각까지 모두 흔드는 변화입니다.

7. HBM 시장은 얼마나 커질까

HBM 시장 전망은 기관마다 차이가 큽니다.

Goldman Sachs는 HBM 시장이 2026년 560억 달러, 2027년 1,160억 달러, 2028년 1,680억 달러까지 커질 수 있다고 봤습니다. 이 전망은 HBM4 가격 인상과 AI ASIC용 HBM 수요 증가를 강하게 반영한 시나리오입니다.

Yole Group은 더 보수적인 시각을 제시했습니다. Yole Group은 HBM 시장이 2024년 170억 달러에서 2026년 460억~600억 달러 수준으로 커지고, 2030년에는 980억~1,000억 달러 규모에 도달할 수 있다고 봤습니다. Yole Group은 장기 연평균 성장률을 약 33% 수준으로 제시했습니다.

두 전망의 차이는 큽니다.

Goldman Sachs는 가격 인상과 수요 폭증을 더 강하게 봅니다.

Yole Group은 생산능력, 수율, 고객사의 비용 부담을 더 보수적으로 봅니다.

투자자 입장에서는 어느 쪽이 맞는지 단정할 필요는 없습니다. 중요한 것은 두 기관 모두 HBM 시장의 장기 성장을 인정하고 있다는 점입니다. 차이는 성장의 속도와 가격 유지력입니다.

HBM4 시대의 핵심은 단순 물량 증가가 아닙니다.

HBM이 AI 반도체 원가 구조와 공급망 협상력을 좌우하는 핵심 부품으로 올라섰다는 점입니다.

8. 투자자는 무엇을 봐야 할까

HBM4 시대 투자 포인트는 단순합니다.

첫째, SK hynix의 선두 유지 여부입니다.

Counterpoint Research가 제시한 2025년 HBM 매출 점유율 58~61%와 Rubin 초기 HBM4 물량 3분의 2 선점 구도는 SK hynix의 가장 강한 투자 포인트입니다. 다만 TSMC 의존도와 HBM4E 이후 경쟁 심화는 계속 봐야 합니다.

둘째, 삼성전자의 검증 통과입니다.

삼성전자는 HBM4에서 자체 4nm 베이스 다이와 턴키 전략을 내세우고 있습니다. 만약 주요 고객사 검증을 빠르게 통과하고 대량 공급을 안정화한다면 HBM3E에서 밀렸던 구도를 HBM4에서 일부 회복할 수 있습니다.

셋째, Micron의 공급 다변화 수혜입니다.

Micron은 규모는 작지만 미국 공급망이라는 장점이 있습니다. HBM 수요가 워낙 타이트한 상황에서는 3위 업체도 의미 있는 가격 결정력을 가질 수 있습니다.

넷째, TSMC입니다.

TSMC는 SK hynix와 Micron의 베이스 다이, NVIDIA Rubin GPU 다이, CoWoS 패키징까지 모두 연결됩니다. HBM4 시대에도 TSMC는 단순 파운드리가 아니라 AI 반도체 공급망의 중심축입니다.

다섯째, 장비와 테스트입니다.

HBM4는 생산 난이도와 검사 시간이 모두 올라갑니다. Advantest와 Teradyne은 테스트 난이도 증가의 수혜를 받을 수 있습니다. Applied Materials는 박막 증착, CMP, 본딩 관련 장비 수요와 연결됩니다.

정리하면 HBM4 투자는 메모리 기업만 보면 부족합니다.

HBM4는 SK hynix, 삼성전자, Micron의 경쟁이지만 동시에 TSMC, Advantest, Teradyne, Applied Materials까지 이어지는 공급망 투자 테마입니다.

9. 결론

아이폰을 오래 쓰면서 느낀 점이 있습니다.

예전에는 최적화가 많은 것을 해결했습니다. 램이 조금 적어도 사용감이 좋으면 크게 불만이 없었습니다. 하지만 AI 기능이 들어오고 앱이 무거워지면서, 결국 메모리의 절대적인 중요성이 다시 커지고 있습니다.

AI 반도체도 마찬가지입니다.

GPU 성능은 계속 좋아지고 있습니다. 하지만 GPU가 처리할 데이터를 공급하는 메모리가 따라오지 못하면 성능은 막힙니다. 그래서 HBM3E도 아직 부족한데, 시장은 벌써 HBM4로 이동하고 있습니다.

HBM4는 단순히 더 빠른 메모리가 아닙니다.

JEDEC JESD270-4가 제시한 2,048비트 I/O 확대, 베이스 다이의 로직화, HBM4E로 이어지는 고용량화, Rubin 세대의 초고대역폭 요구가 모두 맞물린 구조 변화입니다.

SK hynix는 현재 가장 앞서 있습니다. Counterpoint Research는 2025년 SK hynix의 HBM 매출 점유율을 58~61%로 제시했습니다. 삼성전자는 자체 4nm 베이스 다이와 턴키 전략으로 반격을 준비하고 있습니다. Micron은 미국 공급망과 TSMC 협력을 바탕으로 3번째 축을 만들고 있습니다.

하지만 HBM4 시대의 진짜 핵심은 메모리 회사 3곳만이 아닙니다.

TSMC는 베이스 다이와 CoWoS를 잡고 있습니다. Advantest와 Teradyne은 테스트 난이도 증가와 연결됩니다. Applied Materials는 HBM4 생산공정 고도화의 장비 축입니다. Ibiden과 Unimicron은 대형 AI 패키지를 받치는 기판 공급망과 연결됩니다.

결국 HBM4는 메모리 세대교체가 아니라 AI 인프라 전체의 병목을 다시 재편하는 이벤트입니다.

투자자는 HBM4를 단순히 “SK하이닉스가 좋다, 삼성전자가 반격한다” 정도로 보면 안 됩니다.

HBM4가 열어젖히는 새로운 공급망을 봐야 합니다.

그 공급망 안에서 누가 물량을 확보하고, 누가 수율을 잡고, 누가 테스트를 통과시키고, 누가 패키징 슬롯을 확보하는지가 다음 AI 반도체 사이클의 승자를 결정할 가능성이 큽니다.

AI 반도체 관련 글 이어보기 

[이전글 보기] : CoWoS 공급은 언제 정상화될까? AI GPU 병목은 칩이 아니라 패키징에 있다

https://www.hanvelog.com/2026/06/when-will-cowos-supply-normalize.html

[다음글 보기] : UALink는 NVLink를 대체할 수 있을까? AI 인터커넥트 경쟁의 시작

https://www.hanvelog.com/2026/06/ualink-vs-nvlink-ai-interconnect-competition.html

#HBM4 #SK하이닉스 #삼성전자 #마이크론 #TSMC #엔비디아 #AI반도체 #AI인프라 #반도체투자