AI 반도체는 왜 아직도 부족할까? 공급망 병목 완전 정리

 제가 주로 하는 게임은 시뮬레이션 게임입니다.

특히 시티즈 스카이라인처럼 에셋을 많이 사용하는 게임은 램 사용량이 매우 높습니다.그래서 예전에는 컴퓨터를 조립할 때 램 슬롯을 전부 채우는 풀뱅크 구성을 선호했습니다.

방열판 달린 튜닝램을 4장 꽂아놓으면 성능을 떠나서 보기에도 괜찮았고, 시뮬레이션 게임을 오래 하는 입장에서는 램을 넉넉하게 가져가는 게 마음이 편했습니다.

그런데 이번에 컴퓨터를 라이젠 7800X3D 세팅으로 바꾸면서 AM5 플랫폼에서는 풀뱅크 구성이 잘 안 먹거나 성능이 떨어진다는 이야기가 많았고, 안정성을 생각해서 32GB 램 2장으로 64GB를 맞췄습니다.

지금 생각해 보면 이게 신의 한 수였습니다.

제가 32GB 램 한 장을 살 때는 22만 원 정도였는데, 최근에는 같은 급의 32GB 램 한 장이 60만 원 초중반대까지 올라갔습니다. 한 장 가격이 CPU보다 비싸고, 두 장이면 그래픽카드 가격과 비교해야 하는 수준입니다.

예전에는 컴퓨터를 조립할 때 그래픽카드 가격만 걱정했습니다.

그런데 이제는 램 가격이 전체 견적에서 차지하는 비중도 무시하기 어려워졌습니다.

처음에는 단순히 메모리 가격이 오른 정도로만 생각했습니다.

그런데 AI 반도체 공급망을 하나씩 보다 보니 이 문제가 단순히 램 가격만의 문제가 아니라는 생각이 들었습니다.

AI 반도체 하나가 만들어지려면 GPU만 있으면 되는 것이 아닙니다.

HBM이 필요하고, CoWoS 같은 첨단 패키징이 필요하고, TSMC의 선단 공정이 필요하고, ASML의 EUV 장비가 필요합니다. 여기에 ABF 기판, 데이터센터 전력, 냉각, 변압기까지 모두 연결됩니다.

결국 AI 반도체 부족은 단순한 GPU 부족이 아니라 공급망 전체가 동시에 병목을 겪는 문제입니다.

오늘은 AI 반도체가 왜 아직도 부족한지 전체 구조를 가볍게 정리해보겠습니다.

1. 시작은 ChatGPT 이후의 AI 인프라 경쟁이었습니다

AI 반도체 부족은 어느 날 갑자기 생긴 문제가 아닙니다.

2022년 말 OpenAI가 ChatGPT를 공개한 이후, 전 세계 빅테크 기업들은 AI 모델 경쟁에 본격적으로 뛰어들었습니다. 문제는 AI 모델을 만들고 운영하려면 막대한 연산 능력이 필요하다는 점입니다.

예전에는 클라우드 서버를 늘리는 정도였다면, 이제는 GPU 수만 개에서 수십만 개가 들어가는 AI 데이터센터를 지어야 합니다.

Amazon, Microsoft, Google, Meta, Oracle 같은 하이퍼스케일러들은 AI 데이터센터와 자체 가속기, 엔비디아 GPU 확보에 막대한 자본 지출을 계획하고 있습니다.

여기서 중요한 점은 수요가 너무 빠르게 커졌다는 것입니다.

반도체 공장과 패키징 라인, 메모리 생산라인은 몇 달 만에 뚝딱 늘릴 수 없습니다. 그런데 AI 모델 경쟁은 몇 달 단위로 벌어집니다.

수요는 소프트웨어 속도로 늘어나는데, 공급은 공장과 장비의 속도로 늘어납니다.

이 속도 차이가 AI 반도체 부족의 출발점입니다.

2. GPU가 부족한 이유

AI 반도체 부족을 이야기하면 가장 먼저 떠오르는 것은 엔비디아 GPU입니다.

현재 AI 학습과 추론 시장에서 엔비디아는 압도적인 위치를 차지하고 있습니다. GPU 성능도 강하지만, CUDA 생태계가 워낙 강하기 때문에 기업들이 쉽게 다른 선택지로 이동하기 어렵습니다.

H100, H200, B200, GB200 같은 제품은 AI 데이터센터의 핵심 부품이 됐습니다.

문제는 수요가 너무 많다는 것입니다.

엔비디아가 설계를 잘해도 실제 칩은 TSMC 선단 공정에서 만들어야 합니다. 그리고 GPU 다이만 나온다고 끝나는 것도 아닙니다. HBM을 붙이고, CoWoS 패키징을 거치고, 서버 보드와 랙 단위 시스템으로 조립되어야 합니다.

엔비디아 Blackwell 세대는 특히 구조가 더 복잡합니다.

GB200 NVL72 같은 랙 시스템은 GPU 72개와 Grace CPU 36개가 하나의 시스템으로 연결됩니다. 성능은 엄청나지만, 그만큼 공급망도 훨씬 복잡해졌습니다.

그래서 GPU 부족은 사실 GPU 칩 하나의 문제가 아닙니다.

GPU를 둘러싼 모든 부품과 공정이 동시에 맞아야 해결되는 문제입니다.

3. HBM 부족이 메모리 가격까지 흔듭니다

AI GPU가 제대로 성능을 내려면 HBM이 필요합니다.

HBM은 고대역폭 메모리입니다. 일반 DDR 메모리보다 훨씬 넓은 데이터 통로를 제공해 GPU가 대규모 연산을 빠르게 처리할 수 있도록 도와줍니다.

문제는 HBM 생산이 쉽지 않다는 점입니다.

HBM은 여러 개의 DRAM 다이를 수직으로 쌓고, TSV라는 실리콘 관통 전극으로 연결합니다. 일반 메모리보다 공정이 어렵고, 수율 관리도 까다롭습니다.

또 하나 중요한 점은 HBM이 웨이퍼를 많이 잡아먹는다는 것입니다.

일반 DDR5보다 HBM은 같은 비트 기준으로 더 많은 웨이퍼가 필요합니다. AI용 HBM 생산이 늘어나면, 범용 DDR5나 PC용 DRAM에 배정될 수 있는 생산 능력도 압박을 받습니다.

최근 램 가격이 급등한 것도 이런 흐름과 연결해서 볼 수 있습니다.

AI 서버용 HBM 수요가 폭발하고, 메모리 업체들이 고부가가치 제품에 생산능력을 집중하면 일반 소비자용 메모리 가격도 영향을 받을 수밖에 없습니다.

SK하이닉스는 HBM 시장에서 강한 위치를 차지하고 있고, 삼성전자와 마이크론도 HBM3E와 HBM4에서 추격 중입니다.

하지만 수요가 워낙 빠르게 늘어나고 있어 하이닉스 400만원 간단 증권사 얘기가 나오고 있고, HBM은 당분간 AI 반도체 공급망의 핵심 병목으로 남을 가능성이 큽니다.

4. CoWoS가 없으면 GPU와 HBM을 묶을 수 없습니다

GPU와 HBM이 준비되어도 끝이 아닙니다.

둘을 하나의 AI 가속기로 묶어주는 첨단 패키징이 필요합니다.

여기서 가장 중요한 기술이 TSMC의 CoWoS입니다.

CoWoS는 GPU와 HBM을 실리콘 인터포저 위에 가깝게 올려 초고속으로 연결하는 2.5D 패키징 기술입니다. AI GPU는 GPU 자체 성능도 중요하지만, HBM과 얼마나 빠르게 데이터를 주고받느냐가 실제 성능을 좌우합니다.

그래서 CoWoS는 단순 후공정이 아닙니다.

AI 반도체의 실제 성능과 출하량을 결정하는 핵심 인프라입니다.

문제는 CoWoS 캐파가 쉽게 늘어나지 않는다는 점입니다.

TSMC는 CoWoS 생산능력을 빠르게 늘리고 있지만, 엔비디아와 AMD, 구글 같은 대형 고객 수요가 동시에 몰리고 있습니다.

특히 Blackwell 세대에서는 기존 CoWoS-S뿐 아니라 더 큰 패키지를 지원하는 CoWoS-L 수요가 중요해졌습니다. 패키지가 커질수록 열팽창, 휨, 본딩 불량 같은 공정 난이도도 커집니다.

GPU도 있고 HBM도 있는데 CoWoS 슬롯이 없으면 최종 제품이 나오지 못합니다.

그래서 AI 반도체 부족을 볼 때 CoWoS는 반드시 봐야 하는 병목입니다.

5. EUV와 선단 공정도 병목입니다

AI GPU는 대부분 TSMC의 선단 공정에서 생산됩니다.

5nm, 4nm, 3nm 같은 공정은 단순히 숫자가 작은 것이 아니라 더 많은 트랜지스터를 넣고, 더 좋은 전력 효율을 만들기 위한 핵심 기술입니다.

이 선단 공정을 가능하게 만드는 장비가 ASML의 EUV 노광 장비입니다.

EUV는 13.5nm 파장의 빛을 사용해 매우 미세한 회로 패턴을 그리는 장비입니다. TSMC, 삼성전자, 인텔 모두 첨단 공정을 위해 ASML 장비에 의존합니다.

문제는 EUV 장비 자체도 아무 때나 살 수 있는 것이 아니라는 점입니다.

ASML은 세계에서 사실상 유일하게 최첨단 EUV 장비를 공급하는 기업입니다. 장비 가격은 대당 수천억 원 수준이고, 부품 공급망도 매우 복잡합니다.

High-NA EUV 같은 차세대 장비는 더 비싸고 더 어렵습니다.

결국 AI 반도체 생산량을 늘리려면 GPU 설계만 늘려서는 안 됩니다. TSMC 선단 공정 캐파와 ASML 장비 공급, 팹 증설 속도까지 모두 맞아야 합니다.

6. 기판과 보드도 무시할 수 없습니다

AI 반도체 공급망에서 일반 투자자들이 놓치기 쉬운 부분이 기판과 보드입니다.

고성능 AI 서버는 GPU와 HBM만으로 만들어지지 않습니다. 칩을 올리는 ABF 기판, 고밀도 HDI 보드, 서버 트레이, 전원부, 냉각 부품이 모두 필요합니다.

Blackwell 같은 고성능 플랫폼은 더 많은 신호선과 더 높은 전력 공급을 요구합니다.

그만큼 기판도 더 정밀해지고, 보드도 더 복잡해집니다.

특히 ABF 기판은 GPU와 패키지, 서버 보드를 연결하는 핵심 부품입니다. 선폭이 미세해지고 층수가 늘어날수록 수율 관리가 어려워집니다.

아무리 GPU와 HBM이 준비되어도 기판 공급이 부족하면 최종 AI 서버 출하가 늦어질 수 있습니다.

AI 반도체 부족은 고급 부품 하나가 부족해서 생기는 것이 아니라, 작은 부품 하나가 늦어져도 전체 시스템이 밀리는 구조입니다.

7. 데이터센터 전력도 마지막 병목입니다

AI 반도체를 다 만들었다고 해도 끝이 아닙니다.

그 칩을 꽂을 데이터센터가 필요하고, 데이터센터에는 전력이 필요합니다.

AI 서버는 전기를 엄청나게 사용합니다. GB200 NVL72 같은 고성능 랙은 랙당 전력 소비가 매우 크기 때문에 기존 데이터센터 구조로는 감당하기 어렵습니다.

전력망 연결도 문제입니다.

LBNL의 계통 연결 대기열 자료와 IEA의 전력 인프라 관련 전망을 보면, 데이터센터와 전력망 연결은 이미 여러 지역에서 중요한 병목으로 떠오르고 있습니다.

변압기 리드타임도 길어지고 있습니다.

초고압 변압기는 주문 후 수령까지 2년 이상 걸리는 경우가 많고, 대형 전력 인프라는 인허가와 계통 검토에 시간이 오래 걸립니다.

결국 AI 반도체 공급망은 반도체 공장에서 끝나지 않습니다.

GPU가 있어도 전력이 없으면 데이터센터는 돌아가지 않습니다.

이 지점에서 AI 인프라 투자는 반도체, 전력, 냉각, 변압기, 데이터센터 부지까지 모두 연결됩니다.

8. 공급망은 언제 안정될까

AI 반도체 공급망이 단기간에 완전히 안정되기는 어렵습니다.

TSMC는 CoWoS 캐파를 늘리고 있고, SK하이닉스와 삼성전자, 마이크론은 HBM 증설을 진행하고 있습니다. ASML도 EUV 장비 출하를 늘리고 있습니다.

하지만 모두 시간이 걸립니다.

팹 하나를 짓는 데는 수년이 걸립니다. 장비를 들여오고, 클린룸을 만들고, 수율을 잡는 데도 시간이 필요합니다.

패키징 라인도 마찬가지입니다.

CoWoS 캐파를 늘린다고 해도 인터포저, 기판, 장비, 인력, 고객 제품 검증이 모두 따라와야 합니다.

그래서 2026년까지는 여전히 타이트한 수급이 이어질 가능성이 높고, 2027년 이후부터 일부 병목이 완화될 가능성이 있습니다.

다만 전력 인프라는 더 오래 걸릴 수 있습니다.

반도체 공급은 2027~2028년 사이에 어느 정도 개선될 수 있어도, 데이터센터 전력과 변압기, 계통 연결 문제는 더 긴 시간의 싸움이 될 가능성이 큽니다.

결론

AI 반도체가 부족한 이유는 단순히 엔비디아 GPU가 잘 팔려서가 아닙니다.

AI 반도체 하나가 완성되려면 GPU 설계, TSMC 선단 공정, HBM, CoWoS 패키징, EUV 장비, ABF 기판, 데이터센터 전력까지 모두 맞물려야 합니다.

이 중 하나라도 막히면 전체 공급이 느려집니다.

예전에는 컴퓨터를 조립할 때 CPU와 그래픽카드만 걱정하면 됐습니다. 하지만 지금 AI 시대에는 램 가격 하나만 봐도 공급망 변화가 체감됩니다.

HBM 수요가 늘어나면 범용 DRAM 가격에도 영향을 주고, GPU 수요가 늘어나면 CoWoS와 기판, 전력망까지 압박을 받습니다.

그래서 AI 반도체 부족은 단순한 제품 부족이 아니라 AI 인프라 전체가 동시에 확장되는 과정에서 생긴 구조적 병목입니다.

앞으로 이 시리즈에서는 GPU 부족, HBM 부족, CoWoS 부족을 각각 더 깊게 나눠서 살펴볼 생각입니다.

AI 반도체 공급망을 이해하면 단순히 “엔비디아가 잘 나간다”를 넘어, 왜 SK하이닉스와 TSMC, ASML, 전력 장비 기업까지 함께 움직이는지 더 명확하게 볼 수 있습니다.

결국 AI 시대의 핵심 질문은 이것입니다.

누가 가장 좋은 칩을 설계하느냐도 중요하지만, 그 칩을 실제로 만들고 연결하고 전력까지 공급할 수 있는 공급망을 누가 장악하고 있느냐가 더 중요해지고 있습니다.

AI 반도체 관련 글 이어보기 

[이전글 보기] : 인텔 파운드리 전략, 인텔은 부활할 수 있을까?

https://www.hanvelog.com/2026/06/intel-foundry-comeback-strategy.html

[다음글 보기] : GPU는 왜 아직도 부족할까? 엔비디아가 더 찍어내면 되는 문제가 아닌 이유

https://www.hanvelog.com/2026/06/ai-semiconductor-supply-chain.html

#AI반도체 #AI반도체공급망 #엔비디아 #GPU #HBM #SK하이닉스 #TSMC #CoWoS #첨단패키징 #ASML #EUV #데이터센터 #AI인프라 #반도체 #반도체산업 #반도체투자 #전력인프라 #AI투자 #반도체공급망 #하은아빠