GPU는 왜 아직도 부족할까? 엔비디아가 더 찍어내면 되는 문제가 아닌 이유

 그래픽카드가 부족하면 그냥 더 많이 만들면 되는 것 아닌가 하는 생각을 했습니다.

비싸게 팔리는데 생산만 늘리면 엔비디아도 돈을 더 많이 벌 수 있을 것 같았습니다. 특히 인기 있는 그래픽카드는 가격이 천정부지로 치솟고, 물량을 구하는 것 자체도 어려운 경우가 많았습니다.

처음에는 단순하게 생각했습니다.

“수요가 많으면 공장을 더 돌리면 되는 것 아닌가?”

그런데 AI 반도체 공급망을 하나씩 보다 보니 이게 생각보다 훨씬 복잡한 문제였습니다.

우선 엔비디아는 GPU를 직접 생산하는 회사가 아닙니다. GPU를 설계하는 팹리스 기업에 가깝고, 실제 생산은 대부분 TSMC 같은 파운드리가 담당합니다.

그렇다고 TSMC가 웨이퍼만 더 찍어내면 해결되는 것도 아니었습니다.

AI GPU 하나가 완성되려면 TSMC의 선단 공정, SK하이닉스·삼성전자·마이크론의 HBM, TSMC의 CoWoS 패키징, ASML의 EUV 장비, 서버 보드, 전력, 냉각까지 모두 맞아야 합니다.

결국 GPU 부족은 엔비디아 혼자 해결할 수 있는 문제가 아니었습니다.

오늘은 AI 시대 GPU가 왜 아직도 부족한지, 그리고 왜 엔비디아가 마음대로 생산량을 늘리지 못하는지 정리해보겠습니다.

1. AI GPU 수요는 왜 폭발했을까

AI GPU 부족의 시작은 2022년 말 ChatGPT 이후입니다.

ChatGPT가 등장하면서 생성형 AI가 단순한 기술 시연이 아니라 실제 서비스와 플랫폼 경쟁의 중심으로 올라왔습니다. 이후 마이크로소프트, 아마존, 구글, 메타 같은 하이퍼스케일러들은 AI 인프라 확보 경쟁에 들어갔습니다.

이 기업들이 두려워하는 것은 과잉 투자보다 연산 자원이 부족해서 경쟁에서 밀리는 상황입니다.

AI 모델은 더 커지고 있고, 추론 수요도 빠르게 늘고 있습니다. 예전에는 AI 모델을 학습시키는 데 GPU가 필요했다면, 이제는 사용자에게 답변을 제공하는 추론 단계에서도 막대한 GPU가 필요합니다.

NVIDIA의 실적에서도 이 흐름은 바로 드러납니다.

NVIDIA SEC Filing 기준으로 데이터센터 매출은 FY2024 475억 달러에서 FY2025 1,152억 달러로 급증했고, FY2026에는 1,937억 달러 수준까지 확대됐습니다. 전체 매출에서 데이터센터가 차지하는 비중도 90% 수준으로 올라갔습니다.

이제 엔비디아는 단순 그래픽카드 회사가 아닙니다.

AI 데이터센터 인프라를 공급하는 핵심 기업이 됐습니다.

2. 엔비디아가 독점하는 이유는 CUDA입니다

AI GPU 시장에서 엔비디아가 강한 이유는 단순히 칩 성능 때문만은 아닙니다.

진짜 강점은 CUDA 생태계입니다.

CUDA는 엔비디아 GPU에서 병렬 연산을 쉽게 사용할 수 있게 해주는 소프트웨어 플랫폼입니다. 엔비디아는 CUDA를 중심으로 cuDNN, cuBLAS, TensorRT 같은 라이브러리를 오랫동안 쌓아왔습니다.

AI 개발자와 기업 입장에서는 이 생태계가 매우 중요합니다.

모델을 학습시키고, 최적화하고, 추론 서버에 올리고, 대규모 트래픽을 처리하는 과정에서 이미 엔비디아 기반으로 수많은 도구가 맞춰져 있기 때문입니다.

AMD GPU가 일부 스펙에서 좋아 보이더라도 실제 운영 환경에서는 이야기가 달라질 수 있습니다.

AIMultiple의 CUDA와 ROCm 성능 비교에서는 고동시성 추론 환경에서 엔비디아 B200, H200, H100이 경쟁 가속기 대비 높은 처리량을 보이는 사례가 제시됩니다.

기업 입장에서는 하드웨어 가격만 보는 것이 아닙니다.

개발 시간, 최적화 비용, 장애 대응, 모델 이전 비용까지 모두 봅니다.

그래서 AI GPU 시장은 단순 가격 경쟁으로 쉽게 흔들리지 않습니다.

엔비디아의 GPU 부족은 단순히 제품이 인기 있어서 생긴 문제가 아니라, 대체하기 어려운 소프트웨어 생태계까지 함께 묶여 있기 때문에 더 심해지는 문제입니다.

3. GPU는 엔비디아 혼자 만드는 제품이 아닙니다

AI GPU 하나가 실제 데이터센터에 들어가기까지는 여러 단계를 거칩니다.

먼저 엔비디아가 GPU 아키텍처를 설계합니다.

그다음 TSMC가 선단 공정으로 GPU 다이를 생산합니다. H100, H200, B200 같은 고성능 GPU는 TSMC의 고급 공정 없이는 만들기 어렵습니다.

그다음 HBM이 필요합니다.

HBM은 SK하이닉스, 삼성전자, 마이크론이 생산합니다. GPU가 아무리 빨라도 데이터를 빠르게 공급받지 못하면 성능이 막히기 때문에 HBM은 AI GPU의 필수 부품입니다.

그리고 GPU와 HBM을 하나의 패키지로 묶어야 합니다.

여기서 TSMC의 CoWoS가 등장합니다. CoWoS는 GPU와 HBM을 실리콘 인터포저 위에 올려 초고속으로 연결하는 첨단 패키징 기술입니다.

마지막으로 이 패키지를 서버 보드에 올리고, 랙 단위 시스템으로 조립하고, 액체 냉각과 전력 공급까지 맞춰야 합니다.

즉 AI GPU는 단일 제품이 아니라 거대한 공급망의 결과물입니다.

이 중 하나라도 막히면 최종 출하가 늦어집니다.

4. 진짜 병목은 웨이퍼보다 CoWoS와 HBM입니다

GPU 부족을 보면 보통 TSMC의 웨이퍼 생산능력을 먼저 떠올립니다.

물론 선단 공정 캐파도 중요합니다.

하지만 현재 AI GPU 공급 부족에서 더 큰 병목은 후공정 패키징과 HBM입니다.

Epoch AI는 주요 AI 칩 설계 기업들이 글로벌 첨단 CoWoS 패키징 가용 물량의 대부분을 소모하는 반면, 이 과정에서 사용하는 TSMC 선단 로직 웨이퍼는 전체 전공정 캐파의 일부에 그친다고 설명합니다.

이 말은 중요합니다.

웨이퍼를 더 만든다고 바로 AI GPU가 더 나오는 구조가 아니라는 뜻입니다.

GPU 다이가 있어도 HBM이 없으면 안 됩니다.

HBM이 있어도 CoWoS 슬롯이 없으면 안 됩니다.

CoWoS까지 끝나도 서버 보드와 냉각, 전력 공급이 맞아야 합니다.

DigiTimes는 2026년 CoWoS와 유사 첨단 패키징 수요가 크게 늘어난 반면 TSMC의 자체 CoWoS 생산능력은 여전히 제한적이라고 설명합니다. 여기에 Amkor 같은 OSAT 협력사의 보완 물량까지 더해야 글로벌 수요를 겨우 따라가는 구조입니다.

그래서 AI GPU 부족은 “엔비디아가 더 만들면 된다”가 아니라 “TSMC, HBM 업체, 패키징 라인, 기판 업체, 냉각 업체가 모두 같이 늘어나야 한다”에 가깝습니다.

5. Blackwell은 왜 더 만들기 어려운가

엔비디아 Blackwell은 기존 GPU보다 훨씬 복잡한 구조입니다.

B200과 GB200은 단순히 성능만 좋아진 GPU가 아닙니다. 더 큰 칩, 더 많은 HBM, 더 복잡한 패키징, 더 높은 전력, 더 까다로운 냉각이 함께 들어갑니다.

특히 Blackwell에서는 CoWoS-L이 중요해졌습니다.

CoWoS-L은 기존 CoWoS-S처럼 하나의 거대한 실리콘 인터포저만 사용하는 구조가 아니라, RDL 기반 인터포저와 Local Silicon Interconnect를 결합해 더 큰 패키지를 구현하는 방식입니다.

이 방식은 더 큰 AI 가속기를 만들 수 있게 해주지만 제조 난이도도 올라갑니다.

열팽창 계수 차이로 인한 휨, 미세 범프 접합 불량, 패키지 균열 같은 문제가 발생할 수 있습니다.

Blackwell 초기 생산 과정에서 패키징과 설계 조정 이슈가 언급된 것도 이런 구조적 난이도와 연결됩니다.

여기에 GB200 NVL72 같은 랙 시스템은 더 복잡합니다.

GPU 72개와 Grace CPU 36개가 하나의 랙 안에서 연결되고, 최대 120kW 수준의 전력을 요구합니다. 기존 공랭식 데이터센터 랙과는 전혀 다른 수준입니다.

직접 칩 액체 냉각, 냉각수 분배 장치, 전력 버스바, NVSwitch, 고속 인터커넥트까지 모두 맞아야 합니다.

즉 Blackwell 부족은 GPU 칩 부족만의 문제가 아닙니다.

패키징, 랙 조립, 전력, 냉각까지 포함된 시스템 공급 부족입니다.

6. 누가 먼저 GPU를 가져가는가

GPU 공급이 제한되어 있으면 결국 돈과 우선순위가 중요해집니다.

하이퍼스케일러들은 이미 대규모 선주문을 통해 물량을 확보하고 있습니다.

구글, 메타, 마이크로소프트, 오라클, 코어위브 같은 기업들은 AI 인프라 확보를 위해 수십억 달러 단위로 GPU를 예약하고 있습니다.

이 구조에서는 일반 기업이나 중소 AI 스타트업이 최신 GPU를 바로 확보하기 어렵습니다.

물량은 우선 대형 클라우드 기업, 엔비디아와 관계가 깊은 인프라 기업, 장기 계약 고객에게 먼저 배정됩니다.

CoreWeave는 대표적인 사례입니다.

CoreWeave는 엔비디아와 밀접한 관계를 바탕으로 최신 GB200 기반 클라우드 인스턴스를 빠르게 제공하며 AI 전용 클라우드 시장에서 존재감을 키웠습니다.

이런 흐름은 AI 인프라 시장의 양극화를 만듭니다.

대형 기업은 GPU를 먼저 확보하고, 더 큰 모델을 더 빨리 학습시킵니다.

반면 후발 기업은 비싼 클라우드 비용을 감당하거나, 구형 GPU를 쓰거나, 대기해야 합니다.

GPU 부족은 단순한 부품 부족이 아니라 AI 기업 간 경쟁력 격차로 이어집니다.

7. AMD와 인텔은 대안이 될 수 있을까

GPU가 부족하면 자연스럽게 AMD와 인텔이 대안으로 떠오릅니다.

AMD는 Instinct MI300X, MI350, MI400 같은 제품으로 AI 가속기 시장을 공략하고 있습니다. 특히 HBM 용량과 메모리 대역폭 측면에서는 강점이 있습니다.

하지만 문제는 소프트웨어입니다.

엔비디아 CUDA 생태계가 워낙 강하기 때문에, AMD의 ROCm 환경으로 옮기는 과정에서 개발자들은 최적화와 디버깅 부담을 겪습니다.

대형 기업 입장에서는 GPU 가격만 싸다고 바로 바꿀 수 없습니다.

모델 학습 안정성, 추론 성능, 운영 도구, 개발자 숙련도까지 모두 고려해야 합니다.

인텔의 Gaudi도 비슷합니다.

인텔은 Gaudi 3를 통해 가성비와 추론 시장을 노렸지만, 엔비디아 중심의 시장 구조를 흔들기에는 아직 부족합니다. TrendForce는 인텔이 Gaudi 3 출하 목표를 하향 조정했다는 내용을 전하며 수요와 경쟁력에 대한 우려를 제기했습니다.

결국 AMD와 인텔은 대안이 될 수는 있지만, 당장 엔비디아를 대체하기는 어렵습니다.

엔비디아의 강점은 칩 하나가 아니라 하드웨어, 소프트웨어, 네트워크, 시스템, 클라우드 생태계 전체에 있기 때문입니다.

8. GPU 부족은 언제 완화될까

GPU 부족은 단기간에 완전히 해결되기 어렵습니다.

TSMC는 CoWoS 캐파를 늘리고 있고, SK하이닉스와 삼성전자, 마이크론은 HBM 생산을 확대하고 있습니다. ASML도 EUV 장비를 공급하고 있습니다.

하지만 반도체 공급망은 시간이 필요합니다.

팹을 짓고, 장비를 들여오고, 수율을 잡고, 패키징 라인을 늘리는 데는 몇 년이 걸립니다.

Counterpoint Research와 TrendForce의 메모리·AI 인프라 전망을 보면, 공급망 완화 시점은 2027년 후반에서 2028년 사이로 보는 시각이 많습니다.

특히 HBM과 CoWoS가 동시에 풀려야 GPU 공급도 안정될 수 있습니다.

하지만 그때가 되더라도 새로운 문제가 생길 수 있습니다.

Rubin, Rubin Ultra 같은 차세대 GPU는 더 많은 HBM을 요구할 가능성이 높습니다. GPU 한 세대가 바뀔 때마다 필요한 메모리 용량과 패키징 난이도도 올라갑니다.

공급이 늘어나는 속도만큼 수요와 제품 복잡도도 함께 커지는 구조입니다.

그래서 GPU 부족은 어느 순간 완전히 끝난다기보다, 병목 위치가 계속 바뀌면서 이어질 가능성이 있습니다.

9. 투자자가 봐야 할 핵심

투자 관점에서 GPU 부족은 엔비디아만의 이야기가 아닙니다.

물론 엔비디아는 가장 직접적인 수혜 기업입니다.

하지만 GPU 공급망을 따라가면 더 많은 기업이 보입니다.

TSMC는 선단 공정과 CoWoS를 모두 잡고 있습니다.

SK하이닉스는 HBM 시장에서 강한 위치를 차지하고 있습니다.

삼성전자와 마이크론도 HBM4에서 반격을 준비하고 있습니다.

ASML은 EUV 장비를 통해 선단 공정의 핵심 병목을 잡고 있습니다.

기판, 냉각, 전력 인프라 기업들도 AI 서버 확장 과정에서 중요해집니다.

핵심은 병목을 보는 것입니다.

GPU가 부족하면 엔비디아가 좋습니다.

HBM이 부족하면 SK하이닉스와 메모리 기업이 주목받습니다.

CoWoS가 부족하면 TSMC의 패키징 지배력이 커집니다.

데이터센터 전력이 부족하면 전력 장비와 발전 인프라가 중요해집니다.

AI 인프라 투자는 단일 종목보다 밸류체인 전체를 봐야 합니다.

결론

GPU가 부족하면 엔비디아가 더 많이 찍어내면 된다고 생각하기 쉽습니다.

하지만 AI GPU는 엔비디아 혼자 만드는 제품이 아닙니다.

엔비디아는 설계합니다.

TSMC는 선단 공정으로 생산합니다.

SK하이닉스, 삼성전자, 마이크론은 HBM을 공급합니다.

TSMC의 CoWoS는 GPU와 HBM을 하나로 묶습니다.

ASML의 EUV 장비는 선단 공정을 가능하게 합니다.

서버 제조사와 냉각 업체는 이 칩을 실제 데이터센터에서 쓸 수 있는 시스템으로 완성합니다.

그래서 AI GPU 부족은 단순 생산량 부족이 아닙니다.

반도체 전공정보다 후공정 패키징과 HBM, 그리고 랙 단위 시스템 통합까지 모두 얽힌 복합 병목입니다.

엔비디아의 진짜 강점도 단순히 칩 성능에만 있지 않습니다.

CUDA 생태계, TSMC와의 생산 협력, HBM 공급망, NVLink와 랙스케일 시스템까지 모두 묶은 전체 구조가 강점입니다.

앞으로 GPU 부족이 완화되려면 HBM, CoWoS, 선단 공정, 전력, 냉각이 함께 풀려야 합니다.

AI 반도체 관련 글 이어보기 

[이전글 보기] : AI 반도체는 왜 아직도 부족할까? 공급망 병목 완전 정리

https://www.hanvelog.com/2026/06/ai-semiconductor-supply-chain.html

[다음글 보기] : HBM 공급은 지금 어디까지 왔을까? SK하이닉스가 강해진 진짜 이유

https://www.hanvelog.com/2026/06/hbm-supply-status-2026.html

#GPU #AIGPU #엔비디아 #NVIDIA #CUDA #HBM #TSMC #CoWoS #AI반도체 #AI인프라 #반도체 #반도체공급망 #반도체투자 #데이터센터 #AI투자 #SK하이닉스 #ASML #Blackwell #GB200 #하은아빠