차세대 AI 반도체 로드맵, AI 인프라는 앞으로 어디까지 진화할까?

 저는 올해 4월 초부터 구글 블로그를 운영하기 시작하면서 AI 인프라와 반도체 산업을 팔로우업 하며 포스팅 하고 있습니다.

처음에는 정말 단순했습니다.

AI 시대가 오면 결국 NVIDIA GPU와 SK하이닉스 HBM만 보면 된다고 생각했습니다. 실제로 4월 15일에 작성했던 글을 다시 읽어보면, 당시에는 GPU와 HBM을 중심으로 AI 반도체 시장을 바라보고 있었습니다. 그때만 해도 코스피가 6,000선을 넘어서는 흐름을 보면서 AI 반도체가 앞으로 시장을 이끌 것이라는 생각이 강했습니다.

그런데 불과 두 달 반 정도가 지난 지금은 시장도 많이 달라졌습니다. 코스피는 한때 9,300선을 찍고 내려와 어제 7월 1일자 기준 8,300선 부근에서 마무리됐고, 저 역시 AI 반도체를 바라보는 시각이 완전히 달라졌습니다.

글을 하나씩 직접 쓰다 보니 병목은 단순히 NVIDIA GPU나 SK하이닉스 HBM만의 문제가 아니었습니다.

HBM을 공부하다 보니 CoWoS가 보였고, CoWoS를 이해하려다 TSMC의 첨단 패키징을 공부하게 됐습니다. GPU를 여러 개 연결하는 구조를 이해하려다 NVLink와 UALink를 다뤘고, 결국에는 광반도체와 CPO까지 이어졌습니다.

처음에는 AI 반도체를 하나의 제품으로 봤다면, 지금은 하나의 거대한 생태계로 보게 됐습니다.

GPU, HBM, 첨단 패키징, 인터커넥트, 광반도체, 전력과 냉각까지 어느 하나라도 막히면 AI 데이터센터 전체 성능이 제한됩니다.

이번 글에서는 지금까지 살펴본 개별 기술을 넘어, Rubin, Rubin Ultra, Feynman으로 이어지는 차세대 AI 반도체 로드맵을 중심으로 앞으로 AI 인프라가 어떤 방향으로 발전할지 정리해보겠습니다.

1. AI 반도체 로드맵은 칩 하나의 경쟁이 아닙니다

예전 반도체 경쟁은 공정 미세화가 중심이었습니다.

더 작은 공정으로 더 많은 트랜지스터를 넣고, 더 빠르고 효율적인 칩을 만드는 것이 핵심이었습니다. 하지만 AI 반도체는 이제 단일 칩 성능만으로 설명하기 어려운 단계에 들어섰습니다.

AI 모델은 계속 커지고 있고, 추론 수요도 빠르게 늘고 있습니다. 하나의 GPU가 아무리 빨라도 수천 개의 GPU가 동시에 움직이지 않으면 초거대 AI 서비스를 처리하기 어렵습니다.

그래서 차세대 AI 반도체 로드맵은 단순 GPU 로드맵이 아니라 AI 팩토리 전체의 진화 방향에 가깝습니다.

NVIDIA는 Blackwell 이후 Vera Rubin, Rubin Ultra, Feynman으로 이어지는 플랫폼 로드맵을 준비하고 있습니다. 여기서 중요한 것은 GPU 이름이 바뀌는 것이 아닙니다.

메모리는 HBM3E에서 HBM4, HBM4E, HBM5로 이동하고, 패키징은 CoWoS-L과 3D 적층으로 진화하며, 연결은 NVLink와 CPO 기반 광학 인터커넥트로 넘어갑니다.

앞으로는 GPU, CPU, HBM, 패키징, 전력, 냉각, 네트워크가 하나의 시스템으로 묶여야 합니다. 투자자도 이 흐름을 개별 종목이 아니라 밸류체인 전체로 봐야 합니다.

2. Rubin은 무엇을 바꾸나

Rubin은 Blackwell 이후 NVIDIA가 준비하는 차세대 AI 플랫폼입니다.

Blackwell이 AI GPU 공급망을 랙 단위 시스템으로 확장한 세대였다면, Rubin은 그 구조를 더 높은 전력, 더 큰 메모리, 더 빠른 인터커넥트로 밀어붙이는 세대라고 볼 수 있습니다.

NVIDIA 로드맵에서 Vera Rubin은 2026년 하반기 본격화되는 플랫폼으로 거론됩니다. Rubin GPU는 TSMC의 3nm 공정을 기반으로 하고, HBM4를 사용합니다.

JEDEC의 HBM4 규격은 I/O 폭을 2,048-bit로 넓히며, 기존 HBM3E 대비 더 큰 데이터 통로를 제공합니다. Rubin 세대에서 메모리가 중요한 이유도 여기에 있습니다. GPU 연산 성능이 아무리 높아져도 데이터를 충분히 빠르게 공급하지 못하면 GPU는 기다릴 수밖에 없습니다.

NVIDIA 로드맵은 Rubin GPU가 HBM4를 사용하고, 단일 가속기당 메모리 대역폭이 약 22TB/s 수준으로 올라가는 방향을 제시합니다. Blackwell Ultra의 대역폭이 약 8TB/s 수준으로 언급되는 점을 감안하면, Rubin은 단순 성능 개선이 아니라 메모리 구조 자체가 바뀌는 세대입니다.

또 하나 중요한 변화는 CPU입니다.

NVIDIA는 Grace CPU 이후 Vera CPU를 통해 GPU와 CPU를 더 긴밀하게 묶는 방향으로 가고 있습니다. AI 추론이 복잡해질수록 GPU 혼자 모든 것을 처리하기 어렵습니다. 데이터 전처리, 메모리 관리, 네트워크 제어까지 시스템 전체가 함께 움직여야 하기 때문입니다.

Rubin은 GPU 하나의 업그레이드가 아니라, AI 서버 내부 구조를 다시 짜는 플랫폼 변화입니다.

3. Rubin Ultra는 전력과 냉각의 한계를 드러냅니다

Rubin Ultra는 Rubin보다 더 강력한 시스템을 목표로 합니다.

문제는 성능이 올라갈수록 전력과 냉각 부담도 함께 커진다는 점입니다. AI 반도체 로드맵에서 가장 현실적인 병목은 이제 성능 부족이 아니라 전력을 넣고 열을 빼내는 문제입니다.

NVIDIA 로드맵에서는 Rubin Ultra NVL576 같은 랙 스케일 구조가 거론됩니다. Rubin Ultra NVL576은 대규모 GPU를 하나의 랙 시스템으로 묶는 방향이며, 관련 사양에서는 랙 전력 밀도가 최대 600kW 수준까지 언급됩니다.

이 숫자는 기존 데이터센터 기준으로 보면 매우 높은 수준입니다.

기존 공랭식 데이터센터는 이런 전력 밀도를 감당하기 어렵습니다. 그래서 2027년 이후 AI 서버에서는 액체 냉각이 선택이 아니라 필수가 될 가능성이 큽니다. Direct-to-Chip 냉각, CDU, 냉각수 매니폴드, 누수 감지, 냉각 인프라 설계가 모두 중요해집니다.

여기서 투자 관점이 나옵니다.

GPU와 HBM만 볼 것이 아니라, 전력 변환 장비, 액체 냉각, 데이터센터 전력 인프라까지 함께 봐야 합니다. Vertiv, Schneider Electric, Delta Electronics 같은 전력·냉각 인프라 기업들이 AI 반도체 밸류체인 안에서 중요해지는 이유입니다.

Rubin Ultra는 AI 반도체 경쟁이 칩 성능 경쟁에서 데이터센터 물리 인프라 경쟁으로 넘어가고 있음을 보여줍니다.

4. Feynman은 3D 적층과 광학 인터커넥트의 시대를 엽니다

Feynman은 Rubin 이후 NVIDIA가 준비하는 다음 세대 플랫폼입니다.

아직 세부 사양은 추정과 로드맵 성격이 강하지만, 방향은 분명합니다. Feynman 세대는 단순히 더 작은 공정으로 칩을 만드는 수준을 넘어, 3D 적층, HBM5, CPO 기반 광학 인터커넥트가 결합되는 방향으로 진화할 가능성이 큽니다.

TSMC의 역할은 여기서 더 커집니다.

TSMC는 3nm 이후 A16 같은 차세대 공정을 준비하고 있고, SoIC 기반 3D 하이브리드 본딩과 CoWoS-L 확장을 함께 추진하고 있습니다. 2.5D 패키징이 GPU와 HBM을 옆으로 붙이는 구조였다면, 3D 적층은 다이를 위아래로 더 가깝게 쌓는 방향입니다.

TSMC의 SoIC 로드맵은 범프 피치를 2025년 6μm 수준에서 2029년 4.5μm 수준까지 줄이는 방향을 제시합니다. 배선 간격이 줄어들수록 칩 사이 데이터 이동 거리는 짧아지고, 전력 효율은 높아질 수 있습니다.

Feynman 세대에서 또 하나 중요한 것은 광학 연결입니다.

이전 CPO 글에서 다뤘듯이 224G SerDes 이후 전기 신호는 구리 배선 손실과 발열 부담이 커집니다. NVIDIA는 NVLink를 계속 고도화하고, CPO 기반 광학 인터커넥트를 통해 랙과 랙, 스위치와 가속기를 더 효율적으로 연결하려 할 가능성이 큽니다.

Feynman은 AI 반도체가 평면 배치에서 입체 구조로, 전기 연결에서 광학 연결로 넘어가는 상징적인 세대가 될 수 있습니다.

5. HBM은 HBM4E와 HBM5로 이동합니다

차세대 AI 반도체에서 메모리는 계속 핵심 병목입니다.

GPU 연산 성능이 아무리 높아져도 데이터를 공급하는 HBM이 따라오지 못하면 GPU는 기다립니다. 그래서 Rubin 이후 로드맵에서는 HBM4, HBM4E, HBM5가 매우 중요합니다.

JEDEC의 HBM4 규격은 2,048-bit I/O 구조를 통해 데이터 통로를 크게 넓혔습니다. HBM4E는 여기서 더 높은 속도와 더 많은 용량을 목표로 합니다. 이후 HBM5는 더 높은 적층, 더 복잡한 베이스 다이, 하이브리드 본딩을 필요로 할 가능성이 큽니다.

삼성전자는 차세대 HBM에서 열 관리 기술을 강조하고 있습니다. 삼성전자는 HPB(Heat Path Block)를 통해 고적층 메모리에서 발생하는 열을 분산시키는 방향을 제시합니다.

SK하이닉스도 고적층 HBM의 열 문제를 해결하기 위해 차세대 냉각 구조를 강화하고 있습니다. SK하이닉스는 MR-MUF 기반 패키징 경험을 바탕으로 고용량 HBM에서 안정성과 수율을 높이는 방향을 추진하고 있습니다.

Micron 역시 HBM4와 HBM4E 시장에서 점유율 확대를 노리고 있습니다.

Omdia는 글로벌 HBM 시장이 2026년 589억 달러에서 2029년 1,983억 달러 규모까지 커질 수 있다고 전망했습니다. 이 숫자가 중요한 이유는 HBM이 더 이상 보조 메모리가 아니라 AI 반도체 원가와 공급망을 좌우하는 핵심 부품이 됐다는 점입니다.

차세대 AI 반도체 로드맵에서 HBM은 GPU 옆에 붙는 부품이 아니라, 전체 시스템 성능을 결정하는 핵심 축입니다.

6. 패키징은 CoWoS에서 SoIC와 PLP로 확장됩니다

AI 반도체가 커질수록 패키징도 같이 복잡해집니다.

Rubin과 Rubin Ultra에서는 더 많은 HBM과 더 큰 GPU 다이를 하나의 패키지 안에 묶어야 합니다. 이때 TSMC의 CoWoS-L은 여전히 중요한 역할을 합니다.

TSMC의 CoWoS-L 로드맵은 인터포저 면적을 계속 키우는 방향입니다. 2026년에는 약 5.5배 레티클, 2027년에는 9.5배 레티클, 2028년 이후에는 14배 레티클 수준까지 확장되는 흐름이 제시됩니다.

이렇게 패키지가 커지면 수율, 휨, 열팽창, 기판 공급 문제가 함께 커집니다. 그래서 단순히 공장만 늘린다고 해결되지 않습니다.

동시에 TSMC는 SoIC 같은 3D 적층 기술을 고도화하고 있습니다. 칩을 옆으로만 붙이는 것이 아니라 위아래로 쌓아 데이터 이동 거리를 줄이려는 방향입니다.

Yole Group은 고밀도 UHD FO와 2.5D 기반 패널 레벨 패키징 시장이 2025년 3억 달러 미만에서 2031년 약 30억 달러 규모로 성장할 수 있다고 봤습니다. 패널 레벨 패키징은 웨이퍼가 아니라 더 큰 사각형 패널 위에서 패키징을 처리해 비용 효율을 높이는 방향입니다.

AI 반도체가 커질수록 패키징은 단순 후공정이 아니라 수율과 원가, 공급량을 좌우하는 전면 산업이 됩니다.

7. 인터커넥트와 광통신은 다음 병목입니다

Rubin 이후 AI 서버는 더 많은 GPU를 더 가까이 묶어야 합니다.

여기서 인터커넥트가 중요해집니다.

NVIDIA는 NVLink와 NVSwitch를 통해 자체 생태계를 계속 강화하고 있습니다. NVLink 5.0은 Blackwell 세대에서 가속기당 1.8TB/s 수준의 대역폭을 제공하는 것으로 알려져 있고, Rubin 이후 NVLink는 더 높은 대역폭과 광학 연결로 확장될 가능성이 큽니다.

반면 UALink는 AMD, Intel, Google, Meta, Microsoft 등이 참여하는 개방형 스케일업 인터커넥트입니다. UALink 1.0은 최대 1,024대의 이종 가속기를 연결하는 것을 목표로 합니다.

여기에 CPO가 붙습니다.

Broadcom은 CPO 기반 스위치 플랫폼인 Bailly와 Davisson을 통해 각각 51.2Tbps, 102.4Tbps급 스위치 방향을 제시하고 있습니다. Marvell은 1.6T 광학 DSP와 실리콘 포토닉스 포트폴리오를 강화하고 있습니다. Coherent와 Lumentum은 InP 레이저 공급망에서 중요한 역할을 합니다.

MarketsandMarkets는 글로벌 실리콘 포토닉스 시장이 2024년 21억6,000만 달러에서 2030년 96억5,000만 달러로 성장할 수 있다고 봤습니다. Yole Group은 실리콘 포토닉스 소자 모듈 시장이 2024년 42억 달러에서 2030년 248억 달러로 커질 수 있다고 제시했습니다.

AI 서버가 커질수록 데이터 이동이 병목이 되고, 데이터 이동이 병목이 될수록 인터커넥트와 광통신의 가치가 커집니다.

8. 투자자는 병목의 이동을 봐야 합니다

이번 시리즈를 쓰면서 가장 크게 느낀 점은 하나입니다.

AI 인프라 투자는 항상 병목을 따라 움직입니다.

2023~2025년에는 GPU와 HBM, CoWoS가 중심이었습니다. NVIDIA, SK하이닉스, 삼성전자, Micron, TSMC가 주목받은 이유입니다.

2026~2027년에는 Rubin과 HBM4, CoWoS-L, 전력 인프라가 중요해집니다. 이 시기에는 메모리와 패키징뿐 아니라 액체 냉각, 전력 장비, 변압기, 데이터센터 설계 기업까지 봐야 합니다.

2028년 이후에는 Feynman, CPO, 실리콘 포토닉스, 3D 적층, 고성능 인터커넥트가 핵심이 될 가능성이 큽니다.

IEA는 2030년 데이터센터 전력 수요가 연간 945TWh 수준에 이를 수 있다고 제시했습니다. 이는 AI 인프라 경쟁이 반도체 안에서만 끝나지 않는다는 뜻입니다.

Nomura는 2027년 글로벌 신축 데이터센터 타깃 캐파가 약 32GW 수준까지 확대될 수 있다고 봤습니다. 데이터센터가 이렇게 늘어나면 GPU보다 먼저 전력 연결, 냉각, 부지, 변압 인프라가 병목이 될 수 있습니다.

결국 투자자는 단순히 “다음 GPU는 무엇인가”만 보면 부족합니다.

다음 병목이 어디로 이동하는지 봐야 합니다.

GPU에서 HBM으로, HBM에서 CoWoS로, CoWoS에서 전력과 냉각으로, 다시 인터커넥트와 광통신으로 병목이 이동합니다. 이 흐름을 따라가야 AI 인프라 투자의 다음 기회를 볼 수 있습니다.

9. 결론: AI 반도체는 칩이 아니라 시스템 경쟁으로 간다

처음에는 NVIDIA GPU와 SK하이닉스 HBM만 보면 된다고 생각했습니다.

하지만 AI 반도체 시리즈를 쓰면서 생각이 완전히 바뀌었습니다.

AI 반도체는 GPU 하나의 이야기가 아닙니다. GPU가 있어도 HBM이 없으면 안 됩니다. HBM이 있어도 CoWoS가 없으면 안 됩니다. CoWoS가 있어도 전력과 냉각이 부족하면 데이터센터는 돌아가지 않습니다. GPU를 많이 연결하려면 NVLink, UALink, CPO 같은 인터커넥트도 필요합니다.

Rubin, Rubin Ultra, Feynman으로 이어지는 차세대 AI 반도체 로드맵은 이 변화를 더 분명하게 보여줍니다.

앞으로의 AI 반도체 경쟁은 더 작은 공정 하나만으로 결정되지 않습니다.

누가 더 큰 메모리를 붙이고, 누가 더 복잡한 패키지를 안정적으로 만들고, 누가 더 많은 GPU를 빠르게 연결하고, 누가 전력과 냉각까지 함께 해결하느냐의 싸움입니다.

투자자 입장에서도 관점이 바뀌어야 합니다.

NVIDIA만 볼 것이 아니라 TSMC, SK하이닉스, 삼성전자, Micron, Broadcom, Marvell, Coherent, Lumentum, Vertiv, Schneider Electric 같은 AI 인프라 생태계를 함께 봐야 합니다.

AI 반도체는 이제 칩이 아니라 시스템입니다.

그리고 그 시스템의 병목이 이동할 때마다 새로운 투자 기회도 함께 이동합니다.

AI 반도체 관련 글 이어보기 

[이전글 보기] : Chiplet이란 무엇인가? AI 반도체는 왜 조각으로 만들기 시작했을까

https://www.hanvelog.com/2026/06/what-is-chiplet-ai-semiconductor.html

[다음글 보기] : AI 반도체 관련주 총정리, GPU부터 네트워크 인프라까지 한 번에 보는 투자 지도

https://www.hanvelog.com/2026/07/ai-semiconductor-stocks-guide.html

#AI반도체 #AI인프라 #NVIDIA #Rubin #Feynman #HBM4 #CoWoS #TSMC #SK하이닉스 #반도체투자