AI 클러스터란 무엇인가? 수천 개의 GPU가 하나처럼 움직이는 구조

이미지
예전에는 테라 라는 MMORPG를 꽤 오래 했습니다. 제가 키웠던 캐릭터는 창기사였습니다. 파티에서는 탱커 역할을 맡았고, 던전이나 레이드에 들어가면 가장 먼저 보스에게 붙어 어그로를 잡는 것이 제 역할이었습니다. 하지만 장비가 아무리 좋은 탱커라도 혼자서는 보스를 잡을 수 없었습니다. 딜러들은 보스의 패턴이 어려워지기 전에 충분한 피해를 넣어야 했고, 정령사와 사제는 파티원의 체력을 회복시키면서 버프를 유지해야 했습니다. 탱커가 보스의 방향을 제대로 잡지 못하면 딜러가 공격하기 어려웠고, 힐러의 회복이 한 박자만 늦어도 파티 전체가 무너졌습니다. 결국 중요한 것은 캐릭터 한 명의 전투력이 아니었습니다. 각자의 역할을 맡은 파티원들이 얼마나 유기적으로 움직이느냐가 공략 성공을 결정했습니다. AI 클러스터도 비슷합니다. 많은 사람이 AI 성능을 NVIDIA GPU 한 장의 성능으로 생각하지만, ChatGPT 같은 거대한 AI 모델은 GPU 한 장으로 학습하거나 서비스할 수 없습니다. 수천 개에서 수만 개의 GPU가 역할을 나누고, 계산 결과를 끊임없이 주고받으며 하나의 거대한 컴퓨터처럼 움직여야 합니다. 오늘은 AI 데이터센터의 핵심인 AI 클러스터가 무엇인지 , 여러 GPU를 왜 하나로 연결해야 하는지, 그리고 네트워크·전력·냉각까지 왜 함께 설계해야 하는지 정리해보겠습니다.

AI 데이터센터 구조 완전 정리, 서버·GPU·전력·냉각은 어떻게 연결될까?

이미지
아이가 태어나면서 사진과 동영상을 찍는 일이 정말 많아졌습니다. 예전에는 휴대폰 128GB면 충분했습니다. 원래 사진을 자주 찍는 편도 아니었고, 영상은 더더욱 찍지 않았기 때문입니다. 하지만 하은이가 태어난 뒤에는 작은 표정 하나도 남겨두고 싶었고, 뒤집기나 옹알이처럼 처음 보는 순간은 자연스럽게 영상으로 찍게 됐습니다. 지금은 일부 사진과 영상을 iCloud에 저장하고, 용량이 큰 파일은 컴퓨터 SSD로 옮겨두고 있습니다. 여기에 육아 블로그와 네이버 클립, 유튜브 쇼츠까지 함께 운영하다 보니 이 방식도 한계가 느껴졌습니다. 그래서 최근에는 집에 NAS를 구축하는 것도 진지하게 고민하고 있습니다. 저는 데이터센터도 처음에는 엄청나게 큰 NAS 같은 것이라고 생각했습니다. 저장장치를 수백 개, 수천 개 연결해 인터넷 서비스에 필요한 데이터를 보관하는 시설 정도로 이해했던 것입니다. 하지만 AI 인프라를 공부하면서 생각이 완전히 바뀌었습니다. AI 데이터센터는 저장장치를 크게 묶어놓은 창고가 아니라, GPU·서버·네트워크·전력·냉각이 하나로 연결되어 거대한 컴퓨터처럼 움직이는 물리적 시스템이었습니다. 오늘은 AI 데이터센터 안에 어떤 장비가 들어가고, 각각의 장비가 어떻게 연결되어 하나의 AI 팩토리를 완성하는지 전체 구조를 정리해보겠습니다.

AI 데이터센터와 일반 데이터센터의 차이, 왜 AI 시대의 핵심 인프라가 되었을까?

이미지
 저는 지금도 아이폰 128GB 모델을 사용하고 있습니다. 원래 사진을 많이 찍는 편도 아니었고, 영상은 더더욱 찍지 않았습니다. 그래서 128GB면 충분하다고 생각했습니다. 그런데 하은이가 태어나고 나서는 상황이 완전히 달라졌습니다. 하루에도 사진을 몇 장씩 찍고, 처음 뒤집기를 했을 때, 처음 기어 다녔을 때, 옹알이를 시작했을 때처럼 기록하고 싶은 순간이 계속 생겼습니다. 자연스럽게 동영상도 많이 찍게 됐고, 어느 순간 저장 공간이 부족하다는 알림이 뜨기 시작했습니다. 결국 일부 사진과 영상은 iCloud를 결제해서 사용하고 있습니다. 그때 문득 이런 생각이 들었습니다. 예전에는 글과 사진 정도만 저장하면 됐지만, 이제는 대부분의 사람들이 고화질 사진과 4K 영상을 매일 올리고 있습니다. 앞으로 AI 영상 생성이나 AI 서비스를 사용하는 사람이 더 많아진다면, 이런 데이터를 저장하고 처리하는 공간은 얼마나 더 많이 필요할까 하는 생각이 들었습니다. AI 인프라를 공부하면서 그 답이 바로 데이터센터 라는 것을 알게 됐습니다. 지난 시리즈에서는 AI 시대의 전력과 AI 반도체를 중심으로 살펴봤습니다. 하지만 GPU도, HBM도, 첨단 패키징도 결국은 데이터센터 안에서 제 역할을 합니다. 그래서 이번에는 시선을 조금 넓혀 AI 데이터센터 를 주제로 새로운 시리즈를 시작해보려고 합니다. 오늘은 AI 데이터센터가 기존 데이터센터와 무엇이 다른지, 왜 전 세계 빅테크 기업들이 막대한 돈을 투자하고 있는지 정리해보겠습니다.

AI 반도체 관련주 총정리, GPU부터 네트워크 인프라까지 한 번에 보는 투자 지도

이미지
 저는 하은이 투자 계좌를 아직 일반 증권계좌로 운영하고 있습니다. 연금저축계좌를 활용하면 과세이연 효과 덕분에 ETF를 리밸런싱하기도 훨씬 자유롭습니다. 나중에 하은이가 성인이 되고 취업해서 연말정산을 하기 전까지는 세액공제를 받은 돈을 다시 뱉어낼 일도 거의 없습니다. 단순히 나스닥 ETF 하나만 장기 적립할 생각이었다면 연금저축계좌가 더 효율적이었을 수도 있습니다. 그럼에도 저는 일반 계좌를 선택했습니다. 이 블로그 첫 글에서도 적었지만, 제 목표는 단순히 수익률을 높이는 것만이 아니기 때문입니다. 투자는 돈만 불리는 것이 아니라 경제를 공부하는 과정 이라고 생각합니다. 언젠가 하은이가 커서 “왜 이 ETF를 샀어?”, “왜 이 회사를 투자했어?”라고 물어봤을 때, 단순히 “수익이 좋아 보여서 샀다”가 아니라 왜 그 산업이 성장했고, 어떤 기술이 세상을 바꿨는지 설명해 줄 수 있는 아빠 가 되고 싶었습니다. 그래서 6월 5일부터 AI 반도체 관련 글을 쓰기 시작했고 하은이 계좌에 코어는 나스닥 ETF로 두고 SK하이닉스를 비중을 조금 잡았습니다. 처음에는 몇 편 정도 쓰면 끝날 줄 알았습니다. 그런데 GPU를 공부하니 HBM이 보였고, HBM을 공부하니 CoWoS가 보였습니다. 거기서 끝이 아니었습니다. 파운드리, 첨단 패키징, UALink, 광반도체, Chiplet, 네트워크까지 계속 연결됐습니다. 글 하나를 쓰면 또 궁금한 것이 생겼고, 그걸 따라가다 보니 어느새 AI 반도체는 하나의 기업이 아니라 거대한 산업 생태계 라는 것을 알게 됐습니다. 이번 글은 그동안 정리했던 내용을 마무리하는 의미에서 AI 반도체 관련주를 밸류체인 순서대로 한 번에 정리 하는 글입니다.

차세대 AI 반도체 로드맵, AI 인프라는 앞으로 어디까지 진화할까?

이미지
 저는 올해 4월 초부터 구글 블로그를 운영하기 시작하면서 AI 인프라와 반도체 산업을 팔로우업 하며 포스팅 하고 있습니다. 처음에는 정말 단순했습니다. AI 시대가 오면 결국 NVIDIA GPU와 SK하이닉스 HBM 만 보면 된다고 생각했습니다. 실제로 4월 15일에 작성했던 글을 다시 읽어보면, 당시에는 GPU와 HBM을 중심으로 AI 반도체 시장을 바라보고 있었습니다. 그때만 해도 코스피가 6,000선을 넘어서는 흐름을 보면서 AI 반도체가 앞으로 시장을 이끌 것이라는 생각이 강했습니다. 그런데 불과 두 달 반 정도가 지난 지금은 시장도 많이 달라졌습니다. 코스피는 한때 9,300선을 찍고 내려와 어제 7월 1일자 기준 8,300선 부근에서 마무리됐고, 저 역시 AI 반도체를 바라보는 시각이 완전히 달라졌습니다. 글을 하나씩 직접 쓰다 보니 병목은 단순히 NVIDIA GPU나 SK하이닉스 HBM만의 문제가 아니었습니다. HBM을 공부하다 보니 CoWoS가 보였고, CoWoS를 이해하려다 TSMC의 첨단 패키징을 공부하게 됐습니다. GPU를 여러 개 연결하는 구조를 이해하려다 NVLink와 UALink를 다뤘고, 결국에는 광반도체와 CPO까지 이어졌습니다. 처음에는 AI 반도체를 하나의 제품으로 봤다면, 지금은 하나의 거대한 생태계로 보게 됐습니다. GPU, HBM, 첨단 패키징, 인터커넥트, 광반도체, 전력과 냉각까지 어느 하나라도 막히면 AI 데이터센터 전체 성능이 제한됩니다. 이번 글에서는 지금까지 살펴본 개별 기술을 넘어, Rubin, Rubin Ultra, Feynman으로 이어지는 차세대 AI 반도체 로드맵 을 중심으로 앞으로 AI 인프라가 어떤 방향으로 발전할지 정리해보겠습니다.

Chiplet이란 무엇인가? AI 반도체는 왜 조각으로 만들기 시작했을까

이미지
 저는 어릴 때 아버지께서 당시에도 엄청 비싼 가격이었음에도 불구하고, 창의력이 좋아진다며 레고를 자주 사주셨습니다. 특히 스타워즈 시리즈 우주선이나 전투기 를 많이 사주셨는데, 당시에는 스타워즈가 뭔지도 몰랐습니다. 그냥 멋있는 우주 비행기 정도로 생각하면서 설명서를 보고 하나씩 조립했던 기억이 납니다. 다만 어린애들이 그렇듯 완성하고 끝나는 경우는 거의 없었습니다. 며칠 지나면 다시 전부 분해해서 다른 모양을 만들곤 했습니다. 어느 순간 부품이 하나씩 없어지기도 했고, 다른 시리즈에서 남은 부품까지 가져와 돛이 달린 비행기를 만들거나 우주선과 자동차를 섞어 이상한 물건을 만들기도 했습니다. 지금 생각해 보면 레고의 가장 큰 장점은 처음부터 하나의 거대한 덩어리로 만들어진 장난감이 아니라는 점 이었습니다. 작은 블록 하나하나를 조합해 원하는 모양을 만들 수 있었고, 일부가 없어지거나 망가져도 전체를 버릴 필요가 없었습니다. 필요한 블록을 다시 끼우거나, 다른 블록으로 대체하면 새로운 구조를 만들 수 있었습니다. 흥미롭게도 AI 반도체도 지금 비슷한 방향으로 발전하고 있습니다. 예전에는 하나의 거대한 칩 안에 모든 기능을 집어넣는 방식이 이상적이었습니다. 하지만 공정이 미세해지고 칩이 커질수록 생산 비용과 수율 문제가 커졌습니다. 그래서 최근 고성능 AI 반도체는 하나의 거대한 칩을 만드는 대신, 여러 개의 작은 칩을 레고 블록처럼 조합하는 Chiplet 구조 로 빠르게 이동하고 있습니다. 오늘은 Chiplet이 왜 등장했는지, AI 반도체에서 왜 중요해졌는지, 그리고 NVIDIA, AMD, Intel, TSMC의 전략이 어떻게 달라지고 있는지 정리해보겠습니다.

광반도체(CPO)란 무엇인가? AI 데이터센터가 빛으로 연결되는 이유

이미지
저는 초등학생 때부터 컴퓨터 게임을 좋아했습니다. 그때는 바람의나라 가 막 인기를 끌던 시기였습니다. 집에서 게임을 하려면 모뎀으로 인터넷에 접속해야 했는데, 인터넷을 사용하면 집 전화가 끊겼고, 게임을 오래 하면 전화요금 폭탄이 나왔습니다. 전화비가 많이 나온 달에는 어머니께 등짝 맞은 기억이 선명합니다. 그러다 1999년쯤 유승준이 광고하던 ADSL 이 나오면서 상황이 바뀌었습니다. 인터넷이 정액제가 되면서 시간이나 전화요금을 신경 쓰지 않고 게임을 할 수 있게 됐습니다. 그때는 ADSL만으로도 충분했습니다. 바람의나라나 스타크래프트를 즐기는 데는 큰 불편이 없었습니다. 그런데 고등학교에 들어가면서 FPS 게임과 월드 오브 워크래프트를 접하자 다시 문제가 생겼습니다. 인터넷이 느리면 핑이 튀고, 렉이 생기면서 게임 자체가 힘들었습니다. 결국 어머니를 설득해서 LG Xpeed 광랜 으로 바꿨고, 그때 처음으로 인터넷 기술이 게임 경험 자체를 바꿀 수 있다는 걸 느꼈습니다. 지금 돌아보면 인터넷은 계속 같은 인터넷처럼 보였지만, 실제로는 모뎀에서 ADSL로, ADSL에서 광랜으로 계속 진화했습니다. 더 많은 데이터를 더 빠르고 안정적으로 보내기 위해 결국 전기 신호에서 빛으로 이동한 것 입니다. AI 데이터센터도 지금 비슷한 변화를 겪고 있습니다. GPU는 계속 빨라지고 있고 HBM도 발전하고 있습니다. 하지만 GPU와 스위치, 랙과 랙을 연결하는 전기 신호가 점점 한계에 가까워지면서 이제는 전기가 아니라 빛으로 데이터를 보내는 기술 이 중요해지고 있습니다. 그 중심에 있는 기술이 바로 광반도체와 CPO(Co-Packaged Optics) 입니다. 오늘은 AI 데이터센터가 왜 빛으로 연결되려 하는지, CPO가 무엇인지, 그리고 NVIDIA, Broadcom, Marvell, TSMC 같은 기업들이 왜 이 기술에 집중하는지 정리해보겠습니다.

UALink는 NVLink를 대체할 수 있을까? AI 인터커넥트 경쟁의 시작

이미지
저는 최근 집을 이사하면서 인터넷 회선을 바꿨습니다. 이전 집에서는 100Mbps 광랜을 사용했는데, 새집으로 오면서 500Mbps 상품으로 바꿨습니다. 당연히 인터넷이 훨씬 빨라질 것이라고 생각했습니다. 실제로 데스크톱에 랜선을 직접 연결해서 속도를 측정해보면 500Mbps에 가까운 속도가 나왔습니다. 그런데 이상하게도 휴대폰으로 유튜브 4K 영상을 보면 가끔 끊기고, 다운로드 속도도 생각보다 나오지 않았습니다. 처음에는 통신사 회선 문제라고 생각했습니다. 그런데 원인은 인터넷 회선이 아니었습니다. 공유기가 너무 오래된 모델이라 최신 Wi-Fi 속도를 제대로 받쳐주지 못하고 있었습니다. 인터넷 회선은 빨라졌지만, 그 속도를 집 안에 뿌려주는 장비가 병목이 된 것입니다. 이후 신형 공유기로 바꾸고 나서야 휴대폰에서도 속도가 제대로 나오기 시작했습니다. AI 데이터센터도 비슷합니다. GPU 성능은 계속 올라가고 있습니다. HBM도 더 빨라지고 있습니다. 하지만 GPU 여러 개를 서로 빠르게 연결하지 못하면 전체 시스템 성능은 크게 떨어질 수밖에 없습니다. AI 시대에는 GPU 하나의 성능만큼이나 GPU와 GPU를 연결하는 기술이 중요해졌습니다. 그 중심에 NVIDIA의 NVLink 가 있습니다. 그리고 이 독점 구조에 맞서 AMD, Intel, Meta, Microsoft, Google, AWS 등이 힘을 합쳐 만든 개방형 표준이 UALink 입니다. 오늘은 UALink가 왜 등장했는지, NVLink와 무엇이 다른지, 그리고 정말 NVIDIA의 독점적 인터커넥트 생태계를 흔들 수 있을지 정리해보겠습니다.

HBM4는 왜 중요한가? Rubin 시대 AI 메모리 경쟁의 시작

이미지
 저는 아이폰 4S 때부터 계속 아이폰을 사용하고 있습니다. 예전에는 아이폰의 램 용량이 삼성 갤럭시보다 낮아도 크게 불편하다고 느끼지 않았습니다. 애플이 하드웨어와 소프트웨어 최적화를 잘해서 실제 사용감은 충분히 부드러웠기 때문입니다. 당시에는 단순 스펙표만 보고 램 용량을 비교하는 것이 큰 의미가 없다고 생각했습니다. 그런데 최근에는 조금 다르게 느낍니다. 앱은 점점 무거워지고, 사진과 영상 처리도 많아졌고, 여기에 AI 기능까지 들어오기 시작했습니다. 예전처럼 프로세서 성능과 최적화만으로 모든 것을 해결하기에는 메모리 사용량 자체가 너무 커지고 있습니다. 애플도 최근 아이폰에서 램 용량을 늘리고 있지만, 절대적인 램 용량만 놓고 보면 여전히 삼성 플래그십 대비 보수적인 편입니다. 이 흐름을 보면서 AI 반도체도 비슷하다는 생각이 들었습니다. AI 시대에는 연산 성능만큼 메모리가 중요합니다. GPU가 아무리 빨라도 데이터를 가져오지 못하면 성능을 낼 수 없습니다. AI 모델이 커지고, 추론량이 늘어나고, 에이전트 AI처럼 여러 단계를 스스로 판단하는 구조가 되면 GPU는 더 많은 데이터를 더 빠르게 읽어야 합니다. 그래서 HBM3E도 아직 부족한데, 시장은 벌써 HBM4 로 이동하고 있습니다. 오늘은 HBM4가 왜 필요한지, HBM3E와 무엇이 달라지는지, SK hynix·삼성전·Micron의 경쟁 구도는 어떻게 바뀌는지, 그리고 투자자가 HBM4 시대에 무엇을 봐야 하는지 정리해보겠습니다.

CoWoS 공급은 언제 정상화될까? AI GPU 병목은 칩이 아니라 패키징에 있다

이미지
저희 집은 대구이고 본가는 대전입니다. 예전에는 거리만 보고 중부내륙고속도로를 자주 이용했습니다. 대구에서 대전으로 가는 길만 놓고 보면 그쪽이 더 짧아 보였기 때문입니다. 그런데 몇 번 다니다 보니 어느 순간부터 거의 경부고속도로를 타게 됐습니다. 이유는 단순했습니다. 중부내륙고속도로는 화물차가 너무 많습니다. 특히 1,2차로 전부 화물차가 길을 막고 두 대가 나란히 90km 정도로 달리면 뒤에 있는 차들은 추월도 못 하고 그대로 막힙니다. 차가 엄청 많은 것도 아닌데, 도로 한 구간이 막히면 전체 흐름이 느려집니다. 그래서 조금 돌아가더라도 경부고속도로를 이용합니다. 거리상으로는 더 멀어도 6~8차선 구간이 많고 흐름이 좋아서 실제 도착은 더 빠른 경우가 많았습니다. AI 반도체 공급망을 보면서 이 장면이 계속 떠올랐습니다. 처음에는 GPU가 부족하면 엔비디아가 더 만들면 된다고 생각했습니다. TSMC가 웨이퍼를 더 찍고, SK하이닉스나 삼성전자, 마이크론이 HBM을 더 만들면 해결될 것처럼 보였습니다. 그런데 실제 병목은 조금 달랐습니다. GPU라는 차는 있는데, GPU와 HBM을 연결하는 도로가 막혀 있었습니다. 그 도로가 바로 CoWoS 입니다. 오늘은 CoWoS가 왜 AI 반도체 공급망의 핵심 병목이 되었는지, TSMC는 얼마나 빠르게 생산능력을 늘리고 있는지, ASE와 Amkor는 어떤 역할을 하는지, 그리고 CoWoS 공급 부족은 언제쯤 완화될 수 있을지 정리해보겠습니다.

HBM 공급은 지금 어디까지 왔을까? SK하이닉스가 강해진 진짜 이유

이미지
한창 코로나 이 후 강세장이 왔을 때 개미는 오늘도 뚠뚠이라는 주식 관련 소재의 예능 프로그램이 있었습니다. 거기서 전원주 할머니께서 2011년 초 SK하이닉스 주식을 2만 원대에 매수해 장기간 보유했다는 이야기를 들었었는데 지금 SK하이닉스 주가를 생각하면 정말 장기 투자의 정석이라는 생각이 들었습니다. 저 역시 하은이 계좌도 그렇고, 제 노후자금도 모두 장기 투자라는 원칙을 가지고 운용하고 있습니다. 단기간에 사고파는 것보다 좋은 기업을 오래 보유하는 것이 결국 가장 어렵지만 강한 투자 방법이라고 생각하기 때문입니다. 그런데 여기서 궁금한 점이 하나 생겼습니다. 도대체 SK하이닉스는 왜 이렇게까지 강해진 걸까? 예전에는 메모리 반도체라고 하면 삼성전자가 가장 먼저 떠올랐습니다. 하지만 AI 시대가 시작된 이후 시장의 중심은 빠르게 바뀌고 있습니다. 최근 증권사들은 SK하이닉스 목표주가를 계속 올리고 있고, 시장에서는 ‘400만 닉스’ 같은 표현까지 등장하고 있습니다. 단순히 메모리를 잘 만드는 회사라서 이런 평가를 받는 것은 아닙니다. 그 중심에는 HBM이라는 AI 메모리 가 있습니다. 오늘은 HBM 기술 자체보다는, 현재 HBM 공급이 어디까지 진행됐는지, 왜 SK하이닉스가 시장을 주도하고 있는지, 삼성전자와 마이크론은 어디까지 따라왔는지를 정리해보겠습니다.

GPU는 왜 아직도 부족할까? 엔비디아가 더 찍어내면 되는 문제가 아닌 이유

이미지
 그래픽카드가 부족하면 그냥 더 많이 만들면 되는 것 아닌가 하는 생각을 했습니다. 비싸게 팔리는데 생산만 늘리면 엔비디아도 돈을 더 많이 벌 수 있을 것 같았습니다. 특히 인기 있는 그래픽카드는 가격이 천정부지로 치솟고, 물량을 구하는 것 자체도 어려운 경우가 많았습니다. 처음에는 단순하게 생각했습니다. “수요가 많으면 공장을 더 돌리면 되는 것 아닌가?” 그런데 AI 반도체 공급망을 하나씩 보다 보니 이게 생각보다 훨씬 복잡한 문제였습니다. 우선 엔비디아는 GPU를 직접 생산하는 회사가 아닙니다. GPU를 설계하는 팹리스 기업에 가깝고, 실제 생산은 대부분 TSMC 같은 파운드리가 담당합니다. 그렇다고 TSMC가 웨이퍼만 더 찍어내면 해결되는 것도 아니었습니다. AI GPU 하나가 완성되려면 TSMC의 선단 공정, SK하이닉스·삼성전자·마이크론의 HBM, TSMC의 CoWoS 패키징, ASML의 EUV 장비, 서버 보드, 전력, 냉각까지 모두 맞아야 합니다. 결국 GPU 부족은 엔비디아 혼자 해결할 수 있는 문제가 아니었습니다. 오늘은 AI 시대 GPU가 왜 아직도 부족한지, 그리고 왜 엔비디아가 마음대로 생산량을 늘리지 못하는지 정리해보겠습니다.

AI 반도체는 왜 아직도 부족할까? 공급망 병목 완전 정리

이미지
 제가 주로 하는 게임은 시뮬레이션 게임입니다. 특히 시티즈 스카이라인처럼 에셋을 많이 사용하는 게임은 램 사용량이 매우 높습니다.그래서 예전에는 컴퓨터를 조립할 때 램 슬롯을 전부 채우는 풀뱅크 구성을 선호했습니다. 방열판 달린 튜닝램을 4장 꽂아놓으면 성능을 떠나서 보기에도 괜찮았고, 시뮬레이션 게임을 오래 하는 입장에서는 램을 넉넉하게 가져가는 게 마음이 편했습니다. 그런데 이번에 컴퓨터를 라이젠 7800X3D 세팅으로 바꾸면서 AM5 플랫폼에서는 풀뱅크 구성이 잘 안 먹거나 성능이 떨어진다는 이야기가 많았고, 안정성을 생각해서 32GB 램 2장으로 64GB를 맞췄습니다. 지금 생각해 보면 이게 신의 한 수였습니다. 제가 32GB 램 한 장을 살 때는 22만 원 정도였는데, 최근에는 같은 급의 32GB 램 한 장이 60만 원 초중반대까지 올라갔습니다. 한 장 가격이 CPU보다 비싸고, 두 장이면 그래픽카드 가격과 비교해야 하는 수준입니다. 예전에는 컴퓨터를 조립할 때 그래픽카드 가격만 걱정했습니다. 그런데 이제는 램 가격이 전체 견적에서 차지하는 비중도 무시하기 어려워졌습니다. 처음에는 단순히 메모리 가격이 오른 정도로만 생각했습니다. 그런데 AI 반도체 공급망을 하나씩 보다 보니 이 문제가 단순히 램 가격만의 문제가 아니라는 생각이 들었습니다. AI 반도체 하나가 만들어지려면 GPU만 있으면 되는 것이 아닙니다. HBM이 필요하고, CoWoS 같은 첨단 패키징이 필요하고, TSMC의 선단 공정이 필요하고, ASML의 EUV 장비가 필요합니다. 여기에 ABF 기판, 데이터센터 전력, 냉각, 변압기까지 모두 연결됩니다. 결국 AI 반도체 부족은 단순한 GPU 부족이 아니라 공급망 전체가 동시에 병목을 겪는 문제 입니다. 오늘은 AI 반도체가 왜 아직도 부족한지 전체 구조를 가볍게 정리해보겠습니다.

인텔 파운드리 전략, 인텔은 부활할 수 있을까?

이미지
 제가 처음 컴퓨터를 맞췄을 때만 해도 CPU는 고민할 필요가 없었습니다. 주변에서 조립 PC를 맞추는 사람들 대부분이 인텔을 선택했고, 저 역시 샌디브릿지 i5-2500K를 사용했습니다. 지금 생각해도 2500K는 희대의 명작 CPU였습니다. 22nm 아이비브릿지, 하스웰 세대는 물론이고 훨씬 뒤에 나온 14nm 스카이레이크 i3-6100과 비교해도 크게 밀리지 않았습니다. 저 역시 2500K를 무려 7년 가까이 사용하다가 커피레이크 i7-8700K로 넘어갔습니다. 그만큼 당시 인텔은 개인용 PC CPU 시장에서 절대 강자였습니다. 실제로 데스크톱 CPU 시장 점유율 자료를 보면 인텔은 2006년 이후 오랫동안 70% 안팎의 점유율을 차지했습니다. 반면 AMD는 20~30% 수준에 머무르는 경우가 많았습니다. 하지만 분위기는 조금씩 바뀌기 시작했습니다. 2018년 초 멜트다운과 스펙터 보안 이슈가 발생했고, 인텔은 전성비와 공정 경쟁력 측면에서 점점 어려움을 겪기 시작했습니다. 그 사이 AMD는 라이젠 시리즈를 앞세워 비슷하거나 더 좋은 성능을 훨씬 경쟁력 있는 가격에 내놓기 시작했습니다. 그리고 결국 2021년 1분기, 데스크톱 CPU 시장에서 AMD가 처음으로 인텔 점유율을 넘어서는 장면이 나왔습니다. 이후 두 회사는 비슷한 수준의 점유율 경쟁을 이어갔지만, 최근에는 AMD의 X3D 제품군이 게임 성능에서 강력한 모습을 보이면서 다시 AMD 쪽으로 무게가 기우는 분위기입니다. 물론 전체 CPU 시장에서는 아직 인텔이 거대한 기업입니다. 하지만 적어도 일반 소비자 입장에서 CPU를 고를 때 예전처럼 “무조건 인텔”을 떠올리는 시대는 끝난 것 같습니다. 주가를 봐도 인텔은 오랫동안 답답한 종목이었습니다. 닷컴버블 시절의 고점을 수십 년 동안 제대로 넘지 못했고, TSMC와 엔비디아가 AI 시대의 승자가 되는 동안 인텔은 오히려 뒤처지는 모습을 보였습니다. 그런데 최근에는 분위기가 조금 달라졌습니다. 미국 정부의 반도체 제조 육성 정책, CHIPS Ac...

삼성 파운드리의 과제, 삼성전자는 왜 TSMC를 넘지 못할까?

이미지
 제가 주식을 처음 시작했을 때만 해도 코스피를 대표하는 기업은 당연히 삼성전자였습니다. 주변에서 주식 이야기가 나오면 삼성전자부터 이야기했고, 한국 반도체 산업 역시 삼성전자가 이끌어간다는 인식이 강했습니다. 그런데 2026년 6월 22일 기준으로 SK하이닉스의 시가총액이 삼성전자를 넘어서는 일이 벌어졌습니다. 예전 같으면 상상하기 어려웠던 장면입니다. 물론 하루 이틀의 시가총액 역전만으로 모든 것이 바뀌었다고 볼 수는 없습니다. 하지만 AI 시대가 시작되면서 반도체 산업의 주도권이 빠르게 움직이고 있다는 것은 분명해 보입니다. 특히 최근 몇 년 동안 삼성전자는 HBM 시장에서는 SK하이닉스에게 밀리는 모습을 보였고, 파운드리 시장에서는 TSMC와의 격차가 좀처럼 줄어들지 않고 있습니다. 반대로 SK하이닉스는 HBM 시장을 주도하고 있고, TSMC는 AI 반도체 생산의 핵심 기업으로 자리 잡았습니다. 그래서 문득 이런 생각이 들었습니다. “삼성전자는 왜 메모리는 세계 최고 수준인데 파운드리에서는 TSMC를 따라가지 못하는 걸까?” 개인적으로는 대한민국 대표 기업이라는 타이틀을 다시 삼성전자가 가져오기 위해서는 결국 파운드리 사업이 살아나야 한다고 생각합니다. 오늘은 AI 시대 삼성 파운드리가 어떤 과제를 안고 있는지, 그리고 2nm 공정과 HBM4가 반전의 계기가 될 수 있을지 정리해보겠습니다.

EUV 노광 기술 이해, 왜 ASML은 AI 반도체 시대의 독점 기업이 되었을까

이미지
제가 주식 투자를 하면서 항상 중요하게 보는 것 중 하나가 산업 내 지배력입니다. 아무리 좋은 산업이라도 경쟁사가 너무 많으면 결국 수익성이 낮아질 수 있기 때문입니다. 그래서 저는 특정 산업을 볼 때 “누가 가장 강한 지배력을 가지고 있는가”를 먼저 보는 편입니다. 대표적인 사례가 파운드리의 TSMC입니다. 현재 AI 반도체 시장에서 엔비디아, AMD, 애플 같은 기업들이 설계를 담당하고 있지만 실제 생산은 대부분 TSMC를 거치고 있습니다. 그만큼 대체하기 어려운 위치를 차지하고 있습니다. 그런데 AI 반도체 공급망을 공부하다 보니 TSMC 못지않게 독보적인 기업이 하나 더 눈에 들어왔습니다. 바로 네덜란드의 ASML입니다. 사실 ASML이라는 이름이 완전히 낯설지는 않았습니다. 예전에 동진쎄미켐에 투자했던 경험이 있었기 때문입니다. 당시 투자 공부를 하면서 포토레지스트가 반도체 노광 공정에 사용되는 핵심 소재라는 사실을 알게 됐고, 자연스럽게 노광 장비 시장도 함께 찾아봤습니다. 그 과정에서 ASML이라는 기업을 처음 접했습니다. 당시에는 단순히 반도체 장비 회사 정도로 생각했습니다. 하지만 AI 반도체 산업을 공부할수록 생각이 바뀌었습니다. 지금의 TSMC도, 삼성전자도, 인텔도 특정 장비 없이는 첨단 반도체를 생산할 수 없습니다. 그리고 그 장비를 사실상 독점 공급하는 기업이 바로 ASML입니다. AI 반도체 경쟁은 엔비디아와 AMD의 경쟁처럼 보이지만, 그 뒤에서는 EUV 노광 기술을 누가 확보하느냐의 경쟁이 동시에 벌어지고 있습니다. 도대체 EUV는 무엇이고, 왜 ASML은 전 세계 반도체 산업에서 TSMC에 비견될 정도의 독점적 위치를 차지하게 된 걸까요?

3nm와 5nm 공정 차이, AI 시대에는 왜 나노 숫자가 더 중요해졌을까

이미지
 제가 대학생 때 사용했던 CPU는 인텔 샌디브릿지 i5-2500K였습니다. 지금도 PC 커뮤니티에서는 명작 CPU로 이야기되는 제품입니다. 당시 기준으로는 32nm 공정 제품이었지만 성능이 워낙 뛰어났습니다.  무엇보다 인상적이었던 것은 수명이었습니다. 저는 이 CPU를 거의 7년 가까이 사용했습니다. 아이비브릿지와 하스웰 세대를 거치고, 14nm 스카이레이크가 나온 이후에도 계속 사용했습니다. 심지어 당시 보급형 스카이레이크 CPU였던 i3-6100과 비교되기도 했고, 동급 i5 제품들과도 어느 정도 경쟁이 가능했습니다. 결국 저는 취업 후에야 커피레이크 i7-8700K로 업그레이드했습니다. 2500K는 32nm 공정 제품이었고, 커피레이크 이전 하스웰이나 아이비브릿지 스카이레이크 등은 훨씬 세밀한 나노 공정으로 이루어진 CPU 였습니다.  단순 숫자만 보면 엄청난 차이가 나는 것 같지만 실제 체감은 단순히 공정 숫자만으로 설명하기 어려웠습니다. 그 시절에는 공정 미세화도 중요했지만 CPU 아키텍처 자체의 성능 향상 폭이 더 중요했습니다. 그래서 32nm 샌디브릿지 명작 CPU 하나가 여러 세대를 버티는 일도 가능했습니다. 그런데 최근 반도체 산업은 분위기가 많이 달라졌습니다. 이제는 7nm, 5nm, 3nm, 심지어 2nm 경쟁까지 등장했습니다. 특히 AI 반도체 시장에서는 이 숫자가 단순한 마케팅 용어를 넘어 성능과 전력 효율, 생산 비용을 결정하는 핵심 요소가 되고 있습니다. 엔비디아 Blackwell은 TSMC 4NP 계열 공정을 사용하고, 애플의 최신 M 시리즈는 3nm 공정을 사용합니다. 삼성전자와 인텔 역시 2nm와 18A 경쟁에 막대한 자금을 투자하고 있습니다. 과거에는 32nm CPU가 7년을 버티는 시대였다면, 지금은 1~2세대의 공정 차이가 AI 반도체 경쟁력을 좌우하는 시대가 된 것입니다. 그렇다면 반도체에서 말하는 3nm와 5nm는 실제로 무엇이 다를까요? 그리고 왜 AI 시대에는 이 숫자가 과거보다 훨씬 중...

패키징이 반도체 성능을 결정하는 이유

이미지
 제가 대학생 때 군대를 제대하고 복학 전에 PC방 아르바이트를 한 적이 있습니다. 당시 PC방 사장은 전체적인 사양 업그레이드를 진행하고 있었습니다. 기존에 사용하던 그래픽카드는 지포스 9600GT였고, 모니터와 연결도 DVI 케이블을 사용했습니다. 그런데 업그레이드를 하면서 그래픽카드를 GTX 560 Ti로 교체하고, 모니터도 함께 바꾸면서 매장 전체를 HDMI 기반으로 바꾸게 됐습니다. 그때 꽤 충격을 받았습니다. 예전에는 손님이 “소리가 안 나온다”, “화면이 안 나온다” 하고 부르면 가서 DVI 케이블이나 스피커 연결 상태부터 확인하곤 했습니다. 화면 신호와 소리 신호를 따로 신경 써야 했기 때문입니다. 그런데 HDMI로 바뀌고 나서는 케이블 하나만 연결하면 화면과 소리가 동시에 전달됐습니다. 같은 컴퓨터였고 같은 게임을 실행했지만, 연결 방식이 바뀌면서 관리도 쉬워지고 사용 경험도 훨씬 좋아졌습니다. 그때는 단순히 편해졌다고 생각했는데, 지금 돌이켜보면 중요한 의미가 있었습니다. 좋은 부품을 만드는 것만큼 중요한 것은 그 부품들을 얼마나 빠르고 효율적으로 연결하느냐는 점입니다. AI 반도체도 지금 비슷한 상황입니다. 엔비디아는 강력한 GPU를 만들었고, SK하이닉스와 마이크론, 삼성전자는 빠른 HBM을 만듭니다. 하지만 GPU와 HBM을 제대로 연결하지 못하면 두 부품 모두 제 성능을 낼 수 없습니다. 그래서 최근 AI 반도체 업계에서는 칩 자체의 성능 못지않게 칩을 연결하는 기술이 중요해지고 있습니다. 그리고 그 중심에 있는 것이 바로 첨단 패키징 입니다.

AI 시대에 TSMC가 더 강해지는 이유

이미지
저는 주식을 시작한 지 10년이 넘었습니다. 처음 주식을 공부할 때만 해도 반도체라고 하면 삼성전자와 인텔이 먼저 떠올랐습니다. 삼성전자는 메모리 반도체의 절대 강자였고, 인텔은 CPU 시장의 상징 같은 기업이었습니다. 그런데 AI 시대가 오면서 반도체 시장의 중심이 완전히 달라졌습니다. 지금 가장 주목받는 기업은 엔비디아입니다. AI 학습과 추론에 필요한 GPU를 사실상 표준처럼 공급하고 있기 때문입니다. 하지만 엔비디아 GPU가 실제 제품으로 나오기 위해 반드시 거쳐야 하는 기업이 있습니다. 바로 TSMC입니다. 엔비디아뿐만 아닙니다. AMD, 애플, 퀄컴, 미디어텍, 브로드컴 같은 글로벌 팹리스 기업들도 대부분 TSMC를 사용합니다. AI 시대에 반도체 수요가 늘어날수록 TSMC의 영향력이 더 커지는 구조가 만들어진 것입니다. 왜 이런 일이 벌어졌을까요? 이번 글에서는 AI 시대에 TSMC가 왜 더 강해지는지, 그리고 삼성전자와 비교했을 때 체급 차이가 어디서 발생하는지 정리해보겠습니다.

CoWoS-L과 CoWoS-R 차이, AI 반도체 패키징은 왜 더 커져야 할까

이미지
컴퓨터를 맞출 때 보통은 CPU나 그래픽카드부터 보게 됩니다. 저도 예전에는 그랬습니다. 게임 성능을 가장 크게 바꾸는 부품이 CPU와 그래픽카드라고 생각했기 때문입니다. 실제로 그래픽카드를 바꾸면 프레임이 바로 달라지고, CPU를 바꾸면 작업 속도가 체감되는 경우가 많습니다. 그런데 컴퓨터를 직접 맞추다 보면 성능 좋은 부품만 산다고 끝나지 않는다는 걸 알게 됩니다. 그래픽카드는 좋은데 케이스에 안 들어가거나, 파워 용량이 부족하거나, 메인보드 슬롯 구조 때문에 장착이 애매한 경우가 있습니다. 부품 자체는 좋은데 그 부품을 담고 연결하는 구조가 받쳐주지 않으면 제 성능을 내기 어렵습니다. AI 반도체도 지금 비슷한 국면에 들어왔습니다. GPU 성능은 폭발적으로 올라갔습니다. HBM도 HBM3, HBM3E를 지나 HBM4로 진화하고 있습니다. 그런데 GPU와 HBM을 하나의 패키지 안에서 제대로 연결하지 못하면 AI 서버는 종이 위 성능만 높을 뿐 실제 공급과 성능 효율에서 한계를 드러낼 수밖에 없습니다. 이 지점에서 전면으로 떠오른 기술이 바로 CoWoS 입니다. 그리고 이제는 단순히 CoWoS가 중요하다는 수준을 넘어, CoWoS-S, CoWoS-L, CoWoS-R의 차이 까지 봐야 하는 단계가 되었습니다.

Memory Wall이란 무엇인가, AI 반도체는 왜 메모리 벽에 막히는가

이미지
 예전에는 컴퓨터가 느리면 무조건 CPU나 그래픽카드를 바꿔야 한다고 생각했습니다. 그런데 실제로 컴퓨터를 오래 만져보면 꼭 그렇지만은 않습니다. CPU를 바꾸지 않아도 SSD 하나만 바꿨는데 부팅 속도가 완전히 달라지는 경우가 있습니다. 그래픽카드는 그대로인데 램 용량을 늘리거나 메모리 클럭을 올렸더니 게임 프레임이 안정되는 경우도 있습니다. 저도 예전에 이런 경험을 꽤 많이 했습니다. 컴퓨터 성능은 단순히 계산을 담당하는 부품 하나만 빨라진다고 해결되는 것이 아니었습니다. 데이터를 저장하고, 불러오고, 옮기는 속도가 같이 받쳐줘야 전체 체감 성능이 좋아졌습니다. AI 반도체도 똑같습니다. 많은 사람들은 엔비디아 GPU의 연산 성능에 집중합니다. H100, H200, Blackwell, B200 같은 이름을 보면 가장 먼저 몇 TFLOPS인지, 몇 PFLOPS인지, 이전 세대보다 몇 배 빨라졌는지를 봅니다. 하지만 AI 데이터센터의 진짜 병목은 단순 연산 성능만으로 설명되지 않습니다. GPU가 아무리 빨라도 필요한 데이터를 제때 공급받지 못하면 기다려야 합니다. 수천만 원, 수억 원짜리 가속기가 메모리에서 데이터가 오기를 기다리는 순간, 데이터센터는 돈을 태우고 있는 셈입니다. 이 문제가 바로 Memory Wall , 즉 메모리 벽입니다.

메모리 대역폭이 중요한 이유, AI 반도체는 왜 데이터를 기다릴까

이미지
 저는 어릴 때부터 시뮬레이션 게임을 좋아했습니다. 당시에는 지금처럼 스팀이나 에픽게임즈 같은 플랫폼이 대중화되기 전이었습니다. 솔직히 말하면 게임을 정상적으로 구매하는 사람도 많지 않았고, 토렌트를 통해 게임을 다운로드받아 즐기는 경우도 흔했습니다. 문제는 속도였습니다. 제가 좋아하던 시뮬레이션 게임들은 용량이 꽤 큰 편이었습니다. 지금 기준으로 보면 별것 아닌 용량일 수 있지만, 당시 인터넷 환경에서는 꽤 부담스러운 크기였습니다. 그래서 밤에 다운로드를 걸어놓고 잠들었다가 다음 날 아침에 일어나서 다운로드가 끝났는지 확인하는 일이 자주 있었습니다. 그만큼 데이터가 이동하는 속도가 느렸습니다. 그런데 지금은 완전히 다른 세상이 되었습니다. 스팀이나 에픽게임즈 같은 런처에서 게임을 구매하고 다운로드 버튼만 누르면 됩니다. 저희 집은 500Mbps 정도의 비교적 저렴한 인터넷망을 사용하고 있는데도, 수십 GB가 넘는 게임들이 밥 먹고 오면 거의 다 받아져 있는 경우가 많습니다. 컴퓨터가 갑자기 마법처럼 똑똑해져서 그런 것은 아닙니다. 데이터가 이동하는 통로가 넓어졌기 때문입니다. 예전에는 좁은 길로 데이터를 조금씩 받아왔다면, 지금은 훨씬 넓은 도로로 데이터를 받아오는 것과 비슷합니다. AI 반도체도 마찬가지입니다. 많은 사람들은 엔비디아 GPU의 연산 성능에만 관심을 가집니다. 몇 TFLOPS인지, 몇 PFLOPS인지, 이전 세대보다 몇 배 빨라졌는지를 먼저 봅니다. 하지만 AI 데이터센터에서는 연산 성능만큼 중요한 것이 있습니다. 바로 데이터를 공급하는 속도 입니다. GPU가 아무리 빨라도 필요한 데이터를 제때 공급받지 못하면 기다릴 수밖에 없습니다. 그리고 이 데이터를 공급하는 통로의 크기를 메모리 대역폭이라고 합니다.

SK하이닉스 vs 삼성전자 vs 마이크론, HBM 승자는 누가 될 것 인가

이미지
 저는 주식을 시작한 지 10년이 넘었습니다. 돌이켜보면 코로나19 이후 이어졌던 글로벌 증시 상승 랠리도 상당히 놀라운 경험이었습니다. 당시에도 “이 정도까지 오른다고?”라는 생각을 여러 번 했던 기억이 납니다. 하지만 솔직히 말하면 지금의 코스피 8,000포인트는 그때보다도 더 상상하기 어려웠던 숫자입니다. 주식을 처음 시작했을 때만 해도 코스피 3,000도 쉽지 않은 목표처럼 느껴졌습니다. 그런데 어느새 한국 증시는 8,000포인트를 넘어서는 수준까지 올라왔습니다. 그리고 그 중심에는 삼성전자와 SK하이닉스가 있었습니다. 특히 최근 몇 년 동안 SK하이닉스의 상승세는 많은 투자자들의 관심을 받았습니다. 과거에는 삼성전자가 메모리 반도체 시장의 절대 강자라는 인식이 강했지만, AI 시대가 열리면서 분위기가 조금씩 달라지기 시작했습니다. 어느 순간부터 시장은 삼성전자보다 SK하이닉스의 HBM 경쟁력을 더 주목하기 시작했습니다. 처음에는 단순히 새로운 메모리를 잘 만드는 회사 정도로 생각했습니다. 하지만 AI 반도체 산업을 공부할수록 생각이 바뀌었습니다. 현재 AI 데이터센터의 핵심인 엔비디아 GPU는 HBM 없이는 제대로 성능을 낼 수 없습니다. 그리고 그 HBM 시장에서 가장 앞서 있는 기업이 바로 SK하이닉스이기 때문입니다. 결국 AI 반도체 경쟁은 엔비디아만의 이야기가 아닙니다. 그 뒤에는 SK하이닉스, 삼성전자, 마이크론이 벌이고 있는 또 하나의 전쟁이 존재합니다. 그리고 앞으로 HBM4 시대가 열리면서 이 경쟁은 더욱 치열해질 가능성이 높습니다. 이번 글에서는 현재 AI 반도체 산업의 핵심 메모리인 HBM 시장에서 SK하이닉스, 삼성전자, 마이크론이 각각 어떤 위치에 있는지, 그리고 HBM 시대의 최종 승자가 누가 될 수 있을지 살펴보겠습니다.

HBM3E와 HBM4 차이, AI 반도체 경쟁은 왜 메모리로 이동했을까. By하은아빠

이미지
 저는 예전에 AMD 라이젠 시스템을 사용할 때 램 오버클럭에 꽤 관심이 많았습니다. 요즘은 CPU 성능이 워낙 좋아지고 메모리 호환성도 좋아져서 예전만큼 램 오버를 신경 쓰지 않는 사람도 많습니다. 하지만 라이젠 초기 시절에는 분위기가 조금 달랐습니다. 당시 컴퓨터 커뮤니티에서는 “라이젠은 램 오버가 중요하다”는 이야기가 자주 나왔습니다. 같은 CPU를 사용해도 메모리 클럭과 타이밍에 따라 게임 성능이나 작업 성능 차이가 발생했기 때문입니다. CPU가 아무리 좋아도 메모리가 데이터를 늦게 보내주면 CPU가 기다려야 했고, 반대로 메모리 속도가 잘 받쳐주면 CPU 성능을 더 잘 뽑아낼 수 있었습니다. 그 시절 가장 유명했던 제품 중 하나가 삼성 시금치램이었습니다. 가격은 비교적 저렴했지만 오버클럭 수율이 좋아서 많은 사람들이 삼성 시금치램으로 램 오버를 시도했습니다. 가성비 램 오버의 상징 같은 제품이었습니다. 그런데 DDR5 시대로 넘어오면서 분위기가 바뀌었습니다. 삼성 메모리의 오버클럭 수율이 예전 같지 않다는 이야기가 많아졌고, 고클럭 DDR5 메모리에서는 SK하이닉스 A다이가 각광받기 시작했습니다. 고성능 램을 찾는 사람들 사이에서 SK하이닉스 A다이가 좋은 평가를 받았습니다. 당시에는 단순히 램 오버가 잘 되는 메모리를 찾는 과정이라고 생각했습니다. 그런데 AI 반도체 산업을 공부하면서 그 경험이 다시 떠올랐습니다. 라이젠이 메모리 성능에 민감했던 것처럼, AI GPU도 메모리 성능에 매우 민감합니다. 아무리 강력한 GPU라도 데이터를 충분히 빠르게 공급받지 못하면 제 성능을 낼 수 없습니다. 연산 장치는 기다리게 되고, 비싼 GPU는 놀게 됩니다. 그래서 AI 시대에는 GPU만큼 메모리가 중요해졌습니다. 그리고 그 중심에 있는 메모리가 바로 HBM입니다.

Blackwell 이후 AI 반도체 경쟁, GPU에서 데이터센터 전쟁으로.By하은아빠

이미지
 저의 취미 중 가장 오래 한 것은 자전거입니다. 자전거를 타다 보면 자연스럽게 브랜드에 관심을 가지게 됩니다. 제 개인적인 생각으로 현재 국내 로드자전거 시장에서 가장 높은 인지도와 위상을 가진 브랜드 중 하나는 스페셜라이즈드입니다. 실제로 동호회나 대회에 가보면 스페셜라이즈드 자전거를 어렵지 않게 볼 수 있습니다. 그런데 저는 스페셜라이즈드가 아니라 메리다 리액토를 선택했습니다. 이유는 의외로 단순했습니다. 스페셜라이즈드는 다른 브랜드와 달리 전문 매장 중심으로 운영되는 경우가 많습니다. 문제는 제가 사는 지역에서는 대리점이 멀었다는 점입니다. 자전거는 단순히 구매하고 끝나는 제품이 아닙니다. 정기적인 점검도 받아야 하고, 소모품도 교체해야 하고, 문제가 생기면 바로 정비를 받아야 합니다. 아무리 좋은 자전거라도 정비를 받을 곳이 멀고 부품 수급이 불편하면 실제 사용 경험은 크게 떨어질 수 있습니다. 그래서 저는 집 근처에서 정비를 받을 수 있는 자전거샵에서 메리다 리액토를 구매했습니다. 당시에는 단순히 편의성 때문이라고 생각했습니다. 그런데 AI 반도체 시장을 공부하면서 비슷한 장면을 발견했습니다. 많은 사람들은 AI 반도체 경쟁을 GPU 성능 경쟁으로 생각합니다. 어떤 칩이 더 빠른지, 어떤 칩이 더 많은 연산 성능을 제공하는지에 관심을 가집니다. 하지만 실제 AI 데이터센터 운영자들은 조금 다른 질문을 합니다. HBM 메모리는 충분한가. 전력은 감당 가능한가. 냉각은 가능한가. 소프트웨어는 안정적인가. 네트워크는 병목 없이 연결되는가. 결국 AI 반도체 시장도 자전거를 고를 때와 비슷합니다. 가장 빠른 제품이 반드시 최고의 선택이 되는 것은 아닙니다. 가장 잘 연결된 시스템을 가진 제품이 시장의 표준이 됩니다. 그리고 Blackwell 이후 AI 칩 경쟁은 바로 이 방향으로 이동하고 있습니다.

AI ASIC과 TPU의 등장, 빅테크는 왜 자체 AI 칩을 만들까. By하은아빠

이미지
 저는 아직도 2021년 2월 그래픽카드 시장을 기억합니다. 당시 저는 GTX 1060 6GB를 사용하고 있었고, RTX 3000 시리즈가 출시되면서 업그레이드를 고민하고 있었습니다. 원래는 RTX 3060 Ti를 구매할 생각이었습니다. 당시 기준으로 성능도 훌륭했고, 메인스트림 게이밍 그래픽카드로 평가받고 있었습니다. 그런데 막상 구매하려고 보니 상황이 완전히 달랐습니다. 비트코인과 이더리움을 비롯한 가상자산 가격이 크게 오르면서 채굴 수요가 폭발했고, 시장에서 그래픽카드 매물이 사실상 사라져 버렸습니다. 특히 2021년 2월 무렵에는 RTX 3060 Ti 가격이 80만원을 넘어가는 경우도 흔하게 볼 수 있었습니다. 저는 그때 생각했습니다. 60 Ti를 80만원 넘게 주고 살 바에는 차라리 라데온으로 가자. 결국 그 일을 계기로 처음 AMD 그래픽카드를 사용하게 됐습니다. 당시 엔비디아도 이 문제를 알고 있었습니다. 게이머들은 게임을 하기 위해 GPU를 원했고, 채굴업자들은 코인을 채굴하기 위해 GPU를 사들이고 있었습니다. 하나의 범용 GPU가 전혀 다른 두 시장의 수요를 동시에 감당해야 하는 상황이 된 것입니다. 그래서 엔비디아는 2021년 CMP, 즉 Cryptocurrency Mining Processor라는 전용 채굴용 프로세서를 별도로 출시하겠다고 발표했습니다. 게임은 게임용 GPU로. 채굴은 채굴 전용 칩으로. 용도에 맞게 역할을 분리하려 했던 것입니다. 당시에는 단순히 그래픽카드 품귀 현상을 해결하기 위한 시도 정도로 생각했습니다. 그런데 지금 AI 산업을 보면 비슷한 장면이 다시 반복되고 있습니다. GPU는 AI 산업을 만든 핵심 반도체입니다. 하지만 AI 산업 규모가 커질수록 모든 작업을 GPU만으로 처리하기에는 비용도 비싸고, 전력도 많이 필요합니다. 그래서 빅테크 기업들은 또 다른 선택을 하기 시작했습니다. GPU가 아닌 특정 AI 작업만 수행하는 전용 칩. 바로 AI ASIC과 TPU 입니다.

엔비디아의 진짜 무기, CUDA를 이해해야 하는 이유.By하은아빠

이미지
 저는 아이폰 4S 시절부터 지금까지 계속 아이폰을 사용하고 있습니다. 중간에 한 번 예외가 있었습니다. 예전에 베트남에 살 때 아이폰을 도둑맞은 적이 있었는데, 당시에는 바로 새 아이폰을 구하기가 쉽지 않았습니다. 그래서 급한 대로 삼성 갤럭시 S8 엣지 모델을 사용한 적이 있습니다. 갤럭시 S8 엣지에 엣지 기능이 옆을 드래그 해서 모아놓은 앱을 빠르게 실행 시키는 좋은 기능이기도 했고, 성능도 좋았고, 화면도 좋았습니다. 그런데 이상하게 계속 불편했습니다.  연락처를 옮기는 방식도 낯설었고, 사진을 관리하는 방식도 달랐고, 평소 쓰던 앱과 설정도 익숙하지 않았습니다. 기기 자체의 문제가 아니라 제가 오랫동안 아이폰 환경에 적응해 있었던 것입니다. 결국 한국 출장 일정이 잡히자마자 가장 먼저 한 일이 새 아이폰을 구매하는 것이었습니다. 그때 느꼈습니다. 사람은 생각보다 특정 환경에 깊게 적응합니다. 그리고 한 번 적응한 환경에서 다른 환경으로 넘어가는 것은 생각보다 훨씬 어렵습니다. AI 반도체 시장에서도 비슷한 일이 벌어지고 있습니다. 많은 사람들이 이렇게 생각합니다. AMD도 GPU를 만들고, 인텔도 AI 가속기를 만드는데 왜 엔비디아만 이렇게 강할까? 단순히 GPU 성능 때문이라면 설명이 부족합니다. 하드웨어 스펙만 놓고 보면 경쟁사 제품도 충분히 강한 부분이 있습니다. 그런데도 전 세계 AI 데이터센터는 여전히 엔비디아 GPU를 중심으로 구축되고 있습니다. 그 이유는 GPU 자체보다 더 강력한 무기가 있기 때문입니다. 바로 CUDA 입니다.

AI 연산은 왜 CPU가 아닌 GPU에서 이루어질까.By하은아빠

이미지
저는 시뮬레이션 게임을 좋아합니다. 그래서 예전에는 컴퓨터를 맞출 때 가장 먼저 CPU를 봤습니다. 문명, 풋볼매니저, 하츠 오브 아이언 같은 게임들은 시간이 지나고 국가나 유닛, AI 개체 수가 늘어날수록 CPU 성능 영향을 크게 받았습니다. 그래서 컴퓨터를 새로 맞출 때도 CPU와 메인보드에 가장 많은 돈을 쓰고, 그래픽카드는 게임이 돌아가기만 하는 수준으로 맞추곤 했습니다. 당시 제 생각은 단순했습니다. 컴퓨터 성능의 중심은 CPU라는 것이었습니다. 그런데 최근에는 생각이 조금 달라졌습니다. 시티즈 스카이라인 2를 해보려고 사양을 찾아봤는데, 예전처럼 CPU만 좋은 것이 중요한 게임이 아니었습니다. 오히려 높은 해상도와 방대한 에셋을 사용하려면 그래픽카드의 VRAM 용량이 상당히 중요하다는 이야기가 많았습니다. 그래서 이번에는 처음으로 CPU보다 그래픽카드를 먼저 결정했습니다. 예전에는 CPU가 컴퓨터 성능의 중심이라고 생각했는데, 어느 순간 GPU가 더 중요한 시대가 온 것입니다. 그런데 가만히 생각해 보니 이런 변화는 게임만의 이야기가 아니었습니다. 지금 AI 산업에서도 비슷한 일이 벌어지고 있습니다. 과거 데이터센터의 중심이 CPU였다면, 생성형 AI 시대에는 GPU가 모든 관심의 중심이 되었습니다. 시장에서 가장 많이 언급되는 반도체는 CPU가 아니라 GPU입니다. 생성형 AI, 데이터센터, 엔비디아, H100, H200, Blackwell 같은 단어가 계속 같이 등장합니다. 여기서 자연스럽게 질문이 생깁니다. 왜 AI 연산은 CPU가 아니라 GPU에서 이루어질까요? CPU도 컴퓨터의 핵심 부품입니다. 서버에도 여전히 CPU가 들어갑니다. 그런데 왜 AI 산업의 주인공은 CPU가 아니라 GPU가 되었을까요? 답은 AI 연산의 본질에 있습니다. AI는 복잡한 명령을 하나씩 판단하는 산업이 아니라, 거대한 계산을 동시에 밀어붙이는 산업입니다. 그리고 이 구조에 가장 잘 맞는 장치가 GPU입니다.

네이버 , 구글 블로그 부업 5월 한달 결산 및 목표 세우기

이미지
어느덧 블로그를 본격적으로 운영한 지 두 달이 넘어가고 있습니다. 4월에는 네이버 블로그 일 평균 방문자 100명 달성을 목표로 했었는데 다행히 목표를 넘어섰고, 지난달 글에서 말씀드렸듯이 이번달에는 홈판 및 스마트블록에 올라갈 글을 쓰는 것을 목표로 했었는데 꽤 유의미한 기록이 나왔습니다. 그리고 최근 네이버에서 AI 브리핑 인용 데이터가 공개되기 시작했는데, 이거 또한 분석을 좀 해서 성과를 낼 수 있도록 전략을 구상 하고 있습니다. 반면 구글블로그는 5월 말까지 구글 서치 콘솔 색인 문제로 골머리를 앓다가 유효성 검사 마저 실패로 돌아가서 바로 도메인 구입 후 도메인 바꿔서 다시 등록한 상황이라 여전히 답답합니다. 이번 글에서는 5월 한 달 동안 네이버 블로그와 구글 블로그를 운영하면서 느낀 점, 실제 성과, 그리고 6월 목표에 대해 기록해보려고 합니다. 1. 네이버 블로그 5월 현황 및 목표  지난달부터 홈판 노출을 최대화 하기 위한 작업을 실시 했었는데 그 결과가 어떻게 나왔는지랑 저번달 목표에 대한 5월 성과를 남겨보겠습니다. 1) 지난 달 계획 확인 지난 달 가장 큰 목표는 홈판 노출에 대한 전략 방안 꾸준히 모색하기 였습니다. 현재 상황에서 스텝업을 하려면 단순 검색만 노리고 하방을 다지면서 상방은 홈판으로 여는게 맞다는 판단이이었습니다 (1)홈판 및 스마트 블록 노리기 지금 육아 블로그를 운영하고 있지만 트래픽은 경제 키워드쪽에서 나오는 점을 감안했고 , 지금 경제글도 최대한 육아쪽 글로 보일 수 있게 끔 글 발행시 카테고리를 육아/결혼으로 발행하고 있기 때문에 자연스럽게 경제 인기글쪽에선 노출이 전혀 안됩니다. 그렇다고 현재 시점에서 경제키워드 글을 경제로 발행하면 경쟁도 안되고 육아결혼 블로그의 브랜딩에도 좋지 않다고 보고 경제글은 대부분 홈판 노출을 노리고 작성했습니다 최근 글을 쓰면 이제 홈판 노출이 조금씩은 되고 있었는데 노출 시간이 너무 짧아서 고민이었던 문제를 CTR확보와 체류시간 증대로 승부를 보자는 생각으로 제목을 검색형...

AI 반도체의 시작, GPU는 왜 AI의 심장이 되었는가. By하은아빠

이미지
저는 컴퓨터에 꽤 관심이 많은 사람입니다. 10년 전 지포스 GTX 10 시리즈가 처음 출시됐을 때를 아직도 기억합니다. 당시 레딧과 국내외 컴퓨터 커뮤니티에서는 "AMD는 끝났다"는 이야기가 심심치 않게 나왔습니다. 마침 비트코인 채굴 열풍까지 겹치면서 그래픽카드 가격이 폭등했고, 엔비디아는 게이밍 GPU 시장의 절대 강자로 자리 잡기 시작했습니다. 그때만 해도 대부분의 사람들은 엔비디아를 게임용 그래픽카드 회사 정도로 생각했습니다. 그런데 2026년 6월 현재 엔비디아는 전 세계 시가총액 1위 기업이 되었습니다. 단순히 게임용 그래픽카드를 많이 팔아서가 아닙니다. 엔비디아는 AI 데이터센터의 표준이 된 GPU를 만들었고, 지금 전 세계 AI 산업의 핵심 인프라를 공급하는 기업이 되었습니다. AI 모델을 만드는 회사는 오픈AI, 구글, 메타, 마이크로소프트인데, 시장의 돈은 GPU를 만드는 엔비디아로 강하게 몰렸습니다. 처음에는 조금 이상하게 보일 수 있습니다. 인공지능은 소프트웨어처럼 보이는데, 왜 반도체 기업이 가장 큰 수혜를 받았을까 하는 질문이 생깁니다. 하지만 AI 인프라를 조금만 깊게 보면 답은 단순합니다. AI는 그냥 똑똑한 프로그램이 아닙니다. AI는 거대한 연산을 계속 밀어붙이는 산업입니다. 모델을 학습하려면 데이터를 반복해서 계산해야 하고, 서비스를 운영하려면 사용자의 질문이 들어올 때마다 추론 연산을 처리해야 합니다. 이 연산의 중심에 있는 장치가 GPU입니다. CPU도 컴퓨터의 핵심입니다. 하지만 생성형 AI 시대의 대규모 연산에서는 GPU가 중심이 되었습니다. AI 모델의 학습과 추론은 결국 수많은 행렬 연산의 반복이고, 이 행렬 연산을 가장 잘 처리하는 장치가 GPU이기 때문입니다. 그래서 AI 산업에서 GPU는 단순한 부품이 아닙니다. GPU는 AI의 심장입니다. 심장이 피를 밀어내야 몸이 움직이듯, GPU가 연산을 밀어내야 AI 모델이 학습하고 서비스됩니다. GPU가 부족하면 AI 모델 개발이 늦어...