AI 반도체의 시작, GPU는 왜 AI의 심장이 되었는가. By하은아빠
저는 컴퓨터에 꽤 관심이 많은 사람입니다. 10년 전 지포스 GTX 10 시리즈가 처음 출시됐을 때를 아직도 기억합니다. 당시 레딧과 국내외 컴퓨터 커뮤니티에서는 "AMD는 끝났다"는 이야기가 심심치 않게 나왔습니다. 마침 비트코인 채굴 열풍까지 겹치면서 그래픽카드 가격이 폭등했고, 엔비디아는 게이밍 GPU 시장의 절대 강자로 자리 잡기 시작했습니다. 그때만 해도 대부분의 사람들은 엔비디아를 게임용 그래픽카드 회사 정도로 생각했습니다. 그런데 2026년 6월 현재 엔비디아는 전 세계 시가총액 1위 기업이 되었습니다. 단순히 게임용 그래픽카드를 많이 팔아서가 아닙니다. 엔비디아는 AI 데이터센터의 표준이 된 GPU를 만들었고, 지금 전 세계 AI 산업의 핵심 인프라를 공급하는 기업이 되었습니다. AI 모델을 만드는 회사는 오픈AI, 구글, 메타, 마이크로소프트인데, 시장의 돈은 GPU를 만드는 엔비디아로 강하게 몰렸습니다. 처음에는 조금 이상하게 보일 수 있습니다. 인공지능은 소프트웨어처럼 보이는데, 왜 반도체 기업이 가장 큰 수혜를 받았을까 하는 질문이 생깁니다. 하지만 AI 인프라를 조금만 깊게 보면 답은 단순합니다. AI는 그냥 똑똑한 프로그램이 아닙니다. AI는 거대한 연산을 계속 밀어붙이는 산업입니다. 모델을 학습하려면 데이터를 반복해서 계산해야 하고, 서비스를 운영하려면 사용자의 질문이 들어올 때마다 추론 연산을 처리해야 합니다. 이 연산의 중심에 있는 장치가 GPU입니다. CPU도 컴퓨터의 핵심입니다. 하지만 생성형 AI 시대의 대규모 연산에서는 GPU가 중심이 되었습니다. AI 모델의 학습과 추론은 결국 수많은 행렬 연산의 반복이고, 이 행렬 연산을 가장 잘 처리하는 장치가 GPU이기 때문입니다. 그래서 AI 산업에서 GPU는 단순한 부품이 아닙니다. GPU는 AI의 심장입니다. 심장이 피를 밀어내야 몸이 움직이듯, GPU가 연산을 밀어내야 AI 모델이 학습하고 서비스됩니다. GPU가 부족하면 AI 모델 개발이 늦어...