AI 클러스터란 무엇인가? 수천 개의 GPU가 하나처럼 움직이는 구조
예전에는 테라 라는 MMORPG를 꽤 오래 했습니다. 제가 키웠던 캐릭터는 창기사였습니다. 파티에서는 탱커 역할을 맡았고, 던전이나 레이드에 들어가면 가장 먼저 보스에게 붙어 어그로를 잡는 것이 제 역할이었습니다. 하지만 장비가 아무리 좋은 탱커라도 혼자서는 보스를 잡을 수 없었습니다. 딜러들은 보스의 패턴이 어려워지기 전에 충분한 피해를 넣어야 했고, 정령사와 사제는 파티원의 체력을 회복시키면서 버프를 유지해야 했습니다. 탱커가 보스의 방향을 제대로 잡지 못하면 딜러가 공격하기 어려웠고, 힐러의 회복이 한 박자만 늦어도 파티 전체가 무너졌습니다. 결국 중요한 것은 캐릭터 한 명의 전투력이 아니었습니다. 각자의 역할을 맡은 파티원들이 얼마나 유기적으로 움직이느냐가 공략 성공을 결정했습니다. AI 클러스터도 비슷합니다. 많은 사람이 AI 성능을 NVIDIA GPU 한 장의 성능으로 생각하지만, ChatGPT 같은 거대한 AI 모델은 GPU 한 장으로 학습하거나 서비스할 수 없습니다. 수천 개에서 수만 개의 GPU가 역할을 나누고, 계산 결과를 끊임없이 주고받으며 하나의 거대한 컴퓨터처럼 움직여야 합니다. 오늘은 AI 데이터센터의 핵심인 AI 클러스터가 무엇인지 , 여러 GPU를 왜 하나로 연결해야 하는지, 그리고 네트워크·전력·냉각까지 왜 함께 설계해야 하는지 정리해보겠습니다.