연간 12억 GB. 2026년 한 해 동안 전 세계에서 생산될 HBM(고대역폭 메모리)의 총량이다. 2023년 대비 4배 이상 증가한 규모지만, xAI의 데이터센터 하나가 연간 필요로 하는 양은 이 중 3~5%에 달한다. 메모리 업계가 사상 최대 규모로 생산해도 수요를 따라잡지 못하는 역설적 상황. 일론 머스크와 애플의 팀 쿡 CEO가 같은 날, 각각 다른 자리에서 이 ‘메모리 품귀’를 역사상 유례없는 수준이라고 진단했다.
26일(현지시각) 비즈니스인사이더에 따르면, 머스크는 이날 X(구 트위터)에 올린 게시물에서 팀 쿡이 최근 애플 내부 회의에서 “이런 메모리 부족은 IT 역사상 처음”이라고 말한 것을 인용하며 “전적으로 동의한다(100%)”고 답했다. 머스크는 이어 “GPU는 구할 수 있지만, GPU에 붙일 메모리가 없다”며 “콜로세움(Colossus) 데이터센터 확장의 유일한 병목은 메모리”라고 덧붙였다.
메모리 부족의 진원지는 AI 훈련·추론 수요의 폭발적 증가다. GPT-5급 모델 하나를 훈련하려면 HBM3e 수십만 GB가 필요하고, 추론 단계에서도 초당 토큰 생성 속도를 높이려면 메모리 대역폭이 결정적 변수다. 삼성전자·SK하이닉스·마이크론 3사는 2026년 HBM 캐파(CAPA)를 전년 대비 2.5배 이상 늘렸지만, xAI뿐 아니라 메타·구글·아마존·애플까지 AI 인프라 투자를 동시다발적으로 확대하면서 수급 갭은 오히려 벌어지고 있다.
애플의 경우 자체 AI 모델 ‘애플 인텔리전스’의 온디바이스 추론을 위해 아이폰·맥에 HBM급 통합 메모리를 대량 탑재하기 시작하면서, 모바일 D램과 HBM의 공급망이 충돌하는 국면이다. 쿡 CEO가 내부적으로 ‘역사상 처음’이라는 표현까지 동원한 것은, 소비자 가전과 AI 서버라는 서로 다른 시장이 같은 웨이퍼(반도체 원판)를 두고 경쟁하는 구조적 충돌을 우려했기 때문으로 풀이된다. 실제로 올해 2분기 HBM의 웨이퍼 투입 비중은 전체 D램 생산의 35%까지 치솟았으며, 이는 범용 D램 가격 상승으로 이어지고 있다.
반도체 업계에선 “2027년까지 HBM 공급 부족이 해소되기 어렵다”는 전망이 우세하다. TSMC의 CoWoS 첨단 패키징 공정이 추가 병목으로 작용하고 있고, HBM4 전환을 앞둔 설비 투자도 공급사의 선택을 더 어렵게 만들고 있다.
머스크와 쿡이 같은 날 같은 단어로 경고한 이 순간은, AI 시대의 ‘석유’가 무엇인지를 명확히 보여줍니다. GPU가 아니라 GPU 옆에 붙는 메모리입니다. 두 CEO의 발언을 종합하면, 2026년 하반기 AI 인프라 경쟁은 ‘누가 더 많은 GPU를 확보하느냐’가 아니라 ‘누가 삼성·SK·마이크론의 HBM 할당량을 더 많이 배정받느냐’로 승부가 갈릴 것입니다. 머스크는 이미 콜로세움에 20만 GPU를 확보했지만, 그 GPU들을 실제로 가동하려면 GPU당 5~8개의 HBM 칩이 필요합니다. 연산 자원은 있지만 기억 자원이 모자란 상태인 셈입니다. 머스크의 콜로세움이 20만 GPU에서 100만 GPU로 가는 길은, 엔비디아가 아니라 메모리 3사의 생산라인에 놓여 있습니다.
- 원문: Business Insider — Elon Musk agrees with Tim Cook: The memory shortage is unprecedented
- 작성: sw4u 8시뉴스 일관평 / 2026-06-27 08:04