삼성 파운드리, 엔비디아 추론칩 그록3 전량 생산

지난달 24일(현지시간), 미국 샌프란시스코에서 이재용 삼성전자 회장과 젠슨 황 엔비디아 CEO가 악수를 나눴다. 그 악수가 한 달 만에 반도체 생산 라인으로 이어졌다. 삼성전자 파운드리가 엔비디아의 AI 추론 전용 칩을 전량 생산하기 시작한 것이다.

엔비디아는 24일(현지시간) AI 에이전트용 추론 가속 시스템 ‘그록(Groq)3 LPX’의 양산에 돌입했다고 밝혔다. 그록3 LPX는 언어처리장치(LPU) 256개를 랙 하나에 묶은 시스템이다. 이 LPU를 삼성전자 파운드리가 전량 생산한다. 엔비디아가 지난해 말 추론 칩 전문 업체 그록의 기술을 확보해 차세대 AI 플랫폼 ‘베라 루빈’에 편입한 바로 그 칩이다.

핵심은 속도다. 일반 D램 대신 더 빠른 S램을 써서 AI가 질문에 답하거나 코드를 짜는 시간을 줄이는 데 초점을 맞췄다. S램은 D램보다 저장 용량은 작지만 데이터에 접근하는 속도가 훨씬 빨라서, 답을 연이어 내놓아야 하는 추론 작업에 유리하다. 쉽게 말해 GPU가 AI 모델을 ‘가르치는 공장’이라면, LPU는 훈련을 마친 모델이 이용자에게 답을 내는 ‘계산대’인 셈이다. AI가 코딩과 자료 분석, 도구 활용을 스스로 해내는 에이전트 단계로 진화하면서 이 추론 속도의 가치가 커지고 있다.

AI 시장의 무게중심이 바뀌고 있다는 점도 이번 양산의 배경이다. 그동안 AI 반도체 투자는 모델을 학습시키는 훈련용 GPU에 집중됐다. 그런데 생성형 AI 서비스가 일상화하면서, 학습을 마친 모델이 실제로 답을 내놓는 추론 연산이 전체 AI 연산 비용의 상당 부분을 차지하게 됐다. 업계에서는 앞으로 몇 년간 추론용 반도체가 AI 칩 시장에서 가장 빠르게 성장하는 영역이 될 것으로 보고 있다.

양산과 동시에 고객도 잡았다. AI 클라우드 업체 네비우스(Neuvius)가 그록3 LPX의 첫 고객으로 이름을 올렸다. 젠슨 황 CEO는 “추론은 AI의 성장 엔진”이라며 “처리량과 효율성, 반응성에서 거대한 도약을 가져올 것”이라고 말했다.

삼성전자 입장에선 의미가 각별하다. 지금까지 엔비디아와의 접점은 HBM 같은 메모리가 중심이었다. 그런데 엔비디아 주력 GPU의 생산은 대만 TSMC가 쥐고 있다. AI 반도체가 GPU에서 CPU, LPU로 다변화하면서 삼성 파운드리가 파고들 틈이 열린 셈이다. 최선단 로직 공정이 아닌 추론 특화 칩에서 먼저 물꼬를 텄다는 점도 눈에 띈다. ‘전량 생산’이라는 표현도 주목할 만하다. 물량을 나눠 받는 게 아니라 그록3 LPU 전체를 삼성이 맡는다는 뜻이기 때문이다. 시장에선 AMD가 차세대 랙 시스템 ‘헬리오스’를 내놓고 저지연 칩 업체 세레브라스와 협력을 넓히는 등 추론 시장 경쟁이 달아오르고 있다는 점을 변수로 꼽는다.

이번 양산은 삼성 파운드리가 엔비디아의 ‘메모리 공급사’에서 ‘추론 칩 생산 거점’으로 지위를 넓혀가는 신호로 읽혀요. AI의 무게중심이 학습에서 추론으로 옮겨가는 만큼, 전력과 비용을 아끼는 추론 전용 칩 수요는 당분간 계속 늘어날 거예요. 관전 포인트는 그록3 LPX의 양산 수율과 후속 고객 확보다. 메모리에서 파운드리까지 엔비디아 공급망 안에서 삼성의 비중이 커질수록, 국내 반도체 생태계가 받는 낙수 효과도 그만큼 커져요. 삼성이 TSMC 독주 체제에 얼마나 깊게 침투하느냐가 하반기 파운드리 실적의 향방을 가를 겁니다.


이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.