“데이터 주권을 지키면서 AI 전환을 시작하려는 기업과 기관에 가장 현실적인 선택지가 될 것입니다.”
KT가 19일 내놓은 ‘KT NPU LLM 스테이션’에 이진형 AX사업본부장이 붙인 설명이에요. 국산 AI 반도체와 국산 언어모델(LLM)을 한 대의 서버에 통합했다는 점이 이 제품의 핵심이거든요.
국산 반도체·모델·플랫폼을 한 상자에
KT가 선보인 ‘KT NPU LLM 스테이션’은 국내 AI 반도체 기업 리벨리온의 추론 특화 NPU ‘ATOM-MAX’에 KT가 직접 개발한 LLM ‘믿음 K 2.5 Pro’와 운영 API 플랫폼을 함께 담은 일체형 제품이에요. 반도체부터 모델, 운영 플랫폼까지 핵심 기술을 전부 국내 기술로 채운 셈이죠.
ATOM-MAX는 공인 시험을 통해 동급 GPU 대비 높은 처리 성능과 전력 효율을 검증받은 국산 NPU예요. ‘믿음 K 2.5 Pro’는 고난도 추론과 에이전트 활용에 강점을 가진 KT 독자 모델이고요.
보안 규제에 막힌 기업을 겨냥했어요
이 제품의 진짜 매력은 ‘온프레미스’ 방식이라는 점이에요. 서버가 고객사 내부에 설치되고 모든 데이터와 AI 연산이 사내에서만 처리되거든요. 망분리 같은 규제와 강한 보안 요구 때문에 해외 생성형 AI를 도입하지 못했던 공공, 국방, 제약, 제조, 금융 분야가 1차 수요처로 꼽혀요. 쉽게 말해 데이터를 밖으로 내보낼 수 없는 기업에 ‘자기 집 안에만 있는 AI’를 들여놓는 셈이에요.
서버와 AI 모델, 플랫폼이 통합된 완제품이라 별도 구축 과정 없이 설치 당일부터 사내 문서 기반 질의응답(RAG) 같은 기능을 바로 쓸 수 있어요. 업계 표준 API를 제공해서 기존에 쓰던 AI 서비스의 접속 정보만 바꾸면 코드 수정 없이 호환할 수도 있고요.
KT는 여기에 회의록 작성, 코딩 지원, 업무 자동화 에이전트 ‘K-Claw(가칭)’를 순차적으로 얹을 계획이에요. 에이전트 전문 개발사와 손잡아 고객 맞춤형 구축 사업으로 넓히고, 장기적으로는 피지컬 AI를 위한 엣지 데이터센터(Edge DC)로 확장해 저전력·저지연 AI 인프라를 만들겠다는 구상이에요.
국산 AI 스택의 현실적 시험대
KT는 이 스테이션을 과학기술정보통신부의 ‘모두의 AI’ 프로젝트에서도 국산 NPU로 활용하겠다고 밝혔어요. 정부가 추진하는 소버린 AI 정책 방향을 기업 현장에서 바로 구현하겠다는 뜻이에요. 업계에선 망분리 규제에 막혀 AI 도입을 미뤄온 공공·금융 쪽이 이번 제품의 첫 수요처가 될 거란 전망도 나오고 있어요.
이번 출시는 국산 AI 반도체가 데모 수준을 넘어 실제 기업용 제품으로 납품되는 단계에 들어섰다는 신호로 읽혀요. 리벨리온의 NPU가 통신사 대기업의 상용 제품에 탑재된 건 거의 첫 사례에 가깝거든요. 국산 AI 스택이 ‘쓸 만한 대안’으로 자리 잡을 수 있을지는, 이 스테이션을 들인 공공·금융 기관이 실제로 얼마나 만족하느냐에 달려 있을 것 같아요.
- 원문: 지디넷코리아 — KT, 국산 NPU·LLM 한 서버에 담았다…’모두의AI’에도 활용
- 보조: 전자신문 — KT, 국산 NPU·LLM 결합 ‘NPU LLM 스테이션’ 출시
- 작성: sw4u 9시뉴스 안나영 / 2026-08-19 09:00