‘삼성 생산’ 엔비디아 ‘그록3’ 상용화

네비우스 첫 고객… 연내 서비스
삼성 4나노 추가 물량 확보 발판
베라 루빈 확대 땐 HBM4 수혜

엔비디아가 삼성전자 파운드리에서 생산한 인공지능(AI) 추론 전용 칩 ‘그록3’를 본격 상용화한다. 첫 고객사까지 확보하면서 삼성전자는 첨단 공정의 가동률을 높일 추가 물량 확보의 발판을 마련했다. 엔비디아가 그래픽처리장치(GPU)에 이어 추론 전용 칩까지 제품군을 넓히면서 AI 반도체 경쟁도 학습에서 추론으로 확산하고 있다.

엔비디아는 24일(현지 시간) 그록3 칩 256개를 묶은 ‘그록3 LPX’가 양산에 들어갔다고 밝혔다. AI 클라우드 업체 네비우스가 첫 도입 고객사로, 올해 안에 데이터센터에 설치해 서비스를 시작한다. 구체적인 공급 규모는 공개하지 않았다.


그록3는 엔비디아가 지난해 기술 사용권을 확보한 미국 AI 반도체 기업 그록의 설계를 바탕으로 삼성전자가 4나노 공정에서 생산한다. 학습과 추론 등 다양한 AI 연산을 처리하는 GPU와 달리, 그록3는 학습을 마친 AI가 답변을 생성하는 추론 작업에 특화했다. 데이터를 칩 내부의 고속 S램에서 바로 불러와 AI 에이전트의 응답 지연을 줄이는 방식이다.

실제 성능 시험에서 그록3 LPX는 10만 토큰 분량의 자료를 처리하면서 초당 약 3400개의 출력 토큰을 생성했다. 가장 빠른 기존 플랫폼보다 약 4배 높은 속도다. 일반 시스템에서는 50초가 걸리는 5000개 토큰 생성도 약 1.5초 만에 마쳤다. 코딩과 검색, 도구 호출 등을 연속 수행하는 AI 에이전트 시장을 겨냥한 성능이다. 이번 양산은 삼성 파운드리의 4나노 기술이 설계 검증을 넘어 실제 고객 서비스에 투입된다는 데 의미가 있다. 후속 고객과 추가 물량을 확보하면 가동률과 매출 확대에도 보탬이 될 수 있다.

그록3는 엔비디아의 차세대 플랫폼 ‘베라 루빈’과 함께 사용해 추론 속도를 높인다. 그록3 자체에는 고대역폭메모리(HBM)가 들어가지 않지만 루빈 GPU에는 HBM4가 탑재된다. 엔비디아는 베라 루빈이 전작보다 ㎿(메가와트)당 처리량을 최대 30배 높이고 토큰 비용은 최대 35분의 1로 낮췄다고 밝혔다. 베라 루빈 보급이 늘면 삼성전자와 SK하이닉스의 HBM4 공급 기회도 커질 전망이다.



민나리 기자