삼성 ‘연산’ SK ‘패키징’… ‘메모리 장벽’ 넘는다

美 ‘핫칩스 2026’서 전략 공개

삼성, GPU 일부 연산 기능 옮겨와
성능·전력효율 맞춤형 HBM 제시

하닉, 20단 이상 적층할 접합 기술
발열 부위 식혀주는 ‘iHBM’ 개발

삼성전자와 SK하이닉스가 차세대 고대역폭 메모리(HBM)의 승부처로 각각 연산 기능과 패키징 기술을 꺼내 들었다. 삼성전자는 HBM의 기능을 넓히고, SK하이닉스는 20단 이상 높이 쌓아도 발열과 뒤틀림을 잡는 접합·냉각 기술을 개발한다. AI 반도체의 성능 경쟁이 그래픽처리장치(GPU)를 넘어 메모리로 확산되는 가운데 중국의 추격에도 대응하려는 전략이다.

두 회사는 23일(현지 시간) 미국 스탠퍼드대에서 개막한 학술회의 ‘핫칩스 2026’에서 차세대 HBM 전략을 공개했다. 업계의 공통 고민은 AI 칩의 계산 속도를 메모리가 따라가지 못하는 ‘메모리 병목’이다. GPU가 아무리 빨리 계산해도 필요한 데이터를 메모리가 제때 보내주지 못하면 제 성능을 낼 수 없다. AI 가속기의 연산 성능은 2년마다 약 3배씩 높아지는 반면 HBM의 데이터 전송 속도 증가 폭은 같은 기간 2배에도 못 미친다는 게 업계의 분석이다.


삼성전자의 해법은 HBM 자체를 더 ‘똑똑하게’ 만드는 것이다. HBM 맨 아래에는 여러 장의 D램과 GPU 사이에서 데이터 흐름을 관리하는 ‘베이스다이’가 있다. 삼성전자는 여기에 지금까지 GPU가 맡았던 메모리 제어 기능과 데이터 처리 작업 일부를 옮기는 방안을 제시했다. GPU의 부담을 HBM이 나눠 맡는 셈이다. 메모리 제어 기능을 HBM으로 옮겨 확보한 GPU 내부 공간에 연산 코어를 더 넣으면 성능을 높일 수 있다는 것이다.

SK하이닉스는 HBM을 더 높이 쌓을 때 생기는 열과 뒤틀림을 해결하는 데 초점을 맞췄다. HBM은 D램을 여러 층 쌓을수록 용량은 늘지만 열을 빼내기 어렵고 칩이 휘는 문제도 커진다. SK하이닉스는 20단 이상 적층을 위해 칩 사이 금속을 직접 붙여 층간 간격을 줄이는 ‘하이브리드 본딩’을 연구하고 있다. HBM 내부에 냉각 요소를 넣어 열을 빼내는 ‘iHBM’도 개발 중이다. 이재식 SK하이닉스 아메리카 부사장은 “HBM 자체의 성능뿐 아니라 GPU와 패키징, 파운드리까지 고객과 함께 최적화해야 한다”고 말했다.

이 같은 기술 경쟁은 HBM 수요가 엔비디아 GPU 중심에서 구글·아마존·메타 등 빅테크의 자체 AI 가속기로 확대되는 흐름과 맞물린다. 카운터포인트리서치는 주문형 반도체(ASIC)용 HBM 수요가 2024년부터 2028년까지 35배로 늘어날 것으로 전망했다.



중국 메모리 업체들의 추격도 변수다. 중국 최대 D램 업체 창신메모리(CXMT)는 지난해 4분기 세계 D램 시장 매출 기준 점유율 7.7%로 4위까지 올라섰다. 범용 D램에서 중국의 추격이 거세진 만큼 차세대 HBM에서 기술 격차를 벌리는 것이 중요해진 셈이다.

당장의 승부처는 HBM4와 내년 양산을 앞둔 HBM4E다. 삼성전자는 지난 2월, SK하이닉스는 2분기부터 HBM4 양산 공급에 들어갔으며 두 회사 모두 HBM4E 샘플을 고객사에 전달했다. HBM의 승부 기준도 단순히 데이터를 더 빨리 보내고 더 많이 쌓는 데서 고객의 AI 칩에 맞춰 기능과 구조까지 설계하는 방향으로 바뀌고 있다.

민나리 기자