소캠2 메모리 규격, AI 넘어 서버 시장의 미래될까? [고든 정의 TECH+]

AI 데이터 센터 건설 붐이 거센 가운데, 메모리 수요 역시 폭증하고 있습니다. 메모리 종류 역시 전통적인 HBM이나 DDR5 메모리뿐 아니라 그래픽 카드용 GDDR 메모리는 물론 스마트폰용으로 개발된 LPDDR 메모리까지 AI 데이터센터가 블랙홀처럼 빨아 들이고 있습니다.

이런 현상을 보여주는 대표적인 제품이 엔비디아의 베라 루빈 (Vera Rubin) 입니다. Arm 아키텍처 기반의 베라 CPU와 루빈 GPU를 결합한 제품으로 루빈 GPU에는 최초로 HBM4 메모리가 탑재됩니다. 하지만 베라 CPX 같은 일부 제품은 HBM4 메모리 대신 저렴한 GDDR7 128GB 메모리를 탑재해 소비자용 그래픽 카드의 메모리 수급난이 더 심해질 것으로 예상됩니다.


베라 CPU의 경우 전통적인 DDR5 메모리는 물론 차세대 메모리 규격인 SOCAMM 2 (Small Outline Compression Attached Memory Module 2, 이하 소캠 2)을 사용할 수 있습니다. 소캠 2는 LPDDR5x 메모리를 서버에서도 사용할 수 있게 만든 규격으로 기존의 서버 메모리 모듈의 대세인 RDIMM를 대체할 수 있는 규격으로 주목받고 있습니다.

LPDDR5x 메모리는 본래 스마트폰 등 모바일 기기를 위해 제안된 규격이기 때문에 메모리를 PCB 기판에 직접 붙이는 방식을 사용합니다. 따라서 교체나 업그레이드가 불가능합니다. 이는 스마트폰에서는 큰 문제가 되지 않으나 수리를 위해 메모리를 교체하거나 혹은 메모리 증설이 필요한 서버에서는 매우 불리한 방식입니다. 이런 단점을 개선하기 위해 LPDDR5x 메모리를 탈부착이 가능한 규격으로 만든 것이 소캠 2라고 할 수 있습니다.

소캠은 사실 노트북용으로 개발된 규격인 캠 (Compression Attached Memory Module, 압축 부착 메모리 모듈, CAMM)에서 유래한 규격입니다. 본래 의도는 노트북에서 사용되는 SO-DIMM이라는 오래된 규격을 대신해 LPDDR 메모리를 노트북에서도 사용할 수 있게 하는 것이었습니다.



하지만 캠 규격은 노트북 시장에서는 기대만큼 널리 사용되지 못했습니다. 인텔은 아예 LPDDR5x 메모리를 CPU와 함께 패키징 했고 AMD도 일부 모델에서 메모리를 같이 패키징 해서 크기를 줄이는 방향으로 개발했기 때문입니다. 그런데 LPDDR5x 메모리를 스마트폰 말고 컴퓨터에서도 쓰자는 아이디어가 AI 서버에서 더 주목받게 됩니다.

서버용 소캠 2 규격은 단일 모듈로 최대 256GB의 대용량을 구현할 수 있으며, 기존 DDR5보다 월등히 높은 153.6GB/s의 대역폭을 확보할 수 있습니다. 더욱 주목할 점은 장착 방식의 변화입니다. 수직으로 세워 장착하던 기존 RDIMM과 달리, 소캠 2는 CPU나 GPU처럼 기판에 평평하게 눕혀 장착하는 ‘압축 부착’ 방식을 취합니다. 덕분에 시스템 전체의 높이를 낮출 수 있고 일체형 냉각 솔루션을 적용하기가 훨씬 수월해졌습니다. 이는 강력한 발열 관리를 위해 수랭식 시스템 도입이 필수적인 베라 루빈 같은 고성능 서버에 매우 유리한 물리적 특성입니다.

여기에 막대한 전력 소모와 발열 문제로 골머리를 앓는 AI 데이터 센터 운영자들에게 저전력 특성을 지닌 LPDDR5x 기반의 소캠 2는 운영 비용을 절감할 수 있는 매력적인 해법입니다. 기본적으로 저전력인 LPDDR 규격인 데다 메인보드와 메모리 사이의 거리를 줄인 압축 부착 방식 덕분에 데이터 전송 과정에서 발생하는 전력 손실과 신호 간섭을 줄여 전력 소모는 줄이고 성능은 높일 수 있습니다.

최근 하이닉스의 192GB 소캠 2 메모리 양산을 발표했는데, 베라 CPU는 소캠 모듈 8개를 지원해 1.5TB의 용량을 채울 수 있습니다. 그리고 삼성과 마이크론 모두 256GB 소캠 2 제품의 샘플을 출하한 상태이기 때문에 미래에는 2TB 메모리 (256GB x8)까지 확장할 수 있을 것으로 보입니다.

물론 소캠 2의 장점은 엔비디아만 주목하는 것이 아닙니다. 경쟁자인 AMD 역시 차세대 에픽 서버 CPU인 베라노 (Verano)에 소캠 2를 지원할 예정입니다. 베라노는 2027년 출시를 목표로 하고 있으며 인스팅트 IM500 GPU와 함께 AMD의 AI 플랫폼을 구성할 예정입니다. 사정이 이렇다면 인텔 역시 서버 제품에서 소캠 2 지원을 고려하지 않을 수 없을 것입니다.

이렇게 AI 데이터 센터 시장에서 소캠 2 채택이 확산되면 소비자용 스마트폰 및 노트북 시장까지 영향이 있을 것으로 예상됩니다. LPDDR5x까지 데이터 센터로 빨려 들어가기 때문입니다. 물론 현재는 모든 형태의 메모리가 AI 데이터 센터로 향하고 있다고 해도 과언이 아닌 시기이기도 합니다.

다만 현재와 같은 AI 데이터 센터 붐이 가라앉더라도 LPDDR 메모리를 서버에서 사용할 때 누릴 수 있는 장점이 확실하기 때문에 결국 서버 시장에서 소캠이 새로운 대세로 자리잡을 가능성이 높아 보입니다. 그리고 언젠가 데스크톱 시장 역시 소캠이나 혹은 노트북용인 CAMM 규격이 확산되어 높은 성능과 낮은 전력 소모라는 장점을 누릴 날이 올 것으로 기대합니다.

고든 정 과학 칼럼니스트 jjy0501@naver.com