메모리 절반이면 충분? 일론 머스크의 피지컬 AI 전략 [고든 정의 TECH+]

최근 마이크론 테크놀로지의 산자이 메로트라 최고경영자(CEO)는 실적 발표에서 흥미로운 전망을 내놓았습니다. 자율주행차처럼 휴머노이드 로봇 1대당 200GB 이상의 D램과 수 테라바이트의 낸드 플래시가 필요하기 때문에, 피지컬 AI가 결국 미래 메모리·스토리지 수요의 주요 동력이 될 수 있다는 것입니다. 이는 현재의 AI 붐이 끝난 뒤 실적이 꺾일 수 있다는 시장의 우려를 불식시키려는 메시지로 읽힙니다.

그런데 그 직후 일론 머스크는 엑스(X)에 묘하게 다른 시각을 보여주는 글을 올렸습니다. 테슬라가 개발 중인 AI5 칩의 메모리 용량을 기존 계획의 절반인 72GB로, AI6 칩은 약 3분의 1을 줄인 144GB로 조정했다는 내용이었습니다. 메모리 공급 부족을 극복하고 비용을 크게 낮추기 위한 결정이며, 이 변경이 옵티머스 성능에는 거의 영향을 주지 않을 것이라고 강조했습니다.

옵티머스와 테슬라 자율주행 시스템에 탑재될 AI5는 약 2000~2500 TOPS의 연산 능력을 목표로 하고 있습니다. 기존 AI4 대비 유용한 성능이 5배 이상 향상된 수준입니다. 칩은 하프 렉티클 크기(430mm² 정도)의 단일 대형 다이에 12개의 D램 모듈을 주변에 배치한 형태로 설계됐으며, 대용량 온 칩 (On-chip) SRAM을 함께 탑재하고 있습니다.

여기서 머스크가 강조한 포인트는 명확합니다. 메모리 ‘용량’보다 ‘대역폭(속도)’이 더 중요한 병목이라는 것입니다. 용량을 줄이면서도 대역폭 자체는 그대로 유지했고, 추가로 온 칩 SRAM을 적극 활용해 실효 속도를 높인 것으로 보입니다. 프로세서 내부에 있는 SRAM은 용량은 작지만 외부 D램보다 훨씬 빠르게 데이터를 주고받을 수 있기 때문입니다.



로봇과 자율주행에 필요한 피지컬 AI는 사실 크고 똑똑한 모델보다 빠른 모델이 더 중요합니다. 계속해서 변하는 상황에 맞춰 즉각적으로 반응해야 하기 때문입니다. 파라미터가 많은 모델은 더 정교한 판단을 내릴 가능성이 높지만, 너무 커지면 연산에 시간과 전력이 많이 소모돼 반응 속도가 느려지고 로봇에 탑재하기 부담스러워집니다.

머스크의 주장에 따르면 AI5는 엔비디아 H100에 준하는 성능을 내면서도 전력 소모는 200W 수준으로 비교적 낮게 설계됐습니다. 온 칩 SRAM으로 필요한 빠른 반응을 확보하고, 용량을 줄인 LPDDR5 메모리로 전력 효율을 높인 덕분으로 풀이됩니다. TSMC와 삼성의 2㎚ 공정을 통해 전성비를 개선했을 가능성도 큽니다.

물론 이 모든 내용은 테슬라와 머스크의 주장에 기반한 것입니다. AI5 칩이 실제로 공개되거나 양산된 것은 아니기 때문에, 전력 소모와 메모리 사용량을 줄이면서도 피지컬 AI에 적합한 반응 속도를 확보했는지 현재로서는 검증하기 어렵습니다. AI5의 본격 양산은 2027년으로 예정돼 있으며, 그때 실제 제품이 나오면 자연스럽게 확인될 전망입니다.

그래도 이 내용이 흥미로운 이유는 테슬라의 AI 전략을 엿볼 수 있기 때문입니다. 앞서 중국 AI 모델들은 메모리와 연산 자원을 구하기 어려운 상황에서 극단적인 효율화 기술을 적극 도입했습니다. 반면 테슬라는 메모리 수급의 현실적 제약을 인정하면서도, 피지컬 AI에 필수적인 빠른 반응 속도와 높은 전력 효율을 우선시한 설계를 선택한 것으로 보입니다. 이 전략이 실제로 효과적인지 가까운 미래에 확인할 수 있을 것입니다.

고든 정 과학 칼럼니스트 jjy0501@naver.com