“비싼 클라우드 안 거쳐도 개인 PC로 AI 직접 구동”

엔비디아, 로컬 AI·개방형 생태계 동시 공개… 인프라 주도권 경쟁

●“기업 자체적으로 AI 맞춤 설계 가능”

엔비디아가 개인용 노트북 같은 로컬 환경에서 직접 구동되는 인공지능(AI) 기술과 개방형 생태계 전략을 동시에 내놓으며 글로벌 AI 인프라 경쟁의 방향 전환을 시도하고 있다. 클라우드 중심 구조에서 벗어나 기업이 자체 환경에서 AI를 구축·운영하도록 지원하겠다는 구상이다.


엔비디아는 21일 서울 마포 프론트원에서 ‘네모트론 개발자 데이 서울 2026’을 열고 오픈 AI 프로젝트 ‘네모트론’과 에이전트 실행 환경 ‘네모클로’를 공개했다. 브라이언 카탄자로 부사장은 기조연설에서 네모트론을 단일 모델이 아닌 ‘개방형 AI 생태계’로 규정하며 “네모트론은 모델뿐 아니라 데이터셋, 학습 기법, 소프트웨어까지 함께 공개해 기업이 자체적으로 AI를 맞춤 설계할 수 있도록 하는 데 초점을 맞췄다”고 밝혔다.

엔비디아가 내세운 핵심 경쟁력은 압도적인 연산 효율이다. 카탄자로 부사장은 최신 ‘블랙웰’ 아키텍처가 차세대 AI 모델 구동 효율을 기존 발표치보다 높은 55배까지 끌어올렸다고 강조했다. 엔비디아는 성능 최적화를 바탕으로 매개변수 1200억개 규모의 초거대 언어모델 ‘네모트론 3 울트라’를 조만간 출시해 빅테크 플랫폼에 휘둘리지 않는 자생적 AI 생태계를 공급할 계획이다.

이날 함께 공개된 네모클로는 AI가 실제 업무를 수행하도록 돕는 실행 도구다. 전 세계 개발자들이 AI 비서를 만들 때 공통으로 사용하는 오픈 소스 설계도인 ‘오픈클로’를 기반으로 하되, 엔비디아의 강력한 보안 기술을 덧입혔다. 시연 중 AI가 민감한 정보에 접근하려 하자 “이 업무를 제가 직접 수행해도 될까요?”라고 사용자에게 되물으며 승인을 요청했다. AI가 임의로 회사 기밀을 들여다보거나 외부로 유출할 우려를 원천 차단한 것이다.



●속도 빠르고, 질문마다 추가 비용 없어

현장 시연에서는 로컬 AI의 처리 속도와 경제성도 증명됐다. 이메일 작성을 지시하자마자 단 10초 만에 초안을 완성했다. 네모클로가 클라우드 통신 과정 없이 기기 내부의 자원을 최대한 활용하도록 설계된 덕분이다. 인터넷으로 외부 서버를 거칠 필요가 없어 속도가 빠른 것은 물론 질문할 때마다 내야 했던 비싼 서비스 이용료(API 비용) 부담도 사라졌다. 고가의 대형 서버 장비 없이도 초기 구축만 완료하면 추가 비용 없이 무제한으로 AI 비서를 활용할 수 있게 된 셈이다.

엔비디아는 한국의 언어와 문화를 정교하게 학습한 한국 맞춤형 데이터셋 ‘네모트론-페르소나-코리아’도 오픈 소스로 전격 공개했다. 현재 네이버, SK텔레콤, LG 등 기업들은 이 기술을 활용해 ‘우리만의 AI’를 만드는 데 속도를 내고 있다.

글·사진 민나리 기자