ChatGPT 출시 이후 인공지능(AI)은 일상생활의 필수 도구로 자리 잡고 있으며 국민의 생활 방식과 근로자의 작업 방식에 혁신적 변화를 가져오고 있다. 최근 ChatGPT를 능가하는 제미나이, 클로드의 출시로 AI에 대한 사회적, 경제적 의존도는 더욱 심화하고 있다. AI 기술은 미국이 주요 생성형 AI 서비스와 핵심 기술을 중심으로 주도하고 있으나 중국도 딥시크, 큐원 등 막대한 인구가 제공하는 데이터와 자체 기술을 기반으로 미국의 AI를 급속히 추격하고 있다. 현 정부에서 AI 3강 실현을 선언하며 국내 AI 기술의 경쟁력을 미국, 중국 수준으로 높일 필요성이 절실한 상태다.
AI 실현에 필요한 AI 풀스택은 미국 국립표준기술연구소(NIST)의 클라우드 컴퓨팅 참조구조(CCRA)를 기반으로 보면 피지컬 AI, LLM과 같은 ‘서비스 계층’, 운영체제(OS), 가상화, 클라우드 관리 플랫폼(CMP), 미들웨어 플랫폼, 재해복구(DR) 등의 기능을 수행하는 ‘자원 추상화 제어 계층’, GPU, 네트워크, 데이터센터와 같은 ‘물리자원 계층’의 3계층으로 크게 구분할 수 있다. 관점에 따라 약간의 차이는 있지만 아마존웹서비스(AWS)는 이를 AI 스택, 엔비디아는 AI 팩토리를 위한 풀스택이라고 부른다.
정부는 AI 기술 강화를 목표로 그랜드 AI 챌린지, 독자 파운데이션 모델 개발 사업 등을 통해 LG AI연구원 엑사원, 업스테이지 솔라 등의 국산 LLM을 글로벌 수준으로 도약시키기 위해 집중적으로 지원하고 있는데 이는 AI 서비스 계층에 해당한다. 퓨리오사AI, 리벨리온을 통한 NPU 개발, 엔비디아의 GPU 확보 및 지원은 물리자원 계층에 해당한다. 대통령 공약 사항인 “AI는 게임 체인저, 100조 원 규모 투자와 국가 AI 인프라 구축 추진” 선언에 따라 국가AI데이터센터(AIDC) 추진, 지자체‧공공기관‧민간의 적극적 AIDC 구축 추진, AIDC 진흥을 위한 특별법 제정 등이 급물살을 타고 있는데 이 또한 물리자원 계층에 해당한다. 이러한 사항들을 기반으로 보면 한국은 AI 3강을 향해 필요한 물리적 기반을 빠르게 갖춰가고 있다.
그러나 GPU와 데이터센터를 대규모로 확보하더라도 이를 충분히 활용하지 못하면 AI 경쟁력으로 이어지기 어렵다. 확보한 GPU를 실제 서비스와 산업 현장에서 충분히 활용하려면 자원을 효율적으로 묶고 배분하며 격리하고 복구해 서비스 형태로 제공하는 소프트웨어 역량이 함께 뒷받침돼야 한다. 특히 AI 활용이 학습을 넘어 대규모 추론으로 확산하면서 GPU를 무작정 증설하기보다 이미 보유한 자원의 처리 효율을 높이는 추론 운영 플랫폼의 중요성도 커지고 있다. 분산 서빙 기반의 추론 최적화 소프트웨어는 낮은 GPU 활용률 문제를 완화하고 AI 서비스 효율을 높이는 핵심 기술이다. 이 계층이 약하면 고가의 GPU와 데이터센터는 온전히 국가 경쟁력으로 전환되기 어렵다. 문제는 이러한 역할을 담당하는 자원 추상화 제어 계층, 즉 AI 인프라 소프트웨어에 대한 지원이 빠져 있다는 점이다. 비유하자면 머리와 하체는 튼튼해지고 있는데 허리가 부실해 상하체가 끊겨 있어 제대로 능력을 발휘할 수 없는 셈이다.
주요국은 이미 이 지점에 주목하고 있다. AI 기술 주권의 완성을 위해서는 AI 풀스택 전반, 즉 서비스 계층, 자원 추상화 제어 계층, 물리자원 계층 모두에 걸친 균형 잡힌 기술 발전이 필요하다. 특히 물리자원과 AI 서비스를 안정적으로 운영하고 제어하는 클라우드·엣지 인프라 SW는 AI 시대의 기술 자립을 뒷받침할 핵심 전략 영역이다. 유럽 역시 이러한 관점에서 IPCEI-CIS 프로젝트를 추진하며 최대 12억 유로의 공공 지원과 약 14억 유로의 민간 투자를 바탕으로 차세대 클라우드·엣지 인프라와 서비스 기술을 개발하고 있다. 이는 단순한 인프라 구축을 넘어 멀티클라우드·엣지 환경의 근간이 되는 데이터 처리·공유 SW 등 인프라 SW 역량 강화에 중점을 두고 있다.
일본은 경제산업성을 중심으로 AI 개발에 필요한 컴퓨팅 자원 정비를 지원하고 있다. 경제안전보장추진법에 따라 5개 사업계획에 최대 725억 엔을 지원하며 AI 개발에 필요한 연산 자원을 국내에서 안정적으로 공급할 기반을 확충하고 있다. 이는 GPU 서버 확보에 그치지 않고 개발자와 기업이 필요한 자원을 클라우드 방식으로 활용할 수 있게 하는 인프라 SW 역량을 함께 키우려는 접근이다. 중국도 신창 정책을 바탕으로 핵심 IT 스택의 자립을 추진하고 있다. 반도체와 장비뿐 아니라 AI 시스템 SW 분야에서도 자국 SW 사용을 확대하고 외산 의존도를 낮추려는 움직임이 이어지고 있다. 이는 기술 자립의 범위가 물리자원 계층을 넘어 인프라 SW 계층까지 확장되고 있음을 보여준다. 즉 주요국의 AI 시대 육성 정책은 주권 회복 및 자립을 위해 AI 풀스택 전층에 걸쳐 기술 자립화를 추진하는 방향으로 가고 있다.
그에 비해 우리나라는 SW가 AI를 탄생시킨 핵심 기술이고 클라우드와 같은 자원 추상화 기술이 AI 풀스택의 중간 허리 위치의 핵심 기술임에도 불구하고 AI 관련 예산 지원을 서비스 계층과 물리자원 계층에 집중하고 있다. 자원 추상화 제어 계층에 해당하는 인프라 SW와 클라우드 분야의 지원은 일부는 이미 익숙한 오래된 단어라 유행이 지나갔다고 생각하고 있고 일부는 우리가 할 수 없는 영역이라고 생각하며 포기하고 있다. AI 인프라 SW 육성을 간과한 결과 최근 AIDC 구축 과정에서 수백 대~수천 대의 GPU 서버를 하나의 자원처럼 연결하고 운영할 클러스터 관리 SW가 없어 고가의 외산 솔루션에 의존해야 하는 상황이 발생하고 있다. 문제의 본질은 GPU와 데이터센터를 얼마나 많이 확보하느냐가 아니라 이를 갖추고도 자원 배분과 운영 최적화의 주도권을 우리 기술로 확보하지 못한다는 데 있다. AI 강국으로 가기 위해서는 장비를 들여오는 데 그치지 않고 이를 실제 서비스로 전환할 인프라 SW 역량을 축적해야 한다.
AI는 컴퓨터 과학 또는 SW의 한 분야로 학습과 추론을 풀기 위한 알고리즘과 데이터로 구성되는 분야다. 그동안 정부는 SW 강국, 인재 양성을 강조하며 이를 실현하기 위해 많은 노력을 기울여왔다. SW가 AI를 탄생시킨 핵심 기술임에도 AI와 AX 시대가 도래하면서 그 원천인 SW 기술을 외면하는 모순적 현상이 발생하고 있다. 클라우드 컴퓨팅 기술도 이미 완성된 기술 또는 글로벌 빅테크가 주도하는 분야로 간주해 AI 클라우드 분야 외에는 정부 투자가 축소되고 있고 SW 분야의 정부 투자도 거의 사라지고 있는 상황이다. 서비스 계층과 물리자원 계층에 몸담고 있는 전문가나 기업들은 전혀 관심을 보이지도 않고 무시하고 있지만 외산이 장악했던 영역에서 국산 SW로 자립 기반을 다져 온 경험이 있는 한국 SW 업계는 충분한 성공 잠재력을 가지고 있다.
실제 공공뿐 아니라 제조‧통신‧금융 등 주요 산업 현장에서 서버 가상화와 AI 클라우드 SW의 국산 전환이 본격화되고 있다. 대규모 데이터센터와 핵심 업무 시스템에서 외산 인프라 SW 환경을 국산 SW로 전환해 운영하는 사례는 국내 인프라 SW가 물리자원의 활용 효율을 높이고 성능을 극대화하며 안정적인 서비스 운영을 뒷받침할 수 있음을 보여준다. 이는 AI 인프라 SW 역시 우리가 주도적으로 키워갈 수 있는 전략 영역임을 시사한다. 그럼에도 한국의 AI 인프라 SW 시장이 브이엠웨어(VMware), AWS, 애저(Azure)와 같은 글로벌 솔루션의 거대한 파도에 노출되어 있는 현실에 국내 SW 업계는 노심초사할 수밖에 없다. 유럽, 중국, 일본은 빅테크의 쓰나미에 대비해 열심히 둑을 쌓고 체질을 강화하고 있는데 우리는 너무나 방심하고 있어 풍전등화 상황이다. 지금이라도 서비스 계층과 물리자원 계층을 연결하는 자원 추상화 제어 계층, 즉 AI 인프라 SW 관련 산업과 기술 자립화에 대한 과감한 투자를 통해 AI 3강과 AI 자주권 실현의 필수 조건인 AI 풀스택의 균형적인 발전을 반드시 이루어야 한다.