- 112.5억 원 규모 연구개발 착수… 국산 AI 반도체 생태계 확산 주도 - 국산 NPU·PIM 기반 클라우드 SW 스택 개발… GPU 중심 인프라 한계 극복 - AI 모델 허브 구축… 최적화 모델 1,000개 이상 확보 목표
AI·클라우드 소프트웨어 전문 기업 오케스트로(대표 김범재, 김영광)는 과학기술정보통신부와 정보통신기획평가원(IITP)이 주관하는 ‘AI 반도체 특화 클라우드 네이티브 SW 스택 및 모델 허브 기술 개발’ 과제의 주관기관으로 선정됐다고 8일 밝혔다. 이번 연구개발 사업의 총규모는 112억 5000만원으로, 2026년부터 2029년까지 4년간 수행될 예정이다.
본 과제는 국산 NPU(신경망처리장치)와 PIM(지능형 메모리) 등 차세대 AI 가속기가 범용 클라우드 환경에서 기능할 수 있도록 클라우드 기반 운영 체계를 구축하는 것이 목적이다. 이를 통해 국산 AI 반도체의 생태계를 확장하고 활용도를 높이는 체계를 마련할 방침이다.
오케스트로는 이번 과제를 수행하며 AI 반도체 전용 클라우드 네이티브 SW 스택의 기술 수준을 높인다. 세부 개발 항목에는 ▲컨테이너 런타임 인터페이스(CRI) 호환 기술 ▲가속기 자원의 직접 접근을 지원하는 패스스루(Pass-through) 기술 ▲마이크로서비스 아키텍처(MSA) 프레임워크 등이 포함된다. 이는 기존 GPU 중심 인프라의 구조적 특성을 보완하고, 국산 NPU 자원을 유연하게 할당·운영할 수 있는 표준 체계를 수립하기 위함이다.
이와 함께 국산 AI 반도체 기반 서비스 확산을 위해 학습·추론 모델을 손쉽게 등록·배포할 수 있는 ‘AI 모델 허브’ 플랫폼도 구축한다. 모델 컨테이너화 자동화 기술과 메타데이터 관리 체계를 기반으로 운영될 예정이며, 과제 종료 시점까지 1000개 이상의 최적화 모델 확보를 목표로 한다.
특히 최근 수요가 빠르게 증가하고 있는 초거대 언어 모델(LLM) 실증 사례를 확보해 상용화 가능성을 검증한다. 국내 중소·벤처기업이 고가의 외산 GPU 의존도를 낮추고, 국산 AI 반도체 기반의 고성능 서비스를 보다 신속하게 개발·출시할 수 있도록 지원할 방침이다.
이번 연구 성과는 정부가 추진 중인 ‘K-클라우드 프로젝트’와 2026년부터 본격화되는 ‘국가 AI 컴퓨팅 인프라’ 구축 사업과 연계돼 실제 데이터센터 운영 환경에 적용될 예정이다. 오케스트로는 커널 레벨의 정밀 모니터링과 분산 추적 기술을 통합해 AI 워크로드 예측 정확도를 글로벌 최고 수준인 99%까지 끌어올리고, 대규모 AI 서비스 운영에 필요한 안정성과 신뢰성을 입증할 계획이다.
김범재 오케스트로 대표는 “이번 과제는 국산 AI 반도체가 글로벌 시장에서 경쟁력을 확보하는 데 필요한 핵심 소프트웨어 기반을 마련한다는 점에서 의미가 크다”며 “하드웨어와 소프트웨어가 유기적으로 결합되는 AI 컴퓨팅 환경을 구현해 국내 AI 인프라 자립도를 높이고, 국산 AI 반도체 생태계 확산에 기여하겠다”고 밝혔다.