개방형 AI 승부수? 개방형 모델 공개한 메타 [고든 정의 TECH+]

중국산 오픈 웨이트 모델인 키미 K3는 미국의 프런티어 인공지능(AI) 모델과 맞먹는 성능으로 시장에 큰 충격을 안겼습니다. 앤스로픽 AI 모델의 지식 증류를 통해 사실상 기술을 탈취했다는 비판이 나오기도 했지만, 2.8조개의 파라미터를 지닌 초거대 모델을 증류만으로 만들 순 없기 때문에 이제 중국의 AI 기술을 더 이상 무시할 수 없다는 의견도 우세합니다.

더구나 모든 가중치를 공개하는 중국의 개방형 AI 모델이 장기적으로 보면 시장을 잠식할 수 있다는 우려도 만만치 않습니다. 누구나 모델을 받아서 내부적으로 돌릴 수 있기 때문에 내부 정보 유출을 꺼리는 기업이나 기관에서 상당히 매력적인 대안일 뿐 아니라 자사 서비스에 맞춤형으로 개조도 자유롭습니다. 하드웨어를 이미 가지고 있거나 저렴하게 대여할 수 있다면 서비스 비용도 낮출 수 있습니다.


다만 이렇게 되면 비싼 돈을 주고 미국의 프런티어 AI 모델을 누가 쓰겠냐는 우려가 나오는 것도 당연합니다. 결국 중국 개방형 AI 모델이 노리는 것도 이것이라는 비판도 적지 않습니다. 지금까지 IT 생태계는 개방형과 오픈 소스를 찬양해 왔지만, 개방형 AI 앞에서는 목소리가 달라지고 있습니다. 여기에 개방형 AI 모델을 악용하는 사람이나 집단이 나올 수 있다는 걱정도 있습니다.

하지만 저커버그 메타 최고경영자(CEO)는 ‘미래는 모두의 것’이라는 제목의 글에서 “초인공지능을 중앙 집중화하기보다 널리 배포해 모든 사람이 이를 통제할 수 있도록 해야 한다”며 개방형 AI를 지지하는 주장을 펼쳤습니다. 물론 악용 가능성도 인정하면서 모델의 개발 중간 단계부터 감시와 관리가 필요하다는 점은 인정했지만, 개방형 모델의 필요성을 역설한 것입니다.

아마도 저커버그가 갑자기 개방형 모델을 지지한 이유 중 하나는 미국이 폐쇄형 모델로 가는 반면 중국은 개방형 모델로 갈 경우 장기적으로 대부분의 국가들이 누구나 쓸 수 있는 중국 모델에 종속될 것이라는 우려일 것입니다.



사람들이 모두 중국산 개방형 AI만 사용한다면 생태계 역시 여기에 종속될 것입니다. 그리고 결국은 하드웨어 역시 종속될 수 있습니다. 현재 AI 가속기는 엔비디아 칩이 중심이지만, 중국산 AI GPU에서 훈련된 중국 AI 모델은 중국산 하드웨어에서 잘 돌아가게 될 것이기 때문입니다.

따라서 메타가 개방형 AI를 지지하면서 모델을 공개하기로 한 것은 상당한 의미가 있습니다. 물론 앤스로픽이나 오픈 AI처럼 실제 유료 사용자가 많지 않은 것도 이런 결정을 내린 배경 중 하나일 것입니다. 하지만 주요 빅테크 기업이 개방형 모델을 지지하면서 미국산 개방형 모델이 중국산 개방형 모델의 강력한 경쟁자가 될 가능성이 높아졌습니다.

다만 첫술부터 배부를 순 없다는 속담처럼 먼저 공개한 ‘뮤즈 글리머’(Muse Glimmer)의 성능은 사실 아주 인상적이진 않습니다. 뮤즈 글리머는 뮤즈 스파크처럼 대형 모델을 지식 증류해 만든 작은 로컬 모델로 30B(300억개)의 파라미터를 지니고 있습니다. 작다고는 해도 4비트 양자화 모델도 18GB 정도 크기이기 때문에 완전히 그래픽처리장치(GPU)에 올리려면 24GB 메모리가 필요하고 맥 같은 통합 메모리를 사용하는 경우 32GB 이상 모델이 추천됩니다.

현재 비슷한 위치에 있는 개방형 모델은 구글의 젬마 4(Gemma 4) 31B dense 모델과 알리바바의 Qwen 3.6 27B dense 모델인데 뮤즈 글리머는 코딩이나 일반 작업에서 더 우수하진 않지만, 여러 단계의 임무를 수행하는 에이전트 기능면에서 우수하다는 평가가 나오고 있습니다. 그러나 당장 경쟁 모델을 위협할 수 있을 정도의 인상적인 성능을 보여주진 않고 있습니다.

여기에 아직 모델이 하나뿐인 점도 약점입니다. 알리바바 Qwen의 경우 대형부터 중소형 모델까지 여러 모델이 있고 코딩 전용 모델인 코더 등 다양한 모델이 있어 사용자가 상황에 맞춰 고를 수 있는 선택지가 넓습니다. 대항마로 나온 젬마 4 역시 스마트폰에서 돌릴 수 있는 작은 모델에서 비교적 큰 31B 모델까지 선택의 폭이 좀 더 넓습니다.

특히 Qwen과 젬마 모두 MoE(Mixture of Expert) 기능을 지원해 개인 컴퓨터에서도 빠른 토큰 속도를 확보할 수 있습니다. 특히 Gemma 4 26B A4B QAT(Quantization-Aware Training) 모델은 학습 단계부터 양자화를 시뮬레이션해서 압축 시 발생하는 품질 손실을 효과적으로 줄였습니다. 덕분에 QAT 4비트 버전은 용량을 약 14.4GB 수준으로 줄여 16GB 메모리의 GPU나 개인용 노트북에서도 원활하게 굴러가면서도 성능은 57.7GB의 용량을 지닌 16비트 모델에 근접해 큰 인기를 끌고 있습니다.

뮤즈 글리머는 MoE 모델이 없는 단일 모델로 속도가 MoE 모델보다 느릴 수밖에 없지만, 대신 DFlash 드래프터 모델이라는 소형 보조 모델을 사용해 속도를 높일 수 있습니다. 메타가 발표한 데이터에 따르면 RTX 5090 카드에서는 3.1배, M5 Max에서는 1.8배, M4 Max에서는 1.5배 빠른 응답 속도를 제공합니다. Dense 모델의 단점인 높은 사양과 느린 응답 속도를 개선한 것으로 주목받고 있습니다.

메타의 뮤즈 글리머는 현시점에서는 그렇게 인상적인 성능을 지닌 개방형 AI라고 보긴 어렵습니다. 하지만 구글 젬마가 그랬던 것처럼 이후 버전에서 성능을 높여 나가면서 다양한 기능과 모델을 선보인다면 개방형 AI 부분에서 새로운 강자가 될 수 있습니다. 메타의 개방형 AI 승부수가 통할 수 있을지 주목됩니다.

고든 정 과학 칼럼니스트 jjy0501@naver.com