딥시크·키미만이 아니다…개인 PC서 돌아가는 中 ‘작고 강한 AI’ [고든 정의 TECH+]

최근 몇 달간 중국의 AI 모델은 전 세계에 큰 충격을 줬습니다. 7월에 발표된 문샷 AI의 키미 K3는 가중치가 공개된 오픈 모델 가운데서 가장 큰 2.8조개의 파라미터를 지닌 프런티어급 모델로 API 데뷔 후 불과 36시간 만에 글로벌 AI 성능 평가 플랫폼인 Arena.ai의 웹 개발(WebDev) 및 코딩(Code) 리더보드에서 1679점을 기록하며, 미국 빅테크의 최신 모델(앤스로픽의 페이블 5, 오픈AI의 GPT-5.6 Sol 등)을 제치고 1위에 올랐습니다.

하지만 모델이 공개된 후 성능보다 다른 이유로 더 유명해졌는데, 미국 앤스로픽의 최신 모델을 증류한 흔적이 발견됐기 때문입니다. 물론 모델 증류만으로 2.8조개 파라미터를 지닌 초대형 모델을 만드는 건 불가능하지만, 미국 정부와 앤스로픽이 반발한 것은 당연한 수순이었습니다.


하지만 중국 AI의 약진은 여기서 그치지 않았습니다. 지난해 증시에 충격을 준 딥시크는 올해 다시 공격적인 가격 인하를 통해 토큰 소비량 기준으로 앤스로픽의 뒤를 이어 2위까지 치고 올라갔습니다. 몰리는 수요를 감당하지 못해 결국 가격을 인상하긴 했지만, 중국 AI 모델의 거센 약진을 보여준 사례로 평가됩니다.

상대적으로 뉴스에는 덜 나오지만, 다른 중국 AI 모델들도 올해 상당한 결과물을 보여주고 있습니다. 알리바바의 큐원(Qwen)은 최신 3.8 버전을 내놓으면서 개인 PC에서도 돌아갈 수 있는 Qwen 3.8 27B를 선보였습니다. 파라미터가 수조개가 넘는 대형 프런티어 모델과 비교하면 270억(27B)개의 파라미터를 지닌 Qwen 3.8 27B의 성능은 대단치 않아 보일 수 있습니다.

하지만 벤치마크는 의외의 결과를 보여줬습니다. Qwen 3.8 27B는 실제 소프트웨어 엔지니어링 에이전트 능력을 측정하는 가장 중요한 에이전틱 코딩 벤치마크인 SWE-bench Pro에서 앤스로픽의 클로드 오푸스 4.6 맥스(Claude Opus 4.6 Max)의 53.4%를 상회하는 61.7%를 기록하며 놀라움을 안겼습니다. 실제 수많은 다운로드가 이뤄지면서 사용자들 사이에서는 가정용 오푸스(Opus at home)라는 반응이 나오는 중입니다.

여러 벤치마크를 가중 평균해 모델의 전반적인 지능을 하나의 숫자로 요약하는 벤치마크인 AAII(Artificial Analysis Intelligence Index)에서도 52점을 기록해 오픈웨이트 모델 중 상위권이며, 일부 프런티어 모델에 근접하는 수준입니다. (xhigh reasoning 설정 기준)

Qwen 3.8 27B도 압축하지 않은 BF16 모델은 56GB 정도 용량이라 개인 PC의 그래픽카드 및 메모리에 모두 올리기 어렵습니다. 하지만 최신 4비트 양자화 모델은 크기를 16.5GB까지 줄여 어느 정도 사양이 되는 개인 PC에서 쉽게 사용할 수 있습니다. 실제 개인적으로 사용한 결과 16GB 이상 메모리를 지닌 그래픽카드에서 충분히 구동할 수 있었고 코딩 및 에이전틱 임무에서 생각보다 뛰어난 성능을 보였습니다. 다만 원활하게 돌리기 위해서는 24GB 메모리를 지닌 그래픽카드나 그에 준하는 통합 메모리가 권장됩니다.

흥미롭게도 Qwen 3.8 27B나 같이 공개한 Qwen 3.8 플래시 넥스트와 프런티어급 모델인 Qwen 3.8 맥스는 모두 한 가지 공통된 특징을 지니고 있습니다. 바로 엔비디아 GPU처럼 고성능 AI 가속기를 구하기 힘든 중국 내 특수 상황을 반영해 제한적인 컴퓨터, 서버 사양에서도 높은 성능을 낼 수 있게 개발됐다는 점입니다. 이렇게 제한된 하드웨어에서 가장 높은 성능을 내게 개발한 것이 이제는 27B 정도의 소형 모델에서도 높은 성능을 낸 비결로 보입니다.

중국 AI 모델에 대해서는 여전히 미국 프런티어 모델에 대한 증류 의혹이 있긴 하지만, 가성비 모델을 만드는 기술에 있어서는 누구도 따라올 수 없는 가장 독보적인 기술을 지닌 것은 사실입니다. 결국 같은 성능이라면 비용을 절감하는 쪽이 유리할 수밖에 없습니다. 더구나 모델을 계속 무료로 푸는 정책 역시 장기적으로 보면 경쟁자에게 큰 부담입니다.

중국의 AI 굴기는 이미 무시하기 힘든 수준으로 성장한 만큼 미국의 프런티어 모델들도 이에 대한 대응이 필요할 것으로 생각됩니다. 비용을 고민하지 않고 성능을 높이는 것보다 같은 성능이면 더 효율적이고 저렴한 모델을 개발해 원가를 절감하려는 노력이 필요합니다. 소버린 AI를 강조하고 있는 우리에게도 중요한 시사점입니다.

고든 정 과학 칼럼니스트 jjy0501@naver.com