북한 김수키, 자체 AI 환경 구축 정황…해킹 자동화까지 노린다

북한 해킹조직 김수키(Kimsuky)가 생성형 인공지능(AI)을 피싱 문구나 가짜 문서를 만드는 데 그치지 않고, 탈취한 정보를 분석하고 공격 업무를 자동화하는 데 활용하기 위해 자체 AI 환경까지 구축한 정황이 포착됐다. 챗GPT 같은 외부 서비스를 필요할 때마다 이용하는 수준에서 벗어나, 확보한 자료를 자신들이 관리하는 서버에서 AI로 분석하고 다음 공격에 활용할 수 있는 체계를 갖추려는 움직임으로 분석된다.

사이버 보안기업 지니언스는 10일 김수키의 최근 활동을 분석한 결과, 자체 서버에서 대규모언어모델(LLM)을 구동하고 검색증강생성(RAG)을 활용할 수 있는 환경을 구축한 흔적을 확인했다고 밝혔다. LLM은 챗GPT처럼 질문을 이해해 문서나 코드 등을 만들어내는 생성형 AI의 핵심 기술이다. 김수키는 공개된 AI 모델을 자체 컴퓨터나 서버에 설치해 외부 서비스에 접속하지 않고 직접 구동할 수 있는 환경을 마련한 것으로 파악됐다. 이를 통해 탈취한 자료를 외부 AI 업체의 서버에 올리지 않고도 내부에서 분석할 수 있다.


여기에 RAG를 결합하면 탈취한 정보를 활용하기도 쉬워진다. RAG는 AI가 기존에 학습한 지식만으로 답하는 대신 별도로 저장된 문서에서 관련 내용을 찾아 답변에 활용하도록 하는 기술이다. 공격으로 빼낸 문서를 한데 모아 AI와 연결하면 사람이 수많은 자료를 일일이 읽지 않아도 특정 인물이나 계정, 가상자산 관련 정보 등을 빠르게 찾아 정리할 수 있다.

실제로 김수키의 시스템에서는 여러 AI 모델을 PC나 서버에서 실행하도록 해주는 Ollama와 GPT4All을 비롯해 AI가 여러 작업을 순차적으로 처리하도록 만드는 에이전트 개발 도구의 사용 흔적이 발견됐다. AI 기반 코드 편집기 ‘커서(Cursor)’로 공격에 쓰이는 문서를 수정하고 AI가 만든 결과물을 검토한 기록도 확인됐다. 지니언스는 김수키가 이런 환경을 이용해 탈취 문서 분석과 정보 추출은 물론 반복적인 공격 업무를 자동화하는 방안까지 시험한 것으로 보고 있다.

AI는 공격 대상을 속이는 과정에도 활용되고 있다. 최근에는 생성형 AI로 만든 것으로 추정되는 가상자산 투자 전략 보고서와 금융 자료를 실제 업무 문서처럼 꾸며 악성 파일 실행을 유도하는 방식이 확인됐다. 공격자는 가상자산 지갑과 지메일 계정 정보, 웹사이트 가입 이력 등 개인정보 확보도 시도한 것으로 분석됐다.



문종현 지니언스 시큐리티센터장은 “이번 분석은 국가 배후 해킹조직이 AI를 실제 공격 체계에 접목하기 위해 로컬 LLM과 AI 개발 환경까지 구축하며 공격 역량을 고도화하고 있음을 보여주는 사례”라며 “AI 기술의 발전으로 사회공학 공격이 더욱 정교해질 것으로 예상되는 만큼 문서 내용보다 실행 행위를 중심으로 탐지하는 EDR 기반 위협 헌팅 체계가 무엇보다 중요하다”고 말했다.

민나리 기자