“푸틴의 ‘킬러 드론’에 민간인 첫 사망”…러시아군 처벌 불가능한 이유는? [밀리터리+]

-“우크라 전선서 러 AI드론에 민간인 첫 사망”
-내부에서 엔비디아 미니 컴퓨터 발견
-“국제법상 책임은 인간에게만 있어”

러시아의 인공지능(AI) 자율형 드론이 우크라이나 전장에 처음 투입되자마자 민간인이 사망한 사실이 처음 확인됐다.

뉴욕타임스의 24일(현지시간) 보도에 따르면 지난달 6일 우크라이나 남동부 자포리자의 한 주유소 인근에 러시아 소형 드론이 추락해 폭발했다. 해당 공격으로 자포리자국립대에서 회계학을 공부하던 민간인 3명이 숨진 것으로 확인됐다.


드론 전문가와 우크라이나군 지휘관, 잔해를 조사한 감식팀은 해당 드론이 인간 조종사가 아닌 실험용 AI 시스템의 유도를 받은 것으로 판단했다.

정확한 사용 경로를 보면 인간 운용자(러시아군)가 공격 발생 지역인 주유소까지 이동하도록 직접 경로를 입력했다. 다만 드론이 현장에 접근한 후부터는 드론이 프로판가스 탱크로 추정되는 공격 대상을 스스로 고른 것으로 추정된다.

러시아군 드론이 공격 대상으로 프로판가스 탱크를 정확히 인지한 것인지, 민간인을 프로판가스 탱크로 잘못 인지한 것인지는 확인되지 않았다.

우크라이나 당국은 드론 잔해를 분석한 결과 내부에서는 엔비디아의 ‘젯슨 오린’ 미니컴퓨터가 발견됐으며 외부에는 통신을 위한 안테나가 없었다.

조사관들은 엔비디아 칩에 입력된 지형 이미지와 프로그램 코드를 확인했고, 코드에는 드론이 인식하고 공격하도록 학습된 표적 유형이 담겨 있었다. 프로판가스 탱크는 학습된 표적 유형 중 하나였다.

“AI 탑재한 드론의 첫 민간인 사망 사례”워싱턴 전략국제문제연구소(CSIS) 산하 와드와니 AI센터의 카테리나 본다르 선임연구원은 NYT에 “이번 사건은 자체 표적 설정 AI를 탑재한 러시아 드론으로 민간인 사망자가 발생한 첫 문서화된 사례”라고 밝혔다.

이어 “엔비디아 모듈이 러시아가 자율형 AI를 실험하고 있었다는 사실을 보여주는 ‘가장 확실한 증거‘”라고 평가했다.

현재 전장에서 빠질 수 없는 필수 무기로 꼽히는 드론의 상당수에는 AI 기능이 탑재돼 있다. 대부분은 인간 조종사가 표적을 미리 정한 뒤 공격 직전 마지막 단계에서 AI가 활용된다.

그러나 이번에 사용된 러시아군의 AI 드론은 완전 자율형 드론으로, 최종 표적을 선정하는 과정에서도 인간의 선택을 배제했다. 이미지 수천 장을 학습한 AI가 드론 카메라에 포착된 물체를 공격해 공격 여부를 결정하는 방식이다.

우크라이나 하르키우항공연구소의 드론 전문가 바딤 쿠시니코우는 민간인 3명을 숨지게 한 러시아군 드론에 대해 “가상현실에서 특정 물체를 추적하도록 훈련된 사전 프로그래밍 장치”라고 설명했다.

AI 드론의 위험성 어느 정도?전문가들은 자율형 AI 드론이 전파를 이용한 원격 조종이 필요 없어 전파 방해도 받지 않을뿐더러 미리 입력된 좌표를 타격하는 무기보다도 정확도가 높다고 설명한다. 러시아군이 활용한 것으로 추정되는 이번 AI 드론에도 안테나는 보이지 않았다.

드론 조종사를 따로 배치할 필요도 없어 전쟁 장기화로 전문 인력이 특히 부족한 러시아 입장에서 활용도가 높다.

일각에서는 AI가 공격 직전 주변 상황을 판단하는 기능이 있는 만큼, 일반 포탄보다 민간인의 희생을 줄이는 데 영향을 줄 수 있다고 반박한다.

그러나 대다수의 전문가들은 AI가 민간인과 전투원 또는 민간 시설과 군사 시설을 제대로 구분하지 못할 경우 오인 공격으로 이어질 수 있다고 지적한다. 아무리 방대한 데이터를 AI로 학습시키더라도, 현자의 특수 상황 등을 미리 예측하기란 어렵기 때문이다.

더불어 AI 드론이나 무기가 민간인을 사망에 이르게 했을 때 이에 대한 법적 책임을 어떻게 물게 할지 여부도 불분명하다.

국제적십자위원회는 AI나 자율무기 자체에 법적 책임을 전가할 수 없다는 점을 강조해 왔다. 국제인도법상 공격에 관한 법적 판단과 책임은 인간에게 있으며 기계나 소프트웨어, 알고리즘이 인간의 법적 책임을 대신할 수 없기 때문이다.

“킬러 로봇 안 돼” 유엔도 한 목소리현재 유엔은 킬러 드론을 포함해 인류의 안전을 위협하는 치명적 자율무기(LAW)의 전면 금지를 주장하고 있다.

지난달 안토니우 구테흐스 유엔 사무총장은 스위스 제네바에서 열린 인공지능(AI) 거버넌스 회의 연설을 통해 “인간의 통제와 판단 없이 기계가 스스로 목표물을 선정·타격해 인간의 목숨을 빼앗는 것은 도덕적으로 혐오스러운 일”이라고 강조했다.

이어 “이러한 무기들을 본질 그대로 ‘킬러 로봇’이라 부르자. 이 킬러 로봇을 국제법으로 완전히 금지해야 한다”고 주장했다.

민간용으로 개발된 AI 시스템과 반도체 칩이 우크라이나 전쟁 등 실제 전장에서 활용되고, 전쟁 중이 아닌 국가에서도 군 지휘부가 전방위로 도입하면서 군대가 AI를 어느 수준까지 활용해야 하는지를 두고 논쟁이 가열되는 분위기다.

앞서 미국 AI 기업 앤트로픽은 미 국방부에 자사 AI 모델을 민간인 감시나 자율무기 시스템에 사용하지 않겠다는 보장을 요구했다가 국방부와의 계약을 일방적으로 파기당했다.

당시 앤트로픽의 AI 시스템을 활발히 사용하던 국방부는 “모든 합법적인 목적에 AI를 사용할 수 있어야 한다”며 업체의 요구를 거부했고, 도널드 트럼프 대통령은 앤트로픽을 향해 “재앙적 실수를 저지른 좌파 반미 집단”이라 몰아붙이며 연방 전 기관의 사용 즉시 중단을 명령했다.

결국 앤트로픽과 정부의 계약은 파기됐고 그 자리는 챗GPT를 개발한 오픈AI가 차지했다.

해당 사건은 민간 AI 기업의 기술이 사실상 국방 인프라가 되는 상황, 반대로 기업이 군사 목적의 사용을 통제할 권한이 있는가 등의 논쟁으로 확산했다. 더불어 군이 표적 탐지부터 판단, 공격에 이르는 군사적 의사 결정 과정에 AI가 어디까지 관여할 수 있는지에 대한 우려의 목소리로 이어졌다.

도덕적 논란의 중심에 선 방산업체AI 업체와 더불어 해당 논란의 중심에는 방산업체가 있다.

AI와 자율주행, 센서 기술을 활용한 무기체계 개발이 미래 방산 시장의 핵심 분야로 떠오르면서 주요 방산기업들은 자율 기능을 갖춘 드론, 무인전투차량, 자율잠수정 등 다양한 무기체계를 개발하고 있다.

일부 방산업체는 해당 기술이 병력 손실을 줄일 수 있을 뿐 아니라 국방력을 강화할 수 있다고 주장하지만, 구테흐스 사무총장 등 ‘킬러 로봇’을 반대하는 쪽에서는 방산업체의 기술 개발 경쟁이 자율살상무기 확산을 부추길 수 있다고 비판한다.

킬러 로봇 논쟁이 단순한 기술 문제를 넘어 국가 안보, 국제법, 윤리, 그리고 방위산업의 이해관계가 복합적으로 얽힌 국제적 쟁점으로 평가되는 상황에서, 방산업체의 고민은 차세대 무기 기술 개발을 지속해야 한다는 요구와 자율살상무기 확산에 대한 국제사회의 우려를 동시에 고려해야 한다는 점에 있다.

송현서 기자