“킬러 로봇 안 돼” vs “오히려 사람 살린다”…방산업계 선택은? [밀리터리+]

안토니우 구테흐스 유엔 사무총장이 인류의 안전을 위협하는 치명적 자율무기(LAW)의 전면 금지를 강력히 촉구하고 나섰다.

6일(현지시간) 미국 CNBC 등 외신에 따르면 구테흐스 사무총장은 스위스 제네바에서 열린 인공지능(AI) 거버넌스 회의 연설을 통해 “인간의 통제와 판단 없이 기계가 스스로 목표물을 선정·타격해 인간의 목숨을 빼앗는 것은 도덕적으로 혐오스러운 일”이라고 강조했다.


이어 “이러한 무기들을 본질 그대로 ‘킬러 로봇’이라 부르자. 이 킬러 로봇을 국제법으로 완전히 금지해야 한다”고 주장했다.

CNBC는 “구테흐스 사무총장의 발언에 따라 올해 초 미 국방부와 AI 스타트업 앤스로픽 간의 갈등으로 촉발됐던 군사 분야 AI 규제 논쟁이 국제 무대에서 다시 뜨겁게 달아오를 전망”이라고 내다봤다.

방산업계에 깊숙이 침투한 AI, 자율성 보장 범위 논란민간용으로 개발된 AI 시스템과 반도체 칩이 우크라이나 전쟁 등 실제 전장에서 활용되고, 전쟁 중이 아닌 국가에서도 군 지휘부가 전방위로 도입하면서 군대가 AI를 어느 수준까지 활용해야 하는지를 두고 논쟁이 가열되는 분위기다.

앞서 미국 AI 기업 앤트로픽은 미 국방부에 자사 AI 모델을 민간인 감시나 자율무기 시스템에 사용하지 않겠다는 보장을 요구했다가 국방부와의 계약을 일방적으로 파기당했다.

당시 앤트로픽의 AI 시스템을 활발히 사용하던 국방부는 “모든 합법적인 목적에 AI를 사용할 수 있어야 한다”며 업체의 요구를 거부했고, 도널드 트럼프 대통령은 앤트로픽을 향해 “재앙적 실수를 저지른 좌파 반미 집단”이라 몰아붙이며 연방 전 기관의 사용 즉시 중단을 명령했다.

결국 앤트로픽과 정부의 계약은 파기됐고 그 자리는 챗GPT를 개발한 오픈AI가 차지했다.

해당 사건은 민간 AI 기업의 기술이 사실상 국방 인프라가 되는 상황, 반대로 기업이 군사 목적의 사용을 통제할 권한이 있는가 등의 논쟁으로 확산했다. 더불어 군이 표적 탐지부터 판단, 공격에 이르는 군사적 의사 결정 과정에 AI가 어디까지 관여할 수 있는지에 대한 우려의 목소리로 이어졌다.

도덕적 논란의 중심에 선 방산업체AI 업체와 더불어 해당 논란의 중심에는 방산업체가 있다.

AI와 자율주행, 센서 기술을 활용한 무기체계 개발이 미래 방산 시장의 핵심 분야로 떠오르면서 주요 방산기업들은 자율 기능을 갖춘 드론, 무인전투차량, 자율잠수정 등 다양한 무기체계를 개발하고 있다.

일부 방산업체는 해당 기술이 병력 손실을 줄일 수 있을 뿐 아니라 국방력을 강화할 수 있다고 주장하지만, 구테흐스 사무총장 등 ‘킬러 로봇’을 반대하는 쪽에서는 방산업체의 기술 개발 경쟁이 자율살상무기 확산을 부추길 수 있다고 비판한다.

킬러 로봇 논쟁이 단순한 기술 문제를 넘어 국가 안보, 국제법, 윤리, 그리고 방위산업의 이해관계가 복합적으로 얽힌 국제적 쟁점으로 평가되는 상황에서, 방산업체의 고민은 차세대 무기 기술 개발을 지속해야 한다는 요구와 자율살상무기 확산에 대한 국제사회의 우려를 동시에 고려해야 한다는 점에 있다.

‘100% 자율’ AI 킬러 드론의 인간 살해 사례한편 이미 전장에서 인간의 감독 없이 완전 자율적으로 작동하는 드론이 군인을 살해한 비공식 기록이 있다.

지난달 우크라이나 드론 업체 에어로센터의 알렉산더 코카노브스키 CEO는 “2년 전 일회성 시험으로 우크라이나 전선에서 AI로 제어되는 ‘터미네이터 드론’ 10대를 투입했다”고 밝혔다.

코카노브스키 CEO에 따르면 쿼드콥터 형태의 해당 드론은 스스로 전선 방향으로 비행하도록 프로그래밍됐다. 약 10분 동안 3~5㎞를 이동한 뒤 ‘터미네이터’ 모드에 진입하면 AI 모델이 목표물을 직접 탐색하고 공격한다.

사용자는 단지 드론을 발사하기만 할 뿐 드론과는 어떠한 연결도 되어 있지 않다. 사용자가 드론에 장착된 카메라를 통해 현장을 보지도 못하고 적과 아군을 식별해 공격 명령을 조절할 수도 없다.

해당 드론은 터미네이터 모드 즉 완전 자율 살상 모드가 켜지는 순간 탑재된 AI 모델이 스스로 목표물을 수색·식별하고 이후 자폭 타격을 감행한다.

당시 해당 업체와 우크라이나군은 러시아군과 치열한 격전이 벌어졌던 바흐무트와 차시우야르 인근 전선에서 러시아 병사를 상대로 자율 살상 테스트를 수행했다. 사용자인 우크라이나군은 현장을 직접 볼 수 없었기 때문에 후에 해당 지역에 인간 조종 드론을 보내 피해 정도를 확인했다.

그 결과 군인 몇 명과 트럭 1대의 잔해가 확인됐다. 이후 우크라이나군은 AI 자율 드론이 인간 타격에 성공했다고 결론 내렸다. 다만 해당 테스트에 대한 영상 녹화본은 존재하지 않으며 우크라이나 국방부는 관련 질의에 공식 답변을 거부했다.

송현서 기자