[데스크 시각] 소녀들의 짓밟힌 꿈

전장의 두뇌로 처음 투입된 LLM
효율에 매몰 땐 ‘인지적 외주화’
AI 활용 통제권·책임 고민해야

“희망과 꿈을 품고 학교에 가던 소녀들이었다.”(노벨평화상 수상자 말랄라 유사프자이)

지난달 28일 오전 이란 남부 미나브의 한 여자 초등학교. 토요일(이란에선 목·금요일이 주말이다)이었고, 전쟁도 아니었다. 여느 날처럼 수업이 한창이던 그때 예고 없이 무언가 떨어졌다. 건물 절반이 무너져 내렸고, 160여명의 소녀가 그 자리에서 숨졌다.

미끄럼틀과 교과서, 학용품 등 아이들이 쓰던 물건들이 현장의 잔해 속에서 시신과 함께 발견됐다. 좀처럼 책임을 인정하지 않는 미국도 “의도적으로 학교를 공격하지는 않는다”(마코 루비오 국무장관), “관련 보도를 심각하게 받아들여 조사하고 있다”(미 중부사령부)며 사실상 오폭을 시인했다.


학교가 이란 혁명수비대(IRGC) 지원 건물이 밀집한 지역에 있었던 것은 사실이다. 하지만 첨단 무기나 드론, 군 정보 시설 같은 것과는 거리가 먼 병원 등의 시설이었다. 그나마 학교는 IRGC 시설과 담으로 분리돼 있었다. “학습을 위해 마련된 장소에서 학생들이 살해되는 것은 학교에 보장된 보호 권리에 대한 중대한 위반”이라고 유네스코가 규탄한 까닭이다.

전례를 찾기 힘든 끔찍한 전쟁범죄다. 미국과 이스라엘이 첫날 겨눈 1000개의 표적에 왜 학교가 포함됐는지 알 수 없다. 미군은 ‘공개할 수 없는 특별한 전력들’이 첫 24시간 공습에 투입됐다고 밝혔다. 팰런티어의 ‘고담’이 위성사진과 정찰·통신 기록을 분석해 군사시설과 은신처를 찾아냈고, 앤스로픽의 ‘클로드’가 수만 가지 시나리오 중 최적의 공습 작전을 제안한 것으로 알려졌다. 거대언어모델(LLM)이 전장의 두뇌로 공식 투입된 첫 전쟁이다.

범용 LLM은 서로 다른 정보를 동시에 분석해 인간보다 훨씬 빠르게 전장 상황을 파악한다. 우크라이나 전쟁 초기에만 해도 AI는 표적을 감지하고 타격 성공률을 높이는 수준에 머물렀다. 지금은 무엇을, 언제, 왜 타격해야 하는지까지 분석해 인간 사령관의 판단을 돕는 참모 역할을 한다.



실제로 공습 개시부터 최고지도자 하메네이 제거 확인까지 15시간밖에 걸리지 않았다. 지금껏 경험해 보지 못한 효율일지 모른다. 하지만 피어 보지도 못한 소녀들의 꿈을 앗아간 책임은 누가 질 것인가.

앞서 앤스로픽은 마두로 베네수엘라 대통령 생포 작전 때 미 국방부와 충돌했다. 클로드를 대규모 국내 감시에 사용하지 말고 인간 개입 없는 자율 살상 무기로 쓰지 않을 것을 계약 조건에 담았는데 이를 당국이 어겼다는 이유였다. 이후 이란 공습 직전 피트 헤그세스 국방장관은 앤스로픽을 국방부 시스템에서 퇴출하겠다고 밝혔지만, 정작 클로드가 활용된 뒤였다.

AI 시스템은 숙련된 수십, 수백명의 분석가보다 빠르게 공격 대상을 권고한다. 과거 몇 주 또는 며칠 걸리던 과정이 순식간에 끝난다. 기계가 ‘심사숙고’하고 인간은 ‘승인’만 한다는 의미다. 이런 식이면 판단은 AI에 의존하고 인간은 버튼만 누르는 ‘인지적 외주화’가 심화하게 된다.

이번 사태는 AI 윤리와 거버넌스에 대한 근본적인 질문을 던진다. 사람이 하던 의사결정 행위를 AI 시스템이 대체하게 되는 영역이 증가하면서 인간에게 요구하던 윤리 기준을 AI에 적용할 수 있는지에 대한 논란이 커지고 있다. 연구자들은 오래전부터 자율 살상 무기와 대규모 감시 체계에 대한 우려를 제기해 왔다. 기술이 통제 불가능한 방향으로 확장될 때 통제권을 누가 갖고, 책임을 어떻게 질 수 있느냐 하는 것이다.

2021년 아프가니스탄 카불에서 미군의 드론 오폭으로 어린이 7명과 국제구호단체 직원 등 민간인 10명이 숨졌다. 비난이 들끓자 미국 정부는 사과했다. 그러나 “의도적이 아니었고 업무상 실수였다”는 이유로 관련자들을 징계하거나 처벌하지 않았다. 이번 오폭 사태의 진상 규명은 그때와는 다르기를 바랄 뿐이다.

임일영 사회2부장