지방선거 앞둔 ‘AI 딥페이크’ 허위사실 공표 첫 고발…과태료도 부과

울산 남구선관위, 입후보예정자 경찰 고발
AI 구현 아나운서 허위 사실 보도하는 영상
선관위 “AI 이용한 선거운동 각별히 주의”

6·3지방선거를 앞두고 선거운동을 위해 허위의 ‘딥페이크’(인간 이미지합성기술) 영상을 인공지능(AI)으로 제작한 후 사회관계망서비스(SNS)에 게시한 입후보예정자가 9일 경찰에 고발됐다.

울산 남구선거관리위원회는 이날 입후보예정자 A씨를 공직선거법상 허위 사실 공표 혐의로 경찰에 고발했다고 밝혔다.


이는 지난 2023년 딥페이크 영상 등을 이용해 허위 사실을 공표하는 행위를 가중 처벌하는 규정을 신설한 이후 최초로 고발된 사례다.

A씨는 외국의 유명 시사 주간지에서 선정된 인물이라는 내용을 AI로 구현한 아나운서가 뉴스로 보도하는 형식의 허위 딥페이크 영상을 제작한 후 AI로 제작한 사실을 영상에 표시하지 않고 개인 SNS에 게시·유포한 혐의를 받고 있다.

선거법상 딥페이크 영상임을 표시하지 않고 당선될 목적으로 후보자나 후보자가 되고자 하는 자에게 유리한 허위 사실을 공표한 사람은 5년 이하의 징역 또는 5000만원 이하의 벌금에 처할 수 있다.



한편 울산 남구선관위는 경찰 고발 조치와는 별도로 영상에 AI 생성물임을 표시하지 않은 행위에 대해 과태료 500만원을 별도로 부과했다.

지난 1월 강원 속초시선관위도 지방선거와 관련해 AI 생성물임을 표시하지 않고 자신이 지지하는 입후보예정자를 위한 찬양 노래를 SNS에 게시한 B씨에게 과태료 500만원을 부과한 바 있다.

중앙선관위는 지방선거를 앞두고 ‘딥페이크 등 허위 사실 공표·비방 특별대응팀’을 운영하는 한편 딥페이크 영상 등 유포자에 대해 강력히 대응한다는 방침이다.

선관위 관계자는 “최근 들어 AI 생성물임을 표시하지 않아 조치 되는 사례가 발생하고 있으므로 AI를 이용한 선거운동 시 각별한 주의가 필요하다”고 말했다.

강윤혁 기자