“막는다더니 처벌은 없네?”…日 선거 가짜뉴스 대책의 빈틈 [핫이슈]

AI 이미지·영상 게시 때 표시 요구
후보자 허위정보 게시 자제 촉구
한국도 딥페이크 25배 폭증

일본이 선거철 소셜미디어(SNS) 가짜뉴스를 막겠다며 법 개정에 나선다. 인공지능(AI)으로 만든 이미지나 영상에는 표시를 요구하고, 후보자 허위정보 게시도 자제하도록 하는 내용이다. 하지만 이를 어겨도 처벌은 없다. 선거 딥페이크가 폭증한 한국 사례를 고려하면, 처벌 없는 대책이 실제 선거판에서 얼마나 힘을 발휘할지는 미지수다.

교도통신 등에 따르면 일본 여야는 16일 선거 관련 SNS 규제를 담은 공직선거법 개정 요강안에 합의했다. 자민당과 중도개혁연합 등은 이번 정기국회에서 개정안을 처리하는 것을 목표로 다음 주 법안을 제출할 계획이다.


개정안의 핵심은 선거 기간 후보자 관련 허위정보 확산을 막는 것이다. 현행 공직선거법에는 후보자에 대한 악의적인 비방이나 중상이 공정한 선거에 악영향을 미치지 않도록 해야 한다는 조항이 있다. 일본 여야는 여기에 ‘허위정보’를 추가하기로 했다.

AI를 활용해 만든 이미지나 영상을 온라인에 올릴 때는 그 사실을 표시하도록 하는 내용도 포함됐다. 선거 기간 딥페이크 영상이나 조작 이미지가 유권자 판단을 흐릴 수 있다는 우려가 커졌기 때문이다. 생성형 AI 기술이 빠르게 발전하면서 실제 인물의 발언이나 행동처럼 보이는 가짜 콘텐츠 제작도 쉬워졌다.

AI 선거전 막겠다지만 처벌은 없다

다만 일본의 이번 개정안은 강제력에서 한계를 드러낸다. 허위정보를 올리지 않도록 이용자에게 촉구하고 AI 이미지·영상 표시를 요구하지만, 이를 위반해도 처벌받지는 않는다. 규제의 실효성을 두고 논란이 나올 수밖에 없는 대목이다.

SNS 사업자에 대한 규제도 함께 추진된다. 일본은 ‘정보통신 플랫폼 대처법’을 개정해 플랫폼 사업자가 선거에 미칠 악영향을 줄이기 위한 조처를 하도록 할 방침이다. 사업자는 관련 조치를 1년에 한 차례 공표해야 한다.

그러나 구체적인 조처는 사업자의 재량에 맡긴다. 허위정보를 얼마나 빨리 내릴지, AI 조작물을 어떻게 표시할지, 반복적으로 허위정보를 올리는 계정을 어떻게 다룰지는 여전히 플랫폼 판단에 달릴 가능성이 크다.

일본 여야는 내년 4월 지방선거에 이 제도를 적용하는 방안을 염두에 두고 있다. 시행일은 내년 3월 1일로 잡았다. 지방선거를 앞두고 SNS와 AI 가짜정보가 선거판을 흔드는 일을 막겠다는 취지다.

한국은 더 강한 규제에도 딥페이크 폭증한국은 일본보다 앞서 선거 딥페이크 규제를 도입했다. 공직선거법은 선거일 전 90일부터 선거일까지 선거운동을 위해 AI 기술 등으로 만든 실제와 구분하기 어려운 가상의 음향, 이미지, 영상 등을 제작·편집·유포·상영·게시하는 행위를 금지한다.

해당 기간이 아닐 때 선거운동용 딥페이크를 활용하는 경우에도 AI로 만든 가상 정보라는 사실을 표시해야 한다. 선거운동에 AI 콘텐츠를 쓰더라도 유권자가 실제 영상이나 음성으로 착각하지 않도록 장치를 둔 것이다.

다만 법이 있다고 해서 딥페이크가 완전히 사라진 것은 아니다. 중앙선거관리위원회에 따르면 지난 5월 25일 기준 6·3 지방선거와 관련해 선관위가 플랫폼사업자에 삭제를 요청한 딥페이크 게시물은 9956건에 달했다. 2024년 제22대 국회의원 총선 당시 388건과 비교하면 25배 넘게 늘어난 수치다.

선거 현장에서는 AI로 지지 인파를 부풀리거나, 유명 정치인을 연상시키는 이미지를 합성하거나, 현수막 문구를 바꿔 퍼뜨리는 사례가 잇따랐다. 규제는 강화됐지만 생성형 AI 기술이 빠르게 확산하면서 단속 속도가 확산 속도를 따라가지 못하는 상황이다.

한국도 강한 규제를 두고 있지만 딥페이크 확산을 완전히 막지는 못했다. 이런 상황에서 처벌 조항이 없는 일본식 대책이 실제 선거판에서 얼마나 작동할지는 더 불투명하다. 선거철 AI 가짜뉴스와 SNS 허위정보는 한일 양국 모두의 숙제가 됐다.

윤태희 기자