남이 내 인스타로 몰래 AI 이미지 만든다고?…비판 쏟아지자 메타 “서비스 철회”

인스타그램의 모회사 메타가 다른 사람의 공개 계정에 있는 사진을 가져다 인공지능(AI) 생성 이미지를 만들어주는 기능을 공개했다가 비판을 받고 서비스를 철회했다.

앞서 메타는 지난 7일(현지시간) 메타 AI의 새로운 이미지 생성 기능을 공개한 바 있다. 이는 메타 AI 앱에서 특정 인스타그램 공개 계정을 태그하면 해당 계정에 올라온 사진을 바탕으로 새로운 AI 이미지를 만들어주는 기능이다.


해당 기능은 메타의 새로운 AI 이미지 생성 서비스인 ‘뮤즈 이미지’(Muse Image)의 대대적인 출시를 알리려는 노력의 일환이었다.

그러나 메타는 전 세계 수많은 이용자의 비판에 직면해야 했다. 공개 계정을 가진 성인 이용자라면 누구나 자신의 사진이 생판 모르는 타인에 의해 AI 이미지 생성에 무단으로 활용될 수 있기 때문이다.

게다가 자신의 사진이 다른 사람의 AI 이미지 생성에 이용되더라도 아무런 알림이 가지 않는다.



이에 따라 디지털 성범죄나 명의도용 등 심각한 개인정보 또는 초상권 침해를 유발할 수 있다는 우려가 전 세계적으로 쏟아졌다.

심지어 이 기능에 내 계정이 활용될 수 있다는 부분에 대해 이용자가 동의(선택)를 해야 기능이 활성화되는 ‘옵트인’(사전동의) 방식이 아니라 모든 이용자가 일괄적으로 해당 기능에 노출되고 이를 막으려면 따로 설정을 꺼야 하는 ‘옵트아웃’(사후거부) 방식으로 서비스가 이뤄진 것도 문제라는 지적이 나왔다.

당장 미국배우조합(SAG-AFTRA)에서 반발이 터져 나왔다. 조합은 회원은 물론 일반 이용자에게도 해당 기능을 끌 것을 촉구하며 메타를 향해 “눈에 띄는 동의를 구하지 않는 한 어떤 방식도 용납할 수 없으며, 내재된 명백한 위험과 피해에 대한 대중의 정서를 완전히 잘못 판단한 것”이라고 비판했다.

결국 메타는 지난 10일 공식 블로그를 통해 뮤즈 이미지에서 ‘인스타그램 계정 언급’ 서비스를 더 이상 제공하지 않는다고 밝혔다.

메타는 “해당 기능을 통해 이용자에게 유용한 창작 도구를 제공하고 자신의 공개 콘텐츠가 참조되는 방식에 대해 이용자가 직접 통제권을 갖게 하려는 의도였다”면서 “다만 출시 직후 이 기능이 이용자의 기대에 부합하지 못했고, 운영 과정에서 다양한 우려가 제기됨에 따라 신속하게 서비스를 종료하기로 결정했다”고 밝혔다.

신진호 기자