김길영 서울시의회 국민의힘 대표의원 “AI 혁신도 중요하지만, 시민 권리 보호를 위한 제도적 안전장치 마련이 우선돼야”

‘AI 감정해석과 시민권리 보호를 위한 정책적 과제 토론회’ 개최
AI 해석의 공적 활용에 따른 책임 소재와 시민의 이의제기·재검토 권리 보장 방안 논의

김길영 서울특별시의회 국민의힘 대표의원(강남6)은 지난 6일 ‘AI 감정해석과 시민권리 보호를 위한 정책적 과제 토론회’를 개최했다.

이번 토론회는 서울특별시의회가 주최하고 김 대표의원과 광운대학교 인간-AI 거버넌스 연구소가 공동 주관했으며, 인공지능 기술의 공공영역 활용이 확대되는 가운데 AI의 해석과 판단이 시민의 권리에 미치는 영향을 살펴보고 실효성 있는 정책적·제도적 개선방안을 모색하기 위해 마련됐다.


김상백 광운대학교 연구교수가 ‘AI 감정해석과 해석 권한의 이동’을 주제로 발제를 맡은 가운데, 이경일 인간-AI 거버넌스 연구소 설립위원장, 권덕철 전 보건복지부 장관, 문인철 서울연구원 연구위원, 주성환 서울AI재단 AI혁신사업본부장, 최소영 한국보건사회연구원 연구원, 육명렬 전 강원지방기상청장, 조지연 한국전자통신연구원 AI안전연구소 선임연구원 등이 토론자로 참여해 AI 활용에 따른 시민권리 보호와 공공기관의 책임성 확보 방안을 논의했다.

이 자리에서는 AI가 시민의 언어와 감정, 심리상태 등을 분석하는 기술이 발전하면서 그 해석 결과가 행정적 판단이나 공공서비스 제공에 활용될 경우 발생할 수 있는 권한과 책임의 문제가 주요 쟁점으로 다뤄졌다.

특히 인공지능(AI)의 분석 결과가 기술적으로 완벽히 정확하다 하더라도, 이를 공적 판단에 곧바로 적용하는 것의 정당성과 책임 소재는 전혀 별개의 문제로 엄격히 검토되어야 한다는 점이 거듭 강조됐다. 이에 따라 시민의 권리를 철저히 보호하기 위해 AI 활용 여부와 판단 근거를 투명하게 공개하고, 독립적인 인간의 재검토 절차를 거치도록 해야 한다. 아울러 시민이 직접 이의를 제기하거나 정정을 요구할 수 있는 구체적인 창구를 마련하는 한편, 서울시 공공 AI 사업의 운영 및 성과 평가 과정에서도 단순한 기술적 효율성뿐만 아니라 책임성과 시민 권리 보호 방안이 반드시 함께 고려되어야 한다는 정책적 개선책이 제시됐다.



김 대표의원은 “AI 기술의 눈부신 발전과 행정 서비스의 혁신은 앞으로도 적극적으로 추진해야 마땅하지만, 기술의 정확성이 곧바로 시민에 대한 공적 판단 권한의 정당성을 의미하는 것은 아니다”라며, “AI의 해석 결과가 행정 판단에 활용되는 모든 과정에서 시민의 권리가 충분히 보장되어야 하며, 최종적인 판단과 그에 따른 책임은 오직 사람과 공공기관에 있다는 원칙이 확고히 세워져야 한다”고 목소리를 높였다.

이어 “시민들이 단순히 AI의 분석 결과물뿐만 아니라, 그것이 실제 행정적 판단으로 이어지는 전체 과정에 대해서도 당당히 이의를 제기하고 재검토를 요청할 수 있어야 한다”며, “오늘 토론회 자리에서 논의된 각계 전문가들의 고견을 바탕으로, 서울시 공공 AI 정책의 투명성과 책무성을 한층 끌어올리고 기술 혁신과 시민 권리 보장이 조화롭게 어우러질 수 있는 실효성 있는 제도적 기반을 다지는 데 온 힘을 쏟겠다”고 밝혔다.

김지수 리포터