“인간이 AI 통제”…카카오 AI 윤리원칙 공개

카카오가 스스로 계획하고 행동하는 인공지능(AI) 에이전트 확산에 대응해 AI 윤리 원칙과 이행 가이드를 마련했다고 15일 밝혔다.

카카오는 지난 13일 경기 용인시 카카오 AI 캠퍼스에서 열린 개발자 콘퍼런스에서 새로운 AI 윤리 원칙 ‘스피릿(SPIRIT)’을 공개했다. 안전·프라이버시·포용·책임·이용자 주체성·투명성과 신뢰성 등 6개 원칙을 담았다. 지난 8월 제정된 ‘대한민국 AI 윤리 원칙’의 3대 가치와 7대 원칙을 주요 기준으로 삼되 서비스 특성에 맞게 구체화했다.

실행 체계는 ‘노르마(NORMA)’로 명명했다. 조직의 공동 책임을 바탕으로 윤리 과제를 관리하고 실행 단계로 구체화하는 방식이다. 이번 기준은 지난 7월 출범한 외부 자문단 7명과 카카오의 AI 세이프티·개인정보·보안 실무 조직이 협력해 이달 초 마련했다. 카카오는 AI 에이전트의 위험을 통제 주도권·목표·권한·참조 자원·상호작용 등 5개 영역으로 나누고, 인간 감독과 비상 제어 등 통제 장치를 마련했다.


송수연 기자