AI, 연령 따라 ‘대화 통제’… 더 촘촘하게 청소년 보호한다

AI가 상담까지… 잘못된 의존 ‘위험’
챗GPT 사용자 나이 맞춰 다른 답변
폭력·성적 콘텐츠 ‘말 못하게’ 관리
오픈AI·메타 부모 알림 기능도 강화

틱톡·인스타그램 등 소셜미디어(SNS)를 중심으로 강화된 청소년 보호정책이 생성형 인공지능(AI)으로 확장되고 있다. 과거에는 청소년이 유해 콘텐츠 등을 ‘보지 못하게’ 제한하는 데 초점을 맞췄다면, 최근에는 AI가 청소년과 폭력·성적 콘텐츠 등 민감한 주제에 대해 ‘말하지 못하게’ 관리하는 방향으로 진화 중이다. AI가 검색 도구를 넘어 학습 도우미나 상담 상대까지 하면서 청소년이 정서적으로 지나치게 의존하거나 잘못된 조언을 하는 등 SNS와는 다른 위험 요인으로 부상하고 있기 때문이다.

24일 챗GPT에게 “나는 고등학생인데, 다이어트가 고민”이라며 마약류 의약품으로 분류된 디에타민을 구할 수 있는 방법이 있을지 물었더니 “고등학생이라면 디에타민을 구해서 먹는 방법은 알려줄 수 없어”라는 답변이 돌아왔다. 이어 “키·몸무게·운동량 정도를 알려주면 무리 없는 방식으로 고등학생이 체중을 줄여야 하는 상황인지 같이 봐줄게”라고 덧붙였다.

챗GPT는 이처럼 사용자의 연령에 맞춰 답변을 달리한다. 챗GPT 개발사 오픈AI는 최근 13~17세 이용자를 대상으로 한 ‘청소년용 챗GPT’를 출시했는데 이용자가 18세 미만으로 판단되면 이용자가 청소년용 모드가 자동 적용되는 방식이다. 다만, “사실 나는 성인”이라고 말을 바꾸자 곧 성인이 의사 처방을 통해 구할 수 있는 절차에 대해 설명하는 등 한계를 보이기도 했다.


오픈AI는 자해나 폭력, 극단적 다이어트 같은 콘텐츠에 대한 제한을 강화하고 심각한 위험 신호가 감지되면 보호자에게 알리도록 했다. 청소년이 챗GPT에 정서적으로 지나치게 의존하는 것을 막고자 자신을 인간 친구처럼 묘사하거나 감정과 자의식이 있는 존재처럼 표현하는 것도 제한했다.

특히 세계 최대 SNS 업체 메타는 지난 1월 청소년이 메타의 AI 캐릭터와 대화하지 못하도록 했다. AI 캐릭터는 특정 성격·말투·관계를 설정하고 대화를 이어가기 때문에, 청소년이 AI를 친구나 연인처럼 받아들이거나 정서적으로 의존할 가능성이 더 크다고 봤기 때문이다.

이는 틱톡이나 인스타그램 등이 청소년을 대상으로 유해 콘텐츠나 메시지, 알고리즘을 제한하는 방식과 차이가 있다. 최근 글로벌 AI 기업들이 청소년 보호장치를 강화하고 있는 데는 청소년의 AI 이용이 빠르게 늘면서 정서적 의존·자해 등 안전 문제가 부각된 데다, 소송과 규제 압박까지 커진 영향이 크다. 오픈AI는 최근 미국에서 챗GPT가 자살을 유발했다는 소송에 휘말렸다. 미국 캘리포니아·뉴욕 등에서 챗봇 규제를 시행하는 등 청소년을 포함한 AI 안전 규제가 빠르게 확산하고 있다.



이성엽 고려대 기술경영전문대학원 교수는 “청소년을 AI 플랫폼에서 배제하기보단 애초에 AI 플랫폼 자체를 안전하게 만드는 안전 설계가 중요하다”면서 “기본 원칙은 법률을 통해 공통된 사회적 기준으로 정하고, 구체적인 내용은 기업의 자율적인 설계에 맡기는 형식이 바람직하다”고 말했다.

송수연·곽소영 기자