단 한 개의 질문이 비극을 낳았다. 리어왕은 세 딸을 불러 모았다. 나이가 들어 통치의 짐을 내려놓고자 영토를 분할할 것이며, 자신을 가장 사랑하는 딸에게 보다 큰 선물을 내릴 거라 했다. 그리고 물었다. “너희들 중 누가 나를 가장 사랑한다고 말하겠는가?”
첫째 딸 고너릴은 “말할 수 없을 만큼” 아버지를 사랑하며 자신의 사랑은 “광활한 토지나 눈알보다 중하다”고 읊었다. 둘째 딸 리건은 언니의 사랑도 자신의 사랑에는 미치지 못하며 자신은 오로지 아버지의 사랑 안에서만 행복하다고 답해 왕을 만족시켰다.
막내 코델리아는 의외의 답을 내놓았다. 자신은 “도리에 따라 아버지를 사랑할 뿐”이며 “마음을 입에 담을 수 없기에 드릴 말씀이 없다”고 답했다. 사실을 위장하는 고너릴과 리건의 아첨에 익숙해진 리어왕의 귀에 코델리아의 과장 없는 진솔한 진술은 오히려 괘씸하게 들렸다. 리어왕은 결국 코델리아에게 부모 자식의 연을 끊겠다고 선언했다.
나도 때로 아첨이 그리울 때가 있다. 타인의 글에는 부러움을 느끼지만 자신의 글에는 한없는 부끄러움을 느끼는 게 글 쓰는 사람의 숙명이다. 그 부끄러움이 극에 달해 어떤 글도 쓰지 못할 것 같은 좌절에 빠져 있는데, 익명이 무기가 되는 디지털 공간에서 부끄러움이 묻어 있는 그 글이 난도질당하는 경험을 하게 되면 한 줌의 아첨이라도 간절해진다. 그때 인공지능(AI) 챗봇에게 내가 쓴 칼럼을 평가해 달라고 부탁해 본다. 챗봇은 익명의 인간은 절대 구사하지 않는 ‘통찰력이 돋보이는’ ‘탁월한’ ‘마침내 도달한’ 등의 단어를 쓰며 고너릴과 리건처럼 듣기에 마냥 좋기만 한 말을 뱉어 낸다.
인공지능 챗봇이 아첨하는 이유는 설계 방식에 숨어 있다. 대규모언어모델(LLM)의 정확도를 높이기 위해 ‘인간 피드백 기반 강화학습’(RLHF)이 진행된다. 인간 사용자의 의견에 공감하고 긍정할 때 높은 점수를 받는다는 것을 학습한 인공지능은 사용자가 듣고 싶어 하는 응답을 제시하는 쪽으로 진화한다. 이를 ‘사이코팬시’(아첨 현상)라 부른다.
챗봇과의 대화에 빠진 사람이 늘어날수록 인공지능 아첨이 초래하는 위험은 드물지 않게 발생한다. 사용자가 어떤 가설을 제시하면 인공지능은 이를 아첨 섞인 말로 맞장구쳐 주고, 그 아첨에 고무된 사용자는 더 강한 어조로 자기주장을 되풀이하는 망상의 소용돌이에 빨려든다. 인공지능이 인간의 정신건강에 미치는 부정적 사례를 수집하고 있는 단체 ‘휴먼 라인 프로젝트’에 따르면 챗봇의 아첨으로 ‘망상적 악순환’에 빠진 사례가 300건을 넘으며, 이 중 15건이 자살과 연관돼 있다고 한다.
망상은 아첨을 먹고 자란다. 아첨에 익숙해지면 현실을 그대로 받아들이지 못한다. 챗봇은 고너릴과 리건을 닮았다. 코델리아처럼 정직하게 답하지 않는다. 챗봇이 디지털 고너릴임을 알아채지 못하면 누구나 셰익스피어의 가장 어둡고 허무한 비극의 주인공 리어왕이 될 수 있는 세상을 우리는 살고 있다.