[세종로의 아침] AI 관련 논문 홍수 속에서 느낀 것들

AI에 관한 관심만큼 우려도 커
급증하는 인공지능 관련 논문
특이점에 가까워지는 AI 기술
기술 부작용 사전 대비 필요

20세기 인류에 큰 영향을 미친 사상가 중 한 명인 프로이트의 정신분석학에서 가장 중요하게 여기는 것은 무의식이다. 어린 시절의 경험으로 형성된 무의식이 어른이 된 뒤 인간의 행동에 상당한 영향을 미친다는 것이 프로이트 심리학의 주요 뼈대다. 정신분석학이 과학적이냐 아니냐는 논쟁은 뒤로하더라도, 아동기에 무엇을 보고 듣고 경험했는가가 성인이 된 후 행동과 판단에 어느 정도 영향을 미친다는 점은 부인할 수 없는 사실이다.

1980~90년대 어린 시절 즐겨 봤던 SF 영화들은 유독 디스토피아적인 내용과 소재들이 많았다. 지금 같으면 피지컬 인공지능(AI)이라고 불렀을 로봇과 군사 인공지능인 스카이넷이 인간과 전쟁을 벌이는 ‘터미네이터’와 사이보그 인간 경찰과 전투 로봇이 등장하는 ‘로보캅’이 그랬다. 인간이 인공지능 컴퓨터에 의해 양육되며 가상의 세계를 현실로 착각하며 산다는 내용의 ‘매트릭스’도 빼놓을 수 없다.

청소년기에 이런 SF의 세례를 받은 덕분인지 모르겠지만, 새로운 기술이 등장하면 어린아이들이 새 장난감을 만나는 것처럼 얼른 한번 써봐야겠다는 호기심, 조바심과 함께 ‘이 기술이 잘못 사용되면 어떻게 하지’를 걱정하는 버릇이 생겼다.


요즘 인공지능 기술에 대해서도 마찬가지다. 과학 분야 취재를 담당하고 있다 보니 매주 다양한 분야의 최신 과학기술 논문들을 본다. 지난 몇 년 동안 분야를 막론하고 AI 관련 논문들이 쏟아지고 있음을 체감한다. 이전에는 AI를 이용해 ‘이런 것도 할 수 있다’는 식의 논문이 많았다면 최근 들어 인공지능과 관련한 문제점을 지적하는 연구들도 심심찮게 만날 수 있다.

지난주에 나온 논문들만 해도 그렇다. 미국 의학협회에서 발행하는 국제 학술지 ‘JAMA 네트워크 오픈’에는 생성형 인공지능 사용이 우울 증상 증가와 유의미한 연관성이 있다는 연구 결과가 실렸다. 미국 거주 성인 남녀 2만 847명을 대상으로 조사한 결과 생성형 AI 사용 수준이 높을수록 우울 증상이 증가하는 경향이 발견됐으며, 특히 젊은 사용자 중 매일 사용하는 사람들에게서 중증도의 우울증 발생 확률이 높다는 내용이었다.

과학 저널 ‘사이언스’ 23일 자에는 한국, 미국, 영국, 노르웨이 공동 연구팀이 악의적 인공지능 군집이 민주주의에 심각한 위협을 가할 수 있는 대규모 조직적 허위 정보 유포에 이용될 가능성이 크다는 점을 지적하고 대책을 촉구하는 논문이 발표됐다.



사실 이런 이야기를 하면 산업계에서는 “전 세계적으로 치열한 경쟁을 벌이고 있는데 부정적 면을 부각하는 것은 경쟁력 확보에 도움이 되지 않는다”라거나 “문제가 생기면 시장에서 알아서 해결할 것”이라고 불만 섞인 목소리를 내곤 한다. 지난 22일 시행된 ‘AI 기본법’에 대해서도 산업계는 불만인 듯싶다. SF 영화에 흔히 등장하는 기술만능주의, 시장만능주의의 전형적 모습을 보는 듯하다.

현재 인공지능 기술의 발전 속도를 고려한다면 요즘 나오는 AI 관련 서적에서 예측되는 것 이상의 현실이 우리 앞에 생각보다 빨리 다가올 수 있다. 인공지능이 인간의 지적 능력을 뛰어넘는 특이점을 지난 뒤 벌어질 수 있는 일들은 전문가들도 쉽게 예측하지 못하고 있다. 인공지능 시대를 막연히 낙관만 할 수는 없을 것이다. 그렇기 때문에 이번 사이언스 논문도 그렇고 지난해 국제 학술지 ‘위기 분석’에 실린 논문에서도 “인공지능은 반드시 발전과 규제가 함께 가야 하는 기술이며, 규제는 단순한 가이드라인 수준에 그쳐서는 안 된다”고 지적하는 것이다.

AI는 어느 순간이 지나면 인간의 통제 범위를 벗어나 스스로 진화할 수 있는 기술이다. 적절한 규제 없는 기술 발전은 최악의 상황을 가져올 수 있다. 그렇기 때문에 기술이 초래하는 부작용이 수면 위로 드러나기 시작하면 이미 걷잡을 수 없는 상황일 수 있다. 어느 개그맨의 말처럼 늦었다고 생각할 때는 진짜 늦었을 때가 될지 모른다.

유용하 문화체육부 과학전문기자