AI가 모든 것 해주는 시대, 어떻게 대응해야 할까

일반인들에게 선보인 지 불과 3년밖에 되지 않았지만 생성형 인공지능(AI)이 없는 세상은 상상하기 어렵게 됐다. 그렇지만 성능이 고도화되면서 인공지능이 인간의 지시 없이 해킹을 시도하는 등의 문제점도 불거지고 있다. 생성형 AI를 넘어 인간의 일을 대신해주는 수준에 이르면 세상은 어떻게 변할까. 그리고 우리는 어떻게 대응해야 할까.


과학기술정보통신부는 이 같은 고민과 걱정, 그리고 해법을 담은 2025년 기술영향평가 결과 보고서 ‘AI 에이전트 시대의 생존 매뉴얼’을 발간했다고 22일 밝혔다. 기술영향평가는 미래 신기술과 기술적, 경제적, 사회적 영향과 파급효과가 큰 기술을 대상으로 매년 전문가와 일반시민이 참여해 기술이 만들 결과를 예측해 사전 대응 방안을 마련하기 위한 제도다.

AI 에이전트는 사용자 지시를 이해하는 수준을 넘어 스스로 계획을 수립하고 정보를 탐색하며 다양한 디지털 도구와 서비스를 활용해 지시된 목표를 수행하는 자율형 인공지능 시스템이다. 생성형 AI를 기반으로 등장한 AI 에이전트는 개인 비서, 연구 조력자, 업무 자동화 도구 등으로 활용 범위를 넓히며 사람의 의사결정과 생산 방식의 혁명을 가져다줄 것으로 전망된다.

그렇지만 다른 한편으로는 개인정보 활용 확대, 책임 소재 불명확성, 일자리 구조 변화, 허위정보 확산, 기술 의존 심화 등 다양한 사회적 과제도 제기되고 있다. 자율성이 높아질수록 인간 통제와 감독 방식, AI 판단에 대한 책임 문제, 사회적 신뢰 확보가 중요한 과제로 부상하고 있다.



이에 보고서는 AI 에이전트가 가져올 미래 변화를 인간과의 관계, 노동 변화, 개인정보 보호와 활용, 사회적 수용성과 미래 교육, 주권 및 안보, AI 지속 가능성, 책임, 시민사회와 민주주의 등 다양한 관점에서 살펴보고 인간과 AI가 공존하는 미래 사회의 대응 방향을 제시했다.

보고서는 AI 에이전트 확산에 따라 AI 책임체계 구축, 개인정보 보호 및 활용 제도 개선, AI 시대 인재 양성 및 평생교육 강화, 인간-AI 협업 환경 조성, AI 안전성 및 신뢰성 확보, 디지털 주권과 국가 경쟁력 강화 등의 정책 수립이 시급하다고 제언했다.

이번 보고서는 과기정통부 누리집(www.msit.go.kr)과 한국과학기술기획평가원 누리집(www.kistep.re.kr)에서 전문을 받아볼 수 있다.

유용하 과학전문기자