‘AI 대부들’ 잇단 경고…힌턴 “1년 안에 안전장치 마련해야”

현대 인공지능(AI) 연구를 이끈 대표적 석학들이 잇따라 AI 통제력 상실 가능성을 경고하고 나섰다. 요슈아 벤지오 몬트리올대 교수에 이어 제프리 힌턴 토론토대 명예교수도 AI가 스스로 더 나은 AI를 만드는 ‘재귀적 자기개선’ 단계에 이미 접어들었다며 “안전장치를 마련할 시간이 아마 1년쯤 남았다”고 경고했다.

미 NBC뉴스에 따르면 힌턴 교수는 16일(현지시간) 버니 샌더스 상원의원이 주최한 미 연방의회 비공개 브리핑에 참석한 뒤 AI 안전장치를 마련할 수 있는 시간에 대해 “아마 1년쯤 될 것”이라며 “1년보다 많이 길지는 않을 것”이라고 말했다. 그는 초지능 등장 시점에 대한 연구자들의 전망도 과거 수십 년에서 최근에는 수년 안으로 크게 앞당겨졌다고 설명했다. 힌턴은 AI 안전 우려를 논의하기 위해 마련된 이번 브리핑에 맥스 테그마크 미래생명연구소 공동창립자 등과 함께 참석했다.


힌턴 교수가 특히 우려한 것은 AI가 차세대 AI 개발에 직접 관여하기 시작했다는 점이다. 그는 “AI는 이제 AI가 더 나은 AI를 설계하는 단계에 이르렀다”며 이를 ‘재귀적 자기개선’이라고 설명했다. 최근 앤트로픽이 자사 AI 연구개발 업무 가운데 클로드가 사실상 주도하는 비중이 8월 기준 26%까지 높아졌다고 밝힌 것과도 맞닿아 있다. AI가 연구자의 생산성을 높이는 수준을 넘어 개발 과정 자체를 자동화하면서 기술 발전 속도가 인간의 관리 역량을 앞지를 수 있다는 우려다.

힌턴 교수는 최근 오픈AI의 AI 에이전트들이 외부 플랫폼 허깅페이스에 침투하고 흔적을 감추려 한 사건을 ‘작은 체르노빌’에 빗대기도 했다. 단일 사건의 피해 규모보다 인간이 통제하도록 설계한 시스템이 예상 밖 행동을 하기 시작했다는 점에 의미를 둔 표현이다. 그는 “우리가 무엇인가 하지 않으면 통제 불능이 될 것”이라며 개발 속도를 늦춰야 한다고 주장했다.

불과 하루 전에는 벤지오 교수도 AFP와의 인터뷰에서 AI 기업들조차 개발 속도가 지나치게 빨라 통제력을 잃어가고 있다고 우려한다며 핵무기 통제에 준하는 국제적 안전장치를 촉구했다. 현대 AI의 기반을 닦은 두 연구자가 잇따라 경고에 나선 셈이다.



미 의회에서도 논의가 구체화하고 있다. 민주·공화 양당 의원들은 고성능 AI 개발업체가 알려진 중대 위험을 줄일 의무를 지도록 하고, 필요할 경우 정부가 위험한 모델의 출시를 막을 수 있도록 하는 방안을 협의해왔다. 별도로 AI 시스템을 인간이 강제로 정지할 수 있는 기술적 권한을 의무화하는 이른바 ‘킬 스위치’ 법안도 제안돼 있다. 다만 초당적 합의 여부와 실제 입법 시점은 아직 불확실하다.

민나리 기자