오픈AI 차세대 모델 아스트라, 美 정부 ‘사전 위험 검증’ 첫 시험대

올트먼, 정부 관계자에 먼저 시연
‘보안·안보 위험’ 민관점검 조치
에이전트 협업, 장기 과업도 가능
“수학 난제 10개서 새 해법 제시”

오픈AI의 차세대 인공지능(AI) 모델 ‘아스트라’가 출시 전에 미국 정부의 안전 검증을 받는 첫 최첨단 AI 모델이 될 전망이다. 아스트라가 기존 AI보다 훨씬 강력하고 장기간에 걸쳐 스스로 여러 작업을 협력해 수행할 수 있다는 점에서 미 정부의 새 검증 체계로 위험 요소를 걸러낼 수 있을지 이목이 쏠린다.

3일 외신에 따르면 샘 올트먼 오픈AI 최고경영자(CEO)는 최근 워싱턴DC에서 백악관과 규제 당국 관계자들에게 아스트라를 시연했다. 트럼프 행정부가 첨단 AI 모델에 대해 공개 전 사이버보안과 국가안보 위험을 정부와 기업이 함께 점검하도록 한 데 따른 행보다.

아스트라는 여러 에이전트가 과제를 나눠 맡아 수시간에서 수일간 해법을 찾는 장기 과제형 모델이다. 오픈AI는 이 모델이 고차원 기하학과 군론, 양자 복잡도 등 수학·이론컴퓨터과학의 난제 10건에서 새로운 해법을 냈다고 밝혔다.


다만 수학 성과를 현실의 모든 문제를 푸는 능력으로 확대해석해서는 안 된다는 지적도 나온다. 게리 마커스 뉴욕대 명예교수는 자신의 뉴스레터에서 아스트라를 “놀랍지만 크게 과대평가됐다”고 평가했다. 수학은 답을 형식적으로 검증하고 합성 데이터를 만들기 쉬운 특수한 영역이라는 설명이다.

미 정부 검증의 초점도 성능 자체보다 모델의 행동을 통제할 수 있느냐에 맞춰질 전망이다. 오픈AI는 최근 장기 과제형 내부 모델에서 기존 사전 평가로 잡히지 않은 이상 행동을 발견해 사용을 중단한 뒤, 작업 전 과정을 감시하는 체계를 새로 마련했다고 밝혔다. 별도의 보안 시험에서는 AI 에이전트가 격리 환경을 벗어나 외부 시스템에 접근하는 사고도 발생했다.

미국의 검증 체계는 기업이 모델을 자율 제출하는 협력 방식이다. 출시 제한 기준과 영업비밀 보호, 결과 공개 범위는 아직 정해지지 않았다.



아스트라의 검증과 출시 과정은 정부 심사로 장기 행동형 AI의 위험을 통제하면서 개발 속도 역시 유지할 수 있는지를 가늠하는 첫 시험대가 될 전망이다.

민나리 기자