“AI 기업, 개발 매몰돼 안전은 후퇴”

美 FLI, AI 안전성 지수 발표

가장 점수 높은 앤트로픽도 C+
오픈AI·구글 딥마인드 뒤이어
“내부 레드라인 기준 약화·폐기”“인공지능(AI) 기업들은 초인공지능의 위험성을 경고하면서도 정작 개발 경쟁은 멈추지 않습니다.”

미국 AI 안전 분야 비영리 싱크탱크 퓨처오브라이프 인스티튜트(FLI)의 맥스 테그마크 회장은 “(AI 기업들의) 자발적인 안전 약속만으로는 충분히 안전하지 않다”며 이렇게 말했다고 미 매체 액시오스가 7일(현지시간) 전했다.

FLI는 이날 주요 AI 기업 9곳의 안전성 등을 평가한 ‘2026년 상반기 AI 안전성 지수(AI Safety Index)’를 발표했는데, 가장 높은 점수를 받은 앤트로픽도 ‘C+’에 그쳤다. 오픈AI와 구글 딥마인드는 나란히 ‘C’를 받았고, 메타는 지난해보다 순위는 올랐지만 ‘D+’이었다. 반면 xAI는 ‘F’를 받아 4위에서 7위로 내려앉았다. 이번 평가에 처음 포함된 프랑스 AI 기업 미스트랄도 ‘F’를 받아 최하위를 기록했다. 중국 딥시크도 F였다. FLI는 AI 기술 경쟁이 가속화되는 반면 안전 관리 수준은 이에 미치지 못하고 있다고 진단했다.


FLI는 특히 앤트로픽과 오픈AI, 구글 딥마인드, 메타가 일정 수준 이상의 위험이 확인되면 AI 개발을 중단하겠다며 제시했던 내부 ‘레드라인’ 기준을 최근 약화하거나 폐기했다고 지적했다. AI 성능이 빠르게 발전하면서 가정과 산업은 물론 군사·사이버보안 분야까지 활용 범위가 확대되고 있지만, 정작 이를 통제하기 위한 안전 기준은 오히려 느슨해지고 있다는 것이다. FLI는 이 같은 변화가 다른 기업들까지 안전 기준을 낮추도록 압박하며 업계 전반의 안전 관리 수준을 떨어뜨릴 수 있다고 우려했다.

스튜어트 러셀 미국 UC버클리 교수는 “기업들이 충분한 안전조치를 갖춘 경우에만 새 시스템을 출시하겠다는 기존 약속에서 물러서고 있다”고 지적했다.

FLI는 2014년 설립된 미국 비영리 연구기관이다. 반기마다 주요 AI 기업의 안전 관리 수준을 평가해 발표하며, 이번에는 위험 평가와 현재 피해, 안전 프레임워크, 인류 생존 차원의 안전, 거버넌스와 책임, 정보 공개·소통 등 6개 분야를 기준으로 평가했다.



민나리 기자