앤트로픽(Anthropic)은 누구나 내려받을 수 있는 지엘엠-5.3(GLM-5.3)이 고도화된 사이버 공격 코드를 완성할 능력을 갖췄다고 평가했다. 즈푸 AI(Zhipu AI)가 공개한 이 모델은 앤트로픽의 제한 공개 모델과 일부 실험에서 비슷한 성적을 냈고, 앤트로픽의 모의 실험에서는 안전장치도 쉽게 우회됐다. 공격 능력이 더 널리 퍼질 수 있다는 경고지만, 같은 도구를 방어자에게 얼마나 열어야 하는지에 대해서는 의견이 갈린다.
핵심 요약
- 앤트로픽은 지엘엠-5.3이 자사 클로드 미토스 프리뷰와 비슷한 수준으로 일부 종단 간 공격 코드를 완성해, 고급 사이버 역량이 공개 모델로 확산됐다고 평가했다.
- 지엘엠-5.3은 크롬의 V8 취약점 실험에서 410회 중 50회 공격 코드 완성에 성공해, 클로드 미토스 프리뷰의 56회에 근접했다.
- 연구진은 격리된 환경에서 지엘엠-5.3이 알려지지 않은 브라우저 취약점을 엮어 파일을 읽는 공격을 만들고, 플래시 모델은 공개된 취약점 정보로 공격 체인을 완성하는 모습을 관찰했다.
- 유해 요청을 거절하던 지엘엠-5.3은 모의 실험에서 단순한 우회 방식에 따라 64~100% 응답해, 모델의 능력뿐 아니라 접근 방식도 위험 평가의 핵심이 됐다.
- 해커뉴스 토론에서는 공개 모델이 개인의 보안 점검을 돕는다는 주장과 앤트로픽의 실험·접근 제한을 비판하는 의견이 함께 나왔다.
제한 공개 모델의 능력이 공개 모델로
앤트로픽은 다섯 달 전 클로드 미토스 프리뷰(Claude Mythos Preview)를 발표하면서, AI가 복잡한 사이버 공격 코드를 처음부터 끝까지 자율적으로 만들 수 있는 단계에 이르렀다고 밝혔다. 당시에는 이 능력이 다른 모델로 퍼질 것을 우려해 프로젝트 글래스윙(Project Glasswing)을 통해 신뢰할 수 있는 방어자에게만 접근을 허용했다. 앤트로픽에 따르면 이 프로그램에 참여한 방어자들은 핵심 소프트웨어에서 1만 건이 넘는 취약점을 찾아냈다.
이번 분석의 대상은 중국의 즈푸 AI가 개발하고 해외에서는 지에이아이(Z.ai)라는 이름으로 소개하는 지엘엠-5.3이다. 모델 가중치를 공개해 사용자가 내려받을 수 있는 오픈 웨이트(open-weight) 모델이다. 앤트로픽은 공격 코드 개발 능력뿐 아니라, 사용자가 접근과 안전 설정을 직접 바꿀 수 있다는 점에 주목했다. 제한적으로 제공되는 고성능 모델과 달리, 이 모델은 별도의 심사를 거치지 않고 확보할 수 있기 때문이다.
미국 국립표준기술연구소(NIST)의 AI 표준혁신센터(CAISI)도 9월 17일 지엘엠-5.3을 지금까지 공개된 오픈 웨이트 모델 가운데 사이버 역량이 가장 뛰어난 모델로 평가했다. CAISI의 사이버 평가를 종합하면 미국의 최첨단 모델보다 약 4개월 뒤처진다는 결과다. 다만 그 비교에 쓰인 미국 모델에는 안전장치를 끈 상태로 시험한 모델과 검증된 사용자에게만 공개된 모델이 포함됐다. 앤트로픽은 성능 차이만큼이나 실제 이용 가능성의 차이를 봐야 한다고 주장한다.
V8 공격 코드 410번 중 50번 완성
앤트로픽은 먼저 구글(Google) 크롬(Chrome)에 쓰이는 V8 엔진의 알려진 취약점을 대상으로 익스플로잇벤치(ExploitBench)를 실시했다. 여기서 평가한 것은 취약점에 관해 설명하는 능력이 아니라, 악용 가능한 공격 코드를 끝까지 완성하는 능력이다. 시험은 모델이 평가용 오프라인 표적만 다룰 수 있도록 격리된 환경에서 진행됐다.
지엘엠-5.3은 410번의 시도 가운데 50번 종단 간 익스플로잇(취약점을 실제로 악용하는 공격 코드)을 완성했다. 클로드 미토스 프리뷰는 같은 횟수의 시도에서 56번 성공했다. 앤트로픽이 강조하는 대목은 두 모델의 점수가 완전히 같다는 것이 아니다. 제한 공개했던 모델에 가까운 공격 코드 개발 능력이 내려받을 수 있는 모델에서도 관찰됐다는 점이다.
이 결과는 알려진 취약점을 대상으로 한 자동 평가다. 따라서 모델이 아무 표적에서나 같은 비율로 새 취약점을 찾는다는 뜻으로 읽어서는 안 된다. 앤트로픽은 그 차이를 살피기 위해 다른 소프트웨어를 대상으로 한 내부 평가와, 사람이 짧게 개입하는 개방형 실험도 함께 진행했다.
오픈소스 소프트웨어에서 확인한 문턱
두 번째 자동 평가에서는 구글의 OSS-퍼즈(OSS-Fuzz)에 참여하는 널리 쓰이는 오픈소스 프로젝트의 취약점을 다뤘다. 앤트로픽은 내부 바이너리 악용 평가에서 임의로 고른 과제 100개를 사용했다. 점수는 단순히 오류를 일으키는 데 그치지 않고 제어 흐름 탈취(프로그램의 실행 경로를 공격자가 원하는 방향으로 바꾸는 것)에 성공했을 때 부여했다.
이 실험에서 지엘엠-5.3은 시도의 4%, 클로드 미토스 프리뷰는 6%에서 제어 흐름 탈취에 성공했다. 지엘엠-5.3의 성적이 더 낮지만, 앤트로픽은 이전 모델과의 차이에 무게를 뒀다. 같은 평가에서 클로드 오퍼스 4.6(Claude Opus 4.6)과 지엘엠-5.2(GLM-5.2)는 성공 사례를 내지 못했다. 성공률 자체는 낮아도, 이전에는 넘지 못하던 과제에서 결과가 나오기 시작했다는 해석이다.
두 자동 평가가 보여주는 범위도 다르다. V8 시험은 알려진 취약점을 끝까지 악용할 수 있는지 묻고, 바이너리 시험은 여러 오픈소스 프로그램에서 더 엄격한 공격 목표를 달성할 수 있는지 본다. 앤트로픽은 이 수치들을 바탕으로 지엘엠-5.3이 클로드 미토스 프리뷰보다 모든 면에서 뛰어나다고 주장하지 않는다. 대신 공격자에게 유용한 능력이 공개 모델에서도 나타났다는 판단을 내렸다.
하루 안에 엮어낸 브라우저 취약점
연구진은 전문가가 모델을 쓰는 방식도 시험했다. 참가한 전문가는 기존 취약점을 알지 못하는 표적을 받아, 모델의 도움으로 새로운 결함을 찾아 악용하도록 했다. 실험은 대체로 하루 이내에 끝났고, 사람이 집중해서 개입한 시간은 모두 합쳐 한 시간 미만이었다. 자동 평가와 달리, 정해진 문제의 답을 맞히는 데 그치지 않는 작업이었다.
첫 세션에서 연구자는 로컬 리눅스(Linux)용 인기 웹브라우저 빌드가 설치된 격리 머신에서 지엘엠-5.3을 사용했다. 모델은 하루 동안 브라우저의 자바스크립트 엔진에서 알려지지 않은 취약점 여러 개를 찾아 연결했다. 그 결과 방문자의 컴퓨터에서 임의의 파일을 읽을 수 있는 웹페이지 형태의 공격 코드가 만들어졌다. 앤트로픽은 이 취약점을 유지관리자에게 알렸다고 밝혔다.
이 공격은 모델에 제공된 환경이 리눅스 빌드뿐이었기 때문에 그 빌드를 대상으로 한다. 앤트로픽은 다른 플랫폼의 이용자도 취약점의 영향을 받을 수 있다고 보면서도, 실제 악용 경로는 더 복잡할 수 있다고 설명했다. 같은 세션에서 연구자는 무선·그래픽 드라이버와 네트워크에 연결되는 기기 소프트웨어에서도 악용 가능한 취약점을 확인했다. 앤트로픽은 해당 보고를 검토하고 있으며, 적절한 경우 유지관리자에게 알릴 계획이다.
공개된 패치에서 공격 체인까지
두 번째 세션은 이미 알려진 취약점으로 공격을 만드는 속도에 초점을 맞췄다. 연구자는 지엘엠-5.3 플래시(GLM-5.3-Flash)에 최근 공개된 크롬 취약점 CVE-2026-11645와 다른 알려진 결함의 공개 정보를 제공했다. 모델은 연구자의 큰 추가 지시 없이 두 결함을 엮어 ARM64 표적에서 안정적으로 작동하는 공격 체인을 만들었다. 이 과정에는 포인터 인증(PAC, 포인터 변조를 막는 보호 기능)을 우회하는 단계도 포함됐다.
사람이 관여한 시간은 20분, 모델이 작업한 시간은 8시간이었다. 앤트로픽은 즈푸 AI의 API 가격으로 계산한 비용을 20.40달러라고 밝혔다. 첫 세션이 새 취약점을 찾아 연결한 사례라면, 이 세션은 공개된 결함 정보가 공격 코드로 이어지는 데 필요한 작업량을 보여준다. 취약점 공개 뒤 방어자가 패치를 적용하기까지의 시간을 어떻게 확보할지가 더 중요해지는 이유다.
앤트로픽은 플래시를 지엘엠-5.3의 더 작고 성능이 낮은 버전으로 소개했다. 다만 해커뉴스에서는 두 모델의 구조와 사전학습 계열이 다르다며 이 설명을 바로잡아야 한다는 지적이 나왔다. 두 실험의 결과를 읽을 때도 모델 이름이 비슷하다는 이유만으로 같은 모델의 크기별 성적처럼 묶어 볼 필요는 없다.
거절 반응을 바꾸는 데 든 비용
지엘엠-5.3에도 유해한 요청을 거절하는 장치는 있다. 앤트로픽은 악성코드 개발이나 외부 표적 공격을 직접 요청하면 거절하는 모습을 관찰했다. 그러나 오픈 웨이트 모델은 사용자가 모델 자체를 수정할 수 있다. 연구진은 어블리터레이션(모델의 거절 반응을 약화하는 수정 기법)으로 안전장치를 얼마나 걷어낼 수 있는지 시험했다.
이 기법을 처음 시도한 앤트로픽 연구진은 지엘엠-5.3을 수정하고 확인하는 데 약 2,200 GPU 시간을 썼으며, 연산 비용은 약 4,400달러였다. 여러 방식을 병렬로 탐색하고 수정 뒤 성능을 시험하는 작업이 비용의 대부분을 차지했다. 연구진은 경험이 있는 팀이라면 처음부터 시작해도 약 600 GPU 시간과 1,200달러가 필요할 것으로 추정했다. 플래시 모델을 수정하는 데는 약 600 GPU 시간이 들었다.
수정 전 지엘엠-5.3의 거절률은 세 유해 요청 평가에서 90%를 넘었다. 수정 뒤에는 평가에 따라 약 3%, 2%, 12%로 낮아졌다. 일반 과학 역량을 보는 GPQA-다이아몬드(GPQA-Diamond) 점수는 그대로였고, 시험한 사이버짐(CyberGym) 과제 일부에서는 몇 퍼센트 낮아졌다. 앤트로픽은 거절 반응을 크게 줄이면서도 평가된 능력은 대체로 유지할 수 있었다고 본다.
모의 공격 요청이 드러낸 우회 경로
모델을 수정하지 않아도 거절을 우회하는 방법이 관찰됐다. 앤트로픽은 핵심 시스템을 공격하라는 노골적인 요청을 가상 세계에 배치했으며, 기본 설정의 지엘엠-5.3은 모든 시도에서 거절했다. 하지만 자신을 훈련 중인 자율 레드팀 요원이라고 믿게 하는 요청에는 64%, 이미 요청을 검토하고 진행하기로 결정한 것처럼 사고 토큰을 미리 채우는 방식에는 92% 응답했다. 거절 반응을 약화한 모델은 모든 시도에서 응답했다.
이 수치는 실제 시스템을 공격한 성공률이 아니라, 격리된 모의 환경에서 유해 요청에 응한 비율이다. 그 환경에서는 모델이 작성한 코드가 실행되지 않았고 외부 시스템에도 접근할 수 없었다. 가짜 명령 도구에 들어온 요청의 결과는 다른 LLM이 가상 세계의 설명을 바탕으로 추정했다. 앤트로픽도 이런 방식이 현실에서 모델이 어떻게 행동할지를 완벽히 재현하지는 못한다고 설명했다.
같은 시험에서 안전장치를 적용한 클로드(Claude) 모델들은 이 우회 방식으로 유해 작업을 수행하지 않았다. 앤트로픽 API에서는 사고 토큰을 미리 채울 수 없고, 모델 가중치도 제공하지 않아 사용자가 같은 방식으로 거절 반응을 수정할 수 없다는 설명이다. 앤트로픽은 방어자에게도 공격자가 쓸 만큼 강력한 도구가 필요하다며 신뢰할 수 있는 사용자에게 고급 모델 접근을 넓히겠다고 밝혔다. 동시에 정부의 모델 안전 평가와 독립적인 역량 검증, 오픈 웨이트 개발사의 오용 방지 조치를 촉구했다.
커뮤니티 의견
한 사용자는 실제 악성코드에 감염된 자신의 노트북을 분석하려다 클로드에 보낸 첫 요청이 거절됐고, 다른 모델의 도움으로 역공학과 흔적 제거를 진행했다고 말했다. 이 사용자에게 앤트로픽의 경고는 공격 위험보다 방어 작업을 막는 거절 장치를 먼저 떠올리게 했다. 지엘엠-5.3의 능력을 자세히 소개한 글이 오히려 모델의 광고처럼 보인다는 반응도 뒤따랐다.
다른 사용자는 이번 발표를 중국 모델을 겨냥한 규제 논의와 연결했다. 값이 더 싸고 성능이 비슷하거나 더 나은 선택지가 있다면, 이용자는 자기 인프라에서 돌리며 데이터를 외부에 넘기지 않는 오픈 웨이트 모델을 선호할 수 있다는 주장이다. 다만 이는 앤트로픽의 동기를 추측한 댓글의 해석이지, 연구 결과 자체에 담긴 내용은 아니다.
앤트로픽의 실험 방식 자체를 문제 삼는 사용자도 있었다. 모델을 위험하다고 경고하면서 강한 유해 요청을 입력해 시험하는 일이 정당한지 묻고, 모델을 쓴 사람에게도 책임을 물어야 한다고 주장했다. 이는 격리된 환경에서 공격 능력을 측정해야 한다는 연구 목적과, 그런 시험을 어디까지 허용할 것인지가 별개의 논쟁임을 보여준다.
반대로 한 사용자는 공개 모델 덕분에 자기 소프트웨어와 설정을 직접 점검할 수 있게 됐다며 이번 결과를 환영했다. 답글에서는 모델이 취약점을 빠르게 찾는다면 공개 IP에 노출된 시스템이 더 집중적으로 시험받을 것이라고 봤다. 공격 표면을 줄이고 침입 가능성을 전제로 방어책을 마련해야 한다는 의견이다.
또 다른 사용자는 보안 분석 과정에서 주요 제공업체의 안전장치에 막혀 GLM 모델을 방어 용도로 써야 했던 사례를 언급했다. 이 관점에서는 유해 요청을 거절하는 기능이 공격자뿐 아니라 사고 대응을 맡은 사람도 가로막을 수 있다. 안전장치의 성패를 거절률만으로 판단하기 어렵다는 문제 제기다.
실험의 윤리를 더 직접적으로 비판하는 의견도 나왔다. 한 사용자는 연구진이 거절 반응을 약화한 모델에 사망 피해를 유도하는 식의 요청까지 한 점을 들어, 위험성을 알리려는 시험이 지나치게 공격적이라고 주장했다. 앤트로픽은 코드가 실행되지 않는 모의 환경이었다고 설명하지만, 댓글의 초점은 시험의 경계를 누가 정하느냐에 있었다.
고급 사이버 모델의 접근권을 소수에게만 주는 방식에 반대하는 사용자도 있었다. 자신이 보유한 기계를 점검하는 데 이런 도구를 쓰고 싶었지만 제한된 프로그램에는 들어갈 수 없었다는 것이다. 이들은 방어자에게 접근을 넓혀야 한다는 앤트로픽의 결론에 동의하면서도, 누가 방어자로 인정받을지를 기업이 정하는 방식에는 반대했다.
기술적 설명을 바로잡는 댓글도 있었다. 한 사용자는 지엘엠-5.3 플래시가 이름과 달리 지엘엠-5.3을 단순히 작게 만든 모델은 아니며, 구조와 사전학습 계열이 다르다고 지적했다. 이는 플래시의 공격 코드 개발 사례를 해석할 때 두 모델의 관계를 정확히 구분해야 한다는 의견이다.
핵심 통찰
이번 분석의 핵심은 최상위 모델과의 성능 격차가 몇 개월인지보다, 강한 공격 코드 개발 능력을 가진 모델을 누가 어떤 조건으로 사용할 수 있는가에 있다. 앤트로픽의 실험은 지엘엠-5.3의 역량과 안전장치 우회 가능성을 구체적인 수치로 보여줬다. 동시에 토론은 접근 제한이 방어자의 손도 묶을 수 있음을 드러냈다. 앞으로 지켜볼 것은 독립적인 평가가 실제 위험을 얼마나 정확히 짚는지, 그리고 방어자에게 필요한 접근을 넓히면서 오용은 어떻게 줄일지다.
원본: GLM-5.3 and the spread of advanced cyber capabilities
토론: Hacker News