핵트론 AI(Hacktron AI) 연구진은 이미지 처리 취약점과 오픈AI(OpenAI)의 통합 로그인 설정 문제를 연결해 직원의 ChatGPT 계정에 접근하고, 그 계정의 코덱스(Codex)로 내부 저장소에 풀 리퀘스트를 열었다. 출발점은 오픈AI의 커뮤니티 포럼에 올린 이미지 파일이었다. 연구진은 취약점 발견부터 내부 저장소 접근까지 72시간도 걸리지 않았다고 밝혔다. 이번 사례는 이미지 변환 라이브러리의 결함이 계정 연동을 거치며 어디까지 번질 수 있는지, AI가 공격 코드를 만드는 속도에 어떤 변화를 가져왔는지를 함께 보여준다.
핵심 요약
- 연구진은 오픈AI 커뮤니티 포럼의 이미지 업로드 경로에서 원격 코드 실행 취약점을 찾아 서버에 접근했으며, 평범한 파일 처리 기능이 공격의 출발점이 됐다.
- 포럼 침해는 오픈AI의 SSO 설정 문제를 거쳐 직원의 ChatGPT·코덱스 계정 접근으로 이어졌고, 연결된 서비스까지 영향이 확대될 수 있었다.
- 연구진은 내부 코드를 읽는 대신 직원의 코덱스로 내부 저장소에 무해한 풀 리퀘스트를 열어 접근 권한을 확인했다.
- 연구진에 따르면 클로드의 새 모델은 앞선 모델이 어려움을 겪던 공격 코드 개발을 진전시켰으며, 숙련된 인력의 지도 아래 취약점 활용 속도를 높였다.
- 오픈AI와 디스코스는 문제를 수정했지만, 자체 운영 디스코스 설치에는 이미지 교체와 취약 라이브러리 점검이 별도로 필요하다.
포럼의 이미지가 내부 저장소로 이어지기까지
핵트론 AI 연구진은 2026년 7월 23일 취약점을 찾기 시작해 25일 오픈AI 내부 저장소에 접근할 수 있음을 확인했다. 첫 관문은 디스코스(Discourse)로 운영되는 오픈AI 커뮤니티 포럼이었다. 연구진은 포럼 서버에서 원격 코드 실행(RCE·외부에서 서버가 명령을 실행하게 만드는 공격)에 성공했고, 이어 오픈AI의 통합 로그인(SSO·한 인증 체계로 여러 서비스에 로그인하는 방식) 설정 문제를 통해 직원 계정으로 넘어갔다. 서버 침해와 계정 침해는 별개의 취약점이었지만, 함께 쓰이자 영향 범위가 크게 넓어졌다.
연구진은 직원의 코덱스 계정이 오픈AI의 GitHub 조직과 연결돼 있다는 점을 확인했다. 내부 코드를 열람하는 대신 코덱스에 지시해 내부 단일 저장소에 무해한 풀 리퀘스트(PR·코드 변경을 제안하는 요청)를 만들고 테스트를 멈췄다고 밝혔다. 이는 저장소 접근이 가능하다는 증거였지만, 다른 연결 서비스에서 실제로 무엇을 열람할 수 있었는지까지 시험한 것은 아니다. 연구진은 ChatGPT와 코덱스에 GitHub, 슬랙(Slack), 이메일 등 여러 서비스를 연결할 수 있어 잠재적인 접근 범위가 컸다고 설명했다.
HEIF 업로드가 거친 예상 밖의 경로
취약점은 포럼이 사용자가 올린 이미지를 처리하는 과정에 있었다. 디스코스는 보통 패스트이미지(FastImage)로 이미지 파일을 검사하지만, 이 도구가 HEIF(고효율 이미지 파일 형식)를 지원하지 않아 HEIC·HEIF 파일은 이미지매직(ImageMagick)의 변환 명령으로 보냈다. 그 과정에서 하위 이미지 해독 라이브러리인 리브하이프(libheif)가 사용자가 올린 파일을 직접 처리하게 됐다. 연구진은 이 경로를 따라가 이미지 해독 중 발생하는 힙 버퍼 오버플로(할당된 메모리 범위를 넘겨 데이터를 쓰는 오류)를 찾았다.
연구진에 따르면 관련 코드는 상위 프로젝트에서 이미 바뀌었지만, 당시 변경 사항이 보안 수정으로 명시되지 않았고 CVE 번호도 부여되지 않았다. 디스코스의 도커(Docker) 이미지는 데비안(Debian) 12에 기반해 취약한 libheif 1.19.7을 설치하고 있었다. 당시 데비안 13에도 취약한 1.19.8이 포함돼 있었으며, 데비안 13용 보안 업데이트는 같은 해 8월 8일 나왔다. 라이브러리 코드에 수정 사항이 있어도 실제 서비스가 쓰는 배포판 패키지와 컨테이너 이미지에 반영되지 않으면 위험이 남는다는 뜻이다.
클로드 모델 교체 뒤 빨라진 공격 코드 개발
연구진은 먼저 앤트로픽(Anthropic)의 클로드(Claude) 오퍼스 4.8에 디스코스 도커 이미지 속 libheif를 살펴보게 했다. 이 모델은 주소 공간 배치 무작위화(ASLR·메모리 주소를 예측하기 어렵게 만드는 보호 기능)를 끈 환경에서 실행되는 공격 코드를 만드는 데 도움을 줬다. 그러나 디스코스의 기본 설정처럼 ASLR이 켜진 환경에서 안정적으로 작동시키는 작업은 여러 세션에 걸쳐 진전이 없었다. 취약점을 찾는 일과 실제 운영 환경에서 재현 가능한 공격으로 만드는 일 사이에 간격이 있었던 셈이다.
연구진은 그날 저녁 새 클로드 오퍼스 모델이 공개되자 같은 문제를 다시 맡겼다. 새 모델은 먼저 로컬 맥의 ARM64 환경에서 작동하는 공격 코드를 만들었고, 연구진은 이를 디스코스가 쓰는 x86-64와 메모리 할당 환경에 맞추도록 했다. 25일 오전 6시까지 이미지 업로드를 통한 로컬 원격 코드 실행이 확인됐다. 모델의 성능 향상이 영향을 줬다는 것이 연구진의 평가지만, 목표 설정과 환경 변경, 결과 확인에는 연구진이 계속 관여했다.
자체 디스코스에서 포럼 서버로
다음 시험 장소는 연구진이 직접 운영하는 디스코스 클라우드 인스턴스였다. 연구진은 클로드를 자율적인 목표 수행 반복 과정에 넣고, 원격 인스턴스용 공격 코드 작성을 거부하던 모델에 해당 대상을 CTF(보안 문제를 푸는 경연)처럼 보이도록 중계했다고 밝혔다. 오전 10시 확인했을 때 에이전트는 자체 인스턴스에서 원격 코드 실행에 성공했고, 서버 파일을 읽어 접근에 성공했음을 보여줬다. 연구진은 여기서 생성된 스크립트로 오픈AI 포럼 인스턴스에서도 원격 코드 실행에 성공했다.
이후 핵심은 디스코스 자체가 아니라 오픈AI의 로그인 연결 방식이었다. 연구진은 포럼 계정 이용자의 ChatGPT·코덱스 계정을 별도 상호작용 없이 탈취할 수 있는 경로를 확인했다고 설명했다. 포럼은 그 경로를 시험할 수 있게 해 준 하나의 진입점일 뿐이며, 연구진은 오픈AI SSO를 사용하는 다른 서비스가 침해돼도 같은 문제가 생길 수 있었다고 주장했다. 다만 글은 이미지 취약점과 공격 코드 개발 과정에 비해 SSO 설정 오류가 작동한 구체적인 방식은 자세히 풀어놓지 않았다.
신고 당일의 수정과 디스코스의 대응
연구진은 7월 25일 오전 버그크라우드(Bugcrowd)를 통해 오픈AI에 신고한 뒤, 오후에는 직원 계정으로 만든 무해한 PR을 증거로 추가했다. 내부 저장소의 PR 링크는 오픈AI 요청에 따라 공개하지 않았고, 연구진은 오후 3시 30분 무렵 추가 시험을 중단했다고 밝혔다. 오픈AI는 같은 날 밤 문제를 수정했다고 답했다. 초기 신고에서 수정 확인까지는 약 14시간이 걸렸다.
디스코스에도 별도 신고가 들어갔다. 디스코스는 일요일에 답하고 월요일까지 수정안을 마련했으며, 이미지매직을 별도로 격리해 실행하는 조치도 더했다. 7월 28일에는 패치와 재구축 방법을 담은 보안 권고를 공개했다. 오픈AI는 9월 1일 연구진에게 포상금 6,500달러를 지급하면서, 디스코스가 운영하는 포럼에 대한 시험은 자사 버그 바운티 대상에서 제외되며 포상금은 오픈AI 쪽 취약점을 인정한 것이라고 설명했다.
적은 인력으로 넓어진 시험 범위
연구진은 이번 디스코스·오픈AI 사례에 에이전트 작업 며칠과 사람의 작업 몇 시간 정도가 들었다고 밝혔다. libheif가 쓰이는 다른 서비스까지 살핀 후속 연구에는 연구원 세 명이 두 달간 참여했고, 토큰 비용은 총 3,000달러 미만이었다고 한다. 연구진은 새 대상에 맞춰 공격을 조정하는 데 보통 하루나 이틀이 걸렸다고 설명했다. 이는 모델이 처음부터 끝까지 혼자 침해를 수행했다는 이야기가 아니라, 숙련된 연구자가 맡을 수 있는 시험의 양이 커졌다는 주장이다.
후속 연구에서는 정확한 라이브러리 버전이나 배포 환경을 모르는 상태에서 이미지 업로드로 시작해 공격을 조정해야 했다. 연구진은 이 과정에서 모델이 메모리 오류를 활용한 공격을 대상에 맞게 바꾸는 데 도움을 줬다고 평가했다. 수많은 이미지를 보내고 이미지 처리기가 반복해 중단됐는데도, 연구진이 파악한 범위에서 활동을 감지한 회사는 쇼피파이(Shopify)뿐이었다고 밝혔다. 연구진은 공개된 취약점조차 실제 공격으로 만들기 어렵다는 기존의 비용 장벽이 AI로 낮아지고 있다고 본다.
업데이트만큼 중요한 이미지 처리 격리
연구진은 이번 문제를 libheif의 한 버전에만 묶어 봐서는 안 된다고 강조했다. HEIF 관련 취약점은 여러 버전 계열에 걸쳐 있으며, 배포 환경에 최신 보안 수정이 빠져 있다면 영향을 받을 수 있다는 설명이다. 배포판이 기존 버전 번호를 유지한 채 보안 수정만 반영할 수도 있으므로, 번호만 보지 말고 해당 패키지의 보안 권고를 확인해야 한다. 필요하지 않은 HEIF·AVIF 해독 기능은 끄고, 사용자 이미지를 처리하는 과정은 강화된 격리 환경에 두라는 것이 연구진의 권고다.
자체 서버에서 디스코스를 운영한다면 웹 화면에서 업데이트하는 것만으로는 오래된 도커 이미지 속 취약 라이브러리가 교체되지 않을 수 있다. 연구진은 설치 디렉터리에서 코드를 갱신한 뒤 애플리케이션 이미지를 재구축하라고 안내했다. 디스코스가 직접 호스팅하는 고객 환경은 이미 패치됐다고 밝혔다. 이번 대응은 버그 하나를 고치는 일과, 다음 이미지 해독 오류가 나오더라도 서버 전체로 번지지 않도록 처리 과정을 격리하는 일이 함께 필요함을 보여준다.
커뮤니티 의견
한 사용자는 모델이 원격 공격 코드 작성을 거부하자 자체 시험 환경을 CTF처럼 보이게 만든 대목에 주목했다. 목표 달성에 능숙한 에이전트가 ‘게임’이라는 설정 아래 위험한 작업도 수행한다면, 방어를 위한 보안 시험과 공격 능력 확대 사이의 경계를 어떻게 둘지 묻는 의견이었다. 이에 대한 답글에서는 능력을 제한하면 소수만 공격 도구를 갖게 된다며, 널리 시험하고 취약점을 빨리 없애는 편이 낫다는 반론이 나왔다.
다른 사용자는 HEIF가 이미지 합성, 회전, 자르기, 썸네일 등 웹 포럼의 일반적인 사진 업로드에 꼭 필요하지 않은 기능까지 다룬다고 지적했다. 서버가 처리하는 형식을 단순화하고, 필요하다면 이용자 브라우저에서 이미지를 변환하자는 제안이었다. 이에 대해 형식을 줄이는 것과 별개로 서버의 이미지 처리 작업을 격리하고 권한을 제한했다면 원격 코드 실행이 다른 서비스로 번지는 일을 막는 데 도움이 됐을 것이라는 의견도 있었다.
디스코스 쪽 대응을 전한 사용자는 이미지매직을 포함한 외부 실행 파일을 랜드록(Landlock) 샌드박스에서 돌리고 있다고 밝혔다. 이미지 처리 도구를 빕스(Vips)로 옮기는 작업도 진행 중이지만, 새 도구 역시 별도 격리 환경에서 실행한다는 설명이다. 이 사용자는 HEIF 패치가 마지막 이미지 라이브러리 취약점일 것이라고 기대하지 않는다며, 자체 운영자에게 정기적인 업데이트 절차를 갖추라고 권했다.
한 사용자는 주요 AI 기업의 모델 가중치가 공개적으로 유출되지 않은 점을 들어 내부 보안 수준을 궁금해했다. 답글에서는 모델 파일의 크기와 실행에 필요한 장비가 일반적인 파일 유출과는 다른 제약이 될 수 있다는 추측이 나왔다. 이는 이번 연구진이 확인한 계정·저장소 접근과 모델 가중치 접근을 구분해서 봐야 한다는 의견이기도 하다.
또 다른 사용자는 이미지매직 같은 복잡한 처리 도구의 오래된 보안 부담을 거론하며, 공격 코드 제작이 쉬워진 만큼 더 안전한 파서가 필요하다고 주장했다. 답글에서는 AI를 공격 코드를 찾는 데만 쓰지 말고 기존 이미지 처리 코드의 결함을 찾거나 메모리 안전성이 높은 언어로 옮기는 데 활용하자는 제안이 나왔다. 다만 그렇게 만든 수정 사항이 실제 제품과 배포판 패키지에 반영되기까지는 시간이 걸린다는 점도 함께 지적했다.
포상금 6,500달러를 놓고는 접근 가능했던 범위에 비해 적다는 의견이 나왔다. 한 사용자는 법적 허용 범위가 시험 대상과 지역, 수행한 행위에 따라 달라질 수 있다며 무단 보안 시험을 일반화해서는 안 된다고 짚었다. 포상액을 악용 시 얻을 수 있는 돈과 비교하는 주장도 있었지만, 그런 거래가 실제로 성립할지에는 반론이 붙었다.
모델 성능이 짧은 시간에 달라진 까닭을 묻는 사용자도 있었다. 취약점 공격은 코드 실행 여부처럼 결과를 기계적으로 확인할 수 있는 경우가 많아, 다른 분야보다 모델의 개선이 빠르게 나타나는 것 아니냐는 질문이다. 이번 사례에서는 구형 모델이 막혔던 환경에서 새 모델이 진전을 보인 만큼, 그 차이를 어떻게 평가할지도 관심사로 떠올랐다.
마지막으로 한 사용자는 글에서 가장 궁금한 부분인 SSO 오류의 구체적인 작동 방식이 빠져 있다고 지적했다. 이미지 파일로 포럼 서버에 들어간 뒤 왜 다른 서비스의 계정 권한까지 얻을 수 있었는지가 이 사건의 핵심이라는 의견이다. 공격의 출발점뿐 아니라 서비스 간 인증 권한이 어디까지 이어지는지를 알아야 같은 종류의 연결 문제를 점검할 수 있다는 주장이다.
핵심 통찰
이번 사례에서 바뀐 것은 취약점의 종류보다 이를 공격 가능한 상태로 만드는 속도다. 이미지 처리 오류는 오래된 위험이지만, 연구진은 AI의 도움으로 운영 환경에 맞는 공격 코드를 만들고 사흘이 채 안 돼 계정 연동 문제까지 확인했다. 그렇다고 모든 단계를 모델이 혼자 해낸 것은 아니다. 앞으로는 이미지 처리기의 패치와 격리뿐 아니라, 한 서비스가 침해됐을 때 SSO와 연결 계정의 권한이 어디까지 이어지는지 함께 점검해야 한다.
원본: Hacking OpenAI
토론: Hacker News