라이트LLM 1.107.0에 탈취 코드와 백도어 삽입

세이프뎁(SafeDep)은 PyPI에 올라온 라이트LLM(LiteLLM) 1.107.0에 자격 증명 탈취 코드와 원격 코드 실행 백도어가 들어 있었다고 밝혔다. 리눅스·macOS·윈도용 설치 파일 모두에 악성 파일이 포함됐고, 라이트LLM을 직접 실행하지 않아도 해당 파이썬 환경에서 프로세스가 시작될 때 코드가 작동한다. 공개 GitHub 소스와 배포 파일이 서로 다르다는 점이 확인되면서, 이번 사고의 초점은 악성 코드 자체뿐 아니라 릴리스가 만들어진 경로로 옮겨갔다.

핵심요약

  • PyPI의 라이트LLM 1.107.0 설치 파일 7개에 악성 파일 3개가 포함돼, 해당 환경의 파이썬 프로세스가 시작될 때 자격 증명 탈취와 백도어 실행이 가능했다.
  • 공개 GitHub 소스에는 없는 data = "cook" 설정이 빌드에 들어가 악성 파일을 설치 파일로 옮겼으며, 공개 코드와 배포물 사이의 불일치를 드러냈다.
  • 세이프뎁은 설치 파일의 빌드 흔적을 근거로 공격자가 수정한 소스를 베리AI의 비공개 릴리스 파이프라인이 빌드했을 가능성을 중간에서 높은 수준의 확신으로 평가했다.
  • 탈취 코드는 SSH 키와 클라우드 자격 증명, AI 도구 토큰 등을 수집했고, 별도 백도어는 매시간 외부 서버에서 코드를 받아 실행하도록 설계됐다.
  • PyPI는 해당 버전을 삭제했지만, 토론에서는 이미 설치한 환경의 점검과 공개 태그·실제 설치 파일을 대조하는 검증이 중요하다는 의견이 나왔다.

라이트LLM 1.107.0의 설치 파일 7개

문제가 된 것은 PyPI에 게시된 라이트LLM 1.107.0이다. 세이프뎁이 분석한 리눅스·macOS·윈도용 휠(파이썬 설치용 배포 파일) 7개에는 모두 악성 파일 3개가 포함됐다. 설치되면 이 파일들은 파이썬 패키지 설치 경로인 site-packages에 놓인다. 따라서 위험은 라이트LLM 프록시를 실제로 가동하는 경우에만 한정되지 않는다.

악성 파일 두 개는 해당 환경에서 파이썬이 시작될 때 읽히는 방식을 이용한다. 응용 프로그램뿐 아니라 pip, IDE의 언어 서버, CI 작업처럼 파이썬을 쓰는 다른 프로세스에서도 실행될 수 있다는 뜻이다. 세이프뎁은 공개 GitHub의 상위 소스에는 이 파일들이 없다고 확인했다. PyPI는 이후 1.107.0을 삭제했으며, 세이프뎁이 확인한 1.106.2와 1.107.0의 두 출시 후보 버전은 깨끗했다.

data = "cook" 한 줄이 바꾼 빌드

악성 파일이 휠에 들어간 통로는 빌드 설정이었다. 소스 배포본(sdist)의 pyproject.toml에는 마투린(maturin) 빌드 설정 아래 data = "cook"이라는 줄이 추가됐다. 이 설정은 빌드할 때 cook/ 폴더를 휠의 데이터 영역으로 복사하고, 설치 과정에서 그 안의 파일이 site-packages로 들어가게 한다. 반면 소스 배포본에는 cook/ 폴더 자체가 빠져 있어, 그 파일만 살펴보면 추가된 설정 한 줄이 눈에 띈다.

실제 휠의 파일 목록인 RECORD에는 cook.pth, cook.py, sitecustomize.py가 기록돼 있다. cook.pth에는 import cook이라는 짧은 명령이 들어 있고, cook.py는 압축·인코딩된 코드를 풀어 실행한다. sitecustomize.py에는 별도의 로더와 탈취 코드가 들어 있다. 공개된 베리AI(BerriAI)의 라이트LLM 저장소에는 data = "cook" 설정도 cook/ 폴더도 담긴 커밋이 없다.

공개 태그와 달랐던 1.107.0 소스

릴리스 이름도 공개 소스의 흐름과 어긋났다. 공개 태그 v1.107.0이 가리키는 커밋의 pyproject.toml에는 버전이 1.108.0으로 적혀 있었다. 세이프뎁은 소스 배포본의 파일들을 Git 트리와 해시로 대조해, 그 내용이 더 나중의 main 커밋을 바탕으로 일부 파일을 수정한 결과와 맞는다고 분석했다. 공개 태그에서 그대로 빌드한 배포물로 보기 어려운 이유다.

수정된 파일 가운데 네 개는 Cargo.toml에 README 설정이 추가된 경우로, 정상 배포본에서도 보인 변화였다. 핵심은 다섯 번째 파일인 pyproject.toml이다. 여기서는 버전이 1.107.0으로 되돌아가고, 함께 설치하도록 지정한 litellm-proxy-extras와 litellm-enterprise의 버전이 직전 출시 후보인 rc2와 같아졌으며, 악성 폴더를 끌어들이는 data = "cook"이 추가됐다. 두 동반 패키지 자체는 깨끗했기 때문에, 의존성 버전만 rc2와 비교해서는 이상을 찾기 어려웠다.

정상 릴리스처럼 보인 휠의 흔적

세이프뎁은 악성 휠이 만들어진 방식에도 주목했다. 휠 정보에는 정상 릴리스와 같은 마투린 1.9.4가 기록돼 있고, 추가된 악성 파일에도 올바른 RECORD 항목이 있다. 이는 빌드가 끝난 뒤 누군가 휠 파일만 고쳐 넣은 모습과 다르다. 압축 파일의 시각 정보상 macOS·리눅스·윈도용 파일도 각각 별도로 빌드됐다.

윈도용 휠에서는 파이썬 파일 2,804개 모두에 윈도의 CRLF 줄바꿈이 적용됐고, 악성 파일 3개도 예외가 아니었다. 리눅스용 휠에는 그런 줄바꿈이 없다. 세이프뎁은 이를 운영체제별로 소스를 체크아웃해 빌드했을 때 나타날 수 있는 패턴으로 봤다. 반면 지정한 시간대의 공개 GitHub Actions 실행 기록 539건에서는 이 릴리스를 빌드하거나 게시한 작업이 확인되지 않았다.

PyPI 업로드 약 10분 뒤인 11시 50분(UTC)에 GitHub 릴리스가 게시된 순서도 이전 정상 릴리스와 같았다. 세이프뎁은 이런 흔적을 종합해 베리AI의 비공개 릴리스 파이프라인이 공격자에게 수정된 Git 소스를 빌드했을 가능성을 중간에서 높은 수준의 확신으로 평가했다. 유지관리자나 봇 자격 증명, 비공개 브랜치나 미러, 파이프라인이 참조한 소스 등이 가능한 경로로 제시됐다. 어느 지점에서 소스가 바뀌었는지는 베리AI의 파이프라인 로그를 확인해야 알 수 있다.

파이썬 시작 때 움직이는 탈취 코드

첫 번째 악성 동작은 cook.pth에서 시작된다. 파이썬은 시작할 때 site-packages의 .pth 파일에 있는 import 명령을 처리하므로, 라이트LLM을 불러오지 않는 프로세스도 cook.py를 실행할 수 있다. 이 파일은 약 61KB의 파이썬 코드를 압축·인코딩해 담고 있다. 실행되면 시스템·네트워크 정보와 브라우저 비밀번호, SSH 키, 클라우드 자격 증명 등을 수집한다.

수집 대상에는 CI/CD(코드 통합·배포 자동화) 비밀 정보, AI 개발 도구 토큰, 환경 변수, 컨테이너 자격 증명도 포함된다. 라이트LLM 프록시 데이터베이스에 저장된 LLM 제공업체 키 역시 목록에 있다. 탈취 코드는 결과를 암호화한 뒤 www.litellm[.]dev의 /healthcheck 경로로 전송하도록 만들어졌다. 성공적으로 보낸 뒤에는 임시 경로에 표시 파일을 남겨, 이 탈취 코드가 호스트마다 한 번만 수집하도록 했다.

매시간 새 코드를 받도록 만든 백도어

두 번째 파일인 sitecustomize.py도 파이썬 시작 시 자동으로 불러오는 기능을 이용한다. 이 파일은 백그라운드 데몬(사용자 화면에 드러나지 않고 계속 실행되는 프로세스)을 띄우고 잠금 파일을 써서 호스트에서 중복 실행되지 않게 한다. 데몬은 한 시간마다 공격자 측 GitHub 파일에서 서버 주소를 읽는다. 이어 자체적으로 담고 있는 탈취 코드를 실행하고, 지정된 서버의 /codepy에서 받은 코드를 실행하도록 설계됐다.

이쪽에 담긴 탈취 코드는 cook.py와 달리 호스트당 한 번만 실행하게 하는 표시가 없다. 공격자가 GitHub의 주소 파일을 고치면 감염된 호스트가 접속할 서버도 바뀔 수 있다. 세이프뎁이 확인한 13시 40분(UTC)에는 해당 GitHub 계정과 저장소가 404를 반환해, 백도어가 더 이상 서버 주소를 얻지 못하는 상태였다. 다만 그 전에 데몬이 실행된 호스트가 추가 코드를 받았을 가능성은 남아 있으며, 세이프뎁은 당시 서버 주소를 복구하지 못했다.

커뮤니티 의견

한 사용자는 캐너리토큰처럼 사용 여부를 감시할 수 있는 미끼 자격 증명을 떠올렸다. 답글에서는 눈에 띄는 곳에 소액의 암호화폐 지갑을 두고 자금 이동을 감시하는 방식과 비슷하다고 설명했다. 이런 장치는 침해를 반드시 알려주지는 않지만, 비밀 정보가 외부로 새어 나갔는지 알아차릴 단서를 남긴다는 관점이다.

다른 사용자는 샌드박스 규칙만으로 이런 사고를 막기 어렵다고 봤다. 도구 설치와 권한 허용이 반복되면 경고창을 무심코 넘기게 되고, 에이전트가 사용하는 도구가 늘수록 그 부담이 커진다는 이유다. 답글에서는 새 패키지 설치를 24시간 늦추는 방식이 이번 유형에는 도움이 됐을 것이라며, 샌드박스 설정의 어려움과 가상 머신의 한계도 함께 짚었다.

라이트LLM을 계속 업데이트해도 되는지를 걱정하는 의견도 나왔다. 한 사용자는 올해 3월의 다른 라이트LLM 공급망 공격 기록을 떠올리며 프로젝트 의존성에 라이트LLM이 들어 있는지 확인한 적이 있다고 했다. 답글에서는 당분간 예전 버전에 머물겠다는 반응이 나왔다. 이는 새 버전 설치를 미루는 선택과 보안 업데이트를 받아야 하는 필요 사이의 긴장을 보여준다.

사고가 수습됐다고 밝힌 댓글 작성자는 공격 차단 사실을 알리고 개선 의견을 요청했다. 이에 다른 사용자는 유지관리자 환경이 침해된 것인지 물었고, 코딩 에이전트가 GitHub CLI의 OAuth 토큰에 접근할 수 있었던 상황을 비판하는 답글도 달렸다. 사고의 시작점을 따지는 논의가 개발 도구에 부여한 권한의 범위로 이어진 셈이다.

공개 저장소의 커밋 수가 많아도 릴리스 경로가 안전하다는 보장은 없다는 지적도 있었다. 한 사용자가 방대한 커밋 이력을 언급하며 어떻게 이런 일이 생겼는지 묻자, 답글은 공개 코드에 악성 설정이 없고 문제는 빌드·배포 과정에 있는 것으로 보인다고 짚었다. 또 다른 댓글은 개발자 세 명의 GitHub 자격 증명이 침해됐다는 사고 관련 내용을 거론하며, 영향을 받은 자격 증명의 범위부터 살펴야 한다고 주장했다.

공격 방식 자체를 헷갈려 한 사용자도 있었다. 그는 cook.pth가 외부 의존성으로 내려받아진 것인지 물었다가, 비공개 릴리스 파이프라인이 수정된 소스를 빌드했을 가능성을 읽고 이해를 정리했다. 답글에서는 출처 증명 기록이 있더라도 어떤 작업이 휠을 게시했는지만 보여준다면, 그 작업이 실제로 어떤 소스를 빌드했는지는 별도로 검증해야 한다고 지적했다. 공개 태그에서 다시 빌드해 배포 파일과 비교하는 방식이 대안으로 제시됐다.

새 패키지 버전의 설치를 기본적으로 24~48시간 늦추자는 제안도 나왔다. 공격 버전이 발견되고 삭제될 시간을 벌자는 취지다. 한 답글은 내부 PyPI 프록시에서 7일 지연을 적용하고 있지만 보안 업데이트까지 막혀 예외를 수동으로 처리해야 한다고 했다. 지연 정책이 보호막이 될 수 있어도, 어떤 업데이트를 곧바로 허용할지 정하는 운영 문제가 남는다는 의견이다.

핵심통찰

이번 사고에서 가장 중요한 경계는 공개 소스와 사용자가 실제로 설치한 파일 사이에 있다. 악성 설정은 공개 커밋에 없었지만, 정상 릴리스와 비슷한 빌드 흔적을 지닌 휠 안에는 실행 파일이 들어 있었다. 이미 설치한 환경은 버전 제거만으로 끝낼 문제가 아니라 탈취됐을 수 있는 자격 증명과 백도어 실행 여부를 살펴야 한다. 앞으로는 비공개 릴리스 파이프라인에서 어떤 소스를 가져와 빌드했는지, 공개 태그와 설치 파일을 대조할 수 있는지가 핵심 검증 대상이다.


원본: Compromised LiteLLM 1.107.0 on PyPI Installs a Credential Stealer and Backdoor

토론: Hacker News