스포티파이(Spotify)의 한 제품 관리자가 코딩 에이전트의 대용량 파일 읽기를 저렴한 모델로 넘겨, 클로드 코드(Claude Code)의 해당 작업 토큰 사용량을 평균 약 90% 줄였다고 밝혔다. 디미트리 마즈마노프(Dimitri Mazmanov)는 포털 바이 스포티파이(Portal by Spotify)의 모드 두 개와 션트(shunt) 플러그인으로 이 분업을 구현했다. 핵심은 비싼 모델을 쓰지 않는 데 있지 않다. 파일을 훑고 정형적인 코드를 만드는 일과, 복잡한 문제를 판단하는 일을 어디서 나눌지에 있다.
핵심 요약
- 스포티파이의 마즈마노프는 큰 파일 읽기를 보조 모델에 맡겨, 테스트한 읽기 작업에서 클로드 코드가 소비하는 토큰을 평균 약 90% 줄였다고 밝혔다.
- 포털의 ‘아이카 모드(AiKA Modes)’ 두 개는 파일 분석과 정형적 코드 생성을 각각 맡아, 같은 작업에 비싼 모델을 계속 쓰지 않도록 한다.
- 션트 플러그인은 큰 파일의 무분별한 읽기를 훅으로 막고 보조 모델 사용을 안내해, 에이전트의 자율적인 판단에만 위임을 맡기지 않는다.
- 생성한 코드를 클로드의 대화 맥락에 넣지 않고 바로 저장하는 방식은 출력 토큰도 아끼지만, 글은 쓰기 작업의 절감률을 별도로 제시하지 않았다.
- 작성자는 편집과 복잡한 추론은 위임 대상에서 제외했으며, 토론에서는 작업 정확도와 전체 비용을 함께 측정해야 한다는 지적이 나왔다.
비싼 모델이 파일만 읽는 시간
마즈마노프는 코딩 에이전트가 하는 일 가운데 상당 부분이 추론보다 입출력에 가깝다고 본다. 한 메서드에 관한 질문에 답하려고 파일 여러 개를 읽거나, 옆에 있는 테스트 파일의 형식을 따라 새 파일을 만드는 일이 대표적이다. 회의 뒤 문서를 고치는 작업도 같은 범주에 넣었다. 그의 문제의식은 이런 반복 작업까지 고성능 모델의 토큰으로 처리할 필요가 있느냐는 것이다.
그는 좌석 이용료보다 토큰 지출이 부담이라고 말한다. 글에서는 2028년까지 AI 코딩 비용이 평균 개발자 급여를 넘어설 것이라는 전망과, 엔지니어링 리더의 4분의 1이 개발자 한 명당 매달 토큰에 200~500달러를 쓴다는 수치를 제시한다. 월 2,000달러를 넘는 경우도 있다고 덧붙였다. 이 수치가 글의 출발점이라면, 실제로 보여 주는 해법은 조직 전체의 비용 분석이 아니라 한 작업 흐름에서 모델을 나눠 쓰는 방법이다.
파일 읽기와 코드 쓰기를 맡는 두 모드
그가 사용한 아이카 모드는 지시문, 모델, 설정값, 외부 도구를 정해 두는 선언형 에이전트다. 실행할 때 잠시 만들어지는 환경에서 동작하며, 포털이 실행 환경과 호출을 처리한다. 작성자는 별도 서버를 운영하거나 API 키를 직접 관리하지 않아도 된다고 설명한다. 모드는 포털 CLI(명령줄 인터페이스)나 API로 부를 수 있고, 회사에 공유하거나 비공개로 둘 수 있다.
첫 번째 모드인 ‘벌크 리더(bulk-reader)’는 여러 파일을 읽어 질문에 짧게 답한다. 답변에는 인사말과 장황한 설명을 빼고, 이름·유형·줄 번호를 앞세운 구조화된 항목만 남기도록 지시했다. 두 번째 ‘코드 라이터(code-writer)’는 기존 파일을 본보기로 테스트, 설정 파일의 기본 틀, 타입 정의의 뼈대를 만든다. 코드만 출력하게 한 이유는 설명이나 마크다운 표기가 붙으면 클로드가 그것까지 다시 처리해야 하기 때문이다.
두 모드의 예시에는 모두 제미나이 2.5 플래시(Gemini 2.5 Flash)를 사용하고, 출력의 무작위성을 조절하는 temperature를 0.2로 설정했다. 다만 포털에 설정된 다른 모델도 모드에 지정할 수 있다. 모드를 정의하는 쪽은 어떤 답을 돌려줄지 정하고, 호출하는 쪽은 언제 일을 넘길지 정한다. 이 구분이 이후 플러그인 설계의 중심이 된다.
권고문에서 강제하는 플러그인으로
첫 버전은 프로젝트의 CLAUDE.md에 위임 규칙을 적는 방식이었다. 클로드가 지침을 읽고 스스로 포털에 일을 넘길 수는 있었지만, 반드시 따르는 규칙은 아니었다. 프로젝트마다 지침을 복사해야 하는 불편도 남았다. 마즈마노프는 이를 클로드 코드 플러그인 션트로 바꿨다.
션트는 포털 CLI의 작업 목록을 통해 모드를 호출한다. 따라서 아이카 플러그인이 활성화된 포털 환경이라면 같은 션트를 사용할 수 있다는 설명이다. 설계는 훅, 스크립트, 스킬의 세 층으로 나뉜다. 단순히 ‘저렴한 모델을 써라’고 권하는 대신, 도구 사용 직전에 읽기를 막고 다음 행동까지 알려 주는 구조다.
350줄을 넘는 읽기를 가로채는 훅
훅은 에이전트가 도구를 실행하기 전에 개입하는 장치다. 션트의 첫 번째 훅은 클로드가 Read로 파일을 열 때 실행되며, 기본값인 350줄을 넘으면 읽기를 막고 벌크 리더를 쓰라고 안내한다. 필요한 구간을 지정해 읽는 요청은 그대로 통과시킨다. 기준은 SHUNT_MIN_LINES 환경 변수로 바꿀 수 있다.
두 번째 훅은 cat, head, tail, less, more처럼 셸에서 파일 내용을 읽는 명령을 살핀다. 큰 파일을 통째로 보는 호출은 잡아내되, cat 결과를 grep에 연결하는 명령은 특정 내용을 찾는 읽기로 보고 허용한다. 파일 크기만으로 복잡도를 판단하는 장치는 아니다. 큰 입력을 무심코 클로드의 대화 맥락에 올리지 않도록 하는 문턱에 가깝다.
스킬은 에이전트에게 도구 사용법을 알려 주는 지침 파일이다. 훅이 읽기를 막을 때 벌크 리더 스킬을 가리키면, 클로드는 거기 적힌 호출 형식을 따라 작업을 다시 시도한다. 스킬을 미처 읽지 않아도 훅 자체는 큰 파일 읽기를 차단한다. 작성자가 말하는 장점은 이처럼 안내가 실패해도 비용이 큰 행동은 막을 수 있다는 점이다.
요약만 돌려받고 코드는 바로 저장
벌크 리더를 감싼 스크립트는 파일마다 경계를 표시해 보조 모델에 보내고, 질문에 대한 답을 돌려받는다. 후속 질문을 할 때는 같은 파일을 다시 보내야 한다. 호출이 끝나면 서버에 대화 상태를 남기지 않는 일회성 방식이기 때문이다. 그래도 파일 전체는 클로드가 아니라 작업을 맡은 모델로 가므로, 클로드의 대화 맥락에는 요약만 들어간다.
코드 라이터용 스크립트는 작업 명세와 반드시 하나의 참고 파일을 함께 보낸다. 참고 파일이 없으면 프로젝트의 이름 규칙과 작성 방식을 따르기 어렵다는 판단에서다. 결과에 마크다운 표기가 붙으면 제거하고, 지정한 파일에 바로 쓸 수도 있다. 이 경우 생성된 코드 전체가 클로드의 대화 맥락을 거치지 않는다.
스크립트는 요청 구성, 포털 호출, 오류 처리와 토큰 사용량 보고도 맡는다. 포털은 모드 이름을 찾을 때 대소문자를 구분하지 않고, 개인 모드를 팀 모드와 공개 모드보다 우선한다. 공개 벌크 리더를 복제해 자신에게 맞게 바꾸면 별도 라우팅 설정 없이 그 버전이 먼저 선택된다는 뜻이다. 작업을 넘기는 규칙과 보조 모델의 지침을 따로 바꿀 수 있는 셈이다.
자바 모노레포에서 나온 90%
마즈마노프는 자바 모노레포에서 네 가지 상황을 시험했다. 클로드가 파일을 직접 읽을 때 소비하는 토큰과, 벌크 리더의 요약을 받아 읽을 때 소비하는 토큰을 비교했다. 그 결과 벌크 리드의 평균 절감률이 약 90%였다고 밝혔다. 제목의 큰 숫자는 이 읽기 작업에서 클로드가 소비한 토큰에 관한 결과로 이해해야 한다.
코드 쓰기의 절감량은 같은 방식으로 계산하기 어렵다고 설명했다. 션트가 없으면 클로드는 참고 파일을 읽고 결과 코드까지 생성하며, 션트를 쓰면 보조 모델이 만든 코드가 곧바로 디스크에 저장된다. 따라서 출력 토큰을 다른 모델로 옮기는 효과도 있지만, 글에는 코드 쓰기 작업의 단일 절감률이나 전체 작업 비용이 제시되지 않는다. 토큰을 어느 모델에서 썼는지와 작업을 끝내는 데 얼마가 들었는지는 서로 다른 질문이다.
편집과 추론은 남겨 둔 경계
작성자는 편집을 벌크 리더에 맡기지 않는다. 보조 모델의 요약에 있는 줄 번호가 충분히 믿을 만하지 않아, 클로드가 코드를 고치려면 해당 부분을 직접 읽어야 한다는 것이다. 그래서 훅도 위치를 지정한 읽기는 허용한다. 위임으로 얻는 절감은 코드를 처음 훑어 이해하는 단계에 집중된다.
복잡한 판단도 제외했다. 시험 중 보조 모델은 표면적인 패턴은 찾았지만 미묘한 스레드 안전성 버그를 놓쳤고, 클로드는 필요한 맥락을 받은 뒤 이를 발견했다고 마즈마노프는 적었다. 디버깅, 아키텍처 결정, 안전이 중요한 코드를 저렴한 모델로 보내지 않는 이유다. 파일이 크다는 조건이 곧 쉬운 일이라는 뜻은 아니다.
속도에도 대가가 있다. 위임 한 번마다 클로드 코드에서 포털을 거쳐 보조 모델까지 왕복해야 하며, 응답에는 보통 10~30초가 걸린다. 포털은 한 번의 호출을 30초로 제한하므로 큰 코드 생성은 쪼개야 한다. 작은 파일에서는 절감보다 대기 시간이 커질 수 있어 줄 수 기준을 둔 것이다. 작성자는 같은 모드를 프로젝트와 도구 사이에서 재사용하거나 문서 작성·리뷰 요약용으로 늘릴 수 있다고 보지만, 어디까지 넘길지는 계속 조정해야 한다.
커뮤니티 의견
한 사용자는 기술 글을 읽는 웹페이지 자체가 읽기를 방해한다고 비판했다. 답글에서는 문장의 어색함을 근거로 AI가 작성했을 것이라는 추측도 나왔다. 이는 글의 작성 과정을 확인한 주장이 아니라, 표현과 화면 경험에 대한 독자의 반응이다.
다른 사용자는 결국 쉬운 일을 성능이 낮은 모델에 맡기는 방식 아니냐고 물었다. 클로드나 다른 코딩 모델도 큰 파일에서 필요한 부분을 정확히 찾을 수 있다며, 제미나이 2.5 플래시에 코드 작성을 맡기고 싶지 않다고 했다. 답글에서는 기존 보조 에이전트로도 비슷한 분업이 가능하다는 의견이 이어졌다.
절감률보다 정답률을 먼저 보자는 의견도 있었다. 파일 길이만으로 코드의 난도를 알 수 없고, 저렴한 모델의 잘못된 요약이 후속 작업을 망칠 수 있다는 지적이다. 한 답글은 개별 호출에서 토큰을 아껴도 작업을 끝내기까지 호출 횟수가 늘면 전체 사용량은 오를 수 있다고 주장했다.
웹페이지가 기본 스크롤 동작을 바꾸는 데 대한 불만도 반복됐다. 한 사용자는 익숙한 화면 조작을 깨는 것이 좋은 사용자 경험은 아니라고 했다. 토론에서는 기술 내용과 별개로, 글에 접근하고 읽는 방식 자체가 논의를 가로막는다는 반응이 눈에 띄었다.
또 다른 사용자는 90%라는 숫자가 클로드의 작업을 별도 서비스의 토큰 예산으로 옮긴 결과라고 해석했다. 값싼 모델을 ‘똑똑한 검색’처럼 쓰는 데는 동의하지만, 어려운 코딩에는 고성능 모델의 판단력이 필요하다고 했다. 답글에서는 클로드 코드의 훅과 보조 에이전트만으로도 비슷한 강제 위임이 가능해 포털을 거친 구성이 과하다는 반론이 나왔다.
실제 작업 흐름에서 분업이 되레 부담이라는 의견도 있었다. 큰 모델이 계획을 세우며 이미 관련 파일을 읽었다면, 작은 모델에 일을 나누고 결과를 검토하는 과정이 추가된다는 것이다. 반면 계획을 직접 검토하는 사용자는 그 과정을 비용만이 아니라 결과를 예측하는 절차로 보기도 했다.
유사한 토큰 절감 도구들의 성능이 엇갈린다는 지적도 나왔다. 한 사용자는 모델이 기본 도구를 쓰듯 이런 우회 경로를 잘 쓰도록 충분히 조정되지 않았다며, 비용 절감만으로 곧바로 널리 쓰이기는 어렵다고 내다봤다. 이는 라우팅 규칙을 만드는 일과 에이전트가 그 규칙 아래에서 안정적으로 일하는 일이 다르다는 주장이다.
마지막으로 한 사용자는 저렴한 모델이 파일에서 무엇을 골라 고성능 모델에 전달하는지가 관건이라고 정리했다. 잘못 거른 정보는 뒤의 추론을 약하게 만들고, 서식 정리조차 모델에 따라 실수가 생길 수 있다는 경험을 덧붙였다. 요약이 짧을수록 좋은 것이 아니라, 다음 판단에 필요한 정보를 남겨야 한다는 의견이다.
핵심 통찰
션트가 보여 준 변화는 코딩 에이전트의 일을 한 모델의 연속된 대화가 아니라, 읽기·생성·판단으로 나눠 실행할 수 있다는 점이다. 큰 파일을 먼저 저렴한 모델로 훑고 필요한 부분만 클로드가 다시 보는 설계는 토큰 사용을 줄일 여지가 있다. 그러나 읽기 작업의 90% 절감만으로 작업 전체가 더 싸고 잘 끝난다고 말할 수는 없다. 앞으로는 요약 오류로 인한 재작업, 생성 코드의 검토 비용, 추가 대기 시간까지 묶어 비교하는 결과가 중요하다.
원본: Portal by Spotify cut my Claude Code token usage by 90% | Spotify Engineering
토론: Hacker News