문샷 AI(Moonshot AI)가 100만 토큰을 처리하는 개방 가중치 모델 ‘키미 K3.1 프로(Kimi K3.1 Pro)’의 가중치를 공개했다. 회사는 이 모델을 자사의 3조 매개변수급 모델 가운데 가장 강력한 제품으로 소개하며, 코딩부터 이미지가 포함된 문서 분석까지 폭넓은 에이전트 작업 성능을 내세웠다. 다만 공개된 가중치를 내려받을 수 있다는 사실과 실제로 모델을 운영할 수 있다는 것은 다른 문제다. 방대한 모델의 실행 비용, 서로 다른 방식으로 측정한 평가 점수, 사용 조건을 함께 봐야 이번 공개의 범위를 읽을 수 있다.
핵심요약
- 문샷 AI는 키미 K3.1 프로의 가중치를 공개하고 100만 토큰 문맥 창을 지원한다고 밝혀, 긴 자료를 다루는 에이전트 모델의 선택지를 넓혔다.
- 회사는 기존 키미 K3의 일부 어텐션 층을 희소 어텐션으로 바꿔 긴 문맥을 더 효율적으로 처리하도록 설계했다고 설명했다.
- 모델 카드에는 코딩·문서·시각·보안 평가가 폭넓게 실렸지만, 평가 도구와 채점 방식이 달라 점수만으로 모델 간 우열을 정리하기는 어렵다.
- API와 권장 추론 엔진이 함께 제시돼 직접 운영하거나 외부 서비스를 이용할 수 있지만, 대형 모델의 실행 부담과 라이선스 조건이 활용 범위를 가른다.
3조 매개변수급 키미의 첫 K3.1 모델
문샷 AI는 키미 K3.1 프로를 가중치를 공개한 멀티모달 에이전트 모델로 소개했다. 멀티모달(텍스트와 이미지 등 여러 형태의 입력을 함께 다루는 방식)과 에이전트(도구를 사용하며 여러 단계를 수행하는 방식)를 처음부터 염두에 뒀다는 설명이다. 기존 키미 K3를 바탕으로 수백 개 응용 분야에 걸친 대규모 공동 강화학습을 거쳤으며, K3.1 계열에서는 첫 모델이다. 회사는 코딩, 3D 제작, 금융 조사, 사실 정확도에서 개선을 이뤘다고 밝혔다.
가장 눈에 띄는 사양은 100만 토큰의 문맥 창이다. 문맥 창(한 번의 작업에서 모델이 참고할 수 있는 입력 범위)이 넓으면 긴 문서나 누적된 작업 기록을 한 흐름 안에서 다룰 여지가 커진다. 하지만 긴 입력을 받을 수 있다는 사양만으로 모든 길이에서 같은 품질이나 속도가 나온다는 뜻은 아니다. 이번 공개가 관심을 끄는 이유는 큰 문맥 창을 단순한 대화 기능이 아니라, 코드를 읽고 도구를 호출하며 자료를 조사하는 작업과 묶어 제시했기 때문이다.
전체 어텐션 대신 희소 어텐션
모델 카드에서 문샷 AI가 짚은 구조적 변화는 어텐션 층의 교체다. 기존 키미 K3의 게이트형 MLA 전체 어텐션 층을 게이트형 딥시크 희소 어텐션(Gated DeepSeek Sparse Attention) 층으로 바꿨다. 어텐션(입력의 어느 부분을 참고할지 계산하는 구조)을 긴 문맥에서 더 효율적으로 처리하려는 선택이라고 회사는 설명한다. 100만 토큰이라는 사양을 제시하면서, 이를 떠받치는 설계 변경도 함께 밝힌 셈이다.
이 설명은 모델이 무엇을 할 수 있는지보다 어떻게 긴 입력을 감당하려 하는지에 초점을 맞춘다. 코딩 에이전트는 파일과 이전 작업 과정을, 조사 에이전트는 많은 자료와 도구 사용 결과를 이어서 다뤄야 한다. 문맥 창을 키우는 일과 그 안에서 필요한 정보를 찾아 활용하는 일은 구분해서 볼 필요가 있다. 따라서 구조 변경의 가치는 긴 입력을 실제 작업에 넣었을 때의 응답 품질과 처리 부담에서 드러나게 된다.
점수보다 먼저 봐야 할 평가 조건
문샷 AI는 별도 표기가 없는 키미 K3.1 프로 평가에 추론 강도 ‘max’, 온도 1.0, top-p 0.95를 사용했다고 밝혔다. 추론 강도는 모델이 문제 해결에 들이는 처리 수준을 지정하는 설정이며, 온도와 top-p는 답변을 생성할 때의 선택 방식에 영향을 준다. 모델 카드에는 터미널 작업, 소프트웨어 수정, 과학 문제, 사무 문서 등 여러 평가의 절차가 길게 적혀 있다. 점수 자체뿐 아니라 모델이 어떤 도구와 설정 아래 작업했는지를 보라는 구성이다.
예를 들어 터미널벤치 4.0(Terminal-Bench 4.0)에서는 키미 K3.1 프로에 클로드 코드(Claude Code) 실행 환경을 사용했다. 다른 모델의 점수는 출시 글이나 공식 순위표에서 가져왔고, 비교에 사용한 출처도 모델마다 다르다. 모델 페이지에 표시된 점수에는 터미널벤치 4.0의 65.7, 딥스위(DeepSWE) v1.1의 75.5, 에이펙스 에이전츠(APEX-Agents)의 69.4 등이 있다. 각각 다른 과제와 측정 방식에서 나온 수치이므로 한 줄의 공통 성능 점수처럼 합쳐 읽을 수는 없다.
코딩부터 장기 에이전트 작업까지
코딩 평가 목록은 터미널에서 명령을 수행하는 과제에 그치지 않는다. 소프트웨어 수정, 프로그램 작성, 긴 시간에 걸친 코딩 작업, 후속 학습 작업까지 포함한다. 일부 평가는 키미 K3.1 프로를 클로드 코드와 결합해 실행했고, 다른 모델의 결과는 각 기술 보고서나 공식 순위표에서 가져왔다. 어느 모델의 능력을 비교하는지와 어느 실행 환경까지 함께 비교하는지를 나눠 읽어야 하는 이유다.
에이전트의 마지막 시험(Agents’ Last Exam) v1.1은 122개 과제로 구성되며, 이 가운데 86개가 명령줄 과제다. 이 평가에서는 과제에 명시된 요구 사항을 우회한 실행에 0점을 준다. 검색 평가인 브라우즈콤프(BrowseComp)는 문맥이 20만 토큰에 이르면 압축을 시작하고 최대 500단계까지만 진행하도록 했다. 이런 규칙은 답을 한 번 생성하는 시험보다, 모델이 긴 절차를 따라가며 제약을 지키는지를 드러내기 위한 장치다.
페이지 이미지와 도구 사용을 함께 시험
시각·문서 평가에서도 입력 조건은 세세하게 다르다. 오피스QA 프로(OfficeQA Pro) 계열 과제는 PDF 전체를 기계가 읽을 수 있는 텍스트 없이 페이지 이미지로 제공한다. 반면 GDP.pdf 평가에서는 크기를 조정한 페이지 이미지 사이에 추출한 텍스트를 페이지 순서대로 끼워 넣는다. 같은 PDF 관련 점수라도 모델이 받은 자료의 형태와 도구를 쓸 수 있는 조건부터 확인해야 한다.
모델 카드는 Python을 함께 쓰는 일부 멀티모달 평가의 결과를 다섯 차례 실행의 평균으로 제시하고, 다른 멀티모달 평가에는 네 차례 평균을 적용했다고 설명한다. 사실 정확도는 실무 과제에서 가져와 식별 정보를 제거한 질문으로 만든 내부 평가를 사용하며, 주장별 환각률(사실과 맞지 않는 내용을 생성한 비율)을 사실 확인 에이전트가 판정한다. 보안 관련 목록에는 취약점 발견·악용 과제도 들어가지만, 평가마다 허용 시간과 실행 횟수 같은 조건이 다르다. 폭넓은 시험 목록은 강점인 동시에, 개별 점수를 읽을 때 해당 절차를 따라가야 하는 이유이기도 하다.
API와 추론 엔진으로 열어 둔 접근
직접 가중치를 실행하지 않는 사용자는 문샷 AI의 플랫폼에서 kimi-k3.1-pro 모델을 선택해 API로 접근할 수 있다. 회사는 오픈AI(OpenAI) 및 앤트로픽(Anthropic) 방식과 호환되는 API를 제공한다고 밝혔다. 직접 운영하는 경우 권장 추론 엔진으로 vLLM, SGLang, 토큰스피드(TokenSpeed)를 제시하고 각각의 설정 안내로 연결했다. 가중치 공개와 별도로, 서비스를 호출하거나 자체 환경에 배치하는 경로를 나눠 둔 것이다.
다만 접근 경로가 여러 개라는 사실이 운영 난도를 없애지는 않는다. 특히 이 모델은 문샷 AI가 ‘3조 매개변수급’이라고 소개하는 대형 모델이다. 직접 배포하려는 쪽은 모델 파일을 확보하는 일뿐 아니라 추론 장비, 처리 속도, 긴 문맥을 사용할 때의 부담까지 따져야 한다. 그래서 API와 제3자 추론 서비스의 존재는 단순한 편의 기능을 넘어, 누가 이 모델을 실제 작업에 쓸 수 있는지를 좌우한다.
추론 기록까지 이어 붙이는 사용법
키미 K3.1 프로의 추론 강도는 요청의 최상위 reasoning_effort 필드에서 low, high, max로 지정하며 기본값은 max다. 모델 카드는 여러 차례 대화하거나 도구를 호출할 때 API가 반환한 어시스턴트 메시지 전체를 다음 요청에 그대로 전달하라고 안내한다. 사용자에게 보이는 content만이 아니라 reasoning_content와 tool_calls도 포함해야 한다. 이전 응답에 담긴 추론 내용을 다음 질문에서 이어받는 예시 코드도 제시했다.
이는 같은 모델을 호출하더라도 애플리케이션이 대화 기록을 어떻게 보관하고 다시 보내는지가 결과에 영향을 줄 수 있음을 보여준다. 문샷 AI는 이미지 입력, 구조화 출력, 도구 선택, 동적 도구 불러오기, 문맥 캐싱에 관한 별도 사용 안내도 제시한다. 모델은 ‘키미 K3.1 프로 라이선스’로 공개됐다. 따라서 직접 실행이나 상업적 서비스에 활용하려는 사용자는 기술 문서와 함께 라이선스 조건도 확인해야 한다.
커뮤니티 의견
한 사용자는 ‘개방된 지능’이라는 표현에 비해 직접 실행에 필요한 장비 부담이 크다고 지적했다. 자신은 더 작은 모델을 두 장의 그래픽카드에서 돌리고 있다며, 키미 K3.1 프로는 당분간 따라가기 어려운 선택지로 봤다. 답글에서는 다른 대형 키미 모델을 단일 가속기에서 실행하는 사례와 시스템 메모리 활용 가능성이 언급됐지만, 실제 사용 경험을 확인한 주장은 아니었다.
다른 사용자는 키미 K3.1 프로가 딥시크의 비교 모델보다 크게 앞서 보이지 않고, 다른 연구진의 내부 평가에서도 점수가 높지 않다며 벤치마크에 맞춰 성능을 끌어올린 것 아니냐고 의심했다. 이에 코딩 과제 수행 능력만으로 모델 전체를 평가해서는 안 된다는 반론이 나왔다. 고급 조사나 학술 작업에서는 실세계 지식이 중요하므로, 무엇을 시험하느냐에 따라 평가가 달라진다는 주장이다.
한 사용자는 제3자 추론 제공업체들이 이미 이 모델을 호스팅하기 시작했다고 전했다. 자신이 본 서비스들 사이에 같은 가격대에서도 처리량 차이가 있다며, 제공업체의 최적화 여지가 남아 있다고 해석했다. 이 관점에서는 가중치 공개의 효과가 개인의 직접 설치보다 여러 사업자가 같은 모델을 서비스하며 경쟁하는 데 있다.
또 다른 사용자는 직접 시험해 본 결과 벤치마크에만 과도하게 맞춰진 모델이라는 인상을 받지 않았다고 했다. 최상위 모델과는 거리가 있어도 대부분의 사용 사례에 충분히 강력한 공개 모델이라는 평가다. 반면 답글에서는 공개 평가와 비공개 평가의 상대적 성적 차이를 근거로 의문을 제기했다. 평가 자료가 학습에 섞였을 가능성까지 주장한 댓글도 있어, 성능 수치를 둘러싼 신뢰 문제가 토론의 한 축이 됐다.
한 사용자는 이런 규모의 가중치 공개가 일반 개인보다는 기업을 위한 것이라고 봤다. 답글은 개인뿐 아니라 기업에도 자체 호스팅이 쉽지 않다고 지적하면서 라이선스 조항을 인용했다. 그 조항에 따르면 ‘모델을 서비스로 제공하는 사업’을 운영하는 이용자와 계열사의 연속 12개월 총매출이 2,000만 달러를 넘으면, 상업적 사용 전에 문샷 AI와 별도 계약을 맺어야 한다.
다른 사용자는 집에서 실행할 수 없더라도 가중치 공개가 추론 서비스의 공급처를 다양하게 만든다고 주장했다. 모델을 처음부터 훈련하는 투자와 이미 공개된 가중치를 서비스하는 투자는 성격이 다르다는 논리다. 이에 대한 답글은 대형 모델을 극도로 느리게 실행하는 것보다, 실용적인 크기의 모델이 더 중요할 수 있다고 맞섰다.
한 사용자는 저작권 문제를 이유로 요청을 제한하는 기존 서비스에 불만을 표하며, 제약을 덜 둔 API에서 이 모델을 보고 싶다고 했다. 답글에서는 키미 K3.1 프로의 공격적 보안 작업 능력이 기대보다 제한적이라는 평가가 나왔다. 두 의견은 모두 ‘가중치 공개’라는 말에서 기대하는 사용의 자유가 사람마다 다르다는 점을 보여준다.
또 다른 사용자는 모델 소개의 ‘개방 가중치’라는 표현 자체를 거짓이라고 비판했다. 짧은 댓글이지만, 모델을 내려받을 수 있는지뿐 아니라 어떤 조건으로 실행하고 서비스할 수 있는지가 공개성 논쟁의 핵심임을 짚는다. 앞서 나온 장비 부담과 라이선스 조항을 함께 놓고 보면, 공개의 범위를 둘러싼 질문은 성능 평가와 별개로 남는다.
핵심통찰
키미 K3.1 프로의 공개는 초대형 에이전트 모델을 직접 배포하거나 여러 API 제공업체를 통해 이용할 선택지를 늘린다. 그러나 가중치를 받을 수 있는 권리, 감당할 만한 속도로 실행할 능력, 상업적으로 서비스할 수 있는 조건은 서로 다르다. 앞으로 살펴볼 것은 공개 벤치마크의 숫자보다 다양한 실행 환경에서 긴 작업을 얼마나 안정적으로 끝내는지, 제3자 제공업체의 처리량 경쟁이 이용 부담을 얼마나 낮추는지, 라이선스가 실제 활용을 어디까지 허용하는지다.
원본: moonshotai/Kimi-K3.1-Pro · Hugging Face
토론: Hacker News