클라우드플레어, 결정 모델 ‘클레프’ 공개

클라우드플레어(Cloudflare)가 에이전트의 판단을 빠르게 처리하는 결정 모델 ‘클레프(Clef)’와 ‘클레프-플래시(Clef-flash)’를 공개했다. 두 모델은 긴 답변 대신 정해진 선택지의 확률을 내놓으며, 회사가 제시한 평가에서는 경쟁 모델 제브(Jev)를 앞섰다. 모델 가중치를 내려받아 직접 실행할 수 있고, 고객 업무에 맞춰 조정하는 강화학습 서비스도 함께 추진한다. 다만 실제 속도와 정확도는 어떤 일을 맡기느냐에 따라 달라질 수 있다는 사용 경험도 벌써 나왔다.

핵심 요약

  • 클라우드플레어는 질문마다 정해진 형식의 답과 확률을 반환하는 클레프와 클레프-플래시를 워커스 AI(Workers AI)에 공개해 에이전트의 판단 단계를 겨냥했다.
  • 클레프는 이미지 입력과 6만4000토큰 문맥을 지원해, 현재 텍스트만 다루고 문맥이 3만2000토큰인 제브와 차이를 뒀다.
  • 클라우드플레어의 도메인 분류 시험에서 클레프는 웹사이트를 불러와 화면에 표시하고 분류하는 데 2.2초가 걸려, 같은 흐름에서 4.7초가 걸린 범용 LLM보다 빨랐다.
  • 회사는 아파치 2.0 라이선스로 모델 가중치를 공개했지만, 토론에서는 학습 데이터와 재현 가능한 학습 절차까지 공개한 것은 아니라는 지적이 나왔다.
  • 고객용 미세조정은 전담 엔지니어와 함께하는 방식부터 시작하며, 데이터 수집·학습·재배포를 직접 하는 플랫폼은 이후 구축할 계획이다.

문장 생성 대신 선택지에 확률 매기기

클라우드플레어가 말하는 결정 모델은 에이전트가 다음 행동을 고를 때 쓸 수 있도록 분류 결과를 돌려주는 모델이다. 고객 지원 메시지를 넣고 긴급한지, 어느 팀이 처리해야 하는지 물으면 각 항목에 정해진 자료형의 답과 확률을 반환한다. 프로그램은 그 값을 읽어 요청을 담당 팀에 보내거나, 대응 수위를 높이거나, 사람에게 판단을 넘길 수 있다. 답변을 자유롭게 쓰는 대형언어모델(LLM)과 달리 출력 범위가 정해져 있어 업무 흐름의 판단 단계에 끼워 넣기 쉽다는 설명이다.

회사는 최근 주목받은 타입세이프 AI(Typesafe AI)의 제브를 비교 대상으로 삼았다. 제브 역시 입력이 바뀔 때마다 분류 범주를 새로 학습시키지 않고, 지정한 선택지에 대한 판단을 반환하는 모델이다. 클라우드플레어는 클레프가 제브 결정 지수(Jev Decision Index) 평가에서 선두라고 밝혔고, 제브 API와 호환되도록 만들어 교체 시험도 쉽게 할 수 있다고 설명했다. 클레프는 정밀도를 중시하는 큰 모델, 클레프-플래시는 응답 지연이 중요한 판단에 쓰는 작은 모델로 구분했다.

이름에도 제품의 역할을 담았다. 음악에서 클레프는 악보 첫머리에 놓여 뒤따르는 음표의 음높이를 정한다. 클라우드플레어는 결정 모델도 입력이 속한 맥락을 정리해 뒤이을 행동의 기준을 세운다는 뜻에서 이 이름을 골랐다. 모델은 현재 워커스 AI에서 호출하거나 허깅페이스(Hugging Face)에 공개된 가중치를 내려받아 시험할 수 있다.

도메인 분류에 걸린 2.2초

클라우드플레어는 자사 위협 인텔리전스 팀에서 클레프를 웹사이트 도메인 분류에 시험하고 있다. 브라우저 런(Browser Run)으로 사이트를 확인한 뒤 패션 사이트일 가능성 95%, 전자상거래일 가능성 85%, 피싱일 가능성 1% 미만처럼 여러 범주를 함께 판단하는 방식이다. 회사가 제시한 사례에서는 사이트를 가져와 화면에 표시하고 분류하기까지 2.2초가 걸렸다. 같은 흐름에서 범용 모델 GPT-OSS-120B는 4.7초가 걸렸고 분류 결과도 두 개만 돌려줬다.

회사가 주목하는 것은 모델의 응답 속도만이 아니다. 도메인을 조사하고 악성인지 정상인지 가르는 작업에서는 정보를 가져오는 시간까지 포함한 전체 흐름이 중요하다. 클라우드플레어는 판단에 걸리는 시간을 줄이면 위협 인텔리전스 작업을 더 빠르게 처리할 수 있다고 본다. 다만 이 수치는 회사가 제시한 특정 도메인 분류 흐름의 비교 결과이므로, 다른 업무에서의 속도는 그 업무를 그대로 시험해야 알 수 있다.

클레프는 시각 인코더(이미지를 모델이 처리할 수 있는 표현으로 바꾸는 구성 요소)를 갖춰 이미지도 입력받는다. 클라우드플레어는 이를 현재 텍스트 분류만 지원하는 제브와의 차이로 내세웠다. 한 번에 참고할 수 있는 문맥도 클레프는 6만4000토큰으로, 제브의 3만2000토큰보다 길다. 판단에 필요한 입력 자료가 많거나 화면의 시각 정보를 함께 봐야 할 때 활용할 수 있는 범위가 넓어진 셈이다.

회사 평가의 속도와 실제 호출의 속도

클라우드플레어는 제브 결정 지수에 포함된 도구 사용·검색·분류 평가와 타입세이프 자체 평가를 돌렸다. 회사 설명에 따르면 클레프 계열은 타입세이프 평가의 네 영역 가운데 세 영역에서 제브보다 좋은 결과를 냈다. 특히 클레프-플래시는 더 작은 모델이면서도 좋은 평가 결과를 냈다고 강조했다. 43개 평가에서 측정한 지연 시간도 다른 결정 모델보다 짧았으며, 매우 빠르지만 앞선 품질 평가에서 점수가 낮았던 라야(Laya)는 예외로 들었다.

배포 위치도 속도 주장의 한 부분이다. 두 모델은 클라우드플레어의 워커스 AI에서 제공되며, 회사는 엣지의 GPU를 활용해 네트워크 지연을 줄일 수 있다고 설명한다. 에이전트가 실행 도중 판단을 기다리는 구간에 클레프를 넣고, 행동 생성이 필요할 때는 워커스 AI의 LLM과 결합하는 구상이다. 예시 API 요청에서는 ‘지난 한 시간 동안 모든 고객의 결제가 실패했다’는 상태를 넣고 긴급 여부, 담당 팀, 피해 심각도를 각각 다른 형식으로 묻는다.

클라우드플레어는 제브와 같은 방식으로 출력 자료형을 엄격하게 맞추며 API도 호환된다고 밝혔다. 따라서 기존에 제브의 답을 받아 처리하던 코드를 활용해 클레프를 시험할 수 있다는 것이 회사의 설명이다. 기업 고객의 요청과 응답은 읽거나 저장하거나 학습에 쓰지 않는다고 보장하되, 고객이 미세조정 제품을 쓰기로 한 경우는 구분했다. 공개된 평가 점수, 서비스에서 실제로 호출했을 때의 지연, 고객 데이터 처리 조건을 함께 살펴야 하는 이유다.

큐웬 위에 얹은 확률 판단 구조

클레프는 처음부터 새로 만든 기반 모델이 아니다. 클라우드플레어는 앞서 디퓨전젬마(DiffusionGemma)에서 확률 값을 꺼내 결정 모델처럼 활용하는 실험을 소개했지만, 클레프에는 큐웬(Qwen)을 기반 모델로 사용했다. 큰 모델은 큐웬3.8-27B, 클레프-플래시는 큐웬3.5-9B를 바탕으로 후속 학습했다. 회사는 기반 모델을 고정한 채 선택지를 판단하는 부분과 저차원 어댑터(일부 매개변수만 효율적으로 조정하는 기법)를 함께 최적화했다고 설명했다.

일반적인 문장 생성 모델은 답을 한 토큰씩 이어 쓴다. 반면 클레프는 입력을 먼저 처리한 뒤, 지정된 출력 형식에서 유효한 선택지들을 병렬로 채점한다. 중간 설명문을 차례로 생성하지 않는 비자기회귀 방식(앞서 만든 토큰에 의존해 다음 토큰을 쓰지 않는 방식)이므로 판단 단계를 줄일 수 있다는 설명이다. 내부에서는 각 선택지가 입력 중 관련 맥락을 찾고, 질문 항목끼리도 정보를 주고받은 뒤 정해진 형식의 점수를 낸다.

학습에서는 정답 선택지뿐 아니라 확률의 적절함도 다뤘다. 클라우드플레어는 항목 순서와 질문, 출력 형식을 바꾼 자체 합성 데이터를 사용했고, 확률 보정을 위한 손실 함수도 적용했다고 밝혔다. 여기에 강화학습을 이용한 ‘보정된 결정 학습’을 추가해 순서가 있는 선택지에서 가까운 답에는 부분 점수를 주고, 여러 항목을 정확히 맞힌 결과를 보상했다. 회사가 내세우는 목표는 문장을 잘 쓰는 모델이 아니라, 허용된 답만 빠르게 내면서 확률도 판단에 쓸 만한 모델이다.

범용 모델에서 업무별 미세조정으로

클라우드플레어 내부에는 이미 더 구체적인 분류 수요가 있다. 회사는 신뢰·안전 신고 평가, 고객 지원 요청의 우선순위 분류, 크롤러가 좋은 봇인지 나쁜 봇인지 가르는 작업을 예로 들었다. 이런 업무에는 오래 쌓인 판단 기록이 있으며, 클라우드플레어는 15년 넘게 축적한 네트워크 데이터를 특정 분야의 학습에 활용할 수 있다고 설명했다. 범용 성능 일부를 포기하더라도 해당 업무에서 정확도와 속도를 높이겠다는 방향이다.

고객용 미세조정도 같은 순서로 진행한다. 우선 현장 배치 엔지니어(FDE) 팀이 고객과 함께 클레프를 특정 작업에 맞추는 서비스를 제공한다. 이후에는 고객이 데이터를 모으고 모델을 조정해 다시 배포하는 셀프서비스 플랫폼을 만들 계획이다. 따라서 모델 사용과 가중치 다운로드는 지금 시작할 수 있지만, 고객이 전 과정을 직접 처리하는 미세조정 플랫폼은 앞으로의 과제다.

게이트웨이에서 재배포까지 잇는 학습 서비스

새 강화학습 서비스의 구상은 클라우드플레어가 이미 운영하거나 개발 중인 제품을 잇는다. AI 게이트웨이(AI Gateway)는 고객의 AI 요청 흐름에서 학습용 데이터를 만들고, 워커스 AI는 기본 클레프 모델을 대상으로 실행 결과를 생성한다. 컨테이너는 에이전트 행동을 채점하고 다시 실행하는 격리 환경으로 쓰인다. 새로 제시한 트레이너(Trainer)가 조정된 모델의 가중치를 갱신하고, 고객 모델을 워커스 AI에 올리는 기능이 재배포를 맡는 구조다.

클라우드플레어는 이 가운데 여러 부분이 아직 작업 중이라고 밝혔다. 고객 요청·응답 데이터를 활용하는 게이트웨이 기능, 강화학습용 컨테이너 환경, 리플리케이트(Replicate) 인수 이후 진행한 고객 모델 반입 기능을 하나의 흐름으로 묶겠다는 것이다. 회사가 결정 모델을 첫 대상으로 고른 이유는 빠르고 작으며 특정 분류 작업에 맞는 모델 수요가 있다고 보기 때문이다. 클레프 발표는 모델 두 개의 출시인 동시에, 판단 데이터가 쌓이는 곳에서 모델을 다시 학습시키려는 플랫폼 계획의 출발점이다.

커뮤니티 의견

한 사용자는 제브가 주목받은 지 몇 주 만에 클라우드플레어가 제브의 평가 체계에서 앞선 모델을 내놓은 점을 놀랍게 봤다. 답글에서는 결정 모델을 완전히 새로운 발명이라기보다, 기존 기술로도 시도할 수 있었지만 이제야 제품으로 부각된 방식이라고 해석했다. 또 다른 답글은 클라우드플레어가 봇과 공격성 트래픽을 판별하는 사업을 하는 만큼 판단 모델 경험이 있었을 것이라고 추측했다.

‘오픈소스’라는 표현에는 이견이 나왔다. 한 사용자는 공개된 것은 허용적인 라이선스의 모델 가중치이지, 같은 모델을 재현할 수 있는 학습 데이터와 절차 전체가 아니라고 지적했다. 토론 제목도 이 지적 뒤 ‘오픈소스’ 대신 ‘오픈 가중치’로 수정됐다. 또 다른 사용자는 학습과 추론 코드, 데이터, 가중치를 모두 공개한 방식이 나오기를 기대했다.

실사용 비교는 회사 평가와 달랐다. 한 사용자는 채팅 메시지와 사용자 이름을 검열하는 작업에서 제브가 먼저 유해 여부를 가르고, 애매한 경우 워커스 AI에서 실행하는 다른 모델에 넘기는 구성을 쓴다고 설명했다. 같은 용도로 시험한 클레프는 제브보다 2~3배 느렸고 혐오 표현도 덜 잡아냈다고 보고했다. 답글에서는 클라우드플레어가 초기 디퓨전젬마 실험에서 큐웬 기반으로 바꾼 이유를 설명하지 않았다며, 그 모델과도 실제 업무에서 비교해 보자고 제안했다.

가격을 따진 의견도 이어졌다. 한 사용자는 입력 토큰 100만 개당 제브 0.042달러, 클레프 0.24달러라는 가격을 바탕으로 호출당 300토큰이라면 판단 100만 건의 비용이 각각 약 12.60달러와 72달러라고 계산했다. 다른 사용자는 클레프-플래시의 가격이 100만 입력 토큰당 0.09달러라며 비교 범위를 넓혔다. 출력이 문장 생성이 아니라 선택지 채점에 가깝기 때문에 ‘출력 무료’라는 가격 문구만으로 경제성을 판단하기 어렵다는 반론도 나왔다.

작은 모델과의 비교도 제기됐다. 한 사용자는 클레프 계열이 큰 큐웬 모델을 바탕으로 한다는 점을 짚었고, 답글은 더 작은 모델을 로컬 CPU에서 실행하는 대안을 거론했다. 하지만 다른 의견은 입력·출력 형식이 비슷하다는 이유만으로 결정 모델을 같은 수준으로 볼 수는 없다고 반박했다. 선택지에 확률을 매기더라도 모델의 판단 능력이 부족하면 범용 LLM보다 쓸모가 줄어든다는 주장이다.

제품에 이미 반영됐는지 묻는 경험담도 있었다. 한 사용자는 회사 노트북에서 클라우드플레어의 접근 도구를 쓰다가 분류되지 않은 보험사 웹사이트가 차단돼 지원 요청을 해야 했다고 전했다. 클레프가 사이트를 약 2초 만에 분류할 수 있다면 이런 대기 시간을 줄이는 데 연결돼야 한다는 의견이다. 이는 발표된 시험 속도보다 그 결과가 실제 차단·해제 흐름에 어떻게 적용되는지가 중요하다는 지적이다.

모델 조정 기능을 중시하는 목소리는 판단 확률의 해석을 문제 삼았다. 한 사용자는 제브형 모델에 사전 확률(새 정보를 보기 전 특정 답을 얼마나 그럴듯하게 보는지의 기준)을 제대로 전달하거나 업무에 맞춰 미세조정할 수 없다면 출력이 거의 무의미해질 수 있다고 주장했다. 답글은 정답이나 사후 결과를 다시 모델에 알려주고 조정하는 폐쇄형 피드백 흐름을 제안했다. 클라우드플레어의 미세조정 서비스가 주목받는 이유도 단순한 분류 API를 넘어 이런 업무별 기준을 다룰 수 있는지에 있다.

또 다른 사용자는 에이전트가 지식 기반에 글을 쓸 때 사람의 검토를 거쳐야 하는지 가르는 실제 평가 결과를 공유했다. 이 작업에서 클레프와 제브의 재현율은 각각 0.98과 1.00으로 가까웠지만, 호스팅 환경의 응답 시간 중앙값은 약 850밀리초와 110밀리초였다고 했다. 클레프-플래시는 필요 이상으로 사람 검토에 넘기는 경향을 보였다는 보고도 덧붙였다. 발표 자료의 종합 순위가 개별 업무의 품질과 속도를 대신해 주지는 않는다는 사례다.

살펴볼 점

클레프가 바꾸려는 것은 에이전트가 모든 판단을 범용 LLM의 문장 생성에 맡기는 방식이다. 정해진 선택지를 확률로 빠르게 돌려받고, 필요할 때만 다른 모델이나 사람에게 넘기는 흐름은 도메인 분류와 지원 요청 처리처럼 반복되는 업무에 잘 맞는다. 그러나 토론의 실사용 결과는 회사 평가에서 빠른 모델이 모든 현장에서 빠르거나 정확하지는 않다는 점을 보여준다. 앞으로는 개별 업무에서의 지연·비용·오분류와 함께, 클라우드플레어의 미세조정 서비스가 고객의 판단 기준을 얼마나 잘 반영하는지를 봐야 한다.


원본: Introducing Clef: our open-source decision models, and new RL fine-tuning platform

토론: Hacker News