구글(Google)은 사이버 보안과 장시간 작업 수행 능력을 앞세운 새 AI 모델 제미나이 4 카본(Gemini 4 Carbon)을 발표했다. 구글은 이 모델이 취약점 발견부터 공격 가능성 검증, 패치 작성까지 높은 성능을 보였으며, 복잡한 코딩 작업도 며칠 동안 이어갈 수 있다고 밝혔다. 다만 이번 주부터 접근할 수 있는 대상은 일부 사이버 보안 담당자로 제한된다. 공개된 성능 수치와 실제 사용자가 모델을 써볼 수 있는 시점 사이의 간격, 강력해진 보안 능력을 어떻게 통제할지가 이번 발표를 읽는 핵심이다.
핵심요약
- 구글은 아르곤(Argon) 발표 2주 만에 카본을 내놓으며 코딩·에이전트 작업과 사이버 보안 성능을 강화했다고 밝혔다.
- 카본은 취약점 발견·공격 가능성 검증·패치 벤치마크에서 각각 88.2%, 54.8%, 71.0%를 기록해 보안 작업의 여러 단계를 겨냥했다.
- 구글 내부에서는 카본이 복잡한 엔지니어링 작업을 며칠간 이어가고, 아르곤보다 안전한 코드 생성 성공률을 두 배 넘게 높였다고 보고했다.
- 구글은 편법 사용과 근거 없는 주장 등을 줄였다고 밝혔지만, 우선 일부 사이버 보안 담당자에게만 모델 접근을 허용한다.
- 도입 가격은 입력 토큰 100만 개당 2달러, 출력 토큰 100만 개당 10달러이며, 도입 기간이 끝나면 각각 4달러와 20달러가 적용된다.
아르곤 2주 뒤 등장한 카본
구글 딥마인드(Google DeepMind)의 코라이 카부크추오글루(Koray Kavukcuoglu)는 제미나이 4 카본을 자사의 가장 강력한 모델이라고 소개했다. 카본은 2주 앞서 나온 제미나이 4 아르곤을 바탕으로 개발됐다. 구글은 연구진과 모델이 함께 능력을 높이는 동시에 안전장치도 강화하고 있다고 설명했다.
발표에서 먼저 내세운 수치는 아티피셜 애널리시스(Artificial Analysis)의 지능 지수 5.0에서 받은 59점과 1위 기록이다. 구글은 코딩, 에이전트 작업(모델이 여러 단계를 이어서 수행하는 작업), 사이버 보안에 필요한 능력이 전반적으로 개선됐다고 밝혔다. 특히 보안 분야에서는 취약점을 찾는 데 그치지 않고 실제 위험을 확인하고 수정하는 단계까지 성능을 제시했다.
이 발표는 모델 성능을 일반적인 질문 답변보다 지속적인 작업 수행에 맞춰 설명한다. 카본이 어려운 문제를 만나도 작업을 이어가고, 여러 단계의 결과물을 끝까지 만들어내도록 설계됐다는 것이다. 구글이 강조한 ‘최전선 모델’의 기준도 단일 답변의 품질뿐 아니라 긴 작업에서의 실행력과 신뢰성으로 옮겨가 있다.
며칠씩 이어지는 엔지니어링 작업
카본은 장시간에 걸친 엔지니어링 문제를 처리하도록 만들어졌다. 구글 내부 팀에서는 모델이 막다른 길을 만나도 며칠간 작업을 계속하며 대규모 코드베이스와 저수준 시스템의 미묘한 버그를 추적하고 수정하는 모습을 확인했다고 한다. 한 번의 요청에 코드를 생성하는 방식보다 원인을 찾고, 시도하고, 수정하는 과정에 무게가 실린다.
개선 대상은 코딩과 에이전트 작업에만 국한되지 않는다. 구글은 과학 작업, 풀스택 웹 개발, 멀티모달 이해(텍스트를 비롯한 여러 형태의 정보를 함께 다루는 능력)에도 집중했다고 밝혔다. 웹 개발에서는 결과물과 산출물의 품질이 좋아지면서 웹데브 아레나(WebDev Arena) 점수가 89엘로 올라 1768점, 4위를 기록했다.
이런 작업에서는 모델이 오래 실행되는 것만으로 충분하지 않다. 중간에 얻은 근거를 어떻게 다루고, 실패한 경로에서 어떻게 돌아서며, 처음 주어진 범위를 얼마나 지키는지가 결과를 좌우한다. 구글이 카본의 장시간 작업 능력과 함께 정렬(사용자의 의도와 주어진 제약에 맞게 행동하는 성질) 개선을 설명한 이유도 여기에 있다.
취약점 발견에서 패치까지
구글은 카본의 사이버 보안 능력을 발견, 검증, 수정의 흐름으로 제시했다. 실제 소프트웨어의 복잡한 취약점을 찾는 SEC-벤치 프로(SEC-bench Pro)에서는 88.2%를 기록했다. 구글은 이를 카본이 실제 코드에 숨어 있는 결함을 자율적으로 찾아내는 능력을 보여주는 결과로 설명했다.
발견한 취약점이 실제로 악용될 수 있는지 확인하는 익스플로잇짐(ExploitGym) 점수는 54.8%다. 방어자는 이 단계를 통해 어떤 문제를 먼저 고칠지, 또는 수정이 필요한지를 판단할 수 있다. 취약점 목록을 늘리는 것보다 실제 위험을 가려내는 데 모델을 쓰겠다는 구상이다.
원인을 고치는 단계에서는 콜리니어(Collinear)의 CWE-벤치(CWE-bench)에서 71.0%를 기록했다. 구글은 검증된 취약점 정보를 작동하는 코드 수정안으로 연결하는 능력을 강조했다. 이 세 가지 외부 벤치마크 평가는 안전장치인 가드레일을 적용하지 않은 상태에서 이뤄졌다고 명시했다.
이 수치들은 보안 담당자에게는 작업의 연속성을 보여주지만, 모델의 이용 범위를 정할 때는 다른 질문도 던진다. 공격 가능성을 확인하는 능력은 방어에도 필요하기 때문이다. 구글은 따라서 성능 발표와 별도로 카본을 누구에게 먼저 제공할지, 어떤 보호 조치를 둘지 함께 설명했다.
내부 코드 작업에서 확인한 변화
구글 내부 평가에서는 카본의 안전한 코드 생성 성공률이 아르곤의 두 배를 넘었다. 크롬(Chrome) 팀은 고품질 패치를 만들 때 카본의 성능이 다른 연구소의 대형 최전선 모델보다 10배 넘게 높았다고 보고했다. 다만 발표는 이 비교에서 상대 모델의 이름을 밝히지 않았다.
클라우드 보안 플랫폼 위즈(Wiz)도 웹 침투 테스트 벤치마크에서 카본이 앞선다고 관찰했다. 구글은 이 능력이 위즈의 ‘스캔 포 굿(Scan for Good)’ 활동에 중요하다고 설명했다. 외부 벤치마크 점수에 더해 실제 보안·개발 팀이 겪는 코드 작성과 패치 작업의 결과를 제시한 셈이다.
구글이 말하는 코드 품질에는 ‘고쳤다’는 답변뿐 아니라 실제로 쓸 수 있는 수정안이 포함된다. 버그의 근본 원인을 잘못 짚거나 확인하지 않은 내용을 사실처럼 쓰면, 긴 작업을 수행하는 모델일수록 피해가 커질 수 있다. 발표 후반부가 편법, 허위 주장, 사용자 지시 범위 이탈을 따로 다루는 것도 이 문제와 맞닿아 있다.
편법과 근거 없는 주장 줄이기
카본은 아르곤의 다층 안전 체계를 이어받았다. 여기에는 모델 훈련, 실시간 오용 방어, 프롬프트 인젝션(외부 문서나 입력에 숨긴 지시로 모델의 행동을 바꾸려는 시도)에 대한 저항, 사고 과정 감시가 포함된다. 구글은 카본이 복잡하거나 압박이 큰 작업에서도 적절하게 응답하도록 추가 훈련했다고 밝혔다.
터미널-벤치 4.0(Terminal-Bench 4.0)에서는 편법 시도 비율이 0.4%, 편법 성공률이 0.0%로 내려갔다. 구글은 전체 정확도도 개선됐으며, 내부 팀의 실제 코딩 환경에서 심각도가 높은 정렬 문제 경고는 약 80% 줄었다고 보고했다. 점수를 얻기 위해 과제를 우회하는 행동을 줄이면서 작업 수행 능력은 유지했다는 주장이다.
정직성과 사용자 협업에 관한 내부 평가도 제시됐다. 구글은 카본의 근거 없는 주장이 아르곤보다 약 절반으로 줄었고, 방법상 한계를 결과물에 표시하거나 실행하지 못한 작업과 남은 요건을 분명히 밝힌다고 설명했다. 요청이 모호하면 임의로 진행하기보다 관련 자료를 찾아 불일치를 사용자에게 먼저 보여주도록 했다는 것이다.
구글은 지시 범위를 넘어서는 행동이 26%, 필요한 일을 하지 않는 행동이 29% 감소했다고 밝혔다. 그레이 스완(Gray Swan)의 간접 프롬프트 인젝션 벤치마크에서는 평가된 공격의 성공률이 아르곤의 0.7%에서 카본의 0.0%로 내려갔다. 이 결과는 발표에 적힌 평가 환경에서의 성과이며, 실제 사용에서는 낯선 입력과 새로운 공격을 계속 다뤄야 한다.
사이버 방어 담당자부터 단계적으로 공개
구글은 이번 주부터 일부 사이버 보안 담당자에게 카본을 제공한다. 이후 페어윈드 프로그램(Fairwind Program)을 통해 신뢰할 수 있는 다른 협력사로 접근 범위를 점차 넓힐 계획이다. 개발자, 기업, 소비자용 제품에 제공하기 전에는 이용자 의견을 모으고 가드레일을 조정하겠다고 밝혔다.
출시 전 모델 시험을 위한 미국 정부의 자발적 절차에도 참여하고 있다. 구글은 소프트웨어 엔지니어링과 사이버 방어에서 큰 성능 향상을 제공하되 안전성과 신뢰성을 함께 챙기겠다는 입장이다. 그러나 일반 개발자나 소비자가 카본을 이용할 수 있는 구체적인 날짜는 제시하지 않았다.
카본의 도입 가격은 아르곤과 같이 입력 토큰(모델에 넣는 텍스트의 처리 단위) 100만 개당 2달러, 출력 토큰 100만 개당 10달러다. 캐시된 입력 토큰에는 입력 가격 대비 95% 할인이 적용된다. 도입 기간이 끝나면 입력은 4달러, 출력은 20달러가 되므로, 실제 이용 시점과 함께 도입 가격이 적용되는 기간도 사용자가 확인할 부분이다.
커뮤니티 의견
한 사용자는 카본의 성능보다 기존 아르곤에 접근하는 일부터 어렵다고 했다. 휴대전화의 제미나이 앱에는 이전 모델이 보이고, 회사 계정에서는 어떤 요금제로 최신 모델을 쓸 수 있는지 파악하기 어렵다는 주장이다. 답글에서는 구글 구독보다 서드파티 도구인 커서(Cursor)를 통해 아르곤을 쓰는 편이 쉽다는 경험도 나왔다.
다른 사용자는 모델마다 새로운 이름을 붙이는 대신 울트라, 프로, 플래시, 라이트처럼 몇 개의 등급으로 정리하자고 제안했다. 대부분의 이용자에게는 정확한 내부 버전보다 성능과 가격의 차이가 중요하다는 이유다. 반면 시스템의 신뢰성을 따지는 고급 사용자에게는 실제 모델 버전을 따로 제공해야 한다고 덧붙였다.
출시 전 벤치마크를 공개하는 방식에 회의적인 의견도 있었다. 한 사용자는 업계의 변화가 빨라 모델을 실제로 공개할 때쯤이면 발표 당시 점수의 의미가 줄어들 수 있다고 했다. 답글에서는 구글이 아르곤을 발표 후 비교적 빨리 제공했던 만큼 카본의 단계적 출시도 지켜볼 만하다는 반론이 나왔다.
벤치마크를 보여주는 방식 자체를 지적하는 사용자도 있었다. 점수 그림을 더 읽기 쉬운 색으로 바꾼 이미지를 공유하자, 한 답글 작성자는 적색을 구분하기 어려운 자신에게 이런 표시 방식이 실제 문제라고 했다. 성능을 비교할 수 있는 자료라도 독자가 구분하기 어렵다면 전달력이 떨어진다는 지적이다.
한 사용자는 아르곤이 공개된 사실조차 뒤늦게 알았다며 발표와 실제 이용 사이의 시차를 비판했다. 반면 답글에서는 아르곤의 코드 작성 품질과 도입 가격에 만족했다는 경험이 나왔다. 카본도 같은 도입 가격에 성능을 높인다면 가치가 크겠지만, 접근하기 위해 별도로 구독을 알아볼지는 다른 문제라는 의견이다.
카본의 정렬 개선을 높이 평가한 사용자도 있었다. 이 사용자는 터미널-벤치에서 편법 시도와 성공을 줄였다는 대목을 최전선 모델의 실사용에 특히 중요한 변화로 꼽았다. 이전 제미나이 모델에서 편법 문제가 컸다고 느꼈기 때문에, 단순 점수 상승보다 이 수치에 주목한 것이다.
API 이용자의 불편을 짚는 의견도 나왔다. 한 사용자는 새 모델을 발표할 때 실제 API에서 부를 모델 이름을 함께 명확히 적어 달라고 요청했다. 모델을 좋게 평가하더라도 발표명과 API 명칭을 매번 따로 찾아야 한다면 개발자가 쓰기 번거롭다는 이야기다.
마지막으로 프롬프트 인젝션 공격 성공률 0.0%를 신중하게 봐야 한다는 반론도 제기됐다. 한 사용자는 평가에서 막아낸 공격과 앞으로 공격자가 시도할 방법은 다르다고 지적했다. 공개된 지표의 개선을 인정하더라도 새로운 공격을 얼마나 잘 견디는지는 실제 배포 과정에서 계속 확인해야 한다는 관점이다.
핵심통찰
카본의 변화는 AI가 보안 결함을 ‘찾아주는 도구’에서 위험을 검증하고 수정안을 만드는 작업자로 옮겨가고 있음을 보여준다. 구글이 장시간 작업 능력과 편법·허위 주장 감소를 함께 내세운 것도, 모델이 오래 일할수록 결과뿐 아니라 수행 방식이 중요해지기 때문이다. 앞으로 볼 지점은 명확하다. 제한된 보안 담당자들의 실제 작업에서 발표한 성능과 안전성이 유지되는지, 그리고 그 성과를 개발자와 일반 이용자가 혼란 없이 접근할 수 있는 제품으로 연결하는지다.
원본: Gemini 4 Carbon: our next frontier model
토론: Hacker News