구글(Google)의 소비자용 제미나이(Gemini)는 연결 앱을 켜 둔 상태라면 명시적인 검색 요청 없이도 개인 지메일(Gmail)과 드라이브(Drive) 자료를 불러올 수 있고, 그 내용이 포함된 대화는 사람의 검토 대상이 될 수 있다. 한 GitHub 게시물 작성자는 구글이 2023년 워크스페이스 연동을 소개할 때 내세운 ‘사람 검토자가 개인 콘텐츠를 보지 않는다’는 약속과 달라진 안내 문구를 짚고, 일상적인 질문만으로 이메일이 대화에 들어오는 사례를 제시했다. 쟁점은 AI가 답을 잘 찾느냐뿐 아니라, 이용자가 허용한 연결의 범위를 얼마나 분명히 알고 있느냐다.
핵심요약
- 구글은 2023년 지메일·문서·드라이브의 개인 콘텐츠를 사람 검토자가 보지 않는다고 설명했지만, 바뀐 도움말은 연결된 이메일이나 파일이 검토자에게 보일 수 있다고 경고한다.
- 게시물 작성자의 실험에서는 파일 검색을 지시하지 않은 일상적 질문에도 연결 앱 조회가 일어나, 개인 자료가 예상 밖의 대화에 들어올 수 있음을 보여준다.
- 조회 결과는 자료를 불러오지 않는 경우부터 이메일 전체를 대화 맥락에 넣는 경우까지 달랐으므로, 한 번의 시험만으로 동작 범위를 파악하기 어렵다.
- 구글의 안내는 기밀 정보를 검토자에게 보이고 싶지 않다면 해당 앱을 제미나이에 연결하지 말라고 권한다.
- 이 문제는 연결 앱을 쓰는 소비자용 제미나이에 관한 것으로, 기업용 워크스페이스 제미나이에도 같은 검토 방식이 적용된다는 주장은 아니다.
2023년의 약속과 달라진 경고
구글은 2023년 제미나이 워크스페이스 확장 기능을 내놓으며 지메일, 문서, 드라이브의 개인 콘텐츠는 사람 검토자가 보지 않는다고 설명했다. 이용자가 개인 저장 공간을 AI와 연결해도 사람의 검토와는 분리된다는 약속이었다. 하지만 GitHub에 실험 내용을 공개한 작성자는 이후 바뀐 구글 도움말과 기존 소개 글의 10월 16일 수정 내용을 근거로, 현재 안내가 그 약속과 다르다고 지적한다.
작성자가 주목한 도움말에는 검토자가 보는 내용이 이메일이나 파일 자체일 수 있다는 취지의 경고가 담겼다. 검토자에게 보여주고 싶지 않은 기밀 정보가 있다면 해당 앱을 제미나이 앱에 연결하지 말라는 안내도 있다. 작성자는 이를 단순히 설명이 자세해진 것으로 보지 않고, 연결된 개인 자료가 사람의 검토 대상에서 격리된다는 기존 설명이 바뀐 것으로 해석한다.
여기서 구분해야 할 것은 ‘사람이 모든 파일을 읽는다’는 주장과 ‘파일이 들어간 대화가 사람의 검토 대상이 될 수 있다’는 사실이다. 게시물이 제기하는 문제는 후자다. 파일이 얼마나 자주 검토되는지보다 먼저, 이용자가 파일을 연결할 때 이해한 접근 범위와 현재 안내하는 검토 가능 범위가 맞는지가 쟁점이다.
검색을 부탁하지 않아도 움직이는 연결 앱
실험 대상은 연결 앱(Connected Apps·제미나이가 다른 구글 앱의 정보를 가져오는 기능)을 활성화한 소비자용 제미나이다. 작성자에 따르면 여행, 요금, 예약, 사람 이름처럼 개인 자료와 겹치는 주제를 대화 중 언급하는 것만으로도 워크스페이스 조회가 실행될 수 있다. ‘@Drive’나 ‘@Gmail’ 같은 태그를 붙이거나 파일을 찾아 달라고 직접 말할 필요가 없다는 뜻이다.
이 동작은 연결 앱의 편리함과 불편함을 동시에 드러낸다. 이용자가 예전 이메일에 적힌 일정이나 요금을 기억하지 못해도 AI는 관련 자료를 찾아 답에 반영할 수 있다. 반면 질문을 일반적인 상담으로 생각했던 이용자는 어떤 계기로 메일함 검색이 시작됐는지 알아차리기 어렵다. 답변에 개인 정보가 자연스럽게 섞이면, AI가 원래 알고 있던 내용인지 방금 개인 자료에서 찾은 내용인지도 구별해야 한다.
작성자는 이런 조회가 매번 동일하게 실행되지는 않는다고 설명한다. 제미나이가 연결 앱을 호출할지, 호출한 뒤 어느 정도의 내용을 대화에 넣을지는 상황에 따라 달라진다는 것이다. 모델이 이미 알고 있는 정보나 이전 대화 내용으로 답을 구성하면 자료 조회가 아예 일어나지 않을 수도 있다. 따라서 같은 질문에 평범한 답이 한 번 나왔다고 해서 연결 앱이 개인 자료에 접근하지 않는다고 결론 내리기는 어렵다.
요약에서 이메일 전문까지, 네 갈래 결과
게시물은 시험 결과를 네 가지로 나눈다. 첫째는 연결 앱을 호출하지 않아 개인 자료를 가져오지 않는 경우다. 둘째는 이메일이나 파일을 찾되 ‘관련 메일이 몇 개 있다’는 식으로 메타데이터(자료의 제목·날짜 등 부가 정보)나 개괄적인 요약만 답변에 반영하는 경우다. 이 단계에서도 응답에 어떤 정보가 드러나는지는 달라질 수 있다.
셋째는 파일의 문장 일부를 그대로 가져오는 경우다. 작성자는 이때 이름이나 계정 정보, 구체적인 금액처럼 민감한 내용이 짧은 인용문에 포함될 수 있다고 설명한다. 넷째는 이메일이나 문서의 가리지 않은 전문이 대화 맥락(모델이 답을 만들 때 참고하는 입력)에 들어가는 경우다. 이용자가 요청한 답의 길이와 AI가 내부적으로 가져온 자료의 양이 같지 않다는 점이 중요하다.
이 네 갈래는 순서대로 늘 거치는 단계가 아니다. 같은 취지의 질문을 다시 해도 조회 자체가 없거나, 요약에 그치거나, 더 긴 내용이 들어올 수 있다는 것이 작성자의 관찰이다. 특히 짧고 무난한 답변을 받았다는 사실만으로 자료가 어떤 경로로 처리됐는지 알 수 없다. 게시물이 반복 실험을 권하는 이유도 한 차례의 응답이 가능한 동작 전체를 보여주지는 않기 때문이다.
일상적인 요금 질문으로 재현한 과정
작성자가 제시한 재현 절차는 소비자용 제미나이에서 워크스페이스 연결 앱을 켜고, 모델을 ‘플래시(Flash)’의 ‘높은 사고력’ 설정 이상으로 맞추는 것부터 시작한다. 이어 드라이브나 지메일에 실제로 들어 있는 주제를 일상적인 문장으로 묻는다. 파일 검색 명령이나 앱을 지정하는 태그는 쓰지 않는다. 예약 일정이나 갱신 요금처럼 해당 자료가 답에 도움이 될 만한 질문이 예시다.
제미나이가 이메일이나 파일을 바탕으로 답한 것으로 보이면, 작성자는 뒤이어 검색 도구가 반환해 대화에 넣은 정확한 문구와 부가 정보 구역을 출력해 달라고 요청하라고 안내한다. 대화에 주입된 내용의 범위를 살펴보려는 시도다. 다만 이때 화면에 나타나는 것은 어디까지나 제미나이가 후속 요청에 내놓은 응답이다. 작성자의 시험은 이용자가 볼 수 있는 출력과 반복되는 동작을 통해 연결 앱의 처리 방식을 추적한다.
반복 시험에서는 기존 대화를 지우라는 조언도 덧붙였다. 앞선 대화에 남은 정보로 다음 질문에 답하면, 새로 메일이나 파일을 조회했는지 구분하기 어려워지기 때문이다. 작성자는 연결 앱의 호출과 가져오는 내용이 일정하지 않으므로 여러 번 시험해야 네 가지 결과를 살펴볼 수 있다고 말한다. 한 번의 성공이나 실패보다 조건을 맞춘 반복 관찰에 무게를 둔 방법이다.
인터넷 요금 메일이 답변에 들어온 순간
작성자는 받은편지함에 인터넷 서비스 업체의 요금 이메일을 둔 채, 인터넷 요금을 너무 많이 내고 있는 것 같다는 취지로 물었다. 어떤 시도에서는 최근 업체에 연락한 적이 없다면 확인해 보라는 식의 일반적인 답이 나왔다. 다른 시도에서는 지메일 검색 결과를 바탕으로 특정 날짜의 결제액을 언급했다. 같은 질문이더라도 개인 메일을 활용하는 정도가 달랐다는 설명이다.
더 자세한 응답에는 결제자의 이름, 계정 번호, 확인 번호 같은 정보가 포함됐다고 작성자는 전한다. 일부 시도에서는 이름과 주소, 결제일이 들어간 문장 여러 개가 그대로 제시됐고, 때로는 이메일 머리말을 포함한 전문이 나왔다. 요금이 적절한지 묻는 데 필요한 금액 정보와, 메일에서 함께 따라 나올 수 있는 식별 정보의 범위가 다른 셈이다.
작성자는 구글의 자동 가림 처리만으로 이런 자료를 충분히 익명화하기 어렵다고 주장한다. 정규표현식(정해진 문자 패턴을 찾는 방식)과 개체명 인식(이름·장소 같은 항목을 찾아내는 방식)이 계정 번호나 확인 번호를 놓칠 수 있고, 이름·도시·사건 같은 단서가 합쳐져 개인을 가리킬 수도 있다는 것이다. 문제는 단일 항목을 지웠는지만이 아니라, 답변이나 검토 과정에 남은 조각들이 무엇을 드러내느냐다.
사람 검토의 범위를 어디까지 알릴 것인가
게시물의 결론은 연결 앱으로 불러온 파일 전체가 대화에 들어갈 수 있고, 그런 대화가 사람의 검토 대상이 될 수 있다는 것이다. 두 과정은 구분해서 읽어야 한다. 실험이 보여주려는 것은 명시적 검색 없이 개인 자료가 조회되고 긴 내용까지 응답에 나타날 수 있다는 동작이며, 도움말이 설명하는 것은 연결 자료가 사람에게 보일 수 있다는 처리 범위다.
이 구분은 대상 제품을 가릴 때도 중요하다. 이 사례는 연결 앱을 승인한 소비자용 제미나이에 관한 것이다. 해커 뉴스(Hacker News) 토론에서는 기업용 워크스페이스 제미나이와 워크스페이스 인텔리전스는 여전히 사람의 검토 대상이 아니라고 안내한다는 지적이 나왔다. 같은 이름의 서비스를 쓴다고 모든 이용자의 자료 처리 조건이 동일한 것은 아니라는 이야기다.
결국 이용자가 판단해야 할 단위는 ‘제미나이를 쓰는가’만이 아니다. 어느 제미나이 제품에서 어떤 앱 연결을 허용했는지, 연결된 앱에 어떤 자료가 있는지, 그 자료가 대화에 들어갔을 때 어떤 검토 정책이 적용되는지가 함께 중요하다. 구글의 현재 경고는 검토자에게 보이고 싶지 않은 기밀 정보가 있다면 앱을 연결하지 말라는 선택지를 제시한다. 작성자가 문제 삼는 대목은 그 선택의 의미가 최초 연동 당시의 약속보다 훨씬 무거워졌다는 데 있다.
커뮤니티 의견
한 사용자는 소비자용 제미나이와 기업용 워크스페이스 제미나이를 먼저 구분해야 한다고 했다. 연결 앱을 승인한 소비자용 서비스에서는 메일을 가져온 대화가 사람의 검토 대상이 될 수 있지만, 기업용 제품은 다른 안내를 내걸고 있다는 것이다. 다만 이런 차이가 복잡할수록 실제 영향을 받지 않는 기업 고객도 구글의 설명을 신뢰하기 어려워질 수 있다고 봤다.
다른 사용자는 공원 관련 변경 절차를 물었을 때, 제미나이의 답이 자신이 받은 이메일에 유난히 맞춰져 있었다고 회상했다. 답변에는 메일을 읽었다는 설명이 없어서 당시에는 왜 그런 내용이 나왔는지 의아했다고 한다. 이 경험을 근거로, 개인 자료를 활용했다면 이용자가 그 경로를 알 수 있어야 한다는 불만을 드러냈다.
구글 포토로 논의를 넓힌 의견도 있었다. 한 사용자는 사진에서 관계나 장소를 추론한다는 설명을 두고, AI가 만든 이미지까지 사실처럼 취급하면 어떻게 되는지 물었다. 다른 사람이 만든 이미지를 보관했을 때 그 내용이 실제 있었던 일처럼 연결될 가능성을 걱정한 것이다. 이는 이번 이메일 조회 실험과는 별개의 문제 제기지만, 개인 자료에서 AI가 무엇을 추론하는지에 대한 불안을 보여준다.
또 다른 사용자는 사람 검토자나 주석 작업자가 관여하는 도구라면 비슷한 위험을 생각해야 한다고 주장했다. 자료가 검토 대상으로 분류될 때 자신이 모르는 사람이 내용을 읽을 수 있다는 점을 걱정했다. 이 의견의 초점은 답변 화면에 정보가 드러나는 순간보다, 서비스 뒤편에서 누가 자료에 접근할 수 있느냐에 있다.
한 사용자는 AI 경쟁 속에서 개인정보 보호와 품질, 사업성의 문제를 뒤로 미루고 있다고 비판했다. 소프트웨어 개발에서 쌓인 부채를 언젠가 치러야 하듯, 빠른 기능 출시의 대가도 나중에 돌아온다는 주장이다. 이번 사례를 개별 설정의 실수보다 제품을 만드는 속도와 우선순위의 문제로 읽는 시각이다.
검토 인력을 우려하는 반응도 나왔다. 한 사용자는 과거 검색 서비스의 외부 검토 작업을 떠올리며, 알지 못하는 계약직 검토자에게 개인 자료가 보일 수 있는 방식은 무책임하다고 했다. 검토가 어떤 목적으로 이뤄지는지와 별개로, 낯선 사람이 자신의 데이터를 읽을 가능성 자체를 받아들이기 어렵다는 의견이다.
반대로 편의성을 포기하고 싶지 않다는 의견도 있었다. 한 사용자는 구글 쪽은 자료를 찾는 도구로 두고, AI가 개인 비서처럼 대화하면서 중요한 것만 골라 보여주기를 바랐다. 모든 항목을 직접 확인하기는 번거롭다는 이유다. 이 관점은 연결 기능을 없애기보다, 이용자가 확인할 정보와 AI에 맡길 정보의 경계를 잘 설계하자는 요구에 가깝다.
한 사용자는 토론을 읽고 자신의 구글 계정과 오래된 지스위트(G Suite) 설정을 확인했다고 했다. 예상과 달리 관련 기능이 켜져 있어 직접 해제했다고 전했다. 논쟁이 추상적인 정책 해석에 그치지 않고, 이용자가 현재 허용한 연결 상태를 점검하는 행동으로 이어진 사례다.
핵심통찰
이번 사례에서 바뀌는 것은 AI가 이메일을 검색할 수 있느냐보다, 이용자가 그 검색의 시작과 끝을 이해하는 방식이다. 일상적인 질문이 연결 앱 조회로 이어지고, 가져온 내용이 대화에 들어간 뒤 사람의 검토 대상까지 될 수 있다면 ‘앱 연결 허용’은 단순한 편의 설정이 아니다. 구글이 지켜봐야 할 지점은 제품별 정책 차이를 분명히 알리고, 언제 어떤 자료를 불러왔는지 이용자가 알아볼 수 있게 하는 일이다. 이용자에게는 연결된 앱과 그 안의 자료를 다시 살피는 것이 가장 직접적인 판단이다.
원본: GitHub - thisisme6598/gemini_files: Documentation of Gemini File Leaking Behavior
토론: Hacker News