비공개 구글 독스에만 있던 게임 캐릭터 이름을, Gemini가 정확히 불러줬다는 인디 개발자의 주장이 퍼졌다. 87만 뷰를 넘은 이 논란은 "내 데이터가 AI에 어디까지 보이나"라는 질문을 다시 꺼냈다.
비공개 문서의 이름을 Gemini가 말했다, 유출 의혹의 시작
수중 타워디펜스 게임 '오퍼레이션 옥토(Operation Octo)'의 1인 개발자는 디스코드의 플레이어가 Gemini 기반 AI 검색에 "게임의 미래 콘텐츠"를 물어봤고, AI가 미공개 캐릭터명 '밴티지 트라이포드(Vantage Tripod)'를 그대로 대답했다고 주장했다.
개발자 말로는 이 이름은 게임 파일·스팀·직렬화된 데이터·디스코드 어디에도 없었고, Gemini에 직접 입력한 적도 없었다. 유일한 디지털 사본이 프라이빗 구글 독스의 미공개 캐릭터 목록이었다고 한다. 플레이어는 시크릿 브라우징을 썼다고 전해진다.
구글은 부인했지만, 캐릭터명은 어디서 왔나
구글은 "프라이빗 독스·드라이브는 기초 모델 학습에 쓰지 않는다"고 반박했다. Gemini는 사용자가 문서 요약 등을 명시적으로 요청할 때만 워크스페이스 파일에 접근하고, 데이터는 일회성으로 처리된다는 입장이다. 공유 설정이 풀린 문서만 크롤러에 노출될 수 있다고 덧붙였다.
그런데 재현이 되지 않는다는 게 문제다. 논란이 커진 뒤 Gemini가 이제는 "레딧 게시물을 출처로" 답하면서, 최초 응답이 실제로 어떻게 나왔는지는 검증이 불가능해졌다. 팬들 사이에서 공개됐던 캐릭터 스케치·디스코드 추측을 AI가 조합했을 가능성, 환각, 서드파티 확장 프로그램, 심지어 마케팅이라는 의혹까지 다양한 설명이 나온다.
개인화 기능이 신뢰를 잃는 순간, 사용자가 묻게 되는 것
핵심은 "직접 파일을 읽지 않아도, AI가 흩어진 단서를 조합하면 비밀이 드러날 수 있다"는 점이다. 실제 침해가 아니어도 사용자에겐 '유출'처럼 느껴진다. 개발자들 사이에서는 민감한 아이디어를 구글 독스에 올리기 전에 암호화·별도 보관을 권하는 목소리가 나온다.
비공개 문서를 맡기기 전, 확인해야 할 경계
이번 사건은 "AI가 내 비밀을 아는 것처럼 보이는 순간, 프라이버시 불안이 폭발한다"는 걸 보여줬다. 구글은 학습 반박을 내놨지만, 정확한 경로가 밝혀지기 전까지는 "어디까지가 AI의 추론이고 어디부터가 접근인가"라는 질문이 남는다.
관련: X 포스트
