ChatGPT가 만든 문장에 눈에 보이지 않는 표시를 남기고, 나중에 그 신호를 찾아볼 수 있다면 어디까지 알 수 있을까요? OpenAI의 텍스트 워터마킹 기술 textGrain은 문장에 별도 기호를 붙이는 대신, 모델이 단어를 고르는 통계적 패턴에 보이지 않는 신호를 담습니다. 적용 범위는 EU의 ChatGPT·Codex와 전 세계 API 선택 설정이 서로 다르며, detector 결과도 글의 작성자를 특정하지는 않습니다.
OpenAI는 textGrain을 EU AI Act에 따른 텍스트 provenance 접근의 일부로 소개했습니다. 이미지·오디오의 Content Credentials나 SynthID와 함께, 생성물이 어디에서 왔는지 이해하도록 돕는 여러 신호 중 하나입니다. 영상 콘텐츠의 출처 표시 사례는 Google Vids와 SynthID 표시 글에서도 볼 수 있습니다.
textGrain은 단어 선택에 통계 신호를 담습니다
문장을 생성할 때 모델은 다음에 올 수 있는 여러 단어와 단어 조각 중 하나를 고릅니다. textGrain은 그 선택의 확률 분포에 비밀 키로 정해지는 미세한 조정을 가합니다. 한두 단어만 보고 알아채는 표식이 아니라, 문장 전체의 선택 패턴에서 통계 신호를 찾는 방식입니다.
그래서 텍스트를 복사했을 때 숨은 공백이나 특수문자가 따라붙지 않고, 독자에게도 워터마크가 보이지 않습니다. detector는 이 패턴이 있는지 살펴 OpenAI 워터마크가 감지되는지를 보고합니다. OpenAI 도움말은 지원 모델의 API 응답에 별도 표시를 덧붙이지 않아도 생성 단계에서 워터마크를 넣을 수 있다고 설명합니다.
OpenAI는 공식 발표에서 textGrain을 포함해 시험한 다른 방식들보다 같거나 높은 감지 성능을 보였다고 밝혔습니다. 다만 이상적인 조건의 성능이 일상적인 텍스트에서도 같은 신뢰도로 이어진다고 보장하지는 않는다고 덧붙였습니다.
출처: X @OpenAI
EU ChatGPT·Codex와 API 적용은 다릅니다
OpenAI의 발표는 제품별 적용 방식을 구분합니다. EU에서는 적격 ChatGPT와 Codex 텍스트 출력에 수 주에 걸쳐 보이지 않는 워터마크를 추가할 예정이라고 밝혔습니다. 이는 출시 시점의 EU 대상 단계적 적용이며, 전 세계 ChatGPT·Codex에 기본 적용된다는 뜻은 아닙니다.
API는 별도입니다. 전 세계 API 고객이 지원 모델을 선택해 텍스트 워터마킹을 켤 수 있지만, 기본 설정은 꺼져 있습니다. OpenAI 도움말에 따르면 프로젝트별 설정 또는 조직 설정에서 허용하고 모델을 선택할 수 있습니다. 어떤 모델이 현재 지원되는지는 설정 화면의 모델 목록에서 확인하게 되어 있습니다.
텍스트 워터마킹을 켜는 것과 detector 이용 권한을 받는 것은 별개입니다. detector 신청은 연구자와 전문기관을 대상으로 열렸으며, 초기에는 승인된 신청을 개별 사례별로 검토해 접근을 제공합니다.
출처: X @OpenAI
공개된 감지 수치는 특정 시험 조건의 결과
감지 성능은 텍스트 길이와 주제의 영향을 받습니다. OpenAI가 제시한 한 평가는 오탐률을 1%로 맞춘 조건에서 심리학 관련 콘텐츠의 워터마크를 200토큰 글에서 약 80%, 400토큰 글에서 약 95% 찾아냈습니다. 수학처럼 단어 선택 폭이 좁은 콘텐츠에서는 감지율이 상당히 낮았습니다.
편집에 따른 변화도 400토큰 영어 응답을 대상으로 시험했습니다. 단어의 10%를 동의어로 바꾸자 감지율이 약 92%에서 66%로 떨어졌고, 25%를 바꾸면 17%로 낮아졌습니다. 이 값은 해당 분량·언어·평가 질문에서 나온 수치입니다. 다른 길이, 언어, 주제나 편집 방식에 그대로 적용되는 보편적인 비율로 볼 수는 없습니다.
짧은 글은 신호를 평가할 데이터가 적고, 수학 답변이나 주어진 문장을 그대로 재현하는 요청은 단어 선택의 여지가 작습니다. 상당한 재작성이나 번역도 패턴을 약하게 만들 수 있습니다. 따라서 감지되지 않았다는 결과만으로 사람이 썼다고 판단할 수 없고, 감지됐다고 해서 문장 전체를 AI가 작성했다고 단정할 수도 없습니다.
출처: X @OpenAI
detector가 알려주는 것과 알려주지 않는 것
detector의 결과는 OpenAI 워터마크 신호가 감지됐는지에 관한 제한된 정보입니다. OpenAI는 그 결과가 해당 텍스트에서 자사 시스템이 일부를 생성하거나 처리했을 가능성을 나타낼 수 있다고 설명합니다. 하지만 사람의 판단·편집·창작 기여가 어느 정도였는지는 측정하지 않습니다.
또한 결과는 사용자나 조직, 프롬프트, 대화를 식별하지 않습니다. 텍스트의 소유권이나 사용의 적법성, 공개 의무, 사실 여부도 판정하지 않습니다. detector 신청과 접근을 연구자·전문기관 중심으로 시작한 이유로 OpenAI는 오탐과 미탐 가능성, 책임 있는 결과 해석을 들었습니다.
출처 표시 기술은 텍스트에만 있는 것은 아닙니다. OpenAI의 에이전트 플랫폼 소개인 OpenAI dots 글처럼 제품마다 쓰임새가 다르듯, 콘텐츠 provenance도 형식에 따라 다른 신호와 도구를 조합합니다. textGrain은 그중 텍스트의 단어 선택에 담기는 신호이며, detector가 답하는 범위도 거기에 한정됩니다.
출처 신호를 읽을 때 기억할 점
textGrain은 읽는 사람에게 보이지 않는 통계적 워터마크로, API 고객은 지원 모델에서 선택해 켤 수 있고 EU의 적격 ChatGPT·Codex 출력에는 단계적으로 적용할 예정입니다. detector는 신청과 검토를 거쳐 제한적으로 제공되며, 공개된 감지 수치는 특정 평가 조건을 전제로 합니다.
무엇보다 워터마크는 작성자 판정이나 사람의 기여량 측정 도구가 아닙니다. 감지 여부를 출처에 관한 하나의 신호로 이해하고, 텍스트의 작성 과정과 맥락을 함께 살펴야 합니다.
