여자친구를 죽이겠다던 ChatGPT 대화
2026년 5월, 미국 플로리다 사우스팜비치에 사는 25세 다렌 저우(Darren Zhou)가 ChatGPT에 전 여자친구에 대한 폭력적인 계획을 반복해서 입력했다.
"이번 달 안에 그녀를 죽이겠다"는 식의 문장과 협박 메시지 초안까지 상담 내용에 포함됐다.
당시 저우는 골드만삭스에서 애널리스트로 일하고 있었다.
OpenAI 신고, 이틀 만에 체포
OpenAI는 이 대화를 위험 신호로 감지했다.
회사는 FBI에 직접 신고했고, 저우는 5월 중 체포됐다.
체포 이틀 뒤 10만 달러(약 1억 4천만 원) 보석금을 내고 석방됐다.
6월 초 골드만삭스가 이 사실을 파악하면서 저우는 해고됐다.
캐나다 총기난사가 바꾼 신고 기준
OpenAI가 이렇게 빠르게 움직인 배경에는 2026년 2월 12일 캐나다 브리티시컬럼비아주 텀블러리지에서 벌어진 총기난사가 있다.
이 사건으로 8명이 숨지고 27명이 다쳤다.
보도에 따르면 OpenAI는 2025년 6월 이미 가해자의 ChatGPT 계정을 "불안한 콘텐츠"를 이유로 차단한 적이 있었다.
사내 직원 12명이 경찰 신고를 요청했지만, 당시 회사는 "임박하고 확실한 신체적 위해 위험"이 아니라는 이유로 신고하지 않았다.
참사 이후인 2026년 2월 27일, OpenAI는 정신건강·행동·법 집행 전문가의 자문을 거쳐 위험도를 판단하는 "강화된 법 집행기관 신고 프로토콜"을 도입했다고 밝혔다.
저우 사건은 이 새 프로토콜이 적용된 초기 사례 중 하나다.
브리티시컬럼비아 주정부는 OpenAI를 상대로 소송을 준비 중이며, 희생자 유가족도 별도로 OpenAI와 샘 올트먼을 상대로 미국 법원에 소송을 제기했다.
| 시점(KST 환산) | 사건 |
|---|---|
| 2025년 6월 | OpenAI, 텀블러리지 총기난사범의 ChatGPT 계정을 "불안한 콘텐츠"로 차단(경찰 미신고) |
| 2026년 2월 12일 | 캐나다 텀블러리지 총기난사 — 8명 사망, 27명 부상 |
| 2026년 2월 27일 | OpenAI, 강화된 법 집행기관 신고 프로토콜 발표 |
| 2026년 5월 | 다렌 저우, ChatGPT 살해 협박 상담 → OpenAI가 FBI에 신고, 체포·보석(10만 달러) |
| 2026년 6월 초 | 골드만삭스, 사건 인지 후 저우 해고 |
| 2026년 8월 13일 | 저우, 3개 혐의 모두 유죄 인정 — 징역형 대신 조건부 처분 |
징역 대신 전자발찌, 어떻게 피했나
저우는 8월 13일 검찰과의 플리딜을 통해 3개 혐의 모두에 유죄를 인정했다.
최대 25년 징역형과 중범죄 전과를 피하는 대신 다음 조건을 받아들였다.
- 2년간 전자발찌 착용
- 가해자 개입 프로그램 이수
- 정신건강 평가
- 피해자 접촉 금지
- 무기 소지 금지, 마약·음주 금지
현지 매체 보도에 따르면 이 사건의 최초 보도는 팜비치포스트였고, 이후 AOL·야후뉴스 등이 재인용했다.
로컬 LLM으로 도망칠 수 있을까
이 사건은 X(트위터)에서도 확산됐다.
일본의 AI 연구자 うみゆき(@umiyuki_ai)는 이 사건을 인용하며 "농담이라도 ChatGPT에 불법적인 내용을 상담하면 진짜로 신고당한다. 그런 건 로컬 LLM에 물어보라"고 적었다. 이 게시물은 25만 회 넘게 조회됐다(2026년 8월 16일 23시 2분 KST 기준).
클라우드 기반 AI 서비스는 이용 약관에 따라 대화 내용을 모니터링하고, 위험 신호가 감지되면 법 집행기관에 통보할 수 있다는 뜻이다.
반면 로컬에서 실행하는 오픈소스 LLM은 이런 모니터링 구조 자체가 없다.
다만 이는 감시를 피하는 방법이라기보다는, 위기 상황에서 실제 도움이 될 개입 경로(상담·신고)를 스스로 차단하는 결과가 될 수도 있다는 점은 구분해서 볼 필요가 있다.
신고와 체포 사이 정확한 시차는 비공개다
OpenAI가 저우의 계정을 정확히 언제부터 모니터링했는지, FBI 신고와 체포 사이의 정확한 시차는 공식 자료로 확인되지 않았다.
OpenAI 측의 공식 논평도 이 사건에 대해 별도로 확인되지 않았다 — 현재까지 보도는 법원 기록과 팜비치포스트 취재에 근거한다.
