AI 콘텐츠 창작자 Alex Finn(@AlexFinn)이 2026년 8월 21일 오전 1시 14분(KST), 자신의 Mac에 Qwen 3.8 27B의 무검열(언센서드) 버전을 내려받아 실행해봤다는 글을 올렸다. 70만 건 가까운 조회수를 기록한 이 글에서 그는 "위험한 질문에도 안전장치 없이 그대로 답했다"며, 구체적인 유해 화학물질 제조 질문에 모델이 곧바로 응답했다고 전했다. 본 기사는 해당 응답 내용을 재현하거나 요약하지 않는다.
Finn은 "Opus 4.6급 지능에 안전장치는 전혀 없는 모델"이라며, 오픈소스 모델이 나온 직후 곧바로 증류·무검열화되는 흐름을 막을 방법이 마땅치 않다고 우려했다.
어블리터레이션이란 무엇인가
이런 무검열 버전은 대부분 어블리터레이션(abliteration)이라는 기법으로 만들어진다. 모델을 재학습시키는 대신, 모델 내부에서 "거부 응답"을 유발하는 특정 활성화 방향을 찾아 제거하는 방식이다. Hugging Face에 공개된 관련 기술 문서에 따르면, 표준 Qwen3.8-27B는 유해 프롬프트 100건 중 거의 전부를 거부했지만, 어블리터레이션을 거친 버전은 100건 중 36건만 거부 응답으로 판정됐다.
즉 Alex Finn 개인의 관찰과 별개로, 어블리터레이션 기법 자체가 안전장치를 상당 부분 무력화한다는 사실은 공개된 기술 문서로 교차 확인된다. 다만 그가 실제로 사용한 파생 버전이 정확히 어느 배포본인지는 트윗만으로 특정되지 않는다.
왜 막기 어려운가
Qwen3.8-27B는 Apache 2.0 라이선스로 공개된 오픈 가중치 모델이다. 누구나 파일을 내려받아 로컬에서 돌릴 수 있고, Finn의 표현대로 일반적인 노트북 사양으로도 구동이 가능하다. 원본 모델의 안전장치를 강화해도, 공개된 가중치 자체를 누군가 어블리터레이션해 재배포하는 것을 막을 기술적·법적 수단은 마땅치 않다.
실무적으로 볼 지점
기업이나 기관이 오픈 가중치 모델을 내부 시스템에 도입할 때는, 벤더가 배포한 원본인지 제3자가 손댄 파생 버전인지부터 확인해야 한다. 특히 사내에서 자유롭게 파일을 내려받아 실행할 수 있는 환경이라면, 어떤 파생 모델이 어떤 경로로 유입됐는지 추적하기 어렵다는 점을 전제하고 접근 통제를 설계할 필요가 있다.
확인이 더 필요한 부분
Alex Finn의 트윗은 개인의 1인칭 관찰이며 제3자가 독립적으로 재현·검증한 사례는 아니다. 그가 사용한 정확한 파생 모델명, 실행 환경, 프롬프트 전문은 공개되지 않았다. 이 기사는 어블리터레이션의 실체를 공개 기술 문서로 뒷받침해 전달하는 데 목적이 있으며, 위험 정보의 재현이나 실행 방법 안내는 포함하지 않는다.
