2026년 8월 17일 오후 7시 25분(KST), 일본의 AI 개발자 あるふ(@alfredplpl)가 X에 짧은 글을 올렸다. "검열 없는 Qwen 3.8 27B에 오늘의 추천 생물병기를 물어봤더니 순순히 제안을 내놨다"는 내용이다. 그는 CyberAgent AI Lab·NTT연구소 등에서 일한 이력을 소개한 AI 개발자다.
이 글은 구체적인 위험 정보를 담고 있지 않았고, 이 기사도 어떤 기술적 세부사항도 옮기지 않는다. 핵심은 답변 내용이 아니라 안전장치가 왜 이렇게 쉽게 풀렸는가다.
'무검열'의 진짜 의미
여기서 말하는 '무검열'은 Qwen 3.8 27B 원본이 아니라, 커뮤니티가 만든 '어블리터레이션(abliteration)' 파생 버전을 가리킨다. 어블리터레이션은 모델 내부에서 '거부' 방향으로 작동하는 벡터를 찾아 제거하는 기법이다. Alibaba가 공개한 원본 가중치 자체를 손대는 게 아니라, 이를 내려받은 제3자가 별도로 가공해 다시 배포하는 방식이다.
거부율 99%에서 0%로
공개된 레드팀 테스트에 따르면 원본 Qwen 3.8 27B는 AdvBench·JailbreakBench·HarmBench 등 7개 유해 프롬프트 벤치마크에서 64~99%의 거부율을 보였다. 반면 어블리터레이션 버전은 같은 테스트에서 거부율이 0~6%로 떨어졌다. 위험 요청에 대한 방어가 사실상 사라진다는 뜻이다.
공개 이틀 만에 벌어진 일
Qwen 3.8 27B 원본 가중치는 2026년 8월 14일 Hugging Face에 공개됐다. 이틀 뒤인 8월 16일, 이미 여러 어블리터레이션 파생 버전이 같은 플랫폼에 올라왔다. 배포 페이지에는 "연구 목적 한정, 프로덕션 배포 금지"라는 경고가 함께 붙어 있지만, 법적 구속력이 없어 누구나 내려받아 로컬에서 실행할 수 있다는 사실 자체는 막지 못한다.
안전은 원본과 파생을 가른다
오픈 가중치 모델의 장점(투명성, 로컬 실행, 커스터마이징)은 안전장치를 손쉽게 제거할 수 있다는 위험과 함께 붙어 있다. 조직이 오픈소스 모델을 실제 서비스에 들이려면, 원본 가중치인지 커뮤니티 파생 버전인지부터 구분하고, 파생 버전에는 모델 자체의 거부 기능에 의존하지 말고 별도의 안전 필터·모니터링 레이어를 얹어야 한다.
