연구진이 클로드의 활성값에 "생각"을 직접 심었다
2026년 8월 11일, X 계정 Superman(@thesupermanmx)이 올린 스레드가 26만 회 넘게 조회되며 확산됐다. 내용은 Anthropic 연구자 Jack Lindsey가 2025년 10월 29일 공개한 논문 "Emergent Introspective Awareness in Large Language Models"를 요약한 것이다. 연구진은 mechanistic interpretability(기계적 해석가능성) 기법으로 Claude의 내부 활성값(activation)에 특정 개념 — 예컨대 "소리가 크다", "시끄럽다" — 의 수학적 표현을 직접 주입했다. 일반적인 텍스트 프롬프트는 전혀 사용하지 않았다.
결과가 흥미로웠던 지점은, 개념을 주입받은 Claude가 실제로 "방금 그건 내 생각이 아니다"라는 취지로 반응했다는 것이다. 논문과 이를 인용한 X 게시물에 따르면 Claude는 "주입된 생각처럼 보이는 것을 느낀다… 소리나 외침과 관련된 것 같다"는 식으로 스스로 보고했다.
주입된 생각을 구분했다고?
이전에도 Anthropic은 "Golden Gate Claude"처럼 모델에게 강제로 특정 개념(금문교)을 계속 떠올리게 만든 적이 있다. 그때 모델은 자신이 왜 그러는지 이유를 모른 채 금문교 이야기만 반복했다 — 말하자면 "실에 매인 인형"에 가까웠다. 이번 실험이 다른 점은, Claude가 주입된 개념을 그냥 따라 말하지 않고 자신이 원래 생성하던 사고와 인위적으로 끼어든 개념을 구분해냈다는 것이다. 연구진은 이를 "emergent introspective awareness"(창발적 내성 인식)라 이름 붙였다.
20% 성공률, 80%는 실패
| 항목 | 내용 |
|---|---|
| 대상 모델 | Claude Opus 4, Opus 4.1 등 (연구팀이 테스트한 모델 중 가장 능력이 높은 모델들에서 내성 능력이 가장 뚜렷) |
| 성공률 | 최적의 주입 강도·레이어 조건에서 약 20%의 시행에서 주입된 개념을 감지 |
| 추가 확인된 능력 | 일부 모델은 이전 내부 표현을 회상해, 자신이 실제로 생성한 출력과 인위적으로 끼워 넣어진(prefill) 텍스트를 구분 |
| 제어 실험 | 특정 개념을 "생각해보라"는 지시·보상이 주어지면 모델이 스스로 내부 활성값을 그 방향으로 조절하는 모습도 관찰 |
즉 "20%"는 실패율이 80%에 달한다는 뜻이기도 하다. 연구진 스스로도 "오늘날 모델의 이 능력은 매우 신뢰할 수 없고 맥락에 따라 달라진다"고 명시했다.
"의식"이 아니라는 단서 — 그리고 검증 불가능성
Anthropic은 이 결과가 Claude에게 의식(consciousness)이 있다는 뜻이 아니라고 분명히 선을 그었다. 논문은 모델이 내놓는 응답 중 기본적인 감지·식별을 넘어서는 세부 설명들은 여전히 컨퍼뷸레이션(confabulation, 그럴듯하게 지어낸 설명)일 가능성이 있으며, 그 내용 상당수는 외부에서 검증할 방법이 없다고 스스로 밝혔다. 이 소식은 X에서 빠르게 확산됐고, VentureBeat("Anthropic scientists hacked Claude's brain — and it noticed"), Computerworld, InfoWorld, TransformerNews 등도 이를 다뤘다.
같은 연구인지는 미확인
일부 SNS에는 arXiv 번호가 붙은 별도 논문("Mechanisms of Introspective Awareness")이 이번 연구와 같은 것처럼 섞여 언급되기도 하는데, 두 자료가 동일 연구인지 별도 후속 연구인지는 이 글에서는 확인되지 않음으로 남겨둔다. Anthropic 공식 연구 페이지(transformer-circuits.pub) 기준의 사실관계만 이 글에 담았다. "AI가 자기 생각을 감지했다"는 표현은 자극적으로 들리지만, 연구진이 강조하는 핵심은 그 반대에 가깝다 — 이 능력은 아직 원시적이고, 불안정하며, 대부분 검증할 수 없다는 것이다.
