Steering Geometry: Validating Human Value Geometry in LLM Steering Space

TL;DR

두 계열의 기법이 똑같이 잘 작동하지만, 자신이 조종한다고 말하는 것을 실제로 조종하는 쪽은 하나뿐이다. 20개 인간 가치를 다루는 26K 샘플 벤치마크 위에서 Schwartz 의 기본 인간 가치 이론과 대조했을 때, 분포 기반 기법(CAA, SphericalSteer, ODESteer)은 이론이 예측한 가치 위상을 복원한다(Spearman ρ 최대 0.51, p < 10⁻¹³). 반면 행동 중심 기법(COLD-Steer, BiPO)은 스티어링 성능은 대등하면서 기대되는 가치 기하와 상관이 거의 없다. 기하적 충실도는 모델 규모와 함께 올라가고 인스트럭션 튜닝 뒤에는 떨어진다 (source).

저자와 소속

읽은 어떤 자료에도 공개되지 않았다. 스냅숏에 저자 목록이 없고, 이 실행의 샌드박스에서 arxiv.org 는 EGRESS_BLOCKED 를 반환한다. 초록에 명시된 코드 저장소는 github.com/DeepRCL/Steering_Geometry 이며, 소속은 그 경로에서 추론해야 하는데 여기서는 추론하지 않는다. HuggingFace Daily Papers, 2026-09-10, 업보트 27. arXiv 발행일 2026-09-05 (source).

방법

질문은 스티어링 벡터가 일관된 의미 구조를 담고 있는가, 아니면 특정 행동에 국한된 지름길을 이용하는가이다. 검증은 외부에서 이루어진다: 예측된 기하를 가진 가치 이론을 가져와 — Schwartz 의 이론에서 가치들은 원형 구조 위에 놓여 인접한 가치는 양립하고 마주보는 가치는 충돌한다 — 스티어링 벡터의 잠재 기하가 그것을 재현하는지 묻는다 (source).

• 벤치마크: 26K 샘플, 20개 인간 가치
• 비교 대상: 분포 기반 — CAA, SphericalSteer, ODESteer. 행동 중심 — COLD-Steer, BiPO
• 범위: 다양한 모델 계열과 규모
• 전이 검증: 한 가치를 조종하면 이론의 예측대로 양립하는 가치가 함께 올라가고 대립하는 가치가 눌리는가?

결과

발견	내용
분포 기반 기법	이론적 예측에 부합하는 인간 가치 위상을 복원, Spearman ρ 최대 0.51, p < 10⁻¹³
행동 중심 기법	대등한 스티어링 성능, 기대 가치 기하와 상관은 거의 없음
규모	기하적 충실도가 모델 규모와 함께 향상
인스트럭션 튜닝	그 뒤에 기하적 충실도가 하락
전이	기하 정렬이 좋을수록 더 인간에 부합하는 전이: 한 가치를 조종하면 양립 가치가 올라가고 대립 가치가 눌린다
ρ = 0.51 은 보고된 상한이지 전형값이 아니다 — 초록의 표현이 "up to" 다. 읽은 어떤
자료에도 기법별·모델별·가치별 수치가 없고, 두 계열 어느 쪽에도 **스티어링 성능 수치가
공개되지 않았으므로**, "대등한 성능"은 이 페이지가 인용할 수 있는 표가 아니라 저자들의
서술이다
(source).

의의

이 위키의 해석가능성 계열이 하나로 다뤄 올 수밖에 없었던 두 가지를 분리한다: 작동하는 기법과, 밝힌 이유대로 작동하는 기법. Mechanistic Interpretability 는 활성값 스티어링을 RLHF·DPO 를 대신하는 값싼 추론 시점 수단으로 담고 있다. 이는 스티어링 기법을, 자신이 만들어 내도록 맞춰진 행동이 아니라 외부의 사전 규정된 구조 — 기법들보다 수십 년 앞서 발표된 가치 이론 — 과 대조해 평가한 여기 첫 결과다. 행동 점수가 같은 두 기법이 서로 다른 일을 하고 있음이 드러나고, 어떤 행동 벤치마크도 그 둘을 갈라낼 수 없었을 것이다.

인스트럭션 튜닝에서의 하락이 가장 불편한 함의를 가진 발견이다. 충실도는 규모와 함께 오르고 인스트럭션 튜닝과 함께 떨어진다 — 즉 실제로 배포되는 모델에서 떨어진다는 뜻이다. 베이스 모델의 스티어링 벡터가 일관된 가치 구조를 따라가는데 그 인스트럭션 튜닝 후손에서는 그렇지 않다면, 연구에서 검증된 대상과 출시되는 대상이 같지 않다. 읽은 자료는 하락 폭을 정량화하지도, 회복 가능한지 검증하지도 않는다.

어제 캡처한 Beneath the Surface of Chains-of-Thought: A Mechanistic Interpretation of Reasoning Operations in LLMs 와 정면으로 맞물려 읽힌다. 그 논문은 추론 연산이 은닉 상태에서 분리 가능함을 발견했다. 둘 다 잔차 스트림이 무엇을 담는가에 관한 기하 논증이고, 그쪽이 절차적 단계를 위치시켰다면 이쪽은 규범적 구조를 위치시킨 뒤 인간 설문 자료로 만들어진 이론과 대조한다. 이 짝은 이 위키의 것이며 — 어느 쪽도 다른 쪽을 인용하지 않는다 — 거기서 나오는 것은 하나의 방법이다: 내부 기하를 모델 바깥의 무언가와 대조해 검증하라.

ρ = 0.51 은 중간 정도의 상관이고 그렇게 읽어야 한다. p 값은 그 구조가 우연이 아니라고 말할 뿐, 복원이 좋다고 말하지 않는다. ρ = 0.51 의 이론 정렬 위상은 분산의 대부분을 설명하지 못한 채 남기며, 정직한 독법은 분포 기반 스티어링이 예측된 구조의 일부를 복원하고 행동 중심 스티어링은 사실상 아무것도 복원하지 못한다는 것이다.

열린 질문

• 어떤 모델, 어떤 규모인가? 이름 없는 "다양한 모델 계열과 규모"로는 규모 추세를 여기서 검증할 수 없다
• 인스트럭션 튜닝 하락 폭은 얼마인가? 배포와 직결된 수치인데 읽은 자료에 공개되지 않았다
• Schwartz 의 이론이 맞는 잣대인가? 설문에서 도출된 인간 가치 구조이며, 모델의 스티어링 공간이 그것을 재현해야 하는지는 이 결과가 기대고 있는 가정이고 읽은 자료는 그것을 옹호하지 않는다
• 행동적 동등성이 분포 밖에서도 유지되는가? 행동 중심 기법이 똑같이 잘 작동한다는 주장은 스티어링 과제 위에서 측정된 것이다. 지름길과 구조는 그 밖에서 갈라질 것으로 기대되며, 그 검증이 자명한 다음 단계다
• 26K 벤치마크의 라이선스 — 코드와 데이터가 저장소에 공개돼 있다고 기술되지만 읽은 자료에 라이선스 이름은 없다

인용

Steering Geometry: Validating Human Value Geometry in LLM Steering Space. arXiv:2609.06289, 2026-09-05. 코드와 데이터는 github.com/DeepRCL/Steering_Geometry. HuggingFace Daily Papers, 2026-09-10, 업보트 27 에서 기록 (source).