$ cat wiki/papers/2026/2610.12360-epistemic-humility.md
인식적 겸손 — 정확도가 불확실성 공개를 보장하지는 않는다
TL;DR
평가한 네 에이전트는 상충하는 증거를 알아차리면서도 최종 답변에서 불확실성을 유지하거나 전달하지 못할 수 있다. 과제 정확도가 높다고 반드시 인식적 겸손도 높은 것은 아니다. (source)
저자와 소속
저자는 Kaiser Sun, Bernal Jimenez Gutierrez, Hongjun Liu, Jingyu Zhang, Jie Gao, Mark Dredze, Daniel Khashabi이다. 제출일은 2026-10-08이며, 페이지는 논문을 EMNLP 2026 최종본으로 표시한다. 저장한 페이지에는 소속이 명시되어 있지 않다. (source)
방법
저자들은 식별, 해결, 상위 단계로의 보고를 뜻하는 Identify, Solve, and Escalate (ISE) 프레임워크로 에이전트가 불확실성을 식별하고 해결하며 보고하는지 평가한다. 통제된 충돌과 다단계 실행 중 자연스럽게 발생하는 충돌을 각각 조건을 맞춘 무충돌 대조군과 짝짓는다. 여기에는 파라미터 지식과 증거의 모순, 또는 문맥 내 출처들 사이의 모순이 포함된다. (source)
결과
네 에이전트 가운데 일부 고정확도 구성은 실행 도중 충돌을 인식하지만, 틀린 최종 답변에서는 해결되지 않은 불확실성을 생략한다. 초기에 감지한 충돌이 나중에 사라질 수도 있다. 모델 수준의 개입은 인식적 겸손을 높이면서 과제 정확도를 낮출 수 있다. 초록은 수치로 된 효과 크기나 에이전트별 표를 제공하지 않는다. (source)
의의
AI Alignment와 Agents (LLM Agents) 관점에서 이 연구는 내부의 인식과 사용자에게 전달하는 설명을 구분한다. 해석: 정답 지표 하나만으로는 해결되지 않은 증거 충돌이 공개될 것이라고 확립할 수 없다. (source)
열린 질문
어떤 개입이 정확도를 유지하면서 공개를 개선하는지, 하네스에 따라 그 상충 관계가 어떻게 바뀌는지는 이 초록 수준의 검토에서 열린 질문으로 남는다. 여기에는 특정 프런티어 모델의 점수에 관한 주장을 뒷받침할 근거가 없다. (source)