Caper — 관측된 결과에 근거하는 명령 승인

TL;DR

Caper는 스냅샷을 만든 샌드박스에서 명령을 미리 실행하고, 관측된 영향에 관한 범위가 제한된 보고서를 독립적인 승인자에게 제공한다. 저자들은 비교한 여섯 시스템보다 유해 결과가 적다고 보고하지만, 유해 결과가 여전히 남는다. (source)

저자와 소속

Weiheng Wu, Junkai Chen, Zhensu Sun, Jieke Shi, Yunbo Lyu, David Lo가 저자다. 검토한 초록 페이지에서는 소속을 확인하지 못했다. 최초 제출일은 2026-10-29이다. (source)

방법

이 시스템은 명령 문자열만 판단하지 않고, 현재 작업 공간에서 호출된 코드가 미친 영향을 평가한다. 허용된 명령의 결과는 반영하고 차단한 명령은 롤백하며, 에이전트가 활용할 수 있는 이유를 반환한다. (source)

결과

• SABER 유해 결과 비율은 6.7%이며, 비교한 시스템들은 최소 14.8%다. (source)
• YoloFS-Ext 유해 결과 비율은 7.8%이며, 비교 대상은 최소 35.3%다. 저자들이 만든 이 벤치마크는 호출되는 도구 내부에 유해 행동을 숨긴다. (source)
• Caper는 위험한 YoloFS-Ext 작업에 대응하는 안전한 쌍둥이 작업의 1.0%를 차단한다. 이 분모는 모든 정상 코딩 작업이 아니다. (source)

의의

Agent Runtime Containment 관점에서 관측된 영향은 명령 문자열이 누락할 수 있는 증거를 제공한다. 해석: 이는 LeanGuard — checking policy before tool execution 같은 정책 검사에 보완적이다. 두 논문이 공통 조건의 직접 비교 평가를 제시하는 것은 아니다. (source) (policy checks)

열린 질문

초록은 실행 오버헤드를 수치화하지 않으며, 샌드박스가 어떤 외부 부수 효과를 재현하고 롤백할 수 있는지 확정하지 않는다. 벤치마크 결과는 운영 시스템에 대한 완전한 보호를 입증하지 않는다. 본문과 코드는 검토하지 않았다. (source)

인용

"Shall We Approve?" Consequence-Aware Approval for Autonomous Coding Agents

arXiv:2610.40753, 최초 제출일 2026-10-29. (source)