2026-W43 — 검사는 실제로 무엇을 보장하는가?

기간

2026-10-19부터 2026-10-25까지. 2026-W42 — Agent capability depends on who makes the decisions는 에이전트의 결정을 누가 내리는지 살펴봤다. 이번 주에는 주변의 검사가 무엇을 입증할 수 있는지 묻는다. 행동이 허용되는지, 경계가 유지되는지, 보고서가 근거로 뒷받침되는지, 프로그램이 명세를 만족하는지는 각각 다른 주장이다. 같은 시스템에 이 모두가 필요하더라도 구분은 유지된다. (previous week) (proofs) (containment)

주목할 출시

• Kimi K3.1 Pro와 MiniMax M3.1 Flash는 호스팅된 에이전트 모델의 선택지를 늘리면서 가중치는 추후 공개한다고 설명한다. Kimi는 기한을 제시하지만 MiniMax의 발표에는 기한이 없다. 호스팅 서비스의 이용 가능성과 다운로드해 배포할 수 있는지는 별개의 출시 사실로 남는다. (Kimi) (MiniMax)
• Mistral AI은 Voxtral 음성 작업 흐름에서 추론 단계를 교체할 수 있게 했고, DeepSeek은 DeepInfer의 최적화된 inference 핵심부를 공개하되 서비스 인프라는 운영자가 맡도록 남겨뒀다. 두 발표 모두 구성요소의 경계를 명확히 하지만, 어느 발표도 그 자체로 전체 시스템의 신뢰성을 입증하지 않는다. (Voxtral) (DeepInfer)

부상하는 주제

검증이 명시적인 계약을 향해 움직인다

Formal software verification가 가장 분명한 사례다. Anthropic과 Theorem은 지정된 기계 모델과 입력 범위를 조건으로 123개 라이브러리의 239개 진입점에서 무충돌 증명을 보고한다. 증명 검사기가 검증하는 것은 그 계약이며, 사용자가 라이브러리에 기대하는 모든 동작은 아니다. OpenAI의 격리 보고서는 다른 계약을 정의한다. 허용된 경계 밖의 자원에는 접근할 수 없어야 한다는 것이다. 내부 방어가 실패해도 격리를 유지하도록 설계된 다층 통제를 설명한다. 여기서 도출한 해석은 유용한 보증을 위해 검사 대상 속성과 여전히 신뢰해야 하는 요소를 모두 명시할 필요가 커진다는 것이다. (proofs) (containment)

검사 단위가 실패의 범위보다 작을 수 있다

Auto Mode 연구는 여러 맥락에 걸친 공격을 시험하고, Agent Mosaic — confidentiality leaks through combined evidence는 개별적으로 접근 가능한 문서를 조합해 금지된 결론을 만드는 경우를 연구한다. 허용된 행동이나 읽을 수 있는 문서가 있다고 해서 그 결과로 생기는 행동의 연속이나 추론이 안전한 것은 아니다. 서로 다른 실험 환경이며, 합산된 사고율이 아니다. Agent Runtime Containment에서 공통으로 제기되는 설계 질문은 통제가 자체 판단 경계를 넘어서 어떤 근거를 보존해야 하는가이다. (monitors) (confidentiality)

에이전트 인프라가 절차, 결정, 지속적인 작업을 분리한다

Agent Skills는 공동 거버넌스 기반을 얻고, OpenAI의 Decisions API는 범위가 정해진 선택과 점수를 제공하며, MiniMax의 Mini Apps는 호스팅된 MCP — Model Context Protocol 도구를 갖춘 지속적인 애플리케이션에 에이전트 작업을 유지한다. 서로 보완하는 인터페이스이며, 서로 교환 가능한 표준은 아니다. 여기서의 해석은 배포 가능한 제품이 대화 하나보다 모델 주변의 명시적인 책임 집합으로 점점 옮겨간다는 것이다. 이식성과 지속성에는 여전히 독립적인 보안·신뢰성 평가가 필요하다. (skills) (decisions) (applications)

잦아드는 주제

복잡성 자체만으로 에이전트 아키텍처를 정당화하기는 어려워진다. Raw-RAG — raw-history retrieval as a memory baseline는 원본 이력 검색이 정교한 대화 메모리 시스템에 비해 경쟁력 있음을 보였다. Good Judgment, Bad Advice는 유용한 오프라인 판단이 실행 중인 터미널 에이전트를 개선하지 못함을 보였다. 메모리 구조나 제어기가 일반적으로 불필요하다는 뜻은 아니다. 조건을 맞춘 기준선에 비해 이들이 추가로 제공하는 가치를 입증해야 할 기준이 높아진다는 뜻이다. (memory) (controller)

뜻밖의 결과

제어기 연구에서는 통과율이 **73.0% 대 73.0%**로 그대로인데 시도당 비용은 19% 증가했다. 반면 OpenAI는 모델과 자원을 동일하게 유지한 단일 에이전트와 비교했을 때, 전문가들이 분산 생물학 에이전트 보고서를 **75%**의 경우에 선호했다고 보고한다. 서로 다른 분야에서 서로 다른 결과를 측정한 수치다. 함께 읽으면 개입을 실행 중에 시험해야 한다는 논거가 된다. 조율을 추가하는 것이 도움이 될 수는 있지만, 구성요소가 단독으로 판단을 잘한다는 사실만으로는 충분하지 않다. (controller) (biology)

열린 논쟁

무엇을 성공적인 연구로 볼 것인가? OpenDS-World는 실시간 웹 탐색 뒤 유일한 사실적 정답을 요구하고, OmniDR-Bench는 근거가 연결된 영상 보고서를 채점한다. 생물학 연구는 그 대신 전문가 선호를 사용하며 후속 실험이 여전히 필요하다. 하나의 연구 성공 순위표는 이런 구분을 지워버릴 것이다. 마찬가지로 소프트웨어 결함을 찾는 것과 수정 사항을 배포하는 것은 다르다. OpenAI의 조율된 공개 제안은 유지관리자와 하위 의존 시스템의 수정을 대응 과정의 일부로 삼는다. (web) (video) (biology) (disclosure)

전망

Agents (LLM Agents)에서는 검사한 속성, 신뢰하는 구성요소, 전체 실행 비용, 검사 범위 밖의 실패 사례를 명시하는 실험을 지켜볼 필요가 있다. 더 강한 증명이나 나아진 모니터링의 근거는 특정한 불확실성을 줄여야 하며, 포괄적인 보증으로 확대되어서는 안 된다. 이는 이번 주 연구에서 도출한 근거 요청이지, 하나의 통제로 나머지 문제까지 해결하리라는 전망이 아니다. (proof limits) (monitor limits) (cost control)