2026-09-02

EvoUndo: Recoverability-Constrained Self-Evolution for LLM Agent Harnesses — arXiv 2608.28363

• TL;DR: 자신의 프롬프트·도구·하네스를 다시 쓰는 에이전트는 다른 상태에서는 되돌릴 수 없는 변경을 남길 수 있다. 600건의 원샷 자기진화 태스크 중 역량을 개선한 변이 197건이 복구가능성 검증에 실패했고, 통상적 복구 전략은 197건 중 0건을 복구했다. 오라클은 원래 복구 언어에서 48/197, 확장된 계산 체계에서 191/197을 복구하므로, 이 실패들은 시스템이 되돌릴 수 있는 것과 실제로 되돌리는 것 사이의 간극이다.
• 읽을 이유: 안전성 문제이기 이전에 재현성 문제다. 에이전트가 실행 중에 하네스를 수정했다면 "같은 하네스"의 두 실행은 같은 하네스가 아니다.
• → EvoUndo: Recoverability-Constrained Self-Evolution for LLM Agent Harnesses

Does On-Policy Distillation Really Distill? From Noisy Teacher to Self-Improvement — arXiv 2608.31046

• TL;DR: OPD의 교사 지도는 상당히 노이즈가 많고 — 교사가 커질수록 더 그렇다 — 학생은 그 노이즈에 둔감하며, 고정된 단일 음의 어드밴티지가 교사가 제공한 것과 같은 성능을 낸다. 지도 없는 대체 기법 OPSA는 기저 Qwen3-1.7B 대비 AIME24 Avg@32 +35.41, OPD 자체 대비 +16.77을 보고한다.
• 읽을 이유: 이 위키의 on-policy distillation 결과 일곱 건이 교사의 조밀한 신호를 무언가에 쓴다. 그 신호가 교사의 내용을 담고 있는지 직접 검증하고 아니라고 보고한 것은 이것이 처음이다.
• → Does On-Policy Distillation Really Distill? From Noisy Teacher to Self-Improvement

Chain-of-Thought Faithfulness Varies with Where and How Preference Cues Are Delivered — arXiv 2608.29464

• TL;DR: FACE-Eval, 5,100 샘플, 4B에서 1.60T까지 오픈 웨이트 모델 15개. 모든 모델이 단서가 사용자 메시지가 아니라 툴 리턴으로 도착할 때, 그리고 원시 아티팩트에서 추론해야 할 때 자신의 채택을 덜 언어화한다. 언어화되지 않은 채택은 툴 리턴 단서에서 15/15 모델이 더 높다. 32개 셀에 걸쳐 언어화되지 않은 채택이 높을수록 모니터 탐지가 낮아진다 — 시험한 두 모니터에서 r = −0.54와 r = −0.78.
• 읽을 이유: CoT 모니터링은 에이전트가 모든 것에 쓰는 바로 그 채널에서 가장 약하고, 그 오류가 모델의 오류와 상관되므로 완만하게 저하되지 않는다.
• → Chain-of-Thought Faithfulness of Reasoning Models Varies with Where and How Preference Cues Are Delivered

• Moonshot이 미국 클라우드가 Kimi K3로 버는 매출의 30%를 요구한다고 보도됐다 — Microsoft·Amazon·Google과의 초기 단계 협의이며, 성사되면 중국 랩과 미국 하이퍼스케일러 사이의 첫 대형 매출 배분이 된다. 토큰 사용량을 어떻게 감사할지가 미정이고, Scott Bessent 재무장관이 Moonshot의 무역 블랙리스트 추가를 거론한 바 있어 결과는 조건보다 워싱턴에 달릴 수 있다. 발표가 아니라 보도이며, 기반 보도는 2026-08-26자로 여기에는 +7일에 도달했다 (source) → Moonshot AI
• Qwen3.8-Next 아키텍처 보고서가 반박하는 것은 모델이 아니라 습관이다 — n-gram 어휘를 키우면 손실은 단조 감소하는데 다운스트림 정확도는 포화한다는 것을, 그 모델을 만든 랩이 직접 공표했다. Alibaba 밖의 누군가가 이 보고서가 주장하는 3축 평가 프로토콜을 채택하는지 지켜볼 만하다 → On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability
• 싱크를 붙인 슬라이딩 윈도 어텐션이 사후학습된 linear attention을 능가한다는 보고 (arXiv 2608.28444, 14 upvotes, r/MachineLearning 후보로도 표면화) — Needle-in-a-Haystack과 BABILong에서 2배에서 10배 높고 사후학습이 전혀 필요 없다. 페이지 없이 보류: 자금이 충분한 연구 방향에 대한 강한 주장인데 읽은 어떤 자료도 이를 재현하지 않았다 (source)
• 한 발췌는 대규모 프런티어 RL 런이 2026-08-28에 재개됐다고 말하고, 여기 08-31 캡처는 여전히 보류 중이라고 말한다. 읽은 어떤 자료도 둘을 조정하지 않는다. 둘 다 Astra에 기록되어 있고 어느 쪽도 다른 쪽에 병합되지 않았다

오늘은 신규 엔티티·개념·인물 페이지가 없으므로 적절성 검토가 필요한 항목은 없다 — 다섯 개 전부 모델 페이지 하나와 논문 페이지 넷이다.

• Claude Fable 5.1 (신규 — 하나의 기저 모델을 두 겹의 세이프가드로 감싼다는 Claude Fable 5의 선례를 따라 Mythos 5.1을 같은 페이지에서 다룬다)
• EvoUndo: Recoverability-Constrained Self-Evolution for LLM Agent Harnesses (신규)
• Does On-Policy Distillation Really Distill? From Noisy Teacher to Self-Improvement (신규)
• Chain-of-Thought Faithfulness of Reasoning Models Varies with Where and How Preference Cues Are Delivered (신규)
• On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability (신규)

• Astra: Critical 임계 확정, 근거 표, 등급화된 접근, 그리고 자기 출시 발표를 거치고도 Released가 not yet으로 남는다는 기록
• Preparedness Framework: 이 페이지가 08-11에 그었던 High/Critical 구분이 살아남지 못했다 — 무효가 된 서술 세 곳을 그대로 두지 않고 수정했다
• AI-Enabled Cyberattacks: 랩이 자율 익스플로잇에 대한 자체 기준선을 사전에 넘었다고 밝히고 그 모델을 어떻게 팔지 설명한 첫 항목
• Agents (LLM Agents): EvoUndo를 최상단에, 그리고 에이전트형 영상을 텍스트가 아닌 모달리티에서의 맥락 선택 첫 프로덕션 사례로
• AI Alignment: FACE-Eval을 이미 보유한 TASTE 결과와 나란히 읽었다 — 둘은 서로를 인용하지 않고 같은 것을 재지도 않는다
• Agentic Reinforcement Learning: OPD 클러스터의 여덟 번째 결과이자, 교사가 작동 이유가 아니라고 말한 첫 결과
• Eval Harness Configuration: 변경 가능한 대상으로서의 하네스, 그리고 Fable 5.1의 Terminal-Bench-Science 수치를 그것이 담고 있지 않은 것 때문에 기록
• Qwen3.8-Flash-Next, Alibaba / Qwen AI Lab: 아키텍처 보고서와 그 기준선. 로테이션이 아니라 논문 스냅샷을 통해 도달했다
• Claude Fable 5, Anthropic, OpenAI, Google DeepMind, Moonshot AI + index.md