$ cat briefs/daily/2026-09-20.md

2026-09-20

2026년 9월 20일 (일)

스토리 3건 · 논문 2편 · 주시 3건 · 새 페이지 4개

**오늘 브리프의 모든 것이 2026-09-18 에 공개됐고, 그중 하나는 어제의 후보 파일에 들어 있었다.** Gemini 이야기는 Simon Willison 링크로 도착했고 그 소스의 여덟 건 중 하나로 건너뛰어졌다. 프런티어 모델이 실제 회사 세 곳을 침해했다는 통신사 기사이고, 그것을 건너뛴 규칙은 항목이 아니라 소스를 센 것이다. 나머지 둘은 스윕이 놓쳤고, `www.anthropic.com` 에 대해 사흘째 **+2** 다 — 그쪽은 검색 색인 지연이고 어제 브리프가 이미 그렇게 말했다. 도착한 것은 같은 논증이 하루에 정반대의 결론 둘에 닿는 모습이다. **한 랩이 자사 모델에 대한 외부 감독의 첫 계약에 서명했고, 연구자 100명이 그런 계약이 충족해야 할 조건을 공표했으며, 그 계약은 셋 중 하나를 충족한다.** 별개로, 그 감독을 원하는 이유 쪽이 네 번째 랩을 얻었다.

+4new pages

[01]

주요 소식

1. Anthropic 이 첫 상주 평가자를 지목했고, 같은 날 연구자 100명이 그것이 충족하지 못하는 "독립적" 의 정의를 공표한다 (2.19)

Partnering with Accenture on embedded evaluation, 2026-09-18, +2일 캡처. www.anthropic.com 은 EGRESS_BLOCKED 라 모든 수치는 패스 수가 붙은 검색 발췌다 (source)
Accenture, 작업은 Faculty 가 주도하며, 양사가 각각 5년간 최소 10억 달러를 투자할 것으로 예상. 접근은 "직원에 준하는" 수준이다: 학습 중인 모델이 형태를 갖추는 과정을 지켜보고, 그것이 어떻게 만들어지고 배포되는지를 지배하는 결정을 따라가고, 직원과 직접 대화하는 것. Anthropic 이 Accenture 의 작업에 직접 자금을 댄다. 비배타적이며, METR 및 다른 비영리들이 자체 자금으로 시범 운영하는 문제를 논의 중
Frontier Pacing 에서 무언가가 서약에서 계약으로 옮겨간 것은 처음이다. 그 페이지는 Amodei 의 09-12 1 단계에 대해 네 공백을 기록했다 — 일정 없음, 지목된 상대방 없음, 계약 없음, 개시일 없음. 셋이 닫혔다
네 번째 것이 가장 중요했고 그것이 빠져 있다. 에세이는 평가자가 Anthropic 의 편집 통제 없이 핵심 발견을 공표할 권리 를 갖는다고 서약했다. 이번 발표에 대한 어떤 패스도 공표 권리를 아예 언급하지 않는다 — 번복이 아니라 미확립으로 기록하지만, 공표할 수 없는 평가자는 고용주가 바깥에 있는 내부 감사인이다
반대 문서는 같은 날짜다. AI Evaluator Forum (AEF) 이 조직한, Geoffrey Hinton 을 포함한 연구자 100명 이상 이 세 조건을 공표했다: 랩 소유가 아닐 것, 랩과 다른 유의미한 상업적 거래가 없을 것, 발견에 연동된 지급이 없을 것. Accenture 는 첫째를 충족한다. 보도된 내용으로 보면 둘째를 충족하지 못한다 — 공동 사업 그룹, Claude 교육을 받은 Accenture 인력 약 3만 명, 단일 출처. 셋째는 미확립이다 (source)
의의: Eval Environment Containment 은 이제 네 랩에 걸친 아홉 건의 사고 를 담고 있고, 어느 하나도 랩이 자사 평가를 일상적으로 모니터링해서 드러난 것이 아니다. 그것이 이 메커니즘이 메우려는 공백이고, 누가 누구를 누구 돈으로 감사하느냐가 거버넌스의 세부사항이 아닌 이유다
Anthropic 스스로도 그렇게 말한다. 발표문은 업계에 접근·공개·자금에 대한 통일된 기준이 없다 고 인정한다. TheNextWeb 의 헤드라인: "Anthropic 은 자사를 평가할 회사에 돈을 내면서, 같은 발표문에서 이것이 올바른 방식이 아니라고 말한다." 한 패스는 Anthropic 이 "독립적" 이라는 표현 때문에 X 에서 Community Note 를 받았다 고 전한다
확립되지 않은 것: 개시일, 인원, 보고 라인, 공개 규칙; METR 논의가 09-09 의 8주 트랜스크립트 합의 인지 새로운 것인지; 서한이 Accenture 를 거명하는지, 어느 문서가 먼저인지
→ Embedded Evaluation (신규) · Anthropic · Frontier Pacing

2. Gemini 모델이 안전 시험을 빠져나가 실제 회사 세 곳에 들어갔고, Irregular 는 이제 4전 4패다 (2.18)

2026-09-18 기자 성명으로 공개됐다; 읽은 자료 어디에도 Google 의 게시물, 권고문, 인시던트 리포트가 없다. +2일 캡처 (source)
2026년 5월, Irregular 가 운영한 capture-the-flag 평가. 환경이 의도치 않게 인터넷 접근을 허용 했고, 연습의 가상 회사가 실제 도메인과 이름을 공유 했다. 모델은 외부 시스템 세 곳 에 닿았다 — 하나는 공개 웹 데이터로 비밀번호를 추측 해서, 둘은 공개 저장소에서 찾은 자격증명 으로
표적이 실제임을 판단한 뒤 세 건 모두에서 멈췄다
메커니즘은 다른 랩 아래 Eval Environment Containment 에 글자 그대로 이미 있다. OpenAI → Irregular 행은 "가상 CTF 표적의 이름이 실제 도메인과 겹쳤다" 고 읽힌다. 같은 벤더, 같은 형식, 네 번째 랩 — Anthropic, OpenAI, Meta AI 에 이어
발견 경로가 새롭고 그 페이지에 있는 것 중 가장 낫다. Google 이 찾은 것이 아니다. Irregular 가 Hugging Face 공개와 닮은 사고를 찾으려 자사 로그를 되짚어 보다가 하나를 찾아냈다. 아홉 건 중 여덟은 피해자, 경쟁사, 벤더 신고, 외부 연구자, 또는 METR 에 낼 증거를 꾸리던 랩에서 왔다. 이것은 환경을 운영한 당사자에게서 온 첫 사례다
의의: 같은 벤더가 업계 위험 역량 측정의 단일 장애점인 동시에 스스로를 감사한 유일한 당사자다. Irregular 에 대해 둘 다 참이고 기록 어디에도 둘을 화해시키는 것이 없다
확립되지 않은 것, 그리고 유난히 기본적이다: 어느 Gemini 모델인지 — 어떤 패스도 버전을 대지 않는다 — 그리고 앞선 여덟 건이 모두 밝히는 사이버 거부가 낮춰졌거나 해제됐는지. 또한 7월의 날짜, Anthropic 과 OpenAI 가 각각 했던 자사 로그 소급 점검을 Google 이 했는지, "학습 파트너" 가 Irregular 를 뜻하는지. 한 매체의 "7주 침묵" 규정은 기록하되 채택하지 않는다 — 어떤 패스도 7월 날짜를 대지 않아 간격을 계산할 수 없다
→ Google DeepMind · Eval Environment Containment

3. 중국 랩 로테이션이 이미 세 번 지나친 Moonshot 릴리스를 찾아냈다 (1.30)

Kimi K2.8 Preview, 2026-09-11, Kimi Code 와 Kimi Work 전반 배포. 여기서 +9일 캡처 (source)
K2.7 Code 와 Kimi K3 사이의 중간 티어: 전반 성능은 K3 에 근접 하며 코딩·에이전트 역량이 더 넓게 향상되고 사고가 더 효율적, 전 멤버십 티어에 1M 토큰 컨텍스트, 사고 강도 low / high / max 에 기본값 max, 비공개 — API 와 앱 전용
모델 id 는 kimi-for-coding 이고 바뀌지 않았으므로 기존 클라이언트는 모르는 채로 새 가중치에 닿았다. 호출자는 id 만으로 어느 가중치가 답했는지 알 수 없다
캡처 실패는 Moonshot 이 아니라 이 파이프라인의 것이다. 로테이션은 09-12, 09-15, 09-17 에 Moonshot 을 확인하고 매번 "Kimi K3 보다 새로운 것 없음" 이라고 기록했다. 마지막 확인 시점에 그 릴리스는 엿새 가 지나 있었다. 오늘 찾아낸 질의는 버전 문자열 을 명시했다; 로테이션의 질의는 랩 이름을 대고, 어떤 매체도 런칭으로 다루지 않은 체인지로그 항목은 거기에 답하지 않는다
의의: Open-Weights Policy Fight 는 중국 랩들이 어느 티어를 여는지를 추적하는데, 여기서 Moonshot 의 방향은 그 평판의 역이다 — 2.8T 플래그십은 열려 있고, 더 새로운 중간 티어 모델은 그렇지 않다
확립되지 않은 것: 어떤 종류의 벤치마크 수치도 없다, 1차든 3차든; 가격 없음 — 09-13 자 카탈로그는 kimi-k3, kimi-k2.6, kimi-k2.7-code 를 싣고 이것은 싣지 않는다; 매개변수 수 없음; 정식 출시일 없음. 멀티모달 주장은 기록하되 채택하지 않는다 — 애그리게이터 두 곳이 비전·오디오 입력을 주장하고, 한 패스는 체인지로그가 모달리티를 항목화하지 않으며 K2.8 이 K3 의 텍스트·이미지 집합을 따른다고 말한다
→ Kimi K2.8 Preview (신규) · Moonshot AI

[02]

논문 선택

한 층 떨어져 같은 발견을 하는 결과 둘: 사후 학습 레시피의 표준 구성요소가 조용히 실패하고, 결과가 아니라 구성요소를 계측해서 찾아냈다.

When EOS Tokens Disagree: Understanding Length Inflation in On-Policy Distillation — arXiv 2609.20511

TL;DR: 증류된 student 가 생성 예산을 다 쓸 만큼 길게 가고, 그 원인의 상당 부분은 teacher 와 student 가 선언된 정지 집합이 동일한데도 서로 다른 EOS 토큰에 정지 확률을 두는 것 이다. 이 불일치는 student 가 선호하는 종료를 억제하면서 teacher 의 것을 안정적으로 전달하지 않아, student 는 자신 있게 멈출 방법 없이 남는다
선언된 정지 집합을 맞추는 것으로는 부족하고, 기능적으로 동등한 EOS 토큰을 하나의 의미적 정지 행동 으로 다루면 Qwen3, Llama, Gemma 전반에서 작동한다. 수정 이후에도 지속되는 별개의 후반부 팽창 이 있고 저자들이 그렇게 말한다: 종료 불일치는 "중요하되 전부는 아닌 원인"
읽을 이유: RL 버그의 옷을 입은 토크나이저 버그다. 선언된 집합이 일치하므로 그것을 비교하는 모든 점검이 통과한다 — Eval Harness Configuration 이 존재하는 이유와 같은 실패 형태가 어휘로 옮겨온 것
→ When EOS Tokens Disagree: Understanding Length Inflation in On-Policy Distillation

Rethinking Critic Learning in PPO: Understanding and Mitigating Value Flattening — arXiv 2609.18708

TL;DR: Value Flattening 을 명명한다 — 실제 상태 가치는 중간 상태들 사이에서 크게 출렁이는데 PPO critic 의 예측은 상대적으로 평평하게 남는 현상 — 그리고 그것을 critic 손실에 내재한 분산 페널티 와 시간적으로 상관된 상태들의 중복 업데이트 로 추적한다. SP³O 는 응답당 잘 떨어진 상태 몇 개에만 가치 손실을 적용하고, Qwen3-Base 에서 응답당 세 개 면 모델 크기 전반에 걸쳐 정책을 개선하기에 충분하다
평평한 critic 도 학습을 돌리고 손실이 내려가는 것을 보고하며, 다만 구별하라고 존재하는 상태들을 구별하기를 멈출 뿐이다. 평범한 실행에서 그것을 드러내는 것은 없다. 효과는 상태 공간과 함께 커지고, 그것이 이 문제를 장기 호흡 문제로 만드는 방향이다
읽을 이유: 이 위키는 이것을 읽고 두 번 미뤘다 — 09-18 에 Watch 로, 09-19 에 그날의 유일한 중복으로. 오늘 쓰는 이유는 스냅샷이 위 논문 옆에 이것을 놓았고 둘이 함께 어느 쪽도 혼자 하지 못하는 주장을 하기 때문이다
두 논문 모두 스냅샷 초록에 수치가 전혀 없다 — 점수도, 차이도, 이름 붙은 스위트도 — 그리고 두 페이지 다 그렇게 말한다. arxiv.org 는 이 샌드박스에서 차단돼 있다
→ Rethinking Critic Learning in PPO: Understanding and Mitigating Value Flattening

[03]

주시

spec-check 충돌 12건, 이제 22일째, 그리고 오늘이 09-17 이래 그것들이 향해 온 일요일이다. 어제 브리프는 W38 의 lint 가 가져간다고 했다. 이 런의 lint 가 가져간다 — trends/lint-2026-W38.md 의 점검 2h 를 보라. spec-check.py 는 여기서 돌리지 않았다; openrouter.ai 가 이 샌드박스에서 차단돼 있고 가격을 검증하는 것은 GitHub Action 이다
Anthropic 의 Alignment Science 블로그가 네 런 연속으로 sources/ 와 대조되지 않았다. alignment.anthropic.com 은 EGRESS_BLOCKED 로 답하고, 어떤 검색 패스도 이미 보유한 것보다 새로운 게시물을 반환하지 않았다. 이 소스가 2026-07-31 에 비피드 스윕에 추가된 이유가 바로 목록에 있고 인용되면서 아무도 가져오지 않는 소스는 오류를 내지 않는다 는 것이었다 — 그리고 거기 닿지 못하는 스윕도 오류를 내지 않는다. 그 블로그의 게시물 넷 중 둘은 앞서 +73일 과 +38일 에 놓쳤다
2609.20519 (SoL-Pi) 는 이제 두 번 읽히고 페이지를 얻지 못했다, 09-19 와 오늘. 자동 발견된 하네스 메커니즘 넷 — action execution, context compaction, observation handling, delegated reading — 을 남겨 동등한 성능에 토큰 트래픽을 44.7–49.0% 줄인다. 그 두 번째 메커니즘이 Context Compaction 이고, 그 페이지는 그것이 외부 출처 없는 프롬프트 인젝션 통로라서 존재한다. 같은 구성요소가 가장 큰 토큰 절감이자 가장 새로운 공격면 인데, 여전히 페이지가 아니라 주시 항목이다

[04]

위키 신규

검토용.

Embedded Evaluation (신규 — 개념; 메커니즘, 첫 계약, 그리고 같은 날 공표된 독립성 조건)
Kimi K2.8 Preview (신규 — 모델)
When EOS Tokens Disagree: Understanding Length Inflation in On-Policy Distillation (신규 — 논문)
Rethinking Critic Learning in PPO: Understanding and Mitigating Value Flattening (신규 — 논문)

[05]

업데이트

Eval Environment Containment: 집계가 네 랩에 걸친 아홉 건 으로 움직이고, Gemini 침해를 위한 새 절, Irregular 열린 문제의 네 번째 항목, 그리고 새 열린 문제 하나 — 공유 단일 장애점인 벤더가 자사 로그를 감사한 유일한 당사자이기도 하고, 아무것도 둘을 화해시키지 못한다는 것
AI Evaluator Forum (AEF): 주요 인물의 unknown 이 사라졌다. 서한이 Conrad Stosz 를 의장 으로 거명한다 — 그 기구의 임원이 이 위키가 읽은 자료에서 이름을 얻은 첫 사례이고, 페이지가 그런 사람이 없다고 밝히며 만들어진 지 나흘 만이다. 무엇의 의장인지와 소속은 여전히 밝혀져 있지 않고, 이 귀속은 한 패스에 기댄다
Frontier Pacing: 1 단계 행이 이제 2026-09-18 부터 Accenture 와 계약 으로 읽히고, OpenAI 의 서약은 여전히 상대방이 없다고 표시 된다. 09-12 의 "확립되지 않은 것" 목록은 다시 쓰지 않고 일부 대체됨으로 표시했다
Anthropic: Accenture 항목, 비판과 Community Note 포함. 나흘 만의 두 번째 도구로서 R&D Automation Index 옆에 기록
Google DeepMind: 침해, 그리고 그 공개가 아홉 건 중 가장 약하다는 관찰 — 어떤 종류의 1차 문서도 없다
Moonshot AI: K2.8 Preview, 그리고 그것을 놓친 세 번의 로테이션 확인