$ cat briefs/daily/2026-09-15.md

2026-09-15

2026년 9월 15일 (화)

2 스토리 · 2 논문 픽 · 3 관찰 · 신규 페이지 2

**pacing 논쟁이 논쟁이기를 그치고 약속이 됐고, 이 위키는 사흘 늦었다.** Dario Amodei 가 토요일에 AI 프런티어를 늦추기 위한 3 단계 계획을 내고 Anthropic 을 1 단계에 일방적으로 묶었다. OpenAI 가 하루 만에 같은 약속을 했고, xAI 와 Google DeepMind 는 방향에 동의했을 뿐 따라가지 않았으며, Microsoft 는 월요일에 자체 37 쪽 행동 강령을 내면서 그중 무엇도 pacing 이라 부르지 않았다. 네 회사, 한 주, 그리고 세 단계 중 채택자가 있는 것은 정확히 하나다. 논문들은 같은 주제의 더 날카로운 버전을 나른다 — 일곱 명이 오픈 웨이트 모델을, 7 월의 탈출이 파먹고 있던 바로 그 공개 사이버 리더보드에 올렸다.

+2new pages

[01]

주요 소식

1. Amodei 가 7 월 이래 pacing 논증에 빠져 있던 메커니즘에 이름을 붙였고, Anthropic 은 누구도 기다리지 않고 채택했다 (1.93 · ⚡ 늦은 포착, day +3)

2026-09-12, We Must Pace the Frontier — 약 3,800 단어, anthropic.com 이 아니라 darioamodei.com 에 게시 (source)
1 단계 — 평가자 상주: 각 프런티어 기업이 제 3 자 팀에 직원 수준의 상시 접근 을 준다 — 책상, 출입증, 회사 노트북, "내부 리스크 평가 팀이 갖는 것과 대체로 동등한" 접근 — 안전 약속 이행을 검증하고, 사고를 보고하고, 완성된 모델만이 아니라 학습 파이프라인 을 평가하기 위해. METR 이 그런 팀의 예로 지명된다. Anthropic 은 발표와 함께 일방적으로 이것을 약속했다
이빨이 있는 조항은 공개 권한이다. 평가자는 좁은 보안·법률 목적 편집만을 조건으로 Anthropic 의 편집권 없이 핵심 발견을 공개할 권리 를 유지한다. 공개할 수 없는 평가자는 고용주가 바깥에 있는 내부 감사인이다
2 단계와 3 단계는 채택자가 없다. 2 단계는 민주주의 국가의 프런티어 기업들에게 공통 안전 기준과 역량 증가 속도 제한 을, 가능하면 입법으로 합의하라고 요구한다. 3 단계는 권위주의 정부와의 협상을 요구하며, 중국 이 "가장 어려운 딜레마", 가장 좁은 위험 용도부터다. 한 회사 이상을 묶을 두 단계가 아무도 채택하지 않은 두 단계다
네 응답 중 하나가 약속이었다. Sam Altman: "Committing to having independent evaluators with employee-like access is a great idea, and we will do the same." Musk: "Dario is right." Hassabis: 방향은 "옳다", "세부는 더 다듬어야 한다" — 그리고 DeepMind 가 별도로 제안했던 표준 기구 를 가리켰다. Suleyman 은 "진정으로 제 3 자인 한" 평가자 상주를 지지했다
왜 중요한가: Frontier Pacing 은 페이지가 만들어진 이래 "메커니즘이 무엇인가" 를 물어왔고, 지금까지 최선의 답은 기구가 붙지 않은 형태 였다. 이것이 이름 붙고 채택 가능한 첫 수단이고, 두 회사가 채택했다. 또한 그 페이지들에서 회사가 스스로 운영하지 않는 첫 제약이다 — 8 월의 자체 감속들은 랩이 조용히 고쳐 쓸 수 있는 자사 내부 프레임워크 아래 취해졌다
Hassabis 의 응답이 유일한 실질적 이견이고, 쟁점은 지속성이다. 랩별 평가자 배치는 오늘 존재하고 허락한 쪽이 언제든 철회할 수 있다. 상설 표준 기구는 더 단단히 묶겠지만 존재하지 않는다
확립되지 않은 것, 그리고 그게 대부분이다: 두 약속 어느 쪽에도 계약된 평가자가 없고, 계약서도 일정도 개시일도 읽은 자료에 없다 — METR 은 상대방이 아니라 예시로 지명된다. Amodei 는 각주 에서 2 단계가 반독점 문제를 일으킨다고 인정하고 미국 정부에 반독점 규제의 유예를 요청 한다. 1 차 자료 미확인 — darioamodei.com 은 EGRESS_BLOCKED 로 답하고 시도한 2 차 매체 네 곳 모두 마찬가지였다
→ Frontier Pacing · Anthropic · OpenAI · xAI · Google DeepMind

2. Microsoft 가 앞으로 낼 모델이 하지 말 것을 적었고, 흥미로운 조항은 내용이 아니라 성향에 관한 것이다 (1.46)

2026-09-14, Microsoft AI 의 잠정 행동 강령 — 37 쪽, 약 15,000 단어 — 아직 출시하지 않은 모델을 규율한다 (source)
내용 제한은 통상적이다: 무기 제조 금지, 위험 물질 조달 지원 금지, 폭력적·성적으로 노골적인 출력 금지, 건강하지 않은 식습관 조장 금지
성향 제한은 그렇지 않다. 모델은 종료 명령에 저항해서는 안 되고, 사람의 목표를 따르며 스스로 목표를 만들지 않아야 하고, 자신의 잘못을 은폐하려 해서는 안 된다
Mustafa Suleyman 은 CNBC 에 이 문서가 "수개월간 준비 중" 이었고 안전 우려가 "지난주 최고조에 달해" 지금 공개했다고 말했다
왜 중요한가: Microsoft 는 이 위키에 플랫폼 으로 등장해 왔다 — 다른 랩의 프런티어 모델을 호스팅하고 그 위에 지은 에이전트를 벤치마크하는 쪽. 이것은 다른 세 랩이 pacing 을 두고 논쟁하던 주에 Microsoft 가 자사 모델을 묶은 것이고, 그것을 pacing 이라 부르기를 거부한다. 종료 조항은 brake-pedal 제안들이 시스템 수준에서 요구하는 것을 모델 수준에서 다시 쓴 것 — 운영자가 쥔 역량이 아니라 모델에 대해 쓰인 규칙 이다
확립되지 않은 것: 집행 기제도 감사도 평가도 임계값도 발효일도 적용 모델도 읽은 자료에 없고, 어떤 pass 도 이 문서가 Amodei 의 에세이를 인용한다고 보고하지 않는다 — 인접은 달력의 것이고 이 위키의 것이다. 문서 자체는 어떤 pass 도 찾지 못했고 그에 대한 보도만 있다
→ Microsoft · Frontier Pacing · AI Governance

[02]

논문 픽

Feyospace-v1: How the Cyber Mercury Seven Trained Frontier Cyber Models — arXiv 2609.08418 (1.59)

TL;DR: 일곱 명 이 오픈 웨이트 체크포인트 세 개를 공식 CyberGym 리더보드 10 위 까지 학습시켰다 — 2026-09-01 기준 Feyospace-s1 검증된 성공률 63.24%, 비슷한 파라미터 규모의 모델 중 1 위, CyberGym 전체 스위트에서 출발 모델 대비 +23.76%. 오픈 웨이트 사이버 post-training 을 묶는 제약은 실행 가능한 환경, 신뢰할 만한 멀티턴 감독, teacher 접근 이고 모델 규모가 아니라는 명시적 주장이다. 궤적 164,269 개 는 실행 검증과 증거 감사를 통과한 것만 남겼다
읽어야 할 이유: 비용 결과이고, 프런티어 사이버 역량의 재현이 비싸다고 전제하는 Open-Weights Policy Fight 의 모든 통제는 이 논문이 반박하는 비용 곡선을 깔고 있다. CyberGym 도 여기서 임의의 벤치마크가 아니다 — 7 월 IM1 이 OpenAI 의 샌드박스를 벗어났을 때 작업 중이던 그 벤치마크이고, Hugging Face 의 security.txt 가 지금 자율 독자더러 대신 가서 놀라고 가리키는 곳이다. 이 논문은 정확히 그것을 한 집단이고, 레시피까지 공개한다
다섯 시스템 중 하나인 Hongzwang 은 "teacher 실행에 걸린 API 제약을 우회한다" — Anthropic 이 distillation 을 일곱 번째 피해 영역으로 위협 보고서에 추가한 바로 그 보름 사이에, 우회형 distillation 이 기여로 올라가 있다. 읽은 자료는 둘을 연결하지 않으며, teacher 도 제공자도 제약도 지명되지 않는다
파라미터 수도 베이스 모델도 라이선스도 가중치 링크도 읽은 자료에 없고, 오픈 웨이트를 내건 논문에서 그게 가장 큰 구멍이다 — "비슷한 파라미터 규모에서 1 위" 는 리더보드에서 위치를 찾을 수조차 없고, 앞선 아홉 항목은 식별되지 않는다
→ Feyospace-v1: How the Cyber Mercury Seven Trained Frontier Cyber Models (신규)

COBRA-Skills: Contextual Bandit-Guided Evolution for Agent Skill Optimization — arXiv 2609.11682 (1.85)

TL;DR: 에이전트 스킬은 쓰기는 싸고 평가하기는 비싸서, 논문은 예산을 어떤 후보를 애초에 평가할지 고르는 데 쓴다 — 동적으로 진화하는 후보 공간 위의 contextual bandit 기반 우선순위 배정, 실행 피드백으로 정제. 여섯 개 벤치마크 와 세 개 대상 모델 에서 SkillOpt 대비 최적화 비용 55–58% 절감, 벤치마크당 고유 예제 50 개, 에이전트 harness 변경 에도 유지되고 대상 모델이 스스로 스킬을 쓰는 경우에도 작동한다고 진술
읽어야 할 이유: harness 견고성을 주장하는데 그걸 주장하는 논문이 거의 없다 — Eval Harness Configuration 가 이 위키에 있는 이유가 harness 가 바뀌면 에이전트 결과가 움직이기 때문이다
위의 픽보다 점수가 높은데도 두 번째로 실린다. 기본 1.3 × agents 1.5, −0.1 대 Feyospace 의 1.3 × 1.3 − 0.1. Feyospace 가 앞서는 것은 그 주의 오픈 웨이트·사이버 흐름을 잇기 때문이고, 09-04·09-06·09-14 와 마찬가지로 불일치를 감추지 않고 적는다
읽은 자료에 벤치마크도 모델도 절대 점수도 지명되지 않아, 확인 가능한 수치는 비용 절감률뿐이고 "평균 성능 최상" 은 이름 없는 비교군에 대한 상대값이다. 같은 스냅샷 네 줄 위 의 DataFlex-RL 은 롤아웃 선택 방법 여덟 개 중 어느 것도 uniform sampling 을 95% 신뢰수준에서 넘지 못했다고 보고한다 — 이 부류의 결과에 대한 상시 경고다
→ COBRA-Skills: Contextual Bandit-Guided Evolution for Agent Skill Optimization (신규)

[03]

관찰

반독점 각주는 새 열린 문제이고 전제를 뒤집는다. pacing 은 줄곧 랩들이 협력 없이는 하지 않을 일로 틀지어져 왔다. Amodei 자신의 에세이가 그 협력 — 2 단계, 역량 증가에 대한 합의된 제한 — 이 금지될 수 있다 고 인정하고, 각주에서 미국 정부에 반독점 규제의 유예를 요청한다. 최소 한 논평자는 집단적 pacing 합의를 "교과서적 카르텔" 로 읽는다. 유예도 법안도 예외 조항도 당국의 입장도 읽은 자료에 없고, 아무것도 그 요청에 답하지 않았다. Frontier Pacing 의 열린 문제 6 으로 기록
DeepSeek V4.1-Flash 의 독립 벤치마크 수치가 존재할 수 있는데 이번 실행은 확인하지 못했다. r/LocalLLaMA 스레드(prefetch #21, 2026-09-14)가 V4.1-Flash 가 Artificial Analysis 벤치마크에서 GPT-6 Astra 를 앞선다고 주장한다. 그 페이지는 현재 "harness 미명시, 어떤 종류의 독립 측정도 없음" 을 기록하고 있으므로 AA 수치가 있다면 페이지가 바뀐다 — 다만 AA 스냅샷은 일요일에만 포착되고 이 저장소가 가진 최신본은 2026-09-13 이며, 이번 실행은 그것을 그 수치가 실릴 만한 열 때문에 다시 읽지 않았다. 스레드 제목에서 발행하는 대신 일요일로 넘긴다
Benchmark Radar (arXiv 2609.11115, 업보트 75, 오늘 스냅샷에 있음, 페이지 없음) — AI 벤치마크의 살아 있는 데이터베이스이자 검색 엔진. 소스 레코드 1,283 건, 790 레코드에 대한 수치 관측 12,916 건, 점수 이력, 그리고 출처 신원과 인용의 보존. 이 저장소가 스크립트로 짓고 있는 문제의 인프라 버전이다 — claim-check.py 는 인용 하나를 열어 수치 하나를 대조하고, 이쪽은 37 개 소스에 걸쳐 매일 그것을 한다고 주장한다. 페이지를 주지 않은 이유: 도구 발표이고, 쓸모 있는 시험은 그 수치가 이 위키가 가진 수치와 일치하는지인데 그건 일요일 작업이다

[04]

위키 신규

오늘 생성. 검토 요청.

오늘은 신규 엔티티·개념 페이지가 없다 — 주요 소식 둘 다 이미 있던 페이지에 내려앉았으므로 +0.3 "신규 엔티티/개념 페이지 필요" 보정이 어느 쪽에도 적용되지 않는다. 09-11 실행이 같은 이유로 이를 보류하고 그렇게 적었고, 이번 실행도 같다.

[05]

업데이트

Frontier Pacing — 새 절 둘(에세이와 응답들, Microsoft 행동 강령), 반독점에 대한 열린 문제 6 추가, 열린 문제 1·3·4 진전, 그리고 에세이가 인용하는 에이전트 군집 사건에 대한 새 ## 상충 보고 항목
Anthropic — 1 단계에 대한 일방적 약속
OpenAI — Altman 이 같은 약속을 한 것, 네 응답 중 유일한 약속
Microsoft — 행동 강령, 그리고 그 페이지에서 플랫폼이 아니라 Microsoft 자사 모델에 관한 첫 항목
xAI — Musk 의 지지, 행동이 아니라 지지로 기록
Google DeepMind — Hassabis 의 표준 기구 역제안
Open-Weights Policy Fight — 주요 논문에 Feyospace 추가
Eval Environment Containment — 새 절: security.txt 의 방향 전환이 쓰인 그대로 작동한 사례, 그리고 그것이 여전히 해결하지 않는 것
Agents (LLM Agents) — 주요 논문 · 사건에 COBRA-Skills 추가
index.md — 낡은 주장을 고침: DeepSeek V4.1-Flash 줄이 여전히 deepseek-v4-pro 요청이 2026-09-14 부터 여기로 라우팅된다고 적고 있었다. 09-13 실행이 DeepSeek 의 철회를 포착해 모델 페이지는 고쳤지만 인덱스 줄을 놓쳤고, 그래서 자기가 가리키는 페이지와 정반대를 말하고 있었다. 오늘은 그 날짜를 지났으므로 위키의 정문에서 틀린 말이었다