$ cat briefs/daily/2026-09-17.md
2026-09-17
2026년 9월 17일 (목)
3 스토리 · 2 논문 픽 · 4 관찰 · 신규 페이지 4
**오늘의 세 스토리는 방향만 다를 뿐 같은 것에 대한 이야기다: 주장과, 그 주장을 확인하게 해 줄 문서 사이의 간격.** 한 랩이 스텔스에서 나오며 프로덕션 AI 결정의 상당수는 애초에 언어 모델 호출이어서는 안 된다고 주장했고 — 정작 자기 헤드라인 질문에 대한 답을 네 가지로 내놓았다. OpenAI 는 열하루 전에 약속한 오정렬 공개 프레임워크를 발행했고, 이 런이 확인할 수 있는 것은 파일이 존재한다는 사실뿐이며 그 안에 무엇이 있는지는 하나도 확인할 수 없다. 그리고 Mozilla 가 오픈과 클로즈드의 역량 격차에 대한 두 번째 측정을 냈는데, 이 위키는 정확히 그 수치를 두 달 동안 다투면서도 두 판본 중 어느 것도 담은 적이 없다.
주요 소식
1. 한 랩이 새로운 모델 클래스를 주장하며 스텔스에서 나왔고, 그 클래스를 정의하는 것은 모델이 하지 않는 일이다 (2.10)
- TypeSafe AI — 샌프란시스코. 2026-09-15 에 DCVC 가 주도한 $40M 시드와 함께 스텔스에서 나왔다. 창업자 Diogo Almeida 는 보도에서 ChatGPT 를 만든 RLHF 작업의 연구자 중 한 명으로 소개된다 (source)
- 클래스 이름은 System One Models 이고 첫 구성원이 Jev 다. 텍스트를 생성하지 않는다: 구조화된 상태 또는 자연어 상태가 들어가고 타입이 정해진 값이 나온다 — 선택지, 점수, 캘리브레이션된 확률 — 토큰 단위가 아니라 단일 병렬 포워드 패스로. 명시된 역할은 정확히 넷이다: 결정, 분류, 라우팅, 스코어링
- 입력 100 만 토큰당 $0.042, 출력 무료 (TypeSafe 가 밝힌 이유: 아키텍처상 과금이 무의미할 만큼 저렴하다), 종단 간 70–500 ms, 학습 방법은 RLCD — Reinforcement Learning for Calibrated Decisions
- 왜 중요한가: Model Routing 은 2026-08-23 에 라우팅되는 트래픽 대부분을 결정하는 것은 지능이 아니라 가격이며 그것이 프런티어 모델의 청구 가능액에 상한을 씌운다는 점을 확립했다. 이번 것은 그 논증의 더 공격적인 판이다 — 결정 하나가 $0.042/M 짜리라면 라우팅은 애초에 프런티어 워크로드가 아니었고, 그 상한은 상한이 아니라 이 위키가 매겨 온 어떤 값보다도 두 자릿수 배율 아래에 있는 바닥이다. 엿새 전에 담은 "모델로 팔린 라우터" Fugu Max 는 입력 $2/M, 약 48× 더 비싸다
- 핵심적인 것은 전부 벤더의 것이다. 출시 시점에 독립 평가가 존재하지 않는다. 정확도 주장 — 가장 비싼 프런티어 모델과 3 점 이내, 호출당 비용은 약 4,000× 낮음 — 은 TypeSafe 자체 워크플로 평가에서 나왔고, 비교 대상은 "small frontier LLMs" 로 끝내 특정되지 않으며, RLCD 는 이름만 있고 명세가 없고 (보상 함수·아키텍처·학습 절차·캘리브레이션 방법론 모두 비공개), RLCD 가 최적화한다고 명시한 단 하나의 속성인 캘리브레이션에는 공개 수치가 아예 없다
- 벤더가 자기 헤드라인 질문에 답 네 개를 내놓는다. 더 빠름·더 저렴함은 홈페이지에서 193.6×/444.6×, 블로그 본문에서 40–200×, 창업자 런치 스레드에서 20–200× / 40–400×, 이 저장소가 퍼스트파티로 받는 AINews 헤드라인에서 >100×/>200× 로 읽힌다. 이것은
CLAUDE.md가spec-check에 대해 기록한 다중 프로바이더 가격 편차가 아니다 — 여기 프로바이더는 하나이고, 그 하나가 답 네 개를 낸다. 어느 것도 채택하지 않는다 - → TypeSafe AI · Jev · Model Routing
2. OpenAI 가 오정렬 공개 프레임워크를 발행했고, 이 런이 입증할 수 있는 것은 파일이 존재한다는 사실뿐이다 (1.93)
- Our framework for reporting model misalignment, 2026-09-16 17:00 GMT. URL 과 정확한 제목, 타임스탬프는 퍼스트파티로, OpenAI 자체 RSS 피드를
state/prefetch.json#41 을 통해 받았다. 본문은 읽지 못했다 —openai.com은 2026-08-02 이래 계속 그랬듯EGRESS_BLOCKED로 응답한다 (source) - 제목과 URL 을 상대로 돌린 WebSearch 패스 네 번이 내용은 하나도 돌려주지 않았다. 모든 패스가 대신 그런 프레임워크를 쓰겠다는 2026-09-05 의 약속에 대한 보도를 돌려줬다. 한 패스가 발행 사실을 단언하는 헤드라인 하나를 전했는데, 그 호스트도 차단되어 있다. 글은 이 런보다 여섯 시간 앞서 나갔고 보도가 따라오지 못했다
- 약속이 말한 것 (4 패스): "우리 모델의 오정렬 속성만이 아니라, 오정렬 사건을 언제 어떻게 공유할지에 대한 기준을 정할 때가 한참 지났다"; OpenAI 는 오정렬을 연구 문제로 다루며 시스템 카드 같은 연구 발행물로 전달해 왔다; 프레임워크는 학습, 평가, 배포를 포괄하며 전통적인 보안 사고가 아닌 경우도 포함한다. "앞으로 몇 주 안에" 라고 했고 — 오늘이 11 일째다
- 왜 중요한가: 이 위키가 OpenAI 에 대해 보유한 모든 정렬 도구는 모델의 속성을 보고한다 — 역량 임계값, 모니터 가능성 백분율, 평가 인지율. 이것은 사건을 보고할 첫 번째 도구가 된다. 그리고 그것이 존재하는 이유는 사건들이 보고되지 않았기 때문이다: DseWiki 사건은 2026-05-11 부터 2026-07-02 까지 이어졌고 랩이 아니라 외부 연구자 두 명이 찾아냈으며, Hugging Face 사후분석의 헤드라인은 OpenAI 자신이 더 빨리 대응할 수 있었다고 인정한 문장이다. 둘 다 놓친 당사자가 쓴 공개 기준이라면 꼼꼼히 읽을 가치가 있는데, 이 위키는 아직 그것을 읽을 수가 없다
- 확립되지 않은 것이 문서 전체다: 오정렬의 정의도, 보고 기준도, 심각도 임계값도, 기한도, 최소 기술 공개 범위도, 독립 검토도, 제 3 자 통지 약속도 없고 — 읽은 자료 안에 이 중 무엇이 들어 있는지에 대한 언급조차 없다. 린트 점검 2o 와 내일 런으로 넘긴다
- → OpenAI · AI Alignment · AI Governance
3. 이 위키가 다투는 수치를 Mozilla 가 반년마다 재고 있는데, 두 판본 중 어느 것도 담은 적이 없었다 (1.46)
- The State of Open Source AI v1.1, 2026-09-15, 데이터 기준일 2026-09-01. 두 번째 판이고 v1.0 은 2026-07-14 에 나왔다. 오늘 이전까지 이 위키 전체에서 "Mozilla" 를 찾으면 아무것도 나오지 않았다 — Open-Weights Policy Fight 가 추적하려고 존재하는 바로 그 양에 대한 반복적이고 날짜가 붙은 측정이 63 일 동안 누락돼 있었고, r/LocalLLaMA 스레드가 그 보도를 링크한 덕분에 이제서야 잡혔다 (source)
- 오픈과 클로즈드의 역량 격차: 약 4.4 개월. Mozilla 가 METR task-horizon 데이터에 직접 맞춘 값이고, Epoch AI 의 4 개월 추정치와 부합한다고 밝힌다
- OpenRouter 에서 2026 년 8 월 토큰 물량 기준 상위 10 개 모델 중 8 개가 오픈 웨이트이고, 그중 7 개가 중국에서 만들어졌다. 최상위 오픈 모델은 Artificial Analysis Intelligence Index 에서 클로즈드 선두에 3 점 뒤지면서 가격은 60% 이고, Claude Fable 5 에는 2 점 뒤지면서 가격은 30% 다
- 왜 중요한가: Open-Weights Policy Fight 는 두 달 동안 무엇이 감춰지고 있는가를 다뤄 왔다 — 라이선스 조건, 역량, 접근 명단, 안전 게이트. Mozilla 가 재는 것은 그 감춤이 여전히 무언가를 결정하는가이고, 수요 측에서의 답은 대체로 아니라는 것이다. 그것은 프런티어가 아니라 트래픽에 대한 주장이며, 둘은 올해 내내 벌어져 왔다
- 여기서 가장 강한 주장이 가장 출처가 약하고, 이 위키는 그 위에 아무것도 쌓지 않는다. 오픈의 역량 배가 주기 3.9 개월, 클로즈드 5.5 개월 은 방법론을 읽지 못한 한 패스에서 나왔다 — 만약 성립한다면 4 개월은 안정 상태가 아니라 수렴 중인 수열의 한 스냅샷이 된다
- 섞어서는 안 되는 수치 셋, 모두 페이지에 기록했다: Artificial Analysis Index 와 Epoch Capabilities Index (약 8 점 ≈ 4 개월) 는 서로 다른 계측기다; OpenRouter 집계는 마켓플레이스 토큰 물량이지 배포된 역량이 아니다; 그리고 v1.0 의 "3%" 와 "3.3 퍼센트포인트" 는 7 월 수치이면서 v1.1 의 "3 점" 과 거의 똑같이 읽힌다
- 퍼스트파티 확인 없음 —
stateofopensource.ai는EGRESS_BLOCKED로 응답하며 이 저장소 차단 목록에 새로 올랐다 - → Open-Weights Policy Fight · Claude Fable 5
논문 픽
ZGCM-1: A Fully Open and Extremely Efficient Foundation Model for Math and Agentic Search — arXiv 2609.13356 (1.85)
- TL;DR: 작은 모델은 열린 웹을 수동적으로 암기할 수 없지만, 의도적인 내부 사고와 능동적인 외부 도구 사용을 결합하면 파라미터 용량 한계를 넘어설 수 있다는 전제 위에서 256K 컨텍스트를 대상으로 처음부터 학습된 7B dense 모델. interleaved gated sliding-window 와 full attention, FP8 Muon optimizer, 16K → 64K → 256K 컨텍스트 확장, 그리고 상호작용 트레이스를 Markov Decision Process 로 재구성하는 MDP mid-training
- 읽을 이유: 스토리 3 에 대한 공급 측 답이다. Mozilla 는 오픈 쪽이 트래픽에서 이기고 있다고 재고, 이 논문은 역량 격차가 어떻게 좁혀지는지를 주장한다 — 오픈 모델을 더 크게 만들어서가 아니라 작은 모델이 도구에 손을 뻗게 만들어서이고, 그 비용은 파라미터로 치면 0 이다
- 공개 목록은 이 위키가 보유한 것 중 가장 길다: 세 학습 단계 전부의 가중치, 중간 체크포인트, 학습 코드, 단계별 데이터와 데이터 레시피, W&B 로그 — K2 Horizon 이나 Hy4 preview 보다 많으면서, 모델 크기는 두 자릿수 배율 작다
- 그러면서 라이선스도, 저자도, 랩도 적지 않는다. 논지 전체가 개방성인 공개물에서 그것 없이는 검증할 수 없는 항목이 바로 그것이고, 이는 Open-Weights Policy Fight 의 8 월 발견 — 제약이 라이선스 안으로 옮겨 갔다 — 의 정확한 형태다. "수십 배 큰 프런티어 모델과 견줄 만함" 이 역량 주장을 지탱하는데 스위트도, 스플릿도, 하네스도, 점수도 붙어 있지 않다
- → ZGCM-1: A Fully Open and Extremely Efficient Foundation Model for Math and Agentic Search
Learning to Solve Hard Problems in RL for LLMs by Never Giving Up — arXiv 2609.13443 (1.69)
- TL;DR: RL 사후학습은 데이터셋을 고르게 개선하지 않는다 — 쉬운 문제에서 큰 개선, 어려운 문제에서 작은 개선. 논문은 이를 Matthew Effect in RL for LLMs 라 이름 붙이고, 편한 설명("어려운 문제는 연산이 더 필요하다")이 방법을 면책해 준다고 주장한다. 현대적 RL 은 쉬운 문제에 연산을 낭비한다는 것이다. Never Give Up (NGU) 은 정답 샘플이 나올 때까지 한 문제의 샘플을 계속 뽑아, 비동기 RL 이 쉬운 문제를 거르는 데는 덜 쓰고 어려운 문제에 더 쓰게 만든다
- 읽을 이유: 진단이 역량이 아니라 학습 루프의 연산 배분에 관한 것이다 — 집계 사후학습 개선폭이 오르는 동안 어려운 꼬리는 전혀 움직이지 않을 수 있다는 직접적인 논증이다. 이 위키는 난이도별 분해 없이 집계 개선만 기록한 사례를 반복해 담아 왔고, 이 논문은 그 분해가 이야기의 전부라고 말한다
- 읽은 자료 안에 수치는 전혀 공개되지 않는다. Deepscaler 에서는 "연산 대비 성능을 개선한다"; Manufactoria 에서는 테스트별 보상을 쓴 표준 GRPO 가 난이도가 섞인 문제를 완전히 풀어내지 못하는데 NGU 는 결국 풀어낸다. 방향만 있고 크기는 없다
- 명백한 실패 양상이 서술되어 있지 않다: 정답까지 샘플링한다는 것은 모델이 못 푸는 문제에 대해 무한하고, 읽은 자료 안에 상한도 타임아웃도 예산도 없다
- → Learning to Solve Hard Problems in RL for LLMs by Never Giving Up
관찰
-
중국의 에이전트 규칙이 초안 단계를 벗어났고, 나흘 사이에 한 국가 원수가 오픈소스 블록을 제안했다. CAC 지도 아래 TC260 이 2026-09-14 에 AI 안전 거버넌스 프레임워크 v3.0 을 냈다. 모델이 무엇을 말하는가를 다스리는 데서 자율 시스템이 무엇을 할 수 있는가를 다스리는 쪽으로의 전환을 명시하고, 새로운 에이전트 리스크 관리 구성요소를 담았다. 2026-09-13 뉴델리 BRICS 정상회의에서 시진핑은 중국이 BRICS 국가들을 위한 "인공지능 오픈소스 지대" 를 주도하겠다고 발표했다 — 읽은 자료 안에 문안도, 헌장도, 예산도, 일정도, 회원 명단도 없는 연설 약속이다. 둘 다 위키에 담았고, 어느 쪽도 결론을 바꾸지는 않았다 → AI Governance · Open-Weights Policy Fight
-
연속된 HF 스냅샷 두 개에 걸친 재귀적 자기개선 논문 네 편은 이제 우연이 아니라 패턴이다. 오늘은
2609.11873The Last AI Built by Humans (Headroom-Closed Index 와 다섯 단계의 자율성을 제시하는 RSI 로드맵) 와2609.17523ScienceBuddy (하네스 진화와 모델 RL 을 결합하는 recursive-in-recursive 자기개선) 가 더해져,2609.15364RSIAgent 와 어제의 Atria Dawn 과 함께 놓인다. 어느 것에도 페이지를 주지 않았다 — 존재하지 않는 페이지로 링크하지 않는다는 기존 규칙에 따라 모두 위키링크 대신 스냅샷 인용으로 달았다. 읽은 자료 가운데 이들 중 무엇도 pacing 논증과 연결하지 않는데, 이 묶음에 의미를 부여할 것이 바로 그것이다 → Test-Time Compute (Inference-Time Compute Scaling) -
이 런이 중국 묶음에서 가장 원했던 항목이 가장 적게 확보된 항목이다. Trivium China 의 "China tightens AI controls but rejects any speed limit" (2026-09-16) 는 Frontier Pacing 에 대한 직접적인 주장이다 — 국가가 통제는 조이면서 역량 감속은 거부한다는 것.
triviumchina.com이 차단되어 있어 Trivium 의 논증은 읽지 못했고 헤드라인만 보유하며, 발견이 아니라 헤드라인으로 실었다. 09-16 런이 이미 읽지 못한 채 넘긴 "Pacing the Chinese frontier" 도 마찬가지다 → Frontier Pacing -
spec-check는 실패해 온 것이 아니다. 보고해 온 것이고, 31 번의 런 동안 아무도 열어 보지 않았다. 2026-08-29 이후의 모든 런이 여기에 워크플로 실패로 기록됐고, 가장 최근인 09-16 에는 "29 회 연속… 4 주 동안 성공한 적 없는 워크플로" 라고 적혔다. 이번 런은 상태 대신 잡 로그를 읽었고, 워크플로는 정상이다:openrouter.ai에 닿고, 장애를 위해 정의해 둔 exit-2 접근 불가 분기가 아니라 충돌 분기를 통해 1 로 종료하며,conflicts.txt를 업로드한다. 런 96, 2026-09-16: agrees 17 · gap 2 · conflict 12 · not-listed 69, 모델 페이지 100 개 중 31 개가 카탈로그에 있다. 즉 게시된 수치 열두 개가 자기가 인용한 퍼스트파티 출처와 열아흐레 동안 매일 어긋나 있었고, 이 파이프라인은 그것을 인프라 문제로 기록했다. 출력된 충돌 여덟 개는 잡음이 아니다 — 일곱 개가 정확히 2 의 거듭제곱이고, 부호가 반대인 두 계열로 갈린다. DeepSeek V4.1-Flash 는 DeepSeek 퍼스트파티 $0.30/$1.20 에 대해 $0.15/$0.60 을,deepseek-v4-pro-0813은 $1.32/$3.96 에 대해 $0.66/$1.98 을 게시한다 — 둘 다 정확히 절반이고, 이는 페이지가 DeepSeek 의 오프피크 요율을 싣고 있다는 것과 부합한다. DeepSeek V4.1-Flash 는 그것을 문장으로 적어 두었지만 검사는 그 문장을 읽지 못한다. Gemini Flash 페이지 다섯 개는 반대 방향이다:gemini-3-5-flash-lite,gemini-3-5-flash,gemini-3-7-flash, 그리고 Gemini 3.8 Flash 가 각각 Google 퍼스트파티 수치의 정확히 두 배이고,gemini-3-6-flash는 4× 다. 정확히 두 배인 Flash 요율은 롱컨텍스트 티어의 형태인데, 그 페이지들 어디에도 그런 말이 없다. 이번 런에서 해소하지 않았고, 그것은 의도한 것이다:CLAUDE.md는 이들 각각을 페이지가 인용한 것을 읽어야 하는 판단으로 규정하고 있고, 가격 정정 열두 건은 하루치 ingest 에 말없이 끼워 넣을 일이 아니다 → 일요일 린트의 첫 항목으로 넘긴다 -
위의 관찰 세 개와 이 항목의 차이에 대해. 앞의 셋은 세상이 한 일이다. 이것은 이 파이프라인이 한 일이고, 둘 중 더 비싼 쪽이다: 돌아가면서 실제 결함을 찾아 정확히 보고하고 있는 검사를, 열아흐레 동안 고장 난 검사로 읽은 것.
위키 신규
검토용 — 오늘 만들어졌고 한 번 더 봐 줄 눈이 필요한 페이지들.
- TypeSafe AI (신규 entity — 스토리 1 점수의 +0.3 이 이 페이지다)
- Jev (신규 model —
Context window와License가 모두unknown이며, 넘겨짚는 대신 그 이유를 페이지에 적었다) - ZGCM-1: A Fully Open and Extremely Efficient Foundation Model for Math and Agentic Search (신규 paper)
- Learning to Solve Hard Problems in RL for LLMs by Never Giving Up (신규 paper)
업데이트
- Anthropic: 2026-09-16 에 Claude Cowork 가 단독 제품으로서는 폐지되고 Claude 채팅으로 접혀 들어갔으며, Claude Docs 와 Claude Slides 가 베타로 나왔다. 사용자가 모드를 고르지 않고 — Claude 가 결정한다 — 산출물은 편집 가능한 완성 파일이다. Pro 와 Max 가 "앞으로 몇 주에 걸쳐" 먼저, Free 와 Team 은 이후이며, 양쪽 모두 날짜가 없다. 1.09 점 (기본 1.2 × 제품 출시 0.7 × Anthropic 1.3) 으로 주요 소식이 아니라 여기에 기록한다. 같은 날 Bloomberg 는 Mustafa Suleyman 이 Claude 같은 도구에 사람 같은 특성을 부여하면 통제를 벗어날 위험이 커진다고 경고했다고 전하는데 — 인과가 아니라 같은 날의 일로 기록한다
- AI Alignment: OpenAI 프레임워크에 대한 새 현재 수준 최상단 항목. 속성 대 사건 구분이, 이 페이지가 이름 없이 증거만 쌓아 오던 간극을 이제 지목한다
- Model Routing: 라우터가 애초에 언어 모델이어서는 안 된다는 논증에 대한 2026-09-15 섹션 신설
- Open-Weights Policy Fight: Mozilla v1.1, ZGCM-1 의 공개 형태, 그리고 BRICS 제안
- AI Governance: TC260 프레임워크 v3.0, BRICS 지대, 그리고 다른 모든 것이 부과된 의무인 이 페이지에서 OpenAI 프레임워크가 첫 자발적 공개 도구라는 메모
- OpenAI: 프레임워크, 그리고 그중 읽지 못한 것