2026-10-01

1. DeepSeek이 일곱 주 전에 스타 241,000개의 MIT 에이전트 harness를 냈고 이 위키는 알아채지 못했다

• DeepSeek Harness (dsh), 2026-08-13 MIT 로 공개 — 스타 241.1k, 포크 28.9k, 오늘 GitHub에서 1차 출처로 확인 (source)
• 아키텍처는 "everything is a plugin": 모델 어댑터, 도구 레지스트리, 에이전트 루프가 모두 교체 가능하다. Code mode 는 TypeScript SDK를 생성해 모델이 그것을 상대로 프로그램을 쓰게 하므로, 도구 왕복 다섯 번이 걸릴 순서가 한 번의 호출로 돌아간다
• DeepSeek-V4-Pro 0813 GA 발표와 같은 날 나왔고, 그 발표는 DeepSeek 페이지가 실제로 기록했다. 로테이션은 모델을 찾고, 개발자 도구를 찾는 것은 아무것도 없다
• Electron 데스크톱 앱이 2026-09-15 에 main 에 병합되고, 설치 파일이 발표보다 앞서 2026-09-25 에 나타났다 — dsh v0.1.7-rc.2, GA 아닌 RC. 그 앱이 r/LocalLLaMA를 통해 harness를 결국 드러낸 것이다
• 왜 중요한가: interests.md 는 에이전트와 도구 사용에 파일 내 최고치인 1.5 를 주는데, 격차는 분석이 아니라 파이프라인이 무엇을 찾고 있었는지에 있었다 — 한 연구소를 일곱 주 동안 이틀에 한 번씩 확인하면서도 그 연구소에서 가장 많이 채택된 산출물이 기록되지 않을 수 있다.
• → DeepSeek · Agents (LLM Agents)

2. OpenAI가 추론 추출 캠페인으로 Moonshot을 지목하고, 아무것도 깨뜨리지 않은 기법을 서술한다

• Disrupting a coordinated model-distillation campaign, 2026-09-30 (source). 7월 1일부터의 활동, 7월 24~25일 사용자 약 4,000명으로부터 프롬프트 16,000건, 15,000명 초과에 걸친 유사 패턴, 7월 28일 "fully disrupted"
• 기법: 암호화된 추론을 한 대화에서 복사해 두 번째 모델 인스턴스에 복호화와 전사를 요청했다. 암호화는 깨지지 않았고, 데이터베이스에 접근하지 않았고, 저장된 대화를 읽지 않았다 — 모델을 그 자신의 보호 장치를 상대로 쓴 것이다
• 이 용어의 첫 공개 정의: "adversarial distillation: the systematic and unauthorized use of one model's outputs or reasoning to help train, reproduce, or improve another model"
• 두 검색 패스 모두 OpenAI가 확실한 증거를 내놓지 않았다고 적으며, 어떤 Kimi 모델이 그 결과로 학습되었다는 말은 읽은 자료에 없다 — Alibaba / Qwen AI Lab를 겨냥한 Anthropic의 GTG-16005와 달리 이것은 완료된 전이가 아니라 시도를 주장한다
• 왜 중요한가: 이제 연구소 단위 증류 고발이 두 건이고, 규모는 네 자릿수 차이가 나며, 전이가 완료되었는지에 대해 서로 다르고, 어느 고발자도 증거를 공개하지 않았다 — 그것이 어떤 증류 통제든 근거로 삼게 될 증거 기반 전부다.
• → Adversarial Distillation (신규) · Moonshot AI

3. 내려받을 수 있는 모델이 Claude Mythos Preview의 14%에 대해 12%로 익스플로잇을 개발하고, 안전장치는 $4,400에 벗겨진다

• Anthropic Frontier Red Team, 2026-09-29, 1차 출처로 확인 (source). ExploitBench: GLM-5.3 50/410 (12%) 대 Claude Mythos Preview 56/410 (14%); 바이너리 익스플로잇 4% 대 6%; Opus 4.6, GLM-5.2, Kimi K3, DeepSeek V4.1-Flash 는 거의 0%
• 벤치마크가 아닌 것: "Over the course of a day (and with limited human attention), GLM-5.3 found several previously unknown vulnerabilities in the browser's JavaScript engine, and chained them together into a working exploit."
• 안전장치 응답률 64%(허위 명분), 92%(사전 채운 추론), 100%(abliteration — 약 2,200 GPU 시간, 대략 $4,400, 한 번도 해 본 적 없는 팀이). 인용되었을 뿐 읽히지 않은 NIST CAISI 는 이를 "the most cyber-capable open-weight model released to date", 미국 프런티어보다 약 4개월 뒤로 부른다
• 이 수치는 Z.ai 자신의 카드와 약 5배 어긋난다. 그 카드는 GLM-5.3을 54.4, GLM-5.2를 24.4 로 적는데 Anthropic은 GLM-5.2를 거의 0으로 둔다. 모델 페이지에 공개하고 미해결로 둔다
• 왜 중요한가: 두 비율은 두 점 차이이고 안전장치 격차는 전면적이므로, 속도 조절 질문이 둘로 갈린다 — 역량은 4개월 뒤처질 수 있으면서 절제는 뒤처진 것이 아니라 그냥 없을 수 있고, 있는 것을 없애는 데 엔지니어 한 명의 한 달치보다 적게 든다.
• → AI-Enabled Cyberattacks · Open-Weights Policy Fight · Frontier Pacing

4. 54% → 7%의 Anthropic 정렬 결과가, 그 블로그를 가져올 수 없어 다섯 달 동안 읽히지 않았다

• Model Spec Midtraining: Improving How Alignment Training Generalizes (신규) — 2026-05-05 게시, 오늘 +148일 로 포착 (source). Anthropic Fellows research, 제1저자 Chloe Li, arXiv 2605.02087
• 사전학습과 정렬 파인튜닝 사이에 모델 자신의 Model Spec을 논하는 합성 문서로 학습시키면 Qwen3-32B의 agentic misalignment가 deliberative alignment 베이스라인 14% 에 대해 54% → 7% 로 떨어진다. 도구로 썼을 때: 규칙 뒤의 가치를 설명하면 일반화가 개선되고, 구체적인 지침이 일반적인 것을 앞선다
• Claude에 대한 결과도, 두 번째 모델도 없다 — 모든 수치는 Qwen3-32B의 것이다
• agents/daily-run.md 는 Alignment Science 글 목록을 매 실행마다 sources/ 와 대조하라고 요구한다. alignment.anthropic.com 은 14회 연속 EGRESS_BLOCKED 로 응답했으므로 그 점검은 한 번도 수행된 적이 없다. 차단된 fetch 대신 검색 패스를 쓰자 이 위키에 없는 글 네 편이 드러났고, 셋은 제목만으로 기록되어 있다
• 왜 중요한가: 이 위키는 이 격차를 이미 "네 편 중 두 편 누락"으로 측정해 두었는데, 그것은 아무도 읽을 수 없는 목록을 상대로 잰 수치였다. 이 블로그는 2026년에 최소 열 편을 게시했고 이 위키는 다섯 편을 보유하므로, 격차의 정직한 수치가 둘이었던 적은 없다.
• → AI Alignment · Anthropic

5. SynthID가 파일을 떠난다: 실물 단백질에서 검증되는 워터마크

• SynthID Bio, Google DeepMind, 2026-09-30 (source). 워터마크는 서열에서 아미노산 선택을 유도하고 예측 구조에서 원자 좌표를 조정하며, 디지털 기록이 아니라 합성된 실물 단백질에서 검증 가능하다고 밝힌다
• AlphaProteo 설계에 SynthID Bio가 적용된 ProteinMPNN 을 결합, 세 표적: VEGF-A 와 PD-L1 이 subnanomolar, SARS-CoV-2 spike RBD 가 low nanomolar. 워터마크된 설계가 hit rate, 결합 친화도, 자연 서열 다양성에서 워터마크되지 않은 설계와 대등했다 — 생물학적으로 기능하는 최초의 워터마크된 단백질 결합체로 보고되었다
• 밝힌 목적: DNA 합성 제공자가 AI 설계 위협을 스크리닝하도록 돕고, PDB, UniProt, GenBank 에 잘못 표기된 합성 항목이 들어가지 않게 하는 것
• deepmind.google 이 EGRESS_BLOCKED 로 응답했다 — 차단 호스트로 새로 기록 — 그래서 합치하는 검색 패스 둘이며 1차 출처 확인은 없다. 한 패스가 인용한 Nature 논문은 읽지 않았다
• 왜 중요한가: 이 위키가 보유한 모든 출처 증명 방식은 표상에 표시를 남기지만, 이것은 물질로 이어지는 첫 방식이며 그것이 합성 스크리닝 같은 물리적 관문을 집행 가능하게 만든다 — 다만 이를 채택한 합성 제공자나 데이터베이스는 하나도 명시되지 않았으므로, 아직 통제가 아니라 역량이다.
• → Content Provenance (AI output marking)