$ cat wiki/concepts/frontier-pacing.md

프런티어 속도 조절 (Frontier Pacing)

concept갱신 2026-08-19생성 2026-07-30

alignment ai-governance rsi coordination safety

정의

자동화된 AI 개발의 프런티어를 의도적으로 늦추는 데 필요한 기술적·거버넌스적 장치를, 필요해지는 순간에 즉석에서 만들어내는 대신 미리 국제 체제가 갖춰 두어야 한다는 주장.

무엇이 아닌지가 이 주장의 특징이다. 중단도, 모라토리엄도, 능력 임계값도 아니다. 요구하는 것은 선택지다. 나중에 멈출 수 있게 해 달라는 것이고, 이 구분이 논지의 전부다 (source).

왜 중요한가

속도를 늦추려는 대상은 재귀적 자기개선 — 자기 자신의 개발을 가속하는 AI — 이고, 지목된 실패 양상은 "역량 발전이 우리가 그 결과 시스템을 이해하거나 통제할 수 있는 능력을 넘어 급격히 가속되는" 것이다(source).

겉보기에 닮은 공개서한 장르와 이 문서를 가르는 것은 세 가지다.

안에서, 실제로 그 일을 하는 사람들이 서명했다. 외부 비판자가 아니라 프런티어 시스템을 만드는 랩의 직원 천여 명이며, CEO 와 수석 과학자가 포함되어 있다.
두 곳은 기관으로서 지지했다. 기관 차원의 지지는 회사가 책임을 물을 수 있는 입장이지만, 직원 서명은 그렇지 않다.
정부에 규칙이 아니라 역량을 요구한다. 요청은 미국 정부가 도구를 개발하는 국제적 노력을 지원해 달라는 것이며, 이는 특정 행위에 대한 규제가 아니라 인프라에 대한 요구다.

현재 수준 (2026-07-30 기준)

Pacing the Frontier — 직원 성명 (2026-07-28)

성명은 한 문장에 걸려 있다 (source):

"We request that the U.S. government support an international effort to develop the technical and governance tools needed to deliberately pace the frontier of automated AI development."

뒷받침하는 근거는 "산업계, 정부, 그리고 사회 전체가 부상하는 위험에 대응하고 보안 조치를 마련하며 감독을 강화할 시간을 벌 선택지를 필요로 할 수 있다"는 것이다.

공개된 명단 기준 서명자의 소속 분포:

Employer	Signatories
Anthropic	533
OpenAI	330
Google	191
Meta	62
이름이 알려진 고위 서명자로는 Dario Amodei (CEO, Anthropic), Jared Kaplan
(공동창업자 겸 최고 과학 책임자, Anthropic), Chris Olah (공동창업자,
Anthropic), Jakub Pachocki (수석 과학자, OpenAI), Mark Chen (Chief Research
Officer, OpenAI), Shane Legg (공동창업자 겸 수석 AGI 과학자,
Google DeepMind), Anca Dragan (AI 안전·정렬 부사장, Google),
Shengjia Zhao (수석 과학자, Meta AI) 가 있다.

기관 차원의 지지: OpenAI 와 Anthropic 둘 다 공개 몇 시간 만에 기관으로서 지지했다. Anthropic 의 글은 이 요구를 자사의 재귀적 자기개선 연구와 연결짓는다. Meta 는 기관으로서 지지하지 않았고, 수석 과학자가 개인 자격으로 서명했다 (source).

계보

이 성명은 석 달에 걸쳐 공개적으로 쌓여 온 제안이 제도적 형태를 갖춘 것이다.

Date	Step
2026-05-07	Jack Clark, Import AI #455 — 2028년 말까지 RSI 가 성립할 확률 60% → AI Alignment
2026-06-05	Favaro 와 Clark, "When AI Builds Itself" — 글로벌 조율 메커니즘, "브레이크 페달", 즉각적 중단은 명시적으로 아님 (source)
2026-07-23	AI Kill Switch Act (Lieu/Moran) — DHS 셧다운 권한을 갖는 일방적·국가적 브레이크, ExploitGym 탈출이 계기 (source) → AI Governance
2026-07-28	Pacing the Frontier — 다자적 버전, 랩들이 스스로 요구
6월의 제안과 7월의 성명은 같은 대상을 거의 같은 표현으로 부른다. 7주 사이에 달라진 것은 거기에
서명과 두 건의 기관 지지가 붙었다는 점이다.

오픈 웨이트 공방과의 관계

frontier pacing 과 Open-Weights Policy Fight 는 같은 주에, 대체로 같은 당사자들 사이에서 서로 반대 방향으로 당기고 있다. pacing 은 속도를 조절할 수 있는 프런티어를 전제한다 — 즉 조율이 가능한, 셀 수 있는 수의 행위자가 쥐고 있는 프런티어다. 널리 배포된 오픈 웨이트는 어떤 pacing 메커니즘이든 구조적으로 부분적인 것으로 만든다. 성명은 이 문제를 다루지 않으며, 두 갈래는 아직 공개적으로 맞붙어 논의된 적이 없다.

2026-08-19 — 지지한 두 랩 모두 3주 안에 스스로 속도를 늦췄고, 어느 쪽도 그렇게 부르지 않았다

아래 열린 문제 4번은 기관 차원의 지지가 무엇인가를 구속하는지 묻고, OpenAI 도 Anthropic 도 지지와 함께 자사 출시 주기에 관한 약속을 내놓지 않았다고 적어 두었다. 3주 뒤 두 곳 모두 정확히 그런 형태의 조치를 취했다. 어느 조치도 성명을 인용하지 않고, 어느 쪽도 출시 주기 약속이 아니다 — 그러나 이 페이지가 어느 방향으로든 갖게 된 첫 증거다.

날짜	랩	조치	밝힌 이유
2026-08-07	OpenAI	Astra 관련 일부 내부 활동을 중단; 중단은 2주 남짓 이어졌고 종료됨	Astra 가 Preparedness Framework 상의 Critical 사이버보안 임계에 해당할 수 있다는 예비 증거 (source)
2026-08-14	Anthropic	다수 내부 과제에서 Mythos 5 보다 유능한 내부 모델 Model 2 를 보류 — "이 모델을 외부에 공개할 계획은 현재 없다"	배포 전 안전성 평가 미완료; 과제 기반 평가가 포화 (source)
이것이 입증하는 것과 입증하지 않는 것.

선택지가 존재하고 실제로 쓰인다는 것은 입증한다. 성명의 논지 전체가 선택지 확보다 — 요구는 나중에 멈출 수 있어야 한다는 것이다. 두 랩 모두 정부의 수단 없이, 자체 증거에 근거해, 일방적으로 무언가를 멈출 수 있음을 보였다.
지지가 그 원인이라는 것은 입증하지 않는다. OpenAI 의 글도 Anthropic 의 보고서도 읽은 자료 어디에서도 성명을 언급하지 않는다. 두 조치 모두 랩이 이미 갖고 있던 장치 — OpenAI 의 Preparedness Framework 와 Anthropic 의 Responsible Scaling Policy — 로 더 잘 설명되며, 이 둘은 성명보다 한참 앞선다.
어느 쪽도 성명이 요구한 대상이 아니다. 요구는 미국이 지원하는, 기술적·거버넌스적 도구를 개발하기 위한 국제적 노력이었다. 두 건의 일방적 기업 결정은 정반대의 배치다 — 미리 만들어 둔 장치로 대체되어야 한다고 성명이 말한 바로 그 즉흥적 대응이다.
중단은 끝났고, 끝났다고 보고되었다. OpenAI 의 것은 재개된 2주짜리 보류이지 정지가 아니다. Anthropic 의 "현재 계획 없음"은 모델 하나에 대한 현재 시제의 진술이다. 이 규모의 속도 조절은 주 단위로 측정된다.

Anthropic 의 공개가 이 페이지에는 더 날카로운 발견을 담고 있다. 등급이 움직인 이유는 측정이 변별력을 잃었기 때문이다 — 평가가 포화되어, 회사 스스로 "이전 리스크 보고서들에서보다 이 평가에 대한 확신이 덜하다"고 말한다. 아래 열린 문제 2번은 "자동화된 AI 개발의 프런티어"가 무엇을 말하는지 묻고, 이런 형태의 제안은 늘 의도가 아니라 정의에서 실패해 왔다고 적는다. 포화된 평가는 그 실패가 아래로부터 도착하는 것이다: 발동시킬 계기가 되어야 할 측정이 더는 움직이지 않는다면 발동 조건은 쓸 수 없다.

열린 문제

메커니즘이 무엇인가? 성명은 도구를 개발해 달라고 요구한다. 이름이 붙은 도구도, 붙은 작업 항목·기구·예산도 없다.
"자동화된 AI 개발의 프런티어"란 무엇을 말하는가? 발동 조건이 정의되어 있지 않고, 이런 형태의 제안은 늘 의도가 아니라 정의에서 실패해 왔다.
누가 구속되는가? 미국이 지원하는 국제적 노력은 그 바깥의 랩에 미칠 힘이 뚜렷하지 않은데, 프런티어에 근접한 오픈 웨이트 공개는 점점 그쪽에서 나오고 있다.
기관 차원의 지지가 무엇인가를 구속하는가? OpenAI 도 Anthropic 도 지지와 함께 자사의 출시 주기에 관한 약속을 내놓지는 않았다. 부분적으로 답이 나옴, 2026-08-19 — 두 곳 모두 3주 안에 스스로 속도를 늦추는 조치를 취했으나(위 절 참조), 각자 이미 갖고 있던 프레임워크 아래에서 였고 어느 쪽도 성명을 인용하지 않는다. 지지 가 구속하는지는 여전히 열려 있고, 이제 기록에 남은 것은 랩 자신의 장치는 구속한다는 사실이다.
오픈 웨이트 대 pacing — 위 참조. 미해결이며 다뤄지지 않았다.

주요 논문

Favaro 와 Clark, Anthropic (2026-06-05): "When AI Builds Itself" — 브레이크 페달 제안 (source)
Anthropic (2026-04-14): Automated Alignment Researcher → Automated Weak-to-Strong Researcher (AAR)
AREX: Towards a Recursively Self-Improving Agent for Deep Research — 재귀적으로 자기를 개선하는 연구 에이전트. 성명이 말하는 그 역량의, 현재 공개된 형태
Skill Self-Play: Pushing the Frontier of LLM Capability with Co-Evolving Skills — self-play 기반으로서 공진화하는 스킬

상충 보고

서명자 수는 24시간 안에 네 가지로 보도되었다 (source):

Figure	Reported by
1,134 (867 named, 267 anonymous)	The Next Web, 공개된 서명자 명단 기준
1,178	KuCoin flash, explainx.ai, helixar.ai — 2026-07-29 오전 기준 수치로 설명됨
1,224	clickpetroleoegas.com.br, 이후 집계
"over 1,100"	TechTimes (2026-07-28), resultsense.com
명단이 열려 있어 계속 서명이 쌓이는 중이었다는 것이 이 편차의 설명이다. 수치들이 서로 모순된다기
보다는 서로 다른 시각에 집계된 것에 가깝다. 어느 것도 여기서 정본으로 취급하지 않는다.