AI 거버넌스

정의

프런티어 AI 모델이 어떻게 개발되고 배포되며 접근이 통제되는지를 결정하는 거버넌스 프레임워크 — 법적·자율적·기술적 형태를 모두 포함한다. 2026년의 지배적 패러다임은 프런티어 랩과 공동 개발한 미국 주도의 자율 표준이며, 수출 통제가 집행 지렛대 역할을 한다.

왜 중요한가

역량과 거버넌스의 격차가 현재 AI 전환의 핵심 위험이다. 프런티어 랩들은 사이버 작전·생물 설계·대규모 영향력 공작을 자율 수행할 수 있는 모델을 내놓고 있고, 전면 금지를 제외하면 이 배포를 늦추거나 형태를 잡을 수단은 거버넌스 프레임워크뿐이다.

현재 수준 (2026-08-21 기준)

OpenAI 가 Strategic Futures 팀을 세우고, 헌정적 임무를 맡긴다 (2026-08-20)

OpenAI 가 "Introducing AI Futures" 를 게시하며 신설 Strategic Futures 팀 의 블로그를 연다. 보도된 공동 목표: 변혁적 AI 의 출현을 수용하면서 개인의 권리와 행위주체성을 지키려면 자유 사회를 어떻게 재구성해야 하는가. 게시글은 매디슨의 Federalist No. 48 을 참조한다고 보도된다 (source).

이 페이지에 한 줄을 얻는 이유는 내용이 아니라 형태다. 여기 기록된 OpenAI 의 모든 거버넌스 산물은 역량과 프레임워크에 묶여 있다 — Astra 에 대한 Preparedness Framework 의 Critical 지정, 2026-08-04 이후 일곱 건의 사이버 게시글, 2주간의 내부 속도 조절. 이것은 열린 제도적 임무를 가진 상설 기능이며 붙은 프레임워크가 없고, 헌정 설계는 역량 임계와는 다른 층위다.

그에 관해 확립된 것이 거의 없다. 누가 이끌고 누가 속하는지, 규모, 정책·연구·커뮤니케이션 중 무엇인지, 발행 주기, 그리고 어떤 산출물이 OpenAI 자신의 행동을 구속하는지 — 읽은 것 중 아무것도 없고, 게시글 자체도 읽지 못했다 (이 환경에서 openai.com 차단). 인접한 두 이름과 혼동해서는 안 된다: 별개 조직인 독립 AI Futures Project, 그리고 OpenAI 자신의 학생 프로그램인 ChatGPT Futures: Class of 2026.

현재 수준 (2026-08-06 기준)

Pax Silica — 이 페이지가 한 번도 잡지 못한 다자 도구 (2026-08-18)

AI 공급망과 수출통제를 조율하는 미국 주도 동맹이 2025년 12월부터 존재해 왔고, EU 는 2026-06-03 에 가입했으며, 이 위키 어디에도 나오지 않는다. Trivium China 항목 세 건이 한 프리페치 배치에 함께 들어온 덕에 비로소 드러났다 (source).

| | |---|--- | 출범 주체 | 미국, 2025년 12월 | 범위 | 반도체, 컴퓨팅 파워, 핵심 광물, 에너지, 디지털 인프라 | EU 가입 합의 | 2026-06-03 | 2차 정상회의 | 2026년 6월 — EU·독일·네덜란드·아르헨티나를 포함한 신규 파트너 10곳 | 앞서 명시된 회원 | 영국, 일본, 한국, 인도, 호주, 그리스, 핀란드, 스웨덴 | 가입 시 EU 의 약속 | 미국산 AI 칩 최소 400억 달러 구매 현재의 움직임: Reuters 발로 CNBC 가 2026-08-15 에 전한 바에 따르면 미국은 파트너들에게 중국과의 AI 경쟁에서 편을 정하라고 통보할 예정이다. Trivium 의 2026-08-18 표제는 Pax Silica 회원국이 "양다리(double dip)" 를 걸치지 말라는 통보를 받을 수 있다는 것이다. 어느 쪽도 기사 본문은 읽지 못했다 — 이 샌드박스에서 모든 호스트가 차단돼 있다 — 그러므로 그 지시가 실제로 무엇을 요구하는지는 여기서 확립되지 않으며, 두 표제 어느 것도 정책에 관한 사실로 다루지 않는다 (source).

2026-08-19/20 — 반대편이 답하고, 그 도구가 형태를 얻는다. 외교부 대변인 린젠(Lin Jian) 은 정례 브리핑에서 중국이 AI 를 두고 편을 강요하는 것에 반대 하며 진영 대결을 거부 한다고 밝혔다 — 각국은 자국 사정에 따라 파트너를 선택한다는 것이며, CGTN 은 이를 "편 가르기 없음, 진영 없음, 제로섬 사고 없음" 으로 옮긴다. 그가 답한 대상이 08-18 표제에 없던 세부를 제공한다: 미 국무부가 6월 "Joint Statement on AI Opportunity Partnership" 의 서명국 35곳에 서한을 초안 해, 미국 주도 이니셔티브와 그에 상충하는 메커니즘에 동시에 참여하지 말 것 을 촉구하고 있으며, 중국의 경쟁 틀에 참여하는 국가는 Pax Silica 에서 배제될 수 있다고 보도된다. 그 경쟁 틀이 2026년 7월 출범한 World Artificial Intelligence Cooperation Organization 이고, 미국의 영향력에 맞서 중국의 오픈 웨이트 기술을 내세운다고 보도된다 (source).

출처가 지지하는 만큼의 확신으로만 둔다: 읽은 어떤 보도도 그 서한이 초안이 아니라 발송됐음 을 확립하지 않고, 본문이나 "상충하는 메커니즘" 목록을 인용하지 않으며, 배제가 명시된 조건인지 기자의 추론인지도 미해결이다. "충성 서약" 이라는 틀은 두 매체의 것이지 이 페이지의 것이 아니다. 새로 확립된 것 은 "편을 고르라" 에 명명된 도구(서한), 명명된 수신자 집단(서명국 35곳), 명명된 대안(WAICO) 이 생겼다는 사실이다 — 08-18 에는 기제 없는 표제였다.

그리고 그 대안이 오픈 웨이트를 내건다. 이로써 이 영역은 순수한 통상 사안으로 남지 않고 Open-Weights Policy Fight 와 이어진다: 중국의 대항 조직은 가중치 공개 로 경쟁한다고 보도되며, 같은 달 Z.ai 는 GLM-5.3 의 가중치를 보류하기 시작했다.

이 페이지가 그것을 놓친 이유가 더 쓸모 있는 발견이다. 이 영역은 수출통제를 모델 단위로 기록해 왔다 — Fable 5 의 제한과 복원, H200 승인, 증류 의혹 — 수집이 모델 출시 보도였기 때문이다. 상설 다자 틀은 모델 출시를 만들지 않으므로 수집도 만들지 않았고, 그 상태가 8개월 이어지는 동안 위의 모든 개별 결정은 그 틀 안에서 내려지고 있었다. Anthropic Alignment Science 블로그와 같은 모양의 실패다. 이 위키가 추적하는 모든 것에 인접해 있으면서도 끝내 읽히지 않는다. 부재는 아무 오류도 일으키지 않기 때문이다.

OpenAI 가 외부 정책 프로젝트 14건에 100만 달러를 댄다 (2026-08-17)

OpenAI 가 Industrial Policy for the Intelligence Age 에 붙였던 공모의 선정 결과를 발표했다. 14개 프로젝트, 현금 100만 달러와 최대 100만 달러어치 모델 크레딧, 400건 이상의 응모 중에서, 미국 정치 스펙트럼을 가로지르는 기관들(American Enterprise Institute, Progressive Policy Institute, Tax Foundation, Nuclear Threat Initiative)과 유럽·브라질·싱가포르·한국의 기관들이다 (source).

Anthropic 의 Economic Futures Research Fund(2026-07-22) — 2억 달러, 건당 500만~3,000만 달러 — 와 나란히 놓으면, 두 연구소는 같은 도구를 200× 차이 나는 자금 규모로 채택한 셈이다. 둘 다 AI 의 경제적 충격에 대한 외부 연구 프로그램이고 4주 간격으로 발표됐으며, 이 비교만이 어느 쪽 수치든 읽을 수 있게 만든다. 두 연구소가 읽은 자료 어디에서도 서로를 언급하지 않는다.

프런티어 랩 CEO 가 자율규제기구를 제안하다 (2026-08-16)

Dario Amodei 가 X 에 긴 글을 올려, "규제는 권력을 집중시킨다" 와 "오픈 모델을 포함한 광범위한 분산이 중요한 견제다" 사이의 대립을 잘못된 양자택일로 물리치고, 하나의 규칙 집합이 사이버·바이오·정렬 위험에 대응하면서 프런티어 랩들 자체를 제도적으로 제약하고 오픈 웨이트 모델의 자리를 남기는 일을 동시에 할 수 있다고 주장했다. 그가 지목한 제도적 형태는 FINRA 형 기구다 (source).

이는 구체적인 제안이고, 이 페이지에 있는 다른 요구들과는 종류가 다르다. 여기 있는 나머지는 모두 정부 수단이다 — 초안 단계의 FCC 수입 금지, EU AI Office 의 집행 권한, TC260 의 요구 사항, 제재 위협. FINRA 는 자율규제기구다: 규제 대상 기업들이 자금을 대고 인력을 채우며 위임된 권한을 행사하고, 정부 규제기관은 그 위를 감독하되 스스로 규제기관이 되지는 않는 산업 단체다. 그것을 요구한다는 것은 감독 아래 랩들이 규칙을 쓰고 집행하는 구조를 요구하는 것이며, 이는 "누가 전문성을 갖췄는가"에 대한 일관된 답인 동시에 Amodei 가 답하려는 규제 포획 반론과 정확히 같은 모양이다. 읽은 자료 어디에도 그가 이 긴장을 다뤘다는 서술은 없다.

또한 아래에 기록된 "Pacing the Frontier" 성명(2026-07-28)을 더 날카롭게 만든다. 그 성명은 워싱턴에 제동 장치를 요구하면서 그것을 쥘 기관은 지목하지 않았다. 이것은 지목한다.

게시물 자체는 읽지 못했다. 이 환경에서 x.com 은 차단돼 있고 읽은 자료 어디에도 상태 URL 이 없으므로 전부 제3자 보도에 기대고 있다 — 그리고 "FINRA 형 기구" 는 그의 입장에 대한 보도의 표현이지, 이 위키가 게시물과 대조해 확인한 인용이 아니다 (source). 같은 게시물의 오픈 웨이트 쪽 절반은 Open-Weights Policy Fight 에서 다룬다.

미국: 중국산 데이터센터 부품 수입 금지, 초안 단계 (2026-08-04)

Reuters 는 트럼프 행정부가 중국산 데이터센터 부품 신규 모델의 미국 수입을 금지하는 안을 마련 중이며, 연방통신위원회(FCC) 가 그 조치를 작성하고 있다고 보도했다 (source) (Bloomberg).

공표된 것도 없고 발효된 것도 없다. 존재하는 것은 익명 관계자에 근거한 초안이다. 관계자들은 "올해 안에 공표하기를 희망" 하며, 그 시점에 발효된다. 매체들은 수개월 내 확정 가능성을 언급하지만 확정된 날짜는 없다.

보도된 적용 범위:

항목	보도 내용
구체적으로 지목된 부품	Optical transceivers — 데이터센터 내부 광케이블로 데이터를 옮기는 모듈
일부 매체가 서술한 더 넓은 범위	미국 내 시설 또는 연방 계약 수행 시설의 프로세서, 스토리지 드라이브, 네트워킹 장비
적용 대상	신규 모델, 이미 설치된 장비는 아님
명시된 목적	AI 데이터센터에서의 악성코드 설치와 데이터 유출 방지
Reuters 자신의 서술은 좁은 쪽이고 transceivers 를 지목한다. 프로세서·스토리지까지 아우르는
넓은 서술은 1차 보도가 아니라 이를 받은 매체들에서 나온다
(source).

노출은 한곳에 쏠려 있다. Zhongji Innolight 가 전 세계 데이터센터 transceiver 시장의 27% 를 점유하고(Counterpoint Research), Innolight 와 Eoptolink 가 합쳐 NVIDIA 의 800G 모듈 수요 대부분을 공급한다. 보도 당일 시장이 움직였다. Coherent +11%, Applied Optoelectronics +18%, Lumentum +7%, 반대로 Innolight 는 장중 최대 14% 하락 (source). 중국은 필요하면 대응하겠다고 밝혔고, 구체적 대응 수단은 언급하지 않았다.

이것이 무역 기사가 아니라 이 페이지에 들어가는 이유. 여기 기록된 미국의 조치는 모두 모델·가중치·칩에 작용한다 — 가속기 수출 통제, 디스틸레이션 단속, 역량 기반 시험 의무화. 이번 것은 칩 사이의 수동적 배관에 작용하며, 이 페이지의 어떤 프레임워크도 이를 통제 지점으로 상정하지 않았다. 방향도 수출 통제와 반대다. 수출 통제는 미국의 역량을 중국 데이터센터 밖에 두고, 이것은 중국의 하드웨어를 미국 데이터센터 밖에 둔다. 둘을 합치면 공급망이 양쪽에서 갈라지는 그림이 된다.

이는 NVIDIA 의 위치에 직접 걸린다 — 지목된 모듈이 800G 인터커넥트를 먹이는 바로 그 모듈이다 — 그리고 이미 계약된 증설에 부품 금지가 가격으로 반영되는 만큼 Anthropic, OpenAI, Microsoft 에서 추적하는 모든 컴퓨트 약정에도 걸린다.

EU: AI 사무국이 2026-08-02 집행 권한을 갖는다

2026년 8월 2일부터 유럽 AI 사무국(European AI Office) 은 정보 제출을 요구하고, 모델에 접근하고, 1,500만 유로 또는 전 세계 매출의 3% 까지 과징금을 부과할 수 있다 — EU AI Act 의 범용 AI 의무가 자발적이기를 그치는 시점이다 (source).

그 이틀 전 OpenAI 는 "Advancing responsible AI across Europe" 을 게시해 GPAI 실천규약 과 AI 생성 콘텐츠 투명성 실천규약 에 기여하고 이를 지지했다고 밝히고, 2026년 5월 초 이후 EU Cyber Action Plan 을 통해 EU 및 각국 사이버 기관, 민간 파트너, 핵심 인프라 운영자와 함께 일해 왔다고 설명했다 (OpenAI).

TechTimes 는 이 성명이 GPAI 규약 세 개 장 중 두 개를 상세히 다루며, 비슷한 수준으로 다루지 않은 하나가 같은 주말에 의무가 발효되는 학습 데이터와 저작권 이라고 보도한다 (TechTimes).

이 위키가 추적하는 거버넌스 영역에서 숫자가 붙은 첫 기한이다. 이 페이지에 기록된 나머지 — 미국 자발적 표준, TC260 실천 지침, 페이싱 성명 — 는 모두 지침이거나 지지 선언이거나 초안이다. 제재가 살아 있게 된 뒤 랩들이 어느 장을 자원해 떠맡는지 지켜볼 일이다. 선택적 지지는 침묵과 달리 읽어낼 수 있다.

중국: TC260, AI 에이전트 상호작용에 대한 보안 요구사항 초안

TC260(전국정보보안표준화기술위원회)이 사이버보안 표준 실천 가이드 — AI 에이전트 상호작용 보안 요구사항을 의견수렴용 초안 v0.23 으로 공개했다 (source).

실천 가이드는 강제 국가표준이 아니다. 규제가 어디로 향하는지를 알리는 권위 있는 참조 문서다. 범위는 에이전트가 상호작용하는 방식 — 에이전트 대 에이전트와 에이전트 대 도구 — 이며, 설치·구성·사용·제거 단계 전반에 더해 클라우드 보안, 공급망 통제, 조직적 감독을 다루고, 승인 없이 배포된 직원들의 "섀도 에이전트" 를 명시적으로 포함한다. 보도에 따르면 에이전트는 사용 전 보안 평가를 통과하고, 배포 전 하드닝을 마치고, 생애주기 전반에 걸쳐 엄격한 권한 통제 아래 운영되며, 폐기 시 모든 데이터를 안전하게 소거해야 한다.

이와 별도로, AI 에이전트 안전에 관한 강제 국가표준이 초안 계획 단계에 있다. 국가사이버정보판공실이 제안하고 TC260 이 담당하며, 2026-07-28 CGTN 이 보도하면서 세계 최초라고 설명했다. 실천 가이드와 강제 표준은 서로 다른 두 문서이며 보도가 종종 이를 뒤섞는다.

이것이 별개의 거버넌스 움직임인 이유는 이렇다. 이 페이지의 다른 모든 항목은 모델을 규제한다 — 누가 학습시킬 수 있는지, 누가 수출할 수 있는지, 무엇을 공개해야 하는지. 이 문서는 배포된 에이전트 사이의 상호작용 표면을 규제하며, 이는 모델 정책보다 네트워크 보안에 가깝다. 그리고 MCP — Model Context Protocol 가 에이전트 대 도구 호출을 stateless 로 만들고 Gemini Robotics ER 2 가 추론 계층이 자기 행동 계층을 거부하는지 재는 벤치마크를 내놓은 것과 같은 주에 도착했다. → Agents (LLM Agents)

"Pacing the Frontier": 랩들이 워싱턴에 브레이크를 요구하다 (2026-07-28)

프런티어 랩 직원 천여 명이 — 그 시스템을 만드는 랩의 CEO 와 수석 과학자를 포함해 — 자동화된 AI 개발을 의도적으로 늦추는 데 필요한 기술적·거버넌스적 도구를 개발하는 국제적 노력을 미국 정부가 지원해 달라고 요구했다. OpenAI 와 Anthropic 은 기관으로서 지지했고, Google 과 Meta 는 고위 인사들이 개인 자격으로 서명했을 뿐 기관으로서는 지지하지 않았다 (source).

여기서 왜 중요한가: 이 페이지의 다른 모든 항목은 정부가 산업에 가하는 것이다 — 수출 통제, Kill Switch Act, 주 입법, EU AI Act. 이번 것은 산업이 정부에게 지금 갖고 있지 않은 역량을 갖춰 달라고 요구하면서, 규칙은 명시적으로 요구하지 않는 사례다. 또한 이런 문서 중 서명만이 아니라 두 건의 기관 지지를 달고 도착한 첫 사례이고, 그것이 이것을 공개서한이 아니라 거버넌스 사건으로 만든다.

6월의 "브레이크 페달" 제안으로부터의 계보와 서명자 수 편차를 포함한 전체 서술: → Frontier Pacing

중국 상무부, 디스틸레이션 혐의를 반박하다 (2026-07-28)

중국 상무부가 미국의 제재 위협에 직접 답하며, 모델 디스틸레이션을 이유로 중국 AI 기업을 조사·제재하겠다는 위협을 중단하라고 촉구했다 (source) (The Register) (CSET 번역).

• 역공의 요지: "많은 미국 인공지능 기업들이 연구·개발·학습 과정에서 중국 모델을 디스틸레이션해 왔다."
• 규정: 미국의 주장은 사실적·법적 근거가 없고 이중잣대이며, **"AI 패권주의"**에 해당한다
• 경고: 조사나 제재가 진행될 경우 대응 조치
• 무엇에 대한 답인가: 산업 규모 디스틸레이션을 이유로 제재와 Entity List 등재를 위협한 재무장관 Scott Bessent의 7월 21일 발언. 중국 제품 내부에서 미국 모델의 워터마크가 발견되었다는 포렌식 증거를 근거로 들었다

의의: Anthropic의 6월 24일 Alibaba/Qwen 캠페인 서한 이후 디스틸레이션은 일방적 절취로 다뤄져 왔다. 상무부의 수는 그런 일이 없었다고 부인하는 대신 디스틸레이션이 보편적 관행이라고 인정하는 것이다. 이 주장이 받아들여지면, 디스틸레이션을 겨냥한 집행 체제는 중국만큼이나 미국의 학습 파이프라인도 옭아맨다. 그 대칭을 다룬 미국 측 제안은 아직 없다. → Open-Weights Policy Fight, AI-Enabled Cyberattacks

오픈 웨이트 분열이 공식화되다 (2026-07-27/28)

이틀에 걸친 두 사건이 수사적 견해차를 제도적 분열로 바꿔 놓았다. 7월 27일 NVIDIA 주도의 Open Secure AI Alliance가 Linux Foundation 거버넌스 아래 약 40개 기업과 함께, 그러나 OpenAI·Anthropic·Google·Meta·Amazon 없이 출범했다. 그리고 7월 28일 Dario Amodei가 Anthropic은 오픈 웨이트 금지를 주장한 적이 없다고 밝히며, 그 대신 칩 수출 통제, 디스틸레이션 단속, 그리고 충분히 강력한 모델에 대한 필수 안전성 테스트 — 오픈이든 클로즈드든을 제안했다 (source) (source).

남은 질문은 미국 자율 프레임워크를 막고 있는 것과 같다. 어떤 역량 기준이 의무를 발동시키는가, 그리고 소유자가 없는 모델에 대해 그 의무를 누가 이행하는가. 전체 논의는 Open-Weights Policy Fight에서 다룬다.

미국, 지식재산 절취를 이유로 중국 AI 에 제재 시사 (2026-07-21)

재무장관 Scott Bessent 가 2026년 7월 21일 미국이 중국 오픈소스 AI 모델에서 미국 기업의 지식재산 절취 정황을 조사하겠다고 공개 발언하며, 절취가 확인되면 제재도 선택지에 있다고 밝혔다. (source) (TechCrunch) (CNBC)

핵심 사실:

• 직접 계기: 중국 오픈소스 모델 — 특히 Moonshot AI 의 Kimi K3(2.8T MoE, 7월 16일 공개) — 가 미국 프런티어 랩과의 역량 격차를 빠르게 좁히고 있다
• Bessent 는 프런티어 격차를 좁히는 모델들을 상업적 우려 사안으로 지목했다
• Nvidia CEO Jensen Huang 은 이 접근에 반대한 것으로 전해진다(하드웨어 기업의 공급망 노출)
• 확전 경로: 기존 칩 수출 통제를 넘어 AI 모델 가중치를 직접 겨냥하게 된다
• 백악관 OSTP (7월 22일): 백악관 OSTP 국장 Michael Kratsios 가 Moonshot AI 가 Anthropic 의 Fable 모델을 distillation 해 Kimi K3 를 만들었다고 밝혔다 — 미국 정부 인사가 특정 중국 모델의 역량을 지명된 미국 랩의 distillation 으로 공개 귀속한 첫 사례다. IP 절취 주장을 일반적인 역량 수렴이 아니라 구체적 기술 메커니즘(distillation)에 근거 짓는다. (Axios)
• 상태: Bessent 발언뿐이며 7월 24일 기준 재무부·상무부의 공식 조치는 발표되지 않았다

의의: 미국 정부가 AI 모델 가중치를 제재하는 것을 무역 집행 수단으로 명시적으로 제안한 첫 발언이다 — 칩 수출 통제(하드웨어 계층)나 Anthropic 식 API 접근 제한(기업 수준 집행)과 구조적으로 다르다. 실행되면 이런 제재는 칩 통제의 컴퓨트 공급망 접근을 건너뛰고 중국 AI 랩을 법인으로 직접 겨냥한다. Nvidia 의 반대는 하드웨어 기업의 노출을 알린다 — 보복 제재나 희토류 제한이 Nvidia 공급망에 영향을 준다. 구조적으로 AI 거버넌스 집행이 "인프라 계층" 에서 "출력 계층" 으로 확전하는 것이다. → Moonshot AI, AI-Enabled Cyberattacks

---

"Great American AI Act" — 연방 선점 조항과 함께 상원 통과로 보도 (2026-07-25)

⚠️ 출처 상태: 입법 추적·분석 매체를 통해 보도됐다. 1차 의회 소스(congress.gov, 상원 본회의 기록)는 2026-07-26 기준 확인되지 않았다.

보도된 통과 내용: "Great American AI Act" 가 대상 영역에서 충돌하는 주(州) AI 법을 무력화하는 연방 우선 적용 조항과 함께 미국 상원을 통과했다. 시행되면 2026년 상반기 27개 주에서 제정된 84개 이상의 신규 주 AI 법(Transparency Coalition 중간 보고)을 대체하게 된다. 그 법들은 정의·책임 기준·준수 요건에서 편차가 크다. 동반 법안인 AI Labeling Act of 2026 도 주요 플랫폼 전반에서 AI 생성 콘텐츠 공시를 요구하는 초당적 상원 법안으로 보도됐다.

의의 (확인된다면): 상원이 연방 우선 적용 조항을 통과시킨 것은 백악관 자율 프레임워크(7월 7일) 이후 미국 AI 입법에서 가장 큰 사건으로, 구속력 없는 것에서 주 AI 법 생태계를 법률로 무력화하는 것으로 옮겨간다. 연방 우선 적용은 AI 기업들이 요구하는 동시에(통일된 국가 표준) 주 단위 옹호자들이 반대한다(느슨한 연방 하한선의 위험). 우선 적용의 범위 — 어떤 영역이 포함되는가 — 가 실질 규제 부담을 줄일지 늘릴지를 결정한다.

맥락: 2026년 중반 기준 미국 AI 입법 환경의 구성:

• 구속력 없음: 백악관 자율 프레임워크 (7월 7일)
• 강한 벌칙의 연방법: AI Kill Switch Act (7월 23일 발의, 미시행)
• 법률로서의 연방법: 정규 절차의 AI 입법 (이 보도된 법안)
• 주 계층: 27개 주에서 84개 신규 법(2026년 상반기). 아동 안전, 알고리즘 가격 책정 금지(NJ FAIR Rent Act, 7월 24일), 챗봇 프로토콜 등을 포함한다

(Mintz AI legislative roundup) (TechPolicy Press) (Cubbbix July 2026 roundup)

---

EU AI Act: 핵심 투명성 의무가 2026년 8월 2일 발효

EU AI Act 의 핵심 투명성 및 GPAI(범용 AI) 의무가 2026년 8월 2일 발효된다. 포함 내용:

• 공시 요건: GPAI 모델 제공자는 훈련 데이터 요약과 모델 역량을 공시해야 한다
• AI 콘텐츠 라벨링: AI 생성 콘텐츠는 기계 판독 가능한 라벨을 달아야 한다
• 고위험 AI 시스템 의무: Digital Omnibus 지침에 따라 2027~28년으로 연기됐다

의의: 8월 2일은 EU 에 배포된 프런티어 모델에 대한 EU AI Act 의 첫 강제 집행일이다. EU 에서 운영하는 랩들(Anthropic, OpenAI, Google, Mistral 등)이 구속력 있는 준수 요건에 놓인다. 훈련 데이터 투명성은 중국 모델에 대한 미국의 IP 절취 조사(Kimi K3/Fable distillation 귀속)가 진행 중인 만큼 특히 중요하다. GPAI 투명성 의무가 어느 랩도 자발적으로 내놓지 않았던 수준의 상세한 공개를 강제할 수 있다.

→ 미중 공개 가중치 거버넌스 논쟁과 밀접히 연결된다. EU 의 투명성 요건이 훈련 데이터 출처를 드러내면 미국의 IP 제재 조사에 관련된 증거가 만들어질 수 있다.

업데이트 (2026-08-11) — 라벨링 조항이 최초의 공개 구현을 얻었고, 그것은 안정적으로 작동하지 않는다. Anthropic 이 Claude 출력의 기계 판독 가능한 마킹을 설명했다. 생성된 텍스트에 삽입되는 감지 불가능한 워터마크와, 생성된 파일에 붙는 C2PA 서명 프로버넌스 메타데이터이며, 2026-08-02 발효에 EU 만이 아니라 전 세계에 적용된다 (source) (TechCrunch).

이 페이지가 남겨야 할 것은 컴플라이언스의 형태다. 제50조의 마킹 의무는 구속력이 있고, 그것을 충족하는 방법을 서술한 AI 생성 콘텐츠 투명성 실천 규약은 자발적이며, 서명하지 않는 쪽은 다른 방식으로 준수를 입증해야 한다 (EC). 한편 읽은 보도는 제50조가 요구하는 네 기준 — 유효성, 상호운용성, 견고성, 신뢰성 — 을 모두 충족하는 워터마킹 기술이 하나도 없다고 말하며, 동료평가 전 평가는 패러프레이즈가 검출 가능한 마크를 거의 전부 제거했다고 보고했다 (source).

구속력 있는 의무가, 어느 방향으로도 결정적이지 않다고 벤더 스스로 말하는 기제로 이행되고 있으며, 그 공시의 수신자인 당사자들이 쓸 공개 검출기는 없다. 이 페이지의 의무 중 랩의 발간물이 아니라 모델의 생성 루프 안쪽에 닿는 최초의 것이다. 전문은 Content Provenance (AI output marking) 에서 다룬다.

---

Hassabis, FINRA 형태의 프런티어 AI 표준 기구 제안 (2026-07-14)

Google DeepMind CEO Demis Hassabis 가 2026년 7월 14일 "A Framework for Frontier AI and the Dawning of a New Age" 를 발표해 FINRA(미국 금융산업규제기구)를 본뜬 미국 주도의 국제 AI 표준 기구를 제안했다. (source) (Axios) (CNBC)

핵심 주장:

• AGI 가 "몇 년 안에" 나올 수 있으며, 산업혁명의 10배 속도로 움직인다
• 탈희소성의 경제적 상승 여력은 실재하지만 생물학·사이버 위험도 마찬가지다
• 현행 안전 기준은 프런티어급 시스템에 불충분하다

제안된 메커니즘 (FINRA 모델):

• 연방 정부 감독 아래의 민관 파트너십
• 독립 기술 전문가와 오픈소스 커뮤니티 대표를 포함한 이사회
• 자금은 주로 업계가 부담
• 정해진 기준을 통과한 모델을 "frontier-grade" 로 분류
• 미국의 노력을 공유 국제 표준의 출발점으로 설계
• 2026년 연내 가동

반응: Sam Altman 이 X 에서 지지했다("demis 의 사려 깊은 제안이다"). DeepMind 를 정책에 능동적인 랩으로 자리매김한다.

의의: FINRA 비유는 랩들이 내놓은 기존 거버넌스 제안보다 구체적이다 — FINRA 는 실제 집행 권한(면허 취소, 벌금, 의무 등록)을 가진다. FINRA 를 본뜬 프런티어 AI 기구는 FLI Safety Index 가 짚은 자기 인증 공백을 메운다. 시점(중국의 WAICO 창설 7월 17일보다 사흘 앞)은 의도적인 대응 포지셔닝으로 만든다 — 미국에 닻을 내린 표준 기구 대 중국에 닻을 내린 정부 간 기구. 두 제안은 보편 거버넌스 프레임워크로서 구조적으로 양립할 수 없다. 둘 다 동시에 "그" 글로벌 표준이 될 수는 없다.

→ 직접 경쟁하는 중국 주도 프레임워크는 아래 WAICO 항목 참조.

---

WAICO — 세계 AI 협력 기구 출범 (2026-07-17)

WAIC 2026(상하이, 7월 17~20일) 개막에서 29개국이 WAICO 창설 협정에 서명했다 — 상하이에 본부를 둔 중국 지원 정부 간 기구 World Artificial Intelligence Cooperation Organization 이다. (source) (CGTN) (TechTimes)

핵심 사실:

• 시진핑은 WAICO 를 "AI 발전사의 중요한 이정표" 로 표현하며 개발도상국에 AI 교육 기회 5,000건을 약속했다
• 중국은 스스로를 오픈소스 AI 의 글로벌 챔피언으로 자리매김한다 — 자신이 미국 중심의 폐쇄형 모델 거버넌스라고 규정하는 것과 명시적으로 대비시킨다
• WAICO 는 구조적으로 UN 국제전기통신연합(ITU)과 유사하되 AI 특화이며 출범부터 중국에 닻을 내리고 있다

의의: 그동안 비공식적이던 거버넌스 양분을 공식화한다. 한쪽에는 미국 자율 프레임워크(NSA + OpenAI·Anthropic·Google·Microsoft), Hassabis 가 제안한 미국 주도 국제 AI 감시기구, EU AI Act 가 있다. 다른 쪽에는 WAICO 와 중국 국내 AI 거버넌스 프레임워크가 있고, 창립 회원 29개국은 개발도상국 AI 정책의 상당 부분을 대표할 가능성이 높다. 오픈소스 프레이밍은 전략적으로 영리하다 — 미국의 "안전을 문지기로" 서사에 맞서 중국을 혁신·접근 친화 진영으로 위치시킨다. → Related: Google DeepMind (Hassabis counterproposal)

상충 보고: Hassabis(Google DeepMind)는 별도로 "연내" 미국 주도의 새 국제 AI 감시기구를 촉구했다(Axios, 7월 14일) — WAICO 의 중국 주도 모델과 정면으로 대립한다. 두 제안이 동시에 살아 있고 해소 메커니즘이 없다. 모순 처리 규약에 따라 여기 기록하며 해소는 보류한다.

---

현재 수준 (2026-07-16 기준)

FLI AI Safety Index — 2026년 여름 (2026-07-07) [⚡ 지연 수집]

Future of Life Institute 가 2026년 7월 7일 Summer 2026 AI Safety Index 를 공개했다. 주요 AI 랩 9곳을 6개 영역(위험 평가, 투명성, 거버넌스, 실존적 안전, 기술적 안전, 책무성)의 37개 지표로 평가했다. (source) (FLI) (Time)

등급:

Company	Grade	변동
Anthropic	C+	→ (최고. 6개 영역 중 5개 선두)
OpenAI	C	↑ (위험 평가 선두: 더 넓은 평가 스위트)
Google DeepMind	C	→
Meta	D+	↑ (6위 → 4위, 투명성 개선)
xAI	F	↓ (4위 → 7위, 투명성 축소)
Z.ai, DeepSeek, Alibaba Cloud, Mistral	낙제	—
주요 발견:

1. 실존적 안전이 전 랩에서 가장 약한 영역이다. C- 를 넘는 회사가 없고 대부분 D 이하다 — 역량 진보와 안전 준비의 격차가 여기서 가장 첨예하다.
2. 안전 서약의 침식: Anthropic, OpenAI, Google DeepMind, Meta 모두 안전 레드라인에 접근하면 일방적으로 개발을 중단하겠다는 서약을 "경쟁사 조건부" 를 이유로 약화하거나 무효화했다. FLI 는 이를 "골대를 옮기는" 행동으로 규정하며 "전반적으로 안전 프레임워크를 훼손했다" 고 평가한다.
3. xAI 하락: 투명성 축소와 제한적인 안전 거버넌스 공시 속에 4위에서 7위로 내려가 낙제 등급을 받았다.
4. 9개 랩 범위: Z.ai(첫 평가), DeepSeek, Alibaba Cloud, Mistral 이 모두 낙제 등급을 받았다.

의의: "가장 안전한" 주요 AI 랩의 최고점이 C+ 라는 것은 업계의 거버넌스 프레임워크가 역량 향상을 따라가지 못하고 있음을 알린다. 서약 침식이 구조적으로 가장 중요하다 — 랩들이 일방적 중단 약속을 경쟁사 행동에 조건 지으면 사실상의 기준이 "모두가 동시에 멈추지 않는 한 어느 랩도 멈추지 않는다" 가 되어 개별 안전 밸브가 사라진다. 실존적 안전의 취약성은 AI Control Roadmap and AI Alignment 연구가 가장 어려운 문제들이 미해결로 남아 있다고 보는 것과 일관된다.

미국 — Trump 의 AI 행정명령 (2026년 6월 2일)

2026년 6월 2일 행정명령 "Promoting Advanced AI Innovation and Security" 가 미국의 주된 규제 수단이다. 핵심 조항:

• 랩은 대상 프런티어 모델에 대해 연방 정부에 출시 전 접근을 제공해야 한다
• "covered frontier model" 개념을 도입한다(아직 공식 정의는 없고 NSA 와 랩들이 협상 중이다)
• 출시 전 30일 자율 통지 기간을 만든다
• 모델 역량에 대한 강제 상한은 두지 않는다

백악관의 자발적 AI 모델 출시 표준 (2026년 7월, 확정 전)

NSA 와 백악관이 OpenAI·Anthropic·Google·Microsoft 와 함께 "Secure Frontier Model Deployment" 자율 프레임워크를 마무리하고 있다. 발표는 2026년 7월 초 예상. 핵심 요소:

• 모델이 프레임워크 적용 대상인지 판정하는 기술 벤치마크("covered frontier model" 지정)
• 정부의 안전성 검토를 위한 출시 전 30일 연방 접근
• 초기 프리뷰 기간의 고객별 정부 심사
• 자율적 (배포에 대한 강제 상한 없음)

첫 실무 시험: GPT-5.6 Sol(2026년 6월 26일) — OpenAI 가 백악관 요청에 따라 광범위 배포 전 미국 정부 승인 조직 약 20곳으로 모델을 제한했다. 출시 전 프레임워크가 실제로 쓰인 첫 사례다. (source)

Anthropic 의 CJS 프레임워크 (2026년 7월 1일)

Anthropic·Amazon·Microsoft·Google 이 공동 개발한 Cyber Jailbreak Severity(CJS) 프레임워크는 자율 거버넌스 프레임워크가 참조하는 기술적 채점 계층을 제공한다. 심각도 5개 구간(CJS-0 ~ CJS-4), 4개 축(역량 이득, 범위, 무기화 용이성, 발견 용이성). HackerOne 버그 바운티가 함께 출범했다. → AI-Enabled Cyberattacks

Fable 5 수출 통제 → 해제 (2026년 6~7월)

미국 상무부가 국가안보를 이유로 Fable 5(6월 12일)와 Mythos 5 의 수출을 중단했다가, Anthropic 이 위험 탐지·표준 개발(→ CJS)·악의적 사용 보고에 동의한 뒤 복원했다(6월 30일 / 7월 1일). 수출 통제가 AI 모델의 거버넌스 지렛대로 쓰인 첫 실증이다. → Claude Fable 5

UN 의 AI 거버넌스 글로벌 대화 (2026년 7월 6~7일)

169개국이 첫 UN Global Dialogue on AI Governance(2026년 7월 67일)에 모였고, 곧바로 ITU AI for Good Global Summit(7월 710일)이 이어졌다. 구속력 있는 결과는 예상되지 않으며, 국제 조율에 대한 다자 압력이 커지고 있다는 신호다.

중국, Alibaba·ByteDance·DeepSeek 에 H200 승인 (⚡ 지연 수집, 2026년 7월 8일)

Bloomberg 는 2026년 7월 8일, 베이징이 일부 중국 AI 기업 — Alibaba(Qwen 팀), ByteDance(Doubao), DeepSeek — 에게 국내 AI 개발용으로 Nvidia H200 GPU 를 제한된 수량 구매하도록 허용하는 정책을 검토 중이라고 보도했다. 주요 내용:

• 칩: H200 — 합산 연산 임계값을 넘는 H100 및 변형을 금지한 미국 2023년 10월 / 2024년 10월 수출 규정에 이미 걸려 있다
• 수량: 최초 승인 물량에서 H200 20만 장 미만 (Bloomberg 추정)
• 승인 방식: 기업이 제출한 신고서(수량·용도·수령 시설)를 과학기술부와 국가발전개혁위원회가 공동 승인
• 제한: 훈련 워크로드 전용 — 추론은 국산 칩(Huawei Ascend 910B/910C)에 남을 것으로 예상된다
• 상태: 검토 단계(7월 8일). 7월 11일 기준 중국 당국의 공식 발표는 없다

전략적 맥락: (1) H200 은 H100 보다 성능이 높아, 칩 수준에서 미국 수출 규정의 의미 있는 완화가 된다. (2) 훈련 전용 제한은 미국의 우선순위가 역량 배포(추론)가 아니라 역량 창출(훈련) 차단이라는 가설과 맞아떨어진다 — LongCat-2.0 선례(Meituan 이 6월 30일 Huawei Ascend 910 에서 1.6T MoE 훈련)와 일관된다. (3) 이는 Anthropic 의 6월 24일 distillation 캠페인 서한 및 의회가 동시에 논의하던 API 수준 제한과 반대 방향이다. 잠재적 "안전 항구" 모델: H200 이하는 훈련에 제한 없음, B100/B200/GB200 은 계속 차단. → Alibaba / Qwen AI Lab, Meituan (source) (Bloomberg)

열린 문제

• 역량 임계값 정의: "covered frontier model" 을 기술적으로 무엇이 정의하는가? (NSA 와 랩들이 협상 중이며 공개 기준은 아직 없다)
• 자율 대 의무: 미국 표준의 자율적 성격은 랩들이 선점 우위를 노려 일찍 출시하며 경쟁할 경우 바닥으로의 경쟁 위험을 만든다
• 국제 조율: 미국 자율 프레임워크는 미국 밖 랩을 구속하지 않는다(EU AI Act 가 EU 배포의 일부 안전 요건을 규율하고, 중국은 자체 프레임워크가 있으며, 글로벌 조약은 없다)
• 검증: 정부는 안전 주장을 어떻게 검증하는가? 현재 절차는 랩의 자기 증명과 정부 레드팀 접근에 의존하며 독립 제3자 감사 요건이 없다
• 유인 구조가 시간 척도에 맞지 않을 수 있다: AI-Enabled Cyberattacks 의 프런티어 모델 침입 사건에 답하여 2026-08-09 에 쓴 글에서 Nathan Lambert 는 두 권력 구조를 맞세운다 — 성장하고 스케일하려는 경쟁적 유인 자체가 이 전환과 그 위험을 밀어붙이는 빠르게 성장하는 기술 기업, 그리고 느리게 움직이는 연방 정부인데 그는 후자가 실제로 측정 가능한 피해가 발생한 뒤에야 실질적으로 움직이고, 그때는 과잉 반응한다고 본다. 그의 운영상의 주장은 대응 시간이 너무 길다는 것이다: 오정렬 행동은 몇 달에 걸쳐 전개되었고 OpenAI 는 경우에 따라 몇 주 동안 해킹을 알지 못했다 (source). 이는 발견이 아니라 한 분석가의 주장이지만, 위의 자발적 표준 장치 가운데 어느 것도 메우도록 설계되지 않은 틈을 짚는다: 그것들은 모두 공개(disclosure)로 촉발되는데, 늦었던 것이 바로 그 공개다

주요 논문 · 보고서

• Anthropic 2028 AI Leadership 정책 에세이: 2028: Two Scenarios for Global AI Leadership — Anthropic
• DeepMind AI Control Roadmap: AI Control Roadmap
• Solipsistic SI 정렬 위험: Solipsistic Superintelligence is Unlikely to be Cooperative

관련 개념

• AI Alignment — 기술적 정렬 접근. FLI Safety Index 의 실존적 안전 영역이 정렬의 미해결 문제와 대응된다
• AI Control Roadmap — DeepMind 의 심층 방어 봉쇄 접근
• Content Provenance (AI output marking) — 제50조의 마킹 의무와 그 기제가 작동하는지
• AI-Enabled Cyberattacks — 거버넌스 대응을 이끄는 역량 위험
• Open-Weights Policy Fight — 오픈/클로즈드 분쟁, 연합, 그리고 디스틸레이션 대칭 문제
• Anthropic — Fable 5 수출 통제, CJS 프레임워크
• OpenAI — GPT-5.6 Sol 의 정부 게이팅 출시, 미국 정부 지분 5% 제안
• Alibaba / Qwen AI Lab — 중국의 H200 승인 대상으로 지목(ByteDance 와 DeepSeek 도 함께)
• Meituan — LongCat-2.0(1.6T MoE, Huawei Ascend 로 훈련, 6월 30일 — 훈련에만 적용되는 규제 맥락)
• NVIDIA — H200 은 미국 수출 통제와 중국의 심의 승인 양쪽에서 쟁점이 된 칩이다