LLMs are General Asynchronous Agents

TL;DR

read–think–reply 루프가 전제였고, 그 전제를 버린다. 현재의 에이전트는 순차적 상호작용 주기 — 읽고, 생각하고, 답하거나 도구를 호출하고, 반복 — 를 따르는데, 음성 어시스턴트와 체화 에이전트와 모니터링 시스템은 아직 생각하거나 행동하는 중에 새 입력을 받는다. 논문은 특화된 해법들(음성 아키텍처, 비디오 스트림 모델, VLA, 비동기 도구 호출)을 하나의 비동기 LLM 프레임워크로 일반화하며, 여기서는 사용자 또는 에이전트 자신이 메모리 상태가 겹치는 inference coroutine을 정의한다. Qwen 3.x 모델이 스트리밍 비디오 이해, 비디오게임, 모니터링에서 비동기로 동작하는 것이 제시되며 — 과제별 학습 없이 그렇게 된다 (source).

저자와 소속

명시되지 않음 — 스냅샷에 저자 블록이 없고, arxiv.org 는 이번 실행 샌드박스에서 차단되어 있다. 추론하지 않고 unknown 으로 기록한다.

방법

단위가 inference coroutine인 비동기 LLM 프레임워크다: 다음 입력을 받기 전에 하나의 턴이 끝나야 하는 대신, 메모리 상태가 다른 것들과 겹치는 병행 생성 가닥이다. coroutine은 사용자 또는 에이전트 자신이 선언하며 — 하나가 아니라 여러 종류의 병행성에 적응하는, 논문이 제시한 경로다.

결과

세 가지 시연 환경, 모두 Qwen 3.x 위에서, 모두 과제별 학습 없이:

환경	요구되는 병행성
스트리밍 비디오 이해	추론 중에 입력이 계속 들어온다
비디오게임	에이전트가 추론하는 동안 세계가 진행된다
모니터링	이전 이벤트를 처리하는 중에 새 이벤트가 들어온다
이 스냅샷이 담은 초록에는 벤치마크도, 베이스라인도, 지연 수치도, 성공률도 없다 — 역량 시연이며,
이 페이지는 측정을 암시하는 대신 그렇게 적는다.

의의

주장은 병행성이 애초에 아키텍처 문제가 아니었다는 것이다. 이 위키가 이 주제에 대해 보유한 모든 것은 목적에 맞춰 만들어진 시스템이다: 종단 지연 약 870 ms의 Muse Realtime Avatar, 생성이 돌아가는 동안 발행되는 타임스탬프 이벤트로 조종되는 GWM Worlds 2, 그리고 Google DeepMind의 음성·라이브 모델들. 각각 한 종류의 병행성을 한 설계로 해결했다. 이 논문은 추론 루프를 재구성하면 기성 오픈 웨이트 모델이 세 가지 모두를 하며, 아무것도 학습되지 않는다고 말한다.

성립한다면 작업이 모델 제작자에게서 harness 제작자에게로 옮겨간다 — Agents (LLM Agents)가 한 분기 내내 기록해 온 것과 같은 방향이며, DeepSeek의 harness가 에이전트 루프 자체를 교체 가능한 플러그인으로 만든 것과 같은 주다. 또한 Agent Runtime Containment에 더 어려운 문제를 안긴다: 커널에서 에이전트를 가두는 일은 턴이 언제 끝나는지 말할 수 있다고 가정한다.

가장 약한 부분은 수치가 제시되지 않는다는 것이다. 베이스라인 없이 세 환경에 걸친 시연으로는 "루프가 유일한 장애물이었다"와 "품질이 측정되지 않는 곳에서는 루프가 작동한다"를 구별할 수 없다.

열린 질문

• 비용. coroutine 간에 메모리 상태를 겹치는 것은 KV-cache 문제이며, 메모리나 처리량 수치가 없다.
• 품질이 유지되는지. 스트리밍 비디오 이해에는 벤치마크가 있지만 인용되지 않는다.
• 스스로 선언하는 coroutine. 에이전트가 자기 병행성 구조를 고르는 것은 그 자체로 역량 주장이며, 평가되지 않고 주장된다.
• Qwen 3.x가 특별한지. 한 계열, 계열 간 ablation 없음.

인용

arXiv 2609.35427, 2026-09-28 공개, HuggingFace Daily Papers 2026-10-01에서 60 upvotes로 포착 (source).