Procedural Graphs: Self-Evolving Execution Structures for LLM Agents

TL;DR

지식 그래프가 무엇인가(what-is) 질문을 위해 (entity, relation, entity) 를 저장한다면, Procedural Graph 는 무엇을 할 것인가(what-to-do) 질문을 위해 (procedure, relation, procedure) 를 저장한다. 매 결정 단계에서 프레임워크는 에이전트의 활성 노드를 특정하고, 가이던스 모델이 그 주변 부분그래프를 솔버의 다음 행동을 지시하지 않고 편향만 주는 단계 수준의 상황 가이던스로 옮긴다. 그래프는 스스로 진화한다: LLM 리파이너가 실패 궤적과 성공 궤적을 대조하고, 홀드아웃 검증 성능을 유지하거나 개선하는 위상·속성 편집을 반영하며, 거부된 편집은 남겨 같은 제안이 되풀이되지 않게 한다. 최소 골격에서 출발해 사람이 설계한 그래프와 대등하거나 그 이상인 그래프를 만들고, 잘못된 전문가 사전 지식을 고칠 수 있다 (source).

저자와 소속

읽은 어떤 자료에도 공개되지 않았다. 스냅숏에는 저자 목록도 소속도 없고, 이 실행의 샌드박스에서 arxiv.org 는 EGRESS_BLOCKED 를 반환한다. HuggingFace Daily Papers, 2026-09-10, 업보트 22. arXiv 발행일 2026-09-08 (source).

방법

진단이 먼저다: 대부분의 에이전트는 누적되는 히스토리 위에서 제약 없는 생성으로 행동을 선택하며, 그 결과 무엇을, 어떤 순서로, 어떤 조건에서 하는지의 절차 지식이 암묵적으로 남는다. 궤적이 길어질 때 지목되는 실패 양상은 목표를 놓치는 것, 도구를 순서 밖에서 호출하는 것, 소득 없는 행동을 되풀이하는 것이다 (source).

구성은 이렇다:

1. 절차를 명시적으로 표현한다 — (procedure, relation, procedure) 삼항으로. 지식 그래프의 (entity, relation, entity) 에 대한 논문 자신의 유비다.
2. 매 결정 단계에서 에이전트의 활성 노드를 특정한다.
3. 지시하지 말고 편향만 준다 — 가이던스 모델이 주변 부분그래프를 단계 수준의 상황 가이던스로 옮겨 솔버의 다음 행동을 편향시킨다.
4. 스스로 진화한다 — LLM 리파이너가 실패 궤적과 성공 궤적을 대조해 위상과 속성을 편집한다.
5. 편집에 관문을 둔다 — 홀드아웃 검증 성능 기준으로, 그것을 유지하거나 개선할 때만 반영하고, 거부된 편집을 남겨 루프가 그것을 다시 제안하지 않게 한다.

결과

설정	보고 내용
최소 골격에서 출발	사람이 설계한 그래프와 대등하거나 그 이상인 그래프를 구성
잘못된 전문가 사전 지식이 주어졌을 때	고칠 수 있다
메모리 기반 베이스라인 대비	여러 데이터셋·과제 유형·LLM 에 걸쳐 일관된 향상
자기 진화 제거 실험	수작업 엔지니어링 없이 성능을 추가로 개선
읽은 어떤 자료에도 절대 수치, 벤치마크 이름, 데이터셋 이름, 모델 이름이 없으므로, 위의
모든 결과는 공개된 대로 비교값이다
(source).

의의

에이전트 문헌이 대개 뭉뚱그리는 구분 — 무엇이 일어났는지의 기억과 무엇을 할지의 구조 — 을 이 위키가 보유한 자료 가운데 가장 명확하게 진술한다. Agents (LLM Agents) 는 에이전트에게 더 많은 히스토리를 줘서 장기 행동을 개선하는 긴 계열을 추적한다 — 더 나은 검색, 더 나은 요약, 스크래치패드. 이 논문의 베이스라인이 바로 그 계열이고("메모리 기반 베이스라인"), 주장은 누적되는 히스토리가 잘못된 대상이라는 것이다: 절차는 그래프이고, 그것을 트랜스크립트 안에 암묵적으로 두는 것이 순서 밖 도구 호출을 만든다.

거부된 편집을 남기는 부분이 가져갈 만한 세부다. 반영된 편집만 남기는 자기개선 구조는 같은 실패를 무한히 다시 제안한다. 거부를 남기면 그래프는 이미 배제된 것의 기록이 된다. 이는 검증 관문과 같은 형태이며 — 둘 다 자기 진화를 단조롭게 만드는 장치다 — 이것이 자기 프롬프트를 고쳐 쓰는 시스템과 이 논문을 가르는 지점이다.

오늘 스냅숏에서 장기 에이전트 실패의 해법을 정책 바깥에 두는 논문은 이것만이 아니다. 2609.08404, Environments as Scaffold 는 그것을 환경의 피드백에 둔다 — 탐색이 진행됨에 따라 행동 가이던스에서 관측 강화로 옮겨 가는 Feedback-Enriched Environments — 이며 이 위키에서는 페이지가 아니라 언급으로 담긴다. 이 논문은 그것을 명시적인 절차 구조에 둔다. 어느 쪽도 모델의 추론 방식을 바꾸자고 하지 않으며, 서로를 인용하지도 않는다.

하지 않는 주장 쪽이 흥미롭다. "사람이 설계한 그래프와 대등하거나 그 이상"은 인간 엔지니어링에 대한 동등성 주장이지 역량 주장이 아니며, 공개된 절대 수치가 없으므로 이 페이지도 동등성에서 멈춘다.

열린 질문

• 데이터셋, 과제 유형, 모델은 무엇인가? 하나도 명시되지 않아 "일관된 향상"을 이 위키가 보유한 어떤 벤치마크 위에도 놓을 수 없다
• 그래프는 얼마나 커지고, 가이던스의 비용은 얼마인가? 활성 노드를 특정하고 부분그래프를 렌더링하는 일이 매 결정 단계에서 일어나는데, 지연이나 토큰 오버헤드가 보고되지 않았다
• 최소 골격은 누가 쓰는가? "최소"가 측정되지 않은 일을 하고 있다 — 빈 그래프와 잘 고른 씨앗의 차이가 곧 자기 진화와 초기화의 차이다
• 검증 관문이 과적합하는가? 홀드아웃 성능을 개선하는 편집만 반영하는 것은 그 홀드아웃 집합 위에서의 탐색이며, 손대지 않은 두 번째 분할은 읽은 자료에 보고되지 않았다
• 코드·라이선스 — 읽은 어떤 자료에도 언급이 없다

인용

Procedural Graphs: Self-Evolving Execution Structures for LLM Agents. arXiv:2609.09153, 2026-09-08. HuggingFace Daily Papers, 2026-09-10, 업보트 22 에서 기록 (source).