Cloudflare Workflows (Durable Execution Engine) 아키텍처 해부: SQLite Durable Objects 기반 상태 메모이제이션·결정론적 리플레이(Deterministic Replay)·V2 분산 제어 평면(SousChef & Gatekeeper)
Cloudflare Workers 기반의 서버리스 영속 실행 엔진 Cloudflare Workflows의 3대 코어 아키텍처(V8 Isolate 실행 계층, 인스턴스별 SQLite Durable Objects 1:1 결합, 결정론적 리플레이)와 V1 Account DO 병목을 극복한 V2 분산 제어 평면(SousChef & Gatekeeper)의 스케일아웃 메커니즘을 분석하고 로컬 Python 6대 런타임 검증을 살펴본다.
Cloudflare Workflows 서버리스 영속 실행(Durable Execution) 엔진 및 SQLite Durable Objects 기반 상태 머신 아키텍처 개념 추상 아트워크
현대 분산 시스템과 AI 에이전트 아키텍처에서 가장 해결하기 까다로운 과제 중 하나는 '여러 단계에 걸쳐 수 분에서 수 주간 이어지는 장기 실행 프로세스(Long-running workflows)의 신뢰성 보장'이다. 기존 서버리스(FaaS) 환경에서는 함수의 엄격한 실행 시간 제한(CPU Timeout), 일시적인 네트워크 순단 시 전체 프로세스 재실행에 따른 중복 결제·데이터 오염 위험, 그리고 중간 진행 상태를 보존하기 위해 외부 분산 락과 데이터베이스(Redis, DynamoDB, PostgreSQL)를 수동으로 결합해야 하는 막대한 인프라 복잡성이 존재했다. 특히 LLM을 호출하고, 도구 실행 결과를 기다리고, 사람의 승인을 대기하는 AI 에이전트 루프에서 단순히 폴링(Polling)을 위해 CPU를 켜두는 것은 심각한 클라우드 비용 낭비로 이어졌다.
전통적으로는 이러한 영속 실행(Durable Execution)을 위해 Temporal이나 AWS Step Functions 같은 별도의 분산 오케스트레이션 엔진을 도입해 왔다. 그러나 외부 클러스터를 직접 프로비저닝해야 하거나 JSON 기반 DSL(State Machine Definition)로 비즈니스 로직을 기술해야 하는 번거로움, 그리고 글로벌 엣지(Edge) 환경과 중앙 오케스트레이터 간의 네트워크 홉(Latency)은 엣지 네이티브 애플리케이션에 큰 부담이었다. 최신 Cloudflare Workflows는 이러한 문제를 근본적으로 해결하기 위해, 글로벌 330개 이상의 엣지 데이터센터에서 구동되는 Workers V8 Isolate와 강력한 일관성을 보장하는 **SQLite 기반 Durable Objects(DO)**를 단일 런타임 내부에서 유기적으로 결합한 서버리스 영속 실행 엔진을 정식 출시했다 (Cloudflare Workflows Architecture: Scaling to the agentic era).
핵심 판단 기준을 먼저 요약하면, Cloudflare Workflows는 Workers V8 Isolate 환경 위에 각 워크플로우 인스턴스마다 1:1로 SQLite 기반 Durable Object(DO)를 결합하여, 각 step.do() 블록의 성공 반환값을 SQLite에 즉시 직렬화·커밋하는 단계별 메모이제이션(Step-Based Memoization)과 결정론적 리플레이(Deterministic Replay) 메커니즘을 제공한다. 일시적 네트워크 단절이나 컨테이너 재시동이 발생해도 전체 워크플로우를 처음부터 다시 실행하지 않고 완료된 단계를 SQLite 캐시에서 O(1)로 바이패스하며 실패한 단계만 지수 백오프로 재시도한다. 또한 step.sleep()과 step.waitForEvent()는 DO Alarms를 활용해 V8 Isolate 메모리와 CPU를 즉각 언로드함으로써 수 주일의 유휴 대기 기간 동안 $0의 컴퓨팅 비용을 달성한다. 특히 에이전트 시대의 대규모 동시 요청 처리를 위해 기존 V1의 단일 Account DO 병목(초당 100회, 동시 4,500개)을 해체하고, 지능형 부하 라우터 Gatekeeper와 N개 샤드로 수평 분할된 SousChef 분산 제어 평면을 도입하여 초당 300+ 인스턴스 생성, 50,000+ 동시 실행, 200만 대기 큐잉을 지원한다. 이 글은 공식 Cloudflare Workflows Documentation와 Cloudflare 엔지니어링 블로그(Scaling to the agentic era)를 교차 검증해 정리한 분석이며, 공식 런타임 명세와 로컬 Python 6대 시뮬레이션 검증을 기준으로 설명한다.
1. 서버리스 상태 머신의 패러다임 전환: Step-Based Memoization과 결정론적 리플레이
기존의 일반적인 백엔드 코드 작성 방식에서는 프로세스 실행 도중 서버가 재부팅되거나 예외가 발생하면 로컬 메모리의 변수 상태가 증발한다. 따라서 개발자는 데이터베이스 트랜잭션, 멱등키(Idempotency Key), 사가(Saga) 패턴을 직접 구현해 장애 복구를 처리해야 했다. Cloudflare Workflows는 순수 TypeScript 비동기 함수 문법 안에서 이를 플랫폼 레벨로 추상화한다 (Cloudflare Workflows Rules):
WorkflowEntrypoint와 단위 트랜잭션step.do():- 개발자는
cloudflare:workers에서WorkflowEntrypoint를 상속받고run(event, step)진입점 메서드를 구현한다. - 워크플로우 내부의 핵심 비즈니스 로직(예: 외부 결제 API 호출, 사용자 프로비저닝, LLM 추론)은 반드시
step.do(name, callback)블록으로 감싼다. - 각
step.do()가 성공적으로 반환값을 리턴하면, 워크플로우 런타임은 해당 반환값을 JSON으로 직렬화하여 인스턴스 전용 SQLite 데이터베이스의workflow_steps테이블에 영구 커밋한다.
- 결정론적 리플레이 (Deterministic Replay) 메커니즘:
- 워크플로우 도중 네트워크 타임아웃, 예기치 않은 V8 힙 한도 초과, 또는 호스트 머신 장애로 인스턴스가 다운된 경우, Workflows 엔진은 해당 인스턴스를 새 V8 Isolate에서 다시 부팅하고
run()메서드를 처음부터 재실행(Replay)한다. - 이때 이미 SQLite에
COMPLETED상태로 영속화된 스텝을 만나면, 제공된 콜백 함수를 재실행하지 않고 SQLite에 캐싱된 직렬화 결과를 즉시 반환(Cache Hit)하여 O(1) 속도로 건너뛴다. - 오직 미완료되었거나 직전 실행에서 실패했던 스텝만이 실제로 실행된다.
step.sleep()과 DO Alarms를 통한 $0 Idle State:- 마케팅 이메일 발송 3일 대기, 결제 유예 기간 7일 대기 등 긴 대기 시간이 필요할 때
await step.sleep('wait-for-checkin', '3 days')를 호출한다. - 이 순간 런타임은 Durable Object의 Alarm 스케줄러에 3일 후 타임스탬프를 등록하고, 현재 실행 중인 V8 Isolate를 즉시 언로드(Terminate)한다.
- 프로세스가 살아있는 상태로 스레드를 블로킹하는 것이 아니므로, 슬립 대기 시간 동안에는 CPU나 메모리 점유 비용이 정확히 $0원이다.
- 3일 후 DO Alarm이 트리거되면 새 Isolate가 기동되어 직전 단계들을 리플레이로 건너뛰고 정확히 슬립 다음 줄부터 실행을 재개한다.
step.waitForEvent()를 통한 Human-in-the-loop 및 웹훅 수신:- 외부 웹훅 응답이나 관리자의 이메일 승인 링크 클릭을 대기해야 하는 경우
await step.waitForEvent('admin-approval', { timeout: '24 hours' })를 선언한다. - 외부 시스템이 Cloudflare REST API나 Workers 바인딩을 통해
workflow.sendEvent(instanceId, { name: 'admin-approval', payload: ... })를 호출할 때까지 인스턴스는 안전하게 동결(Frozen) 상태를 유지한다.
2. 혼동하기 쉬운 4가지 기술 경계 및 런타임 동작 비교
Cloudflare Workflows를 프로덕션 환경에 설계하고 도입할 때, 기존 FaaS 및 외부 오케스트레이터와의 차이점을 명확히 인지하지 못하면 예기치 않은 런타임 버그를 유발할 수 있다:
step.do()내부 로직은 반드시 멱등적(Idempotent)이어야 한다:step.do()블록 내부에서 외부 API 호출은 성공했으나 반환값을 SQLite에 커밋하기 직전에 네트워크가 끊기면, 해당 스텝은 재시도 정책에 따라 다시 실행될 수 있다. 따라서 결제 요청이나 이메일 발송 등 부수 효과(Side-effect)가 있는 작업에는 반드시 고유 멱등키를 포함해야 한다.
- 비결정론적(Non-deterministic) 코드는
step.do()외부에서 실행하면 안 된다:run()본문에서step.do()로 감싸지 않고 직접const now = new Date()나const rand = Math.random()을 호출하면, 리플레이 시점마다 서로 다른 값이 생성되어 워크플로우의 실행 경로가 꼬일 수 있다. 날짜나 난수 생성은 반드시step.do()블록 내부에서 반환받아 상태로 고정해야 한다.
- Durable Object 인스턴스 락(Actor Lock)과 워크플로우 동시성: 각 워크플로우 인스턴스는 배타적 단일 스레드(Single-threaded execution)를 보장하는 전용 Durable Object 인스턴스에 매핑된다. 따라서 하나의 인스턴스 내부에서 경쟁 상태(Race Condition)가 발생하지 않으며, 강한 일관성(Strong Consistency) 하에서 상태가 업데이트된다.
- 인스턴스 상태 저장소는 계정 전체 공유 DB가 아닌 '인스턴스 전용 SQLite'다: 인스턴스마다 완전히 분리된 SQLite 데이터베이스 파일이 할당되므로, 다른 인스턴스의 부하나 트랜잭션 락이 현재 인스턴스 실행에 전혀 영향을 주지 않는다.
| 비교 항목 | 기존 서버리스 FaaS (Workers / AWS Lambda) | Cloudflare Workflows | 전통적 오케스트레이터 (Temporal / Step Functions) |
| 상태 영속화 방식 | 무상태(Stateless). 외부 Redis/DB에 수동 저장 필수 | SQLite Durable Objects 1:1 자동 메모이제이션 | 중앙 집중식 DB (Cassandra / DynamoDB / Aurora) |
| 실행 시간 한계 | 수십 초~15분 강제 타임아웃 종료 | 무제한 (수 주간 슬립 및 비동기 대기 가능) | 무제한 (최대 수 개월) |
| 유휴 대기 비용 | 대기 중에도 CPU 활성 과금 (또는 종료 후 수동 재개) | DO Alarms 기반 $0 Compute (Isolate 완전 언로드) | 오케스트레이터 서버 유지 비용 또는 상태 전이당 과금 |
| 장애 복구 모델 | 처음부터 전체 재실행 (중복 실행 위험) | 결정론적 리플레이 (완료된 스텝 O(1) 캐시 스킵) | 이벤트 소싱(Event Sourcing) 기반 히스토리 리플레이 |
| 코드 작성 경험(DX) | 표준 비동기 JS/TS | 표준 TypeScript step.do() / step.sleep() | 별도 클라이언트 SDK 또는 복잡한 JSON/YAML DSL |
3. Cloudflare Workflows 코어 런타임 및 제어 평면 아키텍처 심층 분석
Cloudflare Workflows 3대 코어 런타임 (V8 Isolate Compute 계층, SQLite DO 상태 머신 계층, V2 SousChef & Gatekeeper 분산 제어 평면) 상세 아키텍처 다이어그램
Cloudflare Workflows의 내부는 크게 3개의 계층으로 구성된다: 상단의 연산 계층(Workers V8 Isolate), 중간의 상태 보존 계층(SQLite-backed Durable Object), 그리고 하단의 확장성 제어 평면(Control Plane)이다.
3.1 SQLite-backed Durable Objects: 인스턴스 격리와 제로 레이턴시 상태 보존
각 워크플로우 인스턴스가 생성되면, Cloudflare 엣지 인프라는 해당 인스턴스 전용 **Engine Durable Object(Engine DO)**를 생성한다 (Cloudflare Durable Objects with SQLite):
- 격리된 SQLite 인스턴스:
- 각 Engine DO는 내부적으로 독립된 SQLite3 데이터베이스 파일을 보유한다.
- 테이블 구조는 인스턴스 전체 메타데이터를 관리하는
workflow_instances와 각 스텝의 실행 결과, 재시도 횟수, 타임스탬프를 기록하는workflow_steps로 나뉜다.
- 원자적 직렬화와 메모이제이션 트랜잭션:
step.do()블록이 값을 반환하는 즉시, Engine DO는 SQLite 트랜잭션을 열고 반환값을 직렬화하여 저장한다.- 트랜잭션이 디스크에 fsync/동기화되기 전까지는 다음 스텝으로 넘어가지 않는다. 따라서 정전이나 호스트 패닉이 발생해도 상태 손실(Data Loss)이 없다.
- 스텝별 독립 백오프 재시도 (Step-Level Retries):
- 만약 스텝 내부에서 예외가 발생하면, 워크플로우 전체가 죽는 것이 아니라 해당 스텝의
retry_count가 증가하며 지수 백오프(Exponential Backoff with Jitter) 알고리즘에 따라 재시도된다. - 설정된
maxRetries를 초과할 경우에만 워크플로우 인스턴스 상태가ERRORED로 전이되어 장애를 안전하게 격리한다.
3.2 V1 Monolith Account DO의 물리적 한계
초기 베타 버전(V1)에서 Cloudflare는 인스턴스 상태는 개별 Engine DO로 격리했으나, 고객 계정(Account) 레벨의 인스턴스 목록 조회, 인스턴스 생성 라우팅, 전체 상태 코디네이션을 계정당 단 1개의 모놀리식 Account DO에 집중시켰다:
- 계정당 1개 Account DO의 병목: 단일 액터 모델(Single-threaded Actor)의 한계로 인해, 초당 처리할 수 있는 인스턴스 생성 요청이 100건(10초당 100건 수준)으로 제한되었다.
- 동시 인스턴스 한계: 계정당 최대 동시 실행 인스턴스 수가 4,500개로 묶여 있었다.
- 에이전트 시대의 문제점: 자율형 AI 에이전트 시스템이 수천 명의 동시 사용자를 대신해 수만 개의 병렬 워크플로우를 트리거하는 현대적 시나리오에서 V1 아키텍처는 즉시 429 Rate Limit 에러를 반환하며 한계에 부딪혔다.
3.3 V2 Scalable Control Plane: Gatekeeper 지능형 라우팅과 SousChef 수평 샤딩 레이어
Cloudflare는 AI 에이전트 시대의 머신 스피드(Machine Speed)를 감당하기 위해 제어 평면을 전면 재설계한 V2 아키텍처를 투입했다 (Building Workflows: Scaling to the agentic era):
- 지능형 트래픽 라우터
Gatekeeper: - 클라이언트 및 Workers로부터 들어오는 인스턴스 생성 및 이벤트 디스패치 요청을 가장 먼저 맞이하는 지능형 게이트웨이다.
- 유입되는 트래픽의 스파이크를 감지하고, 인스턴스 ID 해시를 기반으로 하위 샤드에 부하를 균등하게 분산한다.
- 수평 샤딩 레이어
SousChef: - 과거 하나의 거대한 Account DO가 도맡던 계정 메타데이터 및 인스턴스 추적 책임을 여러 개의 분산 샤드(Shards)로 분할했다.
- 각 샤드는 독립된 Durable Object로 동작하여 병렬 I/O를 처리한다.
- V2의 압도적인 엔지니어링 성능 지표:
- 최대 동시 인스턴스: 4,500건 → 50,000건 이상 (11배 이상 확장)
- 인스턴스 생성 처리량: 10초당 100건 → 초당 300건 이상 (30배 이상 확장)
- 대기 큐잉(Queuing) 용량: 순간 트래픽 폭증 시 최대 2,000,000개 인스턴스까지 안전하게 큐에 적재 후 순차 처리
- 무중단 라이브 마이그레이션: 수백만 개의 기존 고객 인스턴스를 단 1초의 다운타임이나 트래픽 유실 없이 구형 Account DO에서 SousChef 분산 샤드로 전환 완료했다.
4. 실무 설정·코드 예제와 로컬 Python 6대 검증 스크립트
4.1 Cloudflare Workflows 실무 코드 예제
아래 코드는 wrangler.jsonc 설정과 함께, 사용자 온보딩 및 AI 에이전트 분석 파이프라인을 다단계로 안전하게 수행하는 TypeScript 예제다:
4.2 로컬 Python 6대 런타임 불변식 검증 스크립트
아래 Python 스크립트는 Cloudflare Workflows의 6대 핵심 아키텍처 규칙(단계별 메모이제이션 및 SQLite 영속화, 크래시 및 재부팅 시의 결정론적 리플레이 콜백 생략, DO Alarms 기반 Zero-Compute 슬립 및 인터럽트 제어, 지수 백오프 재시도 및 실패 격리, V1 Account DO 한계 vs V2 SousChef/Gatekeeper 분산 샤딩 처리량, End-to-End AI 에이전트 다단계 워크플로우 상태 머신 무결성)을 로컬에서 철저하게 검증한다:
실행 결과:
5. 실무 도입 및 프로덕션 마이그레이션 체크리스트
스텝 함수(step.do)의 멱등성 및 멱등키 설계: 결제, 이메일, 외부 메시지 큐 발행 등 부수 효과가 발생하는 외부 API 호출에는 항상 고유한 멱등키(예: idempotencyKey = event.instanceId + step.name)를 전달하여 중복 처리를 방지한다.
비결정론적 로직의 스텝 캡슐화: Math.random(), Date.now(), UUID 생성 등 호출할 때마다 값이 바뀌는 모든 연산은 step.do() 블록 내부에서 실행하고 반환받아 상태로 영속화하여 리플레이 시의 일관성을 유지한다.
긴 대기 시간의 step.sleep() 전환: setTimeout이나 setInterval로 CPU를 낭비하지 말고 step.sleep()을 선언하여 V8 Isolate를 즉시 언로드하고 DO Alarms 기반으로 $0 유휴 비용을 달성한다.
사람 승인 및 비동기 이벤트 대기 설정: 관리자 승인이나 2단계 인증이 필요한 워크플로우에는 step.waitForEvent()를 적용하고 적절한 timeout 및 타임아웃 폴백 핸들러를 정의한다.
V2 확장성 기준 부하 테스트: 초당 수백 건의 워크플로우를 생성하는 고부하 AI 에이전트 시스템에서는 인스턴스 ID 해싱이 편향되지 않도록 고유 접두사를 설계하고 V2 SousChef 샤딩 레이어의 분산 특성을 극대화한다.
Wrangler 호환성 날짜 및 바인딩 점검: wrangler.jsonc의 compatibility_date를 최신으로 유지하고 workflows 블록에 올바른 클래스 이름과 바인딩 명칭을 등록하여 배포한다.
6. 참고 자료 및 공식 출처 (2026-11-17 확인)
확인 기준일: November 17, 2026