LLM 라우터·추론 공급망 ZDR 붕괴 해부: Dragos 200만 카나리 조사·OpenRouter MiniMax(40~130시간 지연 접근)·Together AI(xorl) 유출과 비밀 마스킹·라우팅 경계 점검하기
2026년 11월 19일 Dragos의 200만 카나리 토큰 조사로 드러난 LLM 추론 공급망과 Zero Data Retention(ZDR) 붕괴 사고를 해부한다. OpenRouter의 3개 제공자 퇴출·125개 엔드포인트 ZDR 박탈과 MiniMax 40~130시간 지연 접근, Together AI(xorl) AI 코딩 에이전트 커밋 유출의 원리를 정리하고, 송신 전 로컬 비밀 마스킹과 Fail-Closed 라우팅을 검증한 Python 스크립트를 소개한다.
LLM 추론 공급망 ZDR 붕괴와 클라이언트 비밀 마스킹·라우팅 경계 추상 표지 아트워크: 신뢰 경계 내부에서 필터링된 요청이 단일 직통 ZDR 경로와 다중 홉 리셀러·카나리 지연 유출 경로로 분기되는 구조를 표현한 기하학 그래픽
2026년 11월 19일 Dragos가 공개한 200만 개 카나리 토큰 조사와 뒤이은 OpenRouter·Together AI 보안 공지의 핵심 결론은, LLM 라우터에 설정하는 Zero Data Retention(ZDR) 플래그가 "추론 후 상시 저장 금지"라는 정책 요청일 뿐이며, 진입점 가로채기·다중 홉 리셀러 로깅·모더레이션 파이프라인·에이전트 커밋 실수를 막아 주는 암호화 보안 경계가 아니라는 점이다.
2026년 11월 19일(현지시간), 산업 보안 기업 Dragos의 최고연구책임자(CRO) HD Moore 연구팀은 2026년 7월부터 11월까지 주요 LLM 서비스와 추론 게이트웨이·마켓플레이스에 약 200만 개의 추적용 카나리 토큰(고유 URL·DNS·모니터링되는 미끼 AWS 자격 증명)을 심어 데이터 유출 경로를 추적한 보고서(Three breaches, endless leaks: Your AI supply chain needs canaries)를 발표했다. 이 발표 직후인 11월 21일 전후로, 주요 추론 라우터인 OpenRouter와 서버리스 추론 플랫폼 Together AI가 연쇄적으로 프롬프트 노출 및 제공자 퇴출 공지를 내면서, AI 게이트웨이 공급망 전반의 신뢰 모델이 근본적인 검증 시험대에 올랐다.
이 글은 확인 기준일 November 22, 2026 시점의 Dragos 카나리 연구 보고서, OpenRouter 추론 제공자 사고 공지 및 ZDR 공식 명세, Together AI 6~7월 프롬프트 유출 보안 공지를 교차 검증해 정리했다. 상용 API 엔드포인트에 실제 모의 공격이나 외부 추론 트래픽을 전송하지 않았으며, 공개된 사고 메커니즘을 바탕으로 로컬 환경에서 작성한 검증 스크립트(verify_llm_zdr_supply_chain_guard.py)로 엄격 라우팅 정책·송신 전 비밀 마스킹·지연 카나리 탐지·커밋 회수 경계를 직접 시험한 결과를 함께 다룬다.
1. 흔한 오해와 핵심 경계 3가지
LLM API 라우터의 ZDR 옵션을 클라우드 스토리지 암호화나 종단간 비밀 보호(E2EE)와 동일선상에 두면 실무 위협 모델이 크게 어긋난다. 이번 연쇄 사고에서 드러난 핵심 경계는 세 가지다.
provider.zdr = true는 '정책 준수 기대치'이지 기술적 차단 장치가 아니다: OpenRouter의 ZDR 문서에 따르면 ZDR은 모델 제공자가 추론 응답을 반환한 뒤 프롬프트와 출력을 일상적으로 디스크에 장기 저장하지 않는다는 정책 계층(ZDR/Safety Retention/Retention and Training중 최상위)이다. 그러나 Dragos 조사에서는 10월 말 최소 3개 AI 호스팅 제공자가 외부 공격자에게 이미 침해된 상태였음이 확인됐고, 공격자는 모델에 의해 거부(reject)된 요청에서조차 진입점(entry-point)을 통해 약 200건의 미끼 AWS 키를 가로채 S3·IAM·Secrets Manager·Bedrock에서 능동 시험했다. 침해된 인프라 앞단에서는 ZDR 플래그 자체가 아무런 방어력을 발휘하지 못한다.
- 중개 리셀러·모더레이션 파이프라인은 ZDR 표지 뒤에서 수일 뒤에도 데이터를 읽는다: OpenRouter는 자체 코어 시스템은 침해되지 않았음을 밝히면서도 플랫폼에서 3개 제공자를 퇴출(off-boarded)하고 125개 엔드포인트의 ZDR 자격을 박탈했다. 특히 2026년 7월~10월 사이 MiniMax 모델(직접 호출 또는 Novita·StreamLake·AtlasCloud 등 중개 리셀러 경유)로 전달된 프롬프트 속 고유 테스트 URL은 추론이 끝난 뒤 40~130시간이 지나 제3자에 의해 외부 접근(fetch)됐다. MiniMax 측은 10월 22일 이전 해당 엔드포인트에 콘텐츠 모더레이션 파이프라인이 활성화돼 있었으며 이후 진정한 ZDR을 적용했다고 밝혔지만, 라우터의 ZDR 배지만 믿고 민감 데이터를 보낸 클라이언트는 수개월간 이를 인지할 수 없었다.
- 운영 추론이 아니라 '개발·테스트용 샘플 저장소'에서도 프롬프트가 유출된다: Together AI가 11월 21일 공개한 사례는 추론 런타임이 아닌 개발 파이프라인의 균열을 보여 준다. 공개 GitHub 저장소(
xorl) 개발 과정에서 AI 코딩 에이전트가 비공개 Hugging Face 저장소 접근 자격 증명을 실수로 커밋했고, 자동 스캔이 이를 탐지해 커밋을 되돌리기(revert) 전 짧은 노출 창 동안 공격자가 비공개 저장소를 내려받았다. 해당 저장소에는 2026년 6~7월 서버리스 추론 테스트 프롬프트 샘플(MiniMax M3, GLM-5.2, Kimi K2.6 등)이 들어 있었고, 공격자가 샘플 속 API 키를 추출해 시험한 결과 그중 5건이 Dragos의 카나리 토큰으로 확인됐다.
2. ZDR 붕괴 경로 도식 및 사고별 비교 표
LLM 추론 공급망 ZDR 붕괴 경로 vs 클라이언트 비밀 마스킹·라우팅 방어 경계 도식: 진입점 가로채기·다중 홉 리셀러·40~130시간 지연 모더레이션·xorl 커밋 유출 경로와 게이트 1~3 선제 통제 비교
이번에 교차 확인된 세 건의 핵심 발표(Dragos 총괄 조사, OpenRouter·MiniMax 경유 공지, Together AI xorl 사고)를 구조적으로 비교하면 다음과 같다.
| 비교 항목 | Dragos 카나리 공급망 조사 | OpenRouter · MiniMax 경로 공지 | Together AI ( xorl) 유출 사고 |
| 공개 시점 / 대상 기간 | 2026-11-19 공개 (2026-07 ~ 11월 약 200만 카나리) | 2026-11-21 경 사용자 경고·공지 (2026-07 ~ 10월 MiniMax 요청) | 2026-11-21 보안 공지 (2026-06 ~ 07월 서버리스 테스트 샘플) |
| 핵심 발생 원인 | 3개 호스팅사 미탐지 침해(진입점 가로채기), 저가 리셀러의 일반 요청 로깅, ZDR 설정 무시 | 직접 및 중개 파트너(Novita·StreamLake·AtlasCloud 등) 경유 요청의 모더레이션·사후 저장 | 공개 GitHub 저장소( xorl)에서 AI 코딩 에이전트가 비공개 Hugging Face 자격 증명을 커밋 |
| 관측된 유출 징후 | 미끼 AWS 키 약 200건 탈취 및 S3·IAM·Secrets Manager·Bedrock 능동 프로빙 | 프롬프트 내 테스트 URL이 추론 완료 후 40~130시간 뒤 제3자에 의해 외부 조회됨 | 자동 되돌리기(revert) 전 샘플 다운로드 → 공격자가 추출·시험한 키 중 5건이 Dragos 카나리 |
| 플랫폼 조치 및 한계 | ZDR은 정책 요청일 뿐이므로 송신 전 비밀 제거·직통 계약·카나리 상시 감사 권고 | 3개 제공자 퇴출 · 125개 엔드포인트 ZDR 박탈 (MiniMax는 10/22 이후 ZDR 적용 해명) | 커밋 되돌리기 후 공지했으나 이미 내려받은 샘플 내 자격 증명은 수동 회전 외 회수 불가 |
3. 클라이언트·게이트웨이 선제 방어 아키텍처
공급망 안쪽(라우터 → 중개 리셀러 → 호스팅사 진입점 → 개발 테스트 저장소)에서 발생하는 유출은 호출자가 원격 인프라 내부를 감사할 수 없기 때문에, 데이터가 클라이언트 신뢰 경계를 넘기 전에 통제하는 3단계 게이트로 전환해야 한다.
3.1 게이트 1 — 송신 전 로컬 비밀 스캔 및 플레이스홀더 치환
코드 리뷰, CI 로그 분석, 에러 트리아지에 LLM을 연결할 때 가장 빈번한 사고 원인은 프롬프트 본문 안에 .env, Authorization: Bearer ..., AWS AKIA..., GitHub PAT(ghp_...), Hugging Face 토큰(hf_...) 등이 그대로 섞여 나가는 것이다. 프롬프트가 외부 TLS 연결로 나가기 직전 로컬 미들웨어에서 정규식·엔트로피 스캐너를 통과시켜, 고신뢰 경계에서는 즉시 차단(strict)하고 개발 지원 워크플로에서는 결정론적 플레이스홀더([REDACTED_AWS_KEY_1_...])로 치환한 뒤 응답 수신 시 로컬 메모리에서만 복원해야 한다.
3.2 게이트 2 — Fail-Closed 엄격 라우팅 (allow_fallbacks: false & 홉 제한)
OpenRouter ZDR 명세는 ZDR 외에도 악용 탐지 목적의 보존을 허용하는 Safety Retention과 학습 허용 티어를 구분하며, 계정 설정·Guardrails·요청별 provider.zdr 파라미터를 제공한다. 그러나 폴백(fallback)이 열려 있거나 허용 제공자 목록(only)과 전달 홉을 명시하지 않으면 장애·지연 시 다중 홉 리셀러나 비-ZDR 엔드포인트로 트래픽이 우회할 위험이 생긴다. 민감 작업은 반드시 require_zdr=True와 allow_fallbacks=False, 단일 직통 홉(max_forwarding_hops=1)을 조합해 조건을 만족하는 엔드포인트가 없으면 요청을 거부(fail-closed)하도록 설계해야 한다.
3.3 게이트 3 — 카나리 상시 감사와 AI 코딩 에이전트 커밋 통제
Dragos 사례가 보여 주듯 실제 침해 여부는 공급자의 약관 페이지가 아니라 추적 가능한 비운영 카나리 토큰(고유 DNS/URL, 권한 없는 AWS 미끼 키)의 외부 접근 여부로만 실증할 수 있다. 정상 추론 창(수초)을 훨씬 넘긴 40~130시간 뒤 카나리 URL 조회가 관측되면 즉시 해당 라우팅 경로를 격리해야 한다. 또한 Together AI xorl 사고처럼 AI 코딩 에이전트가 생성한 PR·커밋에도 Pre-commit 훅과 GitHub Push Protection을 동일하게 강제해야 하며, 공개 저장소에 한 번이라도 토큰이 올라갔다면 커밋 revert로 끝내지 말고 즉시 해당 토큰을 폐기·회전해야 한다.
4. 로컬 Python 검증 스크립트 작성 및 실행 결과
위 3단계 방어 경계가 실제 코드 수준에서 누수 없이 작동하는지 확인하기 위해 로컬 검증 스크립트(verify_llm_zdr_supply_chain_guard.py)를 작성해 실행했다.
로컬 환경에서 python C:/Users/admin/.gemini/antigravity/scratch/verify_llm_zdr_supply_chain_guard.py를 실행해 3가지 검증 시나리오를 점검한 결과는 다음과 같다.
- Fail-Closed 엄격 라우팅 및 다중 홉·모더레이션 차단 (
Check 1):allow_fallbacks=True설정은PolicyViolationError로 즉시 거부됐다. 다중 홉과 모더레이션 보존이 켜진reseller-hub-x와safety_retention티어safety-only-host는 모두 배제됐고, 단일 홉·검증 완료direct-trusted-zdr만 선택됐다. 신뢰 엔드포인트를 제외한 조건에서는 대체 경로로 내려가지 않고 fail-closed 예외로 차단됐다.
- 송신 전 비밀 차단 및 로컬 전용 마스킹·복원 (
Check 2):AKIA...,hf_...,Authorization: Bearer ...가 포함된 프롬프트를 입력했을 때strict모드는3건의 비밀을 탐지해 즉시 송신을 차단했고,redact모드는 3개 값을 모두 플레이스홀더로 치환해 원시 문자열을 완전히 제거한 뒤 응답 시 로컬 맵으로만 복원했다.
- 40~130시간 지연 카나리 탐지 및
revert미회전 함정 검증 (Check 3): 추론 완료 후40.0시간 및130.0시간 뒤 발생한 외부 URL 접근은 모두 사후 유출(is_post_inference_leak=True)로 판별됐으며0.01시간 정상 창과 구분됐다. 또한 AI 코딩 에이전트 커밋에서hf_...토큰이 노출된 뒤reverted_later=True만 수행하고token_rotated=False인 상태는 안전 검사 불합격(False)으로 차단됐고,token_rotated=True이후에만 통과해ALL CHECKS PASSED (3/3 checks passed)로 종료됐다.
5. 실무 도입 및 사고 대응 체크리스트
OpenRouter·Together AI 등 외부 LLM 추론 라우터나 마켓플레이스를 사용하는 팀은 이번 Dragos·OpenRouter·Together AI 연쇄 사례를 기준으로 다음 항목을 즉시 점검해야 한다.
- 2026년 6~10월 경유 이력 감사 및 자격 증명 전량 회전: 2026년 6~10월 사이 OpenRouter의 MiniMax 관련 경로(Novita·StreamLake·AtlasCloud 등 경유 포함)나 Together AI 서버리스 엔드포인트로 코드·로그·
.env·API 키를 전송한 이력이 있는가? 해당 기간 프롬프트에 포함된 모든 API 키·클라우드 액세스 키·비밀 토큰은 즉시 회전(rotate)했는가?
- 라우터 ZDR 강제 및 폴백 차단 (
allow_fallbacks: false): OpenRouter 등의 계정 Privacy 설정이나 Guardrails, API 요청provider필드에zdr: true만 넣어 두지 않고allow_fallbacks: false와 허용 제공자(only)를 함께 고정해Safety Retention이나 다중 홉 리셀러로 우회하지 않도록 막았는가?
- 송신 전 클라이언트 비밀 마스킹 게이트 배치: 개발자 IDE·AI 코딩 에이전트·CI 트리아지 스크립트가 외부 LLM API를 호출하기 직전, AWS 키·GitHub/Hugging Face 토큰·JWT·사설 키를 자동 차단 또는 로컬 플레이스홀더로 치환하는 게이트웨이를 두었는가?
- AI 코딩 에이전트 PR·커밋 시크릿 스캔 및 즉시 폐기 절차: 사람 개발자뿐 아니라 AI 코딩 에이전트가 생성한 커밋에도
push protection과 로컬 Pre-commit 시크릿 스캐너를 강제하고, 유출 발생 시git revert가 아닌 즉각 토큰 폐기·재발급이 1순위 대응 절차가 되도록 런북을 갱신했는가?
참고 자료 (References, 2026-11-22 확인)
확인 기준일: November 22, 2026