Huny's Dev Blog
huny.dev

GPU가 하나 필요한 게 아니다: Karpenter 1.15에서 메모리 조건으로 노드 고르기

Karpenter 1.15가 GPU 메모리 같은 장치 조건을 노드 생성 전에 반영하는 방식과 스테이징 점검 순서.

Hun Jang
Hun Jang Nov 22, 2026

GPU 조건과 서버 자원을 맞추는 과정을 표현한 AI 생성 개념 이미지. 실제 EKS 화면은 아니다.

같은 GPU 한 장이라도 추론 모델이 요구하는 메모리나 GPU 세대가 맞지 않으면 노드가 떠도 쓸 수 없다. AWS가 2026년 11월 19일 소개한 Karpenter 1.15에서는 지원되는 NVIDIA GPU·EFA 장치를 대상으로 Kubernetes DRA(Dynamic Resource Allocation) 요청을 새 노드의 인스턴스 유형을 고르는 데 반영할 수 있다. 핵심은 GPU 장수에 더해 실제 장치가 만족해야 하는 조건을 선언하고, 노드를 띄우기 전에 후보를 좁히는 데 있다. AWS 발표

노드가 없는데 장치 정보를 어떻게 알까?

일반적인 장치 플러그인 방식에서는 nvidia.com/gpu: 1 같은 확장 리소스로 수량을 요청한다. 노드 레이블과 어피니티를 조합해 GPU 유형을 좁힐 수 있지만, DRA에서는 ResourceClaim에서 장치의 속성과 용량을 직접 조건으로 표현한다. 예를 들어 GPU 하나 중에서 메모리가 100 GiB 이상인 장치만 필요하다고 요청할 수 있다.

실행 중인 노드에서는 DRA 드라이버가 공개한 ResourceSlice를 참조한다. 아직 없는 노드에는 그 정보가 없으므로 Karpenter가 지원되는 인스턴스 유형별 장치 메타데이터로 배치 가능성을 먼저 계산한다. 실제 장치 할당은 노드가 뜬 뒤에 이루어진다. 정적 NodePool은 Pod 배치 시뮬레이션 없이 노드를 미리 띄우므로 이 설명은 동적 노드 프로비저닝에 해당한다. Karpenter DRA 문서

GPU 메모리 조건을 선언하는 예시

아래는 DRA가 설정된 테스트 클러스터에 적용할 수 있는 템플릿 예시다. Pod에서도 spec.resourceClaims로 이 템플릿을 참조하고, GPU를 쓰는 컨테이너의 resources.claims에 같은 Pod 내 클레임 이름을 적어야 한다. 템플릿만 만들면 GPU가 할당되는 것은 아니다.

테스트 클러스터에서 원인을 구분하는 순서

  1. 먼저 버전 호환표를 확인한다. NVIDIA GPU만 쓴다면 개별 설정을 선택한다. Helm의 settings.enableDRA는 NVIDIA와 EFA를 함께 활성화하므로 두 드라이버가 모두 배치된다는 전제가 있다. 같은 노드에서 DRA 드라이버와 기존 플러그인이 같은 장치를 관리하지 않도록 노드 풀을 분리한다.
  1. 일치하는 장치가 있는 조건으로 소규모 테스트 Pod를 띄워 어떤 NodeClaim이 만들어졌는지 본다. 장치 메타데이터가 그 조건을 지원하는지, NodePool이 해당 인스턴스 유형을 허용하는지, 실제 공급 용량도 있는지 나눠서 확인한다.
  1. 노드는 떴는데 Pod가 계속 대기 중이면 드라이버가 실행됐는지, 장치가 ResourceSlice에 나타나는지, ResourceClaim에 할당이 기록됐는지 순서대로 확인한다. 커스텀 AMI를 쓰면 GPU 레이블·테인트 때문에 드라이버가 배치되지 않았을 수도 있다.

위 명령은 관찰용이며 실제 EKS 배포나 성능 측정을 수행한 결과가 아니다. Karpenter가 인스턴스 시작 전에 파악할 수 있는 속성만 후보 필터로 쓸 수 있다. 기존 서비스가 GPU 개수만으로 안정적으로 배치된다면 일괄 전환할 이유는 없다. 모델마다 메모리 하한이 다르거나 GPU와 EFA의 물리적 연결 조건이 중요한 워크로드부터 분리해 검증하는 편이 낫다.

추천 글