C strtoull이 -1을 허용하는 이유: uint64_t 십진 입력을 엄격하게 검증하기
strtoull의 음수 변환을 재현하고 숫자 문법·errno·끝 위치·UINT64_MAX를 검사하는 C 파서를 구현한다. 경계 문자열 12개와 NULL 인자를 검증한다.
C에서 음수가 금지된 설정값을 읽을 때 strtoull()의 반환형이 unsigned라는 이유만으로 입력의 - 부호가 거부되지는 않는다. 십진 uint64_t만 허용하려면 먼저 문자열 전체가 숫자인지 검사하고, 변환 뒤 범위와 끝 위치를 확인해야 한다. Linux에서 -1이 정상 변환되는 사례를 재현하고, 부호·공백·후행 문자·범위 초과를 구분하는 파서를 만든다.
숫자 입력을 검사하는 관문과 규칙에서 벗어난 조각을 표현한 AI 생성 개념 일러스트다. 정확한 파서 흐름도는 아니다.
작성·문서 확인일은 2026-11-23이다. 코드는 Linux x86_64, GCC 14.2.0, glibc 2.41에서 C11 모드로 컴파일해 실행했다. 다른 운영체제나 C 라이브러리에서의 실행 결과는 포함하지 않는다.
unsigned 반환형이 음수 입력 거부를 뜻하지는 않는다
strtoull()은 선택적인 부호를 받아들인다. 앞에 음수 부호가 있으면 변환 결과에 부호 없는 형식의 부정 연산이 적용될 수 있다. 반환값과 errno만 봐서는 입력에 음수 부호가 있었는지 알 수 없다는 점은 NetBSD의 변환 함수 설명에도 명시돼 있다.
따라서 errno == 0과 전체 문자열 소비만 확인해도 -1을 허용할 수 있다. 아래 실행 환경에서는 결과가 18446744073709551615였다. 이는 이 환경의 ULLONG_MAX이며, 모든 C 환경에서 unsigned long long이 정확히 64비트라고 가정하는 설명은 아니다.
허용할 문법과 범위를 먼저 정한다
이번 파서의 계약은 다음과 같다. JSON 숫자 전체 문법이나 사람에게 편한 입력 규칙을 구현하는 예제는 아니다.
| 입력 조건 | 처리 |
| 숫자 0부터 9가 한 개 이상 | 십진수로 변환 |
-, +, 공백, 소수점, 후행 문자 | 문법 오류 |
010 | 선행 0을 허용하므로 십진 10 |
18446744073709551615 | uint64 최댓값으로 허용 |
18446744073709551616 이상 | 범위 오류 |
| 빈 문자열 또는 NULL 인자 | 문법 오류로 반환 |
숫자 검사에는 문자 범위 비교를 사용해 이 Linux 환경에서 ASCII 숫자만 받는다. 변환 진법은 0이 아닌 10으로 고정한다. 라이브러리 자체는 앞 공백이나 부호, 진법별 표기를 허용할 수 있으므로 애플리케이션의 입력 문법을 별도로 정해야 한다. Linux strtoul·strtoull 문서
uintmax_t로 변환하고 uint64_t 범위를 확인한다
다음을 parse_u64.c로 저장한다. parse_u64_decimal()이 재사용할 함수이며, main()에는 문제 재현과 경계 테스트가 들어 있다. 함수는 성공할 때만 *out을 갱신한다.
다음 명령으로 경고를 오류로 취급해 컴파일하고 실행했다. assertion을 검증하므로 -DNDEBUG는 사용하지 않는다.
실제 출력은 다음과 같다.
strtoumax()는 uintmax_t로 변환한다. 이 형식의 범위 초과는 errno == ERANGE로 확인하고, 목적 형식이 더 좁을 가능성에 대비해 UINT64_MAX도 비교한다. 반환값 자체가 최댓값이라고 실패로 판정하면 정상적인 최댓값 입력까지 거부하게 된다. strtoumax의 반환값과 오류
검사 순서는 문법, 변환, 목적 범위, 결과 반영이다. 변환 직전에 errno를 0으로 지워 이전 오류를 재사용하지 않으며, end가 입력 시작과 같거나 끝 문자를 가리키지 않으면 실패로 처리한다. 이 구현은 숫자만 받는 사전 검사 뒤에도 끝 위치 검사를 유지한다. 변환 종료 위치와 errno
테스트는 각 반환 상태와 성공값뿐 아니라 실패 후 출력값이 초기값 123으로 유지되는지도 assertion으로 확인한다. consumed=1은 전체 문자열을 소비했다는 뜻이지 문자 한 개를 읽었다는 뜻이 아니다.
서버 입력에 연결할 때의 경계
이 함수의 문자열 인자는 읽을 수 있는 NUL 종료 문자열이어야 한다. NULL 검사는 임의의 포인터가 유효한지 검사해 주지 않는다. 네트워크에서 받은 길이 있는 버퍼를 그대로 넘기지 말고, 원래 길이와 최대 허용 길이, 중간 NUL의 허용 여부를 먼저 검증해야 한다. 예를 들어 1\0junk를 C 문자열로 넘기면 이 함수는 첫 NUL 뒤의 junk를 볼 수 없다.
uint64_t 범위를 통과한 값이 곧바로 유효한 포트 번호나 메모리 할당 크기가 되는 것도 아니다. 변환 뒤 해당 필드의 최소·최대값과 0 허용 여부를 별도로 검사하고, 더 작은 정수형으로 캐스팅하기 전에 그 형식의 범위를 확인한다.
이 글은 로컬에서 실행한 숫자 문자열 12개와 NULL 인자 2개의 동작을 검증했다. 긴 입력에 대한 처리 비용, 퍼징, 실제 서버 통합, 비 ASCII 실행 문자 집합 및 다른 libc의 동작은 검증하지 않았다. 앞뒤 공백이나 +를 허용해야 하는 인터페이스라면 테스트 계약부터 바꿔야 한다.
English version:
Why C strtoull Accepts -1: Strict Decimal uint64_t Parsing with Range Checks