Huny's Dev Blog
프로그래밍 언어부터 프레임워크, 유용한 개발 도구까지, 개발자가 실제 작업에 적용할 수 있는 실질적인 정보와 깊이 있는 리뷰를 제공합니다.
초보자부터 경험 많은 개발자까지, 누구나 흥미로운 인사이트와 유용한 팁을 발견할 수 있는 곳입니다.
개발 프로젝트를 한 단계 끌어올리고 싶다면, 지금 바로 방문해 보세요!
AI
더 보기-
• ai • Hun Jang
LLM 투기적 디코딩(Speculative Decoding) 아키텍처 해부: 초소형 드래프트 모델 vs Medusa·EAGLE-2 특징 계층 예측·거부 샘플링(Rejection Sampling) 수학적 동등성과 추론 지연 3배 단축
대규모 언어 모델(LLM) 서빙 인프라의 핵심 가속 기법인 투기적 디코딩(Speculative Decoding)의 내부 아키텍처를 분석한다. 독립 드래프트 모델(Draft Model)과 다중 헤드(Medusa), 특징 공간 외삽(EAGLE-2/3) 3대 제안 메커니즘 비교, 단일 포워드 Tree-Attention 병렬 검증, 타겟 분포를 100% 보존하는 무손실 거부 샘플링(Rejection Sampling) 수학적 증명 및 로컬 Python 6대 런타임 불변식 검증을 살펴본다.
-
• ai • Hun Jang
LLM 서빙 프롬프트 캐싱(Prefix Caching) 아키텍처 해부: vLLM 블록 해시 체인 vs SGLang RadixTree·LRU 메모리 방출과 TTFT 90% 단축
대규모 언어 모델(LLM) 서빙 인프라의 핵심 최적화 기법인 프롬프트 캐싱(Prefix Caching)의 내부 아키텍처를 분석한다. vLLM의 PagedAttention 기반 블록 해시 체인(Automatic Prefix Caching)과 SGLang의 압축 트라이(RadixTree / RadixAttention) 데이터 구조 비교, OS 스타일 Reference Count와 LRU 캐시 풀 생명주기, Copy-on-Write 무결성 및 로컬 Python 6대 런타임 불변식 검증을 살펴본다.
Software
더 보기-
• linux • Hun Jang
Linux 6.12 실시간 커널(PREEMPT_RT) 20년 만의 메인라인 통합 해부: 스레드 IRQ·우선순위 상속(rt_mutex)·비동기 printk(nbcon)와 BPF 스케줄러(sched_ext)
20년 만에 Linux 6.12 메인라인에 정식 병합된 CONFIG_PREEMPT_RT의 실시간 아키텍처와 sched_ext BPF 스케줄러를 분석한다. 스레드 IRQ의 즉각 선점, rt_mutex 기반 우선순위 상속(PI) 프로토콜, 거대 콘솔 락을 해체한 nbcon 비동기 로깅과 로컬 Python 6대 런타임 검증을 살펴본다.
-
• go • Hun Jang
Go 1.24 런타임 3대 코어 혁신 해부: Swiss Tables 맵·가상 시간 동시성 테스트(testing/synctest)·os.Root 디렉터리 샌드박싱
Go 1.24에서 단행된 내장 map의 Swiss Tables 기반 전면 재구현(GOEXPERIMENT=noswissmap), 가상 시계 기반 동시성 테스트 패키지 testing/synctest(GOEXPERIMENT=synctest), 경로 순회 및 심볼릭 링크 탈출을 OS 레벨에서 원천 차단하는 os.Root 격리와 로컬 Python 6대 시뮬레이션 검증을 살펴본다.
Development
더 보기-
• linux • Hun Jang
TCP에서 서버가 EOF를 기다릴 때 shutdown으로 응답 받기
Python TCP에서 송신만 종료해 서버에 요청의 끝을 알리고, 같은 연결에서 응답을 받는 방법을 로컬 예제로 확인한다.
-
• linux • Hun Jang
Use TCP Half-Close to Receive a Reply When the Server Waits for EOF
Use Python socket.shutdown(SHUT_WR) to signal the end of a TCP request while receiving a reply on the same connection. Includes a tested loopback example.