• onnxruntime • arm64 • aarch64 • linux • tts • development • Hun Jang
ARM64(aarch64) 환경에서 ONNX Runtime으로 모델을 추론할 때 amd64와 다른 결과가 나오거나, TTS 모델의 음원이 깨지는 문제가 발생할 수 있다. 이 글에서는 ORT_ENABLE_ALL 그래프 최적화 옵션으로 인해 발생했던 실제 문제와, aarch64 환경에서 ORT_ENABLE_BASIC으로 낮춰 해결한 경험을 정리한다.
• software • tts • Hun Jang
음성합성(TTS) 서비스에서 스트리밍 방식을 적용해 비용을 절감하고, 효율적인 사용자 경험을 제공하기 위한 전략