양자화

오토노머스 에지 컴퓨팅: NPU 기반 자율주행 객체 인식 모델의 Quantization(양자화) 기술 원리와 실무 최적화

작성자:
acob, B., et al. "Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference." CVPR 2018. NVIDIA TensorRT Quantization Developer Guide.

자율주행 에지 컴퓨팅 환경에서 NPU 기반 객체 인식 모델의 연산 속도와 전력 효율성을 극대화하는 Quantization(양자화) 기술을 정밀 분석합니다. INT8/FP16 비트 정밀도 변환, PTQ 및 QAT 알고리즘의 수학적 원리와 수렴 전략을 다룹니다.