Kỹ thuật Debug lỗi độ chính xác khi lượng tử hóa PTQ

Trong quy trình tối ưu hóa mô hình AI cho các chip chuyên dụng như Horizon Journey 5 (J5) hoặc XJ3, Post-Training Quantization (PTQ) là bước quan trọng để chuyển đổi mô hình từ dấu phẩy động (Float32) sang định dạng điểm cố định (Fixed-point). Tuy nhiên, quá trình này thường dẫn đến sai số lượng tử hóa. Để giải quyết vấn đề này, bộ công cụ Hori ...

Đăng vào ngày 24 tháng 8 lúc 00:45