Tối ưu hóa tốc độ suy luận mô hình SenseVoice-Small ONNX bằng OpenCL

SenseVoice-Small là một mô hình nhận dạng giọng nói (ASR) đa ngôn ngữ mạnh mẽ, nổi bật với kiến trúc SAN-M giúp đạt được độ chính xác cao và độ trễ thấp. Tuy nhiên, để triển khai mô hình này trên nhiều loại thiết bị phần cứng khác nhau mà vẫn đảm bảo hiệu suất tối ưu, việc sử dụng các framework tính toán song song như OpenCL là một giải pháp th ...

Đăng vào ngày 27 tháng 7 lúc 01:47