Nghiên cứu
Apple ra mắt mô hình seq2seq nhỏ gọn giúp sửa lỗi nhận diện giọng nói (ASR)
(giờ Việt Nam)
Tóm tắt AI
Apple phát triển mô hình seq2seq tinh gọn giúp sửa lỗi ASR hiệu quả hơn LLM với kích thước nhỏ gấp 15 lần. Mô hình này đạt độ chính xác cao trên nhiều kiến trúc ASR khác nhau nhờ phương pháp huấn luyện từ dữ liệu tổng hợp đa dạng.
Bản dịch AI
Tác giả: Zijin Gu, Tatiana Likhomanenko, Richard He Bai, Erik McDermott, Ronan Collobert, Navdeep Jaitly†
Các mô hình ngôn ngữ đóng vai trò trung tâm trong nhận dạng giọng nói tự động (ASR), tuy nhiên hầu hết các phương pháp đều dựa vào các mô hình chỉ sử dụng văn bản mà không nắm bắt được các kiểu lỗi của ASR. Gần đây, các mô hình ngôn ngữ lớn (LLM) đã được áp dụng để sửa lỗi ASR, nhưng lại gây ra các vấn đề về độ trễ và hiện tượng "ảo giác" (hallucination). Chúng tôi xem xét lại việc sửa lỗi ASR bằng các mô hình seq2seq nhỏ gọn, được huấn luyện trên các lỗi ASR từ âm thanh thực tế và âm thanh tổng hợp. Để mở rộng quy mô huấn luyện, chúng tôi xây dựng các tập dữ liệu tổng hợp thông qua quy trình kết hợp TTS và ASR, qua đó nhận thấy rằng việc khớp với sự đa dạng của các phân phối lỗi thực tế là yếu tố then chốt. Chúng tôi đề xuất phương pháp giải mã ưu tiên sửa lỗi (correction-first decoding), trong đó mô hình sửa lỗi tạo ra các ứng viên được chấm điểm lại bằng điểm âm học (acoustic scores) của ASR. Với số lượng tham số ít hơn 15 lần so với các LLM, mô hình của chúng tôi đạt tỷ lệ WER 1.5/3.3% trên tập kiểm thử LibriSpeech test-clean/other, vượt trội hơn các LLM, có khả năng tổng quát hóa trên nhiều kiến trúc ASR (CTC, Seq2seq, Transducer) và các lĩnh vực đa dạng, đồng thời cung cấp các bản sửa lỗi chính xác trong môi trường có tỷ lệ lỗi thấp – nơi mà các LLM thường gặp khó khăn.
Các bài đọc liên quan và cập nhật.
Bài báo này trình bày một phương pháp giải mã hiệu quả cho nhận dạng giọng nói tự động đầu-cuối (E2E-ASR) với các mô hình ngôn ngữ lớn (LLM). Mặc dù shallow fusion là phương pháp phổ biến nhất để tích hợp các mô hình ngôn ngữ vào giải mã E2E-ASR, chúng tôi vẫn đối mặt với hai vấn đề thực tiễn khi sử dụng LLM. (1) Suy luận (inference) của LLM rất tốn kém về mặt tính toán. (2) Có thể xảy ra sự không tương thích về từ vựng giữa mô hình ASR và LLM. Để giải quyết sự không tương thích này, chúng ta cần…
Đọc thêm
Trong những năm gần đây, các hệ thống nhận dạng giọng nói tự động đầu-cuối (ASR) đã chứng minh được độ chính xác và hiệu suất đáng kinh ngạc, nhưng các hệ thống này vẫn có tỷ lệ lỗi đáng kể đối với các tên thực thể xuất hiện không thường xuyên trong dữ liệu huấn luyện. Song song với sự trỗi dậy của các hệ thống ASR đầu-cuối, các mô hình ngôn ngữ lớn (LLM) đã chứng tỏ là một công cụ linh hoạt cho nhiều tác vụ xử lý ngôn ngữ tự nhiên (NLP). Trong các tác vụ NLP mà ở đó một cơ sở dữ liệu…
Đọc thêm
Bài viết được AI dịch và tổng hợp tự động từ Apple Machine Learning Research. Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.