Kokoro: Mô hình chuyển văn bản thành giọng nói (TTS) chất lượng cao, chạy mượt trên CPU

31 tháng 3, 2026

#tts #privacy

Chỉ vài năm trước, việc tạo giọng nói chân thực ngay trên thiết bị cục bộ dường như là điều không tưởng. Ngày nay, chất lượng của nó đã đạt mức vượt trội và quan trọng hơn là mang lại kết quả này mà không hề ảnh hưởng đến quyền riêng tư.

Video phía trên trình diễn âm thanh được tạo từ một đoạn văn bản mẫu, chạy hoàn toàn trên máy tính cục bộ đã được đề cập trong bài viết "GTX 1080 Ti cho Local LLM". Mặc dù máy tính này có GPU chuyên dụng, nhưng GPU đó được dành riêng hoàn toàn cho việc suy luận LLM và quá trình tổng hợp giọng nói được vận hành hoàn toàn bằng CPU.

Mô hình được sử dụng là Kokoro, dù chỉ có 82 triệu tham số nhưng vẫn tạo ra giọng nói chân thực bằng nhiều ngôn ngữ bao gồm tiếng Anh, tiếng Quan Thoại và tiếng Hindi. Nó cung cấp khoảng 50 giọng đọc khác nhau, chủ yếu được tối ưu hóa cho tiếng Anh.

Có nhiều cách để thiết lập máy chủ cho Kokoro. Phương pháp đơn giản nhất là sử dụng một container image có sẵn tên là Kokoro-FastAPI, vốn đã bao gồm các mô hình giọng nói được tải xuống trước. Chính vì vậy, container image này khá lớn, với dung lượng khoảng 5 GB.

Để khởi chạy container bằng Docker hoặc Podman, hãy sử dụng lệnh sau:

Để kiểm tra nhanh xem nó có hoạt động chính xác hay không, container cung cấp một giao diện web đơn giản tại localhost:8880/web. Tại đây, bạn có thể tạo (và tự động phát) âm thanh từ văn bản nhập vào.

Ngoài giao diện web đơn giản, container này còn cung cấp một giao diện TTS tương thích với OpenAI speech API, giúp dễ dàng điều chỉnh các chương trình hiện có vốn đang sử dụng OpenAI speech API. Để thuận tiện cho việc kiểm tra nhanh, mã mẫu bằng cả JavaScript và Python đều có sẵn tại github.com/remotebrowser/speak. Việc sao chép (clone) kho lưu trữ này sẽ cho phép bạn theo dõi các phần trình diễn tiếp theo.

Đối với JavaScript:

Đối với Python, lệnh cũng tương tự:

Âm thanh được tạo sẽ được lưu dưới dạng tệp MP3. Nếu SoX hoặc Sound eXchange (xem chi tiết tại sox.sf.net) được cài đặt trên máy của bạn, âm thanh cũng sẽ tự động phát lại.

Bạn cũng có thể chọn giọng đọc khác bằng cách thiết lập biến môi trường TTS_VOICE:

Danh sách đầy đủ các giọng đọc khả dụng có thể được tìm thấy trên trang dự án Kokoro chính thức: huggingface.co/hexgrad/Kokoro-82M/blob/main/VOICES.md.

Tốc độ tổng hợp nhanh đến mức nào? Dưới đây là một số phép đo sử dụng giọng am_eric trên một đoạn văn bản thử nghiệm ngắn:

Sao Mộc là hành tinh lớn nhất và nặng nhất trong hệ mặt trời của chúng ta. Hành tinh khí khổng lồ này, được cấu tạo chủ yếu từ hydro và heli, nổi tiếng với Vết Đỏ Lớn—một cơn bão khổng lồ đã được quan sát trong nhiều thế kỷ.

Danh sách sau đây tóm tắt thời gian tạo (kết quả tốt nhất trong 3 lần chạy) trên các CPU khác nhau:

CPU đầu tiên trong danh sách đã được phát hành cách đây 12 năm. Nếu một CPU "cổ lỗ sĩ" như vậy vẫn có thể thực hiện công việc một cách ổn thỏa, bạn có thể thấy đây là một hệ thống TTS có năng lực rất cao.

Cuối cùng, đối với một dịch vụ TTS dạng container thay thế tương thích với OpenAI, hãy cân nhắc Speaches (speaches.ai). Không giống như Kokoro-FastAPI, Speaches yêu cầu bạn phải tải xuống thủ công các trọng số giọng nói thông qua API của nó, vì chúng không được tích hợp sẵn trong container image. Tuy nhiên, Speaches mang lại lợi thế khi bao gồm Whisper, hệ thống Chuyển đổi giọng nói thành văn bản (STT) chất lượng cao nổi tiếng của OpenAI. Nếu ứng dụng của bạn cần cả chức năng TTS và STT, Speaches có thể là giải pháp tất cả trong một dành cho bạn.

Khi kết hợp với một LLM cục bộ, hệ thống tổng hợp giọng nói như thế này cho phép bạn tận hưởng việc nghe các câu trả lời từ LLM thay vì phải đọc chúng!

Lưu ý: Bài viết này ban đầu xuất hiện trên Remote Browser Substack.