Posted inAI

Tự xây hệ thống TTS offline “nhẹ tênh” trên Linux với Piper và Python

Artificial Intelligence tutorial - IT technology blog
Artificial Intelligence tutorial - IT technology blog

Vấn đề thực tế: Khi API Cloud “dở chứng” lúc 2 giờ sáng

Đó là một đêm thứ Ba, mình đang trực ca cho dự án tổng đài thông minh (Smart IVR). Bất ngờ, màn hình giám sát báo đỏ rực: hàng loạt request của khách hàng bị treo, log tràn ngập lỗi 504 Gateway Timeout. Thủ phạm? Không ai khác ngoài cái API Cloud TTS bỗng dưng lăn đùng ra chết.

Câu chuyện không chỉ dừng lại ở sự cố kỹ thuật. Cầm cái hóa đơn cuối tháng trên tay với con số hàng nghìn đô, sếp mình bắt đầu đặt dấu hỏi lớn. Traffic thực tế chưa phải quá khủng, nhưng tiền phí dịch vụ thì cứ leo thang theo từng ký tự. Mình buộc phải tìm câu trả lời: Làm sao để hệ thống chạy mượt khi mất mạng, bảo mật tuyệt đối dữ liệu và quan trọng là… phải rẻ?

Tại sao Cloud TTS không còn là “chân ái”?

Sau khi ngồi debug lại đống log, mình nhận ra 4 rào cản lớn nếu cứ tiếp tục phụ thuộc vào đám mây:

  • Độ trễ khó chịu: Mỗi câu thông báo mất từ 500ms đến 2 giây để đi một vòng lên cloud rồi quay về. Quá chậm cho một cuộc hội thoại cần tương tác tức thì.
  • “Bào” ngân sách: Các ông lớn như Google hay Azure tính tiền theo kiểu “tích tiểu thành đại”. Với hệ thống cần đọc văn bản liên tục, đây là gánh nặng tài chính thực sự.
  • Rủi ro bảo mật: Đưa nội dung nhạy cảm của khách hàng ra ngoài server nội bộ luôn tiềm ẩn nguy cơ rò rỉ thông tin.
  • Phụ thuộc đường truyền: Chỉ cần đứt cáp quang hay phía provider bảo trì là toàn bộ hệ thống “đắp chiếu” ngay lập tức.

Hành trình đi tìm giải pháp thay thế

Mình đã dành cả đêm hôm đó để test mọi công cụ offline có mặt trên Linux:

  1. eSpeak / Festival: Nhẹ thì có nhẹ, nhưng giọng đọc nghe như robot từ những năm 90, rất chói tai.
  2. gTTS: Thực chất chỉ là một cái wrapper gọi API Google Translate. Không có mạng là coi như bỏ.
  3. Coqui TTS: Giọng cực hay, chuẩn AI hiện đại. Khổ nỗi nó quá nặng, đòi hỏi GPU khủng. Chạy trên CPU đời cũ thì render một câu mất cả chục giây – hoàn toàn không khả thi.

May mắn thay, mình va phải Piper. Đây là công cụ TTS dùng kiến trúc VITS, được tối ưu qua ONNX runtime nên chạy nhanh đến kinh ngạc.

Triển khai Piper TTS kết hợp Python trên Linux

Piper thực sự là một “kẻ thay đổi cuộc chơi”. Nó có thể xử lý realtime ngay cả trên một chiếc Raspberry Pi 4. Mình đã đưa giải pháp này vào sản xuất cho hệ thống thông báo nội bộ, kết quả là độ trễ gần như biến mất.

Bước 1: Cài đặt môi trường

Trên Ubuntu hoặc Debian, bạn chỉ cần vài dòng lệnh. Nhớ dùng virtual environment để giữ hệ thống sạch sẽ nhé:

# Tạo và kích hoạt venv
python3 -m venv piper_env
source piper_env/bin/activate

# Cài đặt qua pip
pip install piper-tts

Bước 2: Lấy Voice Model (Tiếng Việt)

Model của Piper ở dạng file .onnx khá gọn (thường chỉ 50-100MB). Hiện tại, bộ dữ liệu VinaNooe cho giọng tiếng Việt rất ổn, đủ dùng cho hầu hết nhu cầu cơ bản.

mkdir models && cd models

# Tải model và file config giọng nữ miền Bắc
wget https://github.com/rhasspy/piper/releases/download/v1.0.0/voice-vi-vits-low.onnx
wget https://github.com/rhasspy/piper/releases/download/v1.0.0/voice-vi-vits-low.onnx.json

Bước 3: Nhúng vào script Python

Chúng ta sẽ viết một wrapper nhỏ để gọi Piper. Cách này giúp bạn dễ dàng tích hợp vào bot Telegram, Discord hoặc ứng dụng Web.

import wave
import time
from piper.voice import PiperVoice

# Load model một lần duy nhất để tối ưu
voice = PiperVoice.load("models/vi-vits-low.onnx", "models/vi-vits-low.onnx.json")

def text_to_speech(text, output_file):
    start = time.perf_counter()
    
    with wave.open(output_file, "wb") as wav_file:
        voice.synthesize(text, wav_file)
    
    duration = time.perf_counter() - start
    print(f"Xong! Render mất {duration:.3f} giây.")

if __name__ == "__main__":
    text_to_speech("Chào anh em IT, Piper chạy nhanh kinh khủng!", "output.wav")

Mẹo nhỏ để đạt tốc độ “bàn thờ”

Nếu muốn hệ thống phản hồi trong chớp mắt, hãy thử 3 chiêu này:

  • Dùng RAM Disk: Ghi file wave tạm vào /dev/shm thay vì ổ cứng. Tốc độ I/O lúc này sẽ nhanh hơn gấp nhiều lần.
  • Cơ chế Caching: Những câu chào cố định thì cứ hash nội dung rồi lưu file audio lại. Lần sau chỉ việc phát, không cần tốn CPU render lại.
  • Chạy song song: Piper tiêu tốn rất ít tài nguyên. Bạn hoàn toàn có thể chạy 4-5 instance cùng lúc trên một server phổ thông để xử lý hàng loạt request.

Lời kết từ kinh nghiệm thực chiến

Từ khi chuyển hẳn sang Piper, hệ thống bên mình không còn phụ thuộc vào bất kỳ bên thứ ba nào. Hóa đơn TTS giảm về số 0 tròn trĩnh. Khách hàng thì hài lòng vì giọng nói phản hồi gần như tức thì.

Nếu bạn đang làm chatbot, thiết bị nhúng hay đơn giản là cần sự riêng tư, Piper là lựa chọn cực kỳ đáng giá. Chúc anh em có những đêm ngủ ngon mà không lo server báo lỗi lúc nửa đêm!

Share:
Tags: