What is Orpheus TTS?
Orpheus TTS 是一個全新的開源文字轉語音系統,它利用大型語言模型 (LLMs) 的強大功能,產生極其逼真、宛如真人般的語音。Orpheus 建構在 Llama-3b 的基礎之上,提供自然的語調、情感和節奏,其表現可與 Eleven Labs 和 PlayHT 等領先的閉源替代方案相媲美,甚至超越它們。它解決了對高品質、可自訂和易於使用的 TTS 的需求問題,而且不受專有系統的限制。您可以獲得控制權、靈活性和透明度,同時實現最先進的成果。
主要特色:
🗣️ 產生如真人般的語音: Orpheus 產生具有自然語調、情感表達和節奏的語音,超越了許多閉源模型的品質。這是透過對大量數據集進行廣泛的預訓練和微調技術來實現的。
🗣️ 執行零樣本語音複製: 在沒有任何事先微調的情況下,真實地複製聲音。只需提供一個樣本,預訓練模型就可以模仿該聲音的特徵。(提示中更多的語音-文字配對會使預訓練模型產生更好的複製效果。)
🗣️ 引導情感和語調: 使用簡單的文字標籤(例如,
<laugh>
、<sigh>
、<crying>
)控制產生語音的情感基調和表達方式。微調模型以實現細緻而特定的聲音風格。🗣️ 實現低延遲串流: 體驗即時語音生成,串流延遲約為 200 毫秒。這非常適合互動式應用程式,並且可以透過輸入串流進一步減少到約 100 毫秒。
🛠️ 利用預訓練和微調模型: 存取通用預訓練模型(在超過 10 萬小時的英語語音上訓練)和針對日常 TTS 應用程式最佳化的微調模型。
🛠️ 自訂和微調: 輕鬆地根據您的特定需求調整 Orpheus。我們提供數據處理腳本和樣本數據集,使您可以輕鬆地建立自己的微調模型。該過程類似於使用
Trainer
和Transformers
調整 LLM。🛠️ 輕鬆整合: 使用簡單的 Python 套件 (
orpheus-speech
) 進行快速設定和整合。在底層利用vLLM
進行最佳化、快速的推論。
使用案例:
即時對話式 AI: 想像一下,建構一個不僅能理解自然語言,還能以聽起來真正富於同情心和吸引力的聲音做出回應的客戶服務聊天機器人。Orpheus 的低延遲串流使這一切成為可能,創造更像真人般的互動。
輔助應用程式: 為有視覺障礙或閱讀困難的個人開發輔助技術解決方案。Orpheus 可以將書面內容轉換為高品質、聽起來自然的語音,從而改善對資訊和溝通的存取。
內容建立和配音: 使用多樣化且富有表現力的聲音建立有聲讀物、Podcast 或影片旁白。Orpheus 的零樣本語音複製和情感控制允許快速原型設計和自訂,從而簡化內容建立過程。
技術細節:
架構: Orpheus 使用 Llama-3b 架構作為其主幹。預訓練模型在超過 10 萬小時的英語語音數據和數十億個文字tokens上進行了訓練,確保對語言和細緻語音模式的深入理解。
模型大小: Orpheus 提供四種大小:中型(30 億參數)、小型(10 億參數)、微型(4 億參數)和奈米型(1.5 億參數),為不同的效能和資源需求提供選項。
Token化: Orpheus 採用基於 CNN 的非串流 token 化器。對 detoken 化器進行滑動視窗修改,可以實現串流,而不會產生音訊失真(“爆音”)。
解碼: 該模型展平以不同頻率採樣的 tokens,並將它們解碼為單個序列,從而提高生成速度。
常見問題:
問:Orpheus 與其他 TTS 系統相比如何?
答:在自然度、語調和情感表達方面,Orpheus 的表現與 Eleven Labs 和 PlayHT 等領先的閉源模型相比,具有可比擬或更優越的效能。請參閱我們部落格文章中的比較。
問:我需要什麼硬體才能執行 Orpheus?
答:Orpheus 可以在 GPU 上高效執行,其中 30 億參數模型可在 A100 40GB GPU 上實現即時串流。較小的模型可以在效能較低的硬體上執行。
問:如何在我自己的數據上微調 Orpheus?
答:我們提供詳細的微調說明和腳本。該過程類似於使用
Trainer
和Transformers
調整 LLM。您將需要指定 Hugging Face 格式的數據集。在大約 50 個範例後可以看到高品質的結果,但建議每個說話者使用 300 個範例以獲得最佳結果。問:如何格式化微調模型的提示?
答:對於
finetune-prod
模型,將您的提示格式化為{name}: I went to the...
。有效的名稱包括 "tara"、"leah"、"jess"、"leo"、"dan"、"mia"、"zac" 和 "zoe"。我們的 Python 套件會自動處理此格式。您也可以添加情感標籤,例如<laugh>
或<sigh>
。
結論:
對於任何需要高品質、可自訂的文字轉語音的人來說,Orpheus TTS 提供了一個強大而靈活的解決方案。它的開源性質,結合其先進的功能和易用性,使其成為專有系統的一個引人注目的替代方案。您可以獲得控制權、透明度,以及根據您的特定需求客製化系統的能力,同時實現最先進的成果。
