arXiv News

すべての人に一次情報を

サイト

Aboutプライバシーポリシー利用規約

© 2026 arXiv News

arXiv News

英語日本語

言語を切り替え

英語日本語
アカウントを読み込み中…

すべての人に一次情報を

トップページに戻る
サウンド日本語公開済み

Route‑DMDで4ステップだけで教師モデルと同等の音声生成・編集を実現し、推論を4.5倍速く

2026年11月9日arXiv: 2611.08011v1

Route‑DMDは、音声生成・編集・処理を行う基盤モデルを4ステップで動作させ、教師モデルと同じ品質を保つことに成功した。これにより、従来なら20〜50回の反復処理が必要だったタスクを短縮できる。<br>従来の分布一致蒸留(DMD)は生成タスクにしか適用されなかったが、Route‑DMDはタスク依存の目的関数を導入した。分離タスクではノイズ状態が教師の分布と乖離するため、回帰損失に切り替える。生成と編集タスクではやるべきは分布一致蒸留を維持する。<br>学生モデルは一貫性蒸留(Consistency Distillation)で初期化し、教師は従来のClassifier-Free Guidance(CFG)ではなくAdaptive Projected Guidance(APG)を用いた。APGは高いガイダンススケールで発生するアーティファクトを抑え、教師の予測精度を保持する。<br>実験ではAuK基盤モデル上で評価した。4ステップ学生は、32ステップ教師に対し、音声品質評価(N‑MOS)と可聴性評価(I‑MOS)で同等またはわずかに優れたスコアを示した。さらに、リアルタイム因子(RTF)が0.4333から0.0958に減少し、エンドツーエンドで4.5倍の速度アップを達成した。<br>テレビSS‑Evalベンチマークでは、SIMとWERが32ステップ教師とほぼ同等(SIM平均0.790、WER 2.85)で、RTFも低下した。<br>本手法の性能は、一貫性蒸留とAPGに大きく依存する。APGがなければ教師のガイダンスにアーティファクトが生じ、学生の分離性能が低下する。さらに、学生を無初期化で開始するとSIMとWERが低下し、最終的な品質が落ちる。<br>Route‑DMDは、数ステップで高品質な音声処理を実現できることを示したが、他のアーキテクチャやタスクへの直接移行は保証できない。これらの制限は、タスク依存蒸留と初期化戦略の選択に対して慎重な設計が必要であることを示唆している。

元論文

Route-DMD: Distribution Matching Distillation with Task-Routed Mechanism for Speech Foundation Models

サウンド
arXiv で見る
Route‑DMDで4ステップだけで教師モデルと同等の音声生成・編集を実現し、推論を4.5倍速く | arXiv News