arXiv News

すべての人に一次情報を

サイト

Aboutプライバシーポリシー利用規約

© 2026 arXiv News

Earlybirdは音声認識で話し手が語り終わる前に単語を予測できる | arXiv News

arXiv News

英語日本語

言語を切り替え

英語日本語
アカウントを読み込み中…

すべての人に一次情報を

トップページに戻る
サウンド日本語公開済み

Earlybirdは音声認識で話し手が語り終わる前に単語を予測できる

2026年11月13日arXiv: 2611.14421v1

Earlybirdは小型のトランスフォーマーモデルで、音声の最初の音だけで単語を予測し、未完了の語に対しても確信度を算出できる。研究では、全てのテストセット(LibriSpeech、TED-Talk、公開スピーチ、収益報告、合成音声)で、Mid‑Wordの予測精度が他モデルを上回り、特にLibriSpeechでは69 %の単語が話し手が終了する前に正しく予測される。さらに、Uncertaintyエラー(ECE)は3.7 %から5.5 %の範囲に抑えられており、信頼性が高いことが示されている。

モデルは既存のMoonshine Tinyエンコーダ-デコーダーを用い、語彙を19 007語に削減した後、80 msごとに音声を切り、到達するべき単語とその次の二語を推測するように学習させる。架構自体は変更されず、語彙削減と量子化のみで構成されている。10 ms単位の遅延を最小化し、語の終端に対して補正フレームを追加することで、中間予測の遅延をさらに短縮している。

LibriSpeech test‑cleanにおいて、Earlybirdの中央値遅延は−90 msで、Moonshine Tinyが+270 ms、Whistleが+400 ms、Whisper baseが+90 msである。すべての6セットで、Earlybirdは中央値遅延が360 ms早く、Whistleに比べて490–580 ms、Whisper baseに比べて160–200 ms早い。全体的な単語誤り率(WER)はOpen ASR Leaderboardで、フル精度で11.7 %、4‑bit量子化で12.7 %で、Moonshine Tiny(12.0 %)を上回り、Whistle(12.2 %)にほぼ同等である。なお、未知領域の音声コマンドでは確信度の校正が劣化し、ECEは8.8 %に達する。

テーブルは、Earlybirdの中央値遅延が−90 msで、Moonshine Tinyが+270 ms、Whistleが+400 ms、Whisper baseが+90 msと示しています。
Test setEarlybirdMoonshine TinyWhistleWhisper base
LibriSpeech clean (67)−𝟗𝟎 / 2.3
+270 / 3.9
+400 / 3.1
+90 / 2.3
LibriSpeech other (150)−𝟔𝟎 / 9.7+300 / 13.2+460 / 10.1+140 / 8.7
TED-LIUM (150)−𝟔𝟖 / 5.4+298 / 6.8+505 / 7.3+125 / 4.8
People’s Speech (150)−𝟔𝟔 / 14.5+290 / 16.7+477 / 14.2+127 / 10.5
Earnings-22 (150)−𝟒𝟔 / 18.4+309 / 21.6+535 / 17.8+142 / 13.3
Synthetic (67)−𝟕𝟑 / 5.6+292 / 7.0+424 / 7.5+90 / 4.8
Revisions per word (LS clean)1.292.070.160.39
Table 1. LibriSpeech test‑cleanにおけるEarlybirdの中央値遅延(−90 ms)とMoonshine Tiny(+270 ms)、Whistle(+400 ms)、Whisper base(+90 ms)の比較。Mahendrakar, Sahil · arXiv:2611.14421v1 · Table 1: · CC BY 4.0
テーブルは、Earlybirdの平均WERがフル精度で11.7 %、4‑bitで12.7 %で、Moonshine Tinyの12.0 %とWhistleの12.2 %を下回ることを示しています。
SystemTEDVoxPLS-cLS-oEarnAMIGigaSPGIMean
Earlybird 4-bit (16.8 MB)6.113.63.714.221.721.813.16.812.6
Earlybird full precision5.612.93.412.020.019.411.76.111.4
Moonshine Tiny runtime7.915.45.416.023.324.914.57.314.4
Whistle7.710.84.111.317.924.014.67.112.2
Whisper tiny.en5.913.75.214.017.522.211.85.312.0
Whisper base.en4.99.83.810.214.418.511.64.09.7
Whisper small.en4.08.32.77.811.916.98.73.68.0
Table 3. Open ASR Leaderboardに設定された8つの英語セットでのEarlybirdの平均WER(フル精度11.7 %、4‑bit12.7 %)とMoonshine Tiny(12.0 %)・Whistle(12.2 %)との比較。Mahendrakar, Sahil · arXiv:2611.14421v1 · Table 3: · CC BY 4.0

本研究は英語データのみで評価を行っており、ほか言語への汎化は示されていない。最終的に、Earlybirdは音声認識のリアルタイム性と精度を同時に高める小型モデルとして注目すべき成果を示した。

元論文

Earlybird: Predictive Streaming Speech Recognition in 29M Parameters

サウンド自然言語処理信号処理
arXiv で見る