MENU

英語の音声認識とAI採点の精度は?公表されている数字

英語の音声認識の単語誤り率が朗読音声で2.7%・学習者の自由発話で28.5〜38.5%、AI採点と人の採点の相関がスピーキングでr=0.770であることを並べた、AI語学の解説記事のアイキャッチ
英語の音声認識の単語誤り率が朗読音声で2.7%・学習者の自由発話で28.5〜38.5%、AI採点と人の採点の相関がスピーキングでr=0.770であることを並べた、AI語学の解説記事のアイキャッチ

英語の音声認識とAI採点は、どこまで正確なのか。公表されている代表値を先に置くと、朗読音声の書き起こしは単語誤り率2.7%(OpenAIのWhisper large-v2、LibriSpeech test-cleanでの値)まで下がっている一方で、学習者の自由発話では同じ指標が28.5%から38.5%(ETSがTOEFL iBTの音声で報告した値)と大きく上がる。採点のほうは、AIの点と人の点の相関がスピーキングでr=0.770(受験者単位)、ライティングで相関0.74(TOEFL独立課題)と公表されている。

この記事は、ETS(TOEFLの運営団体)・Pearson(Versantの提供元)・査読論文および学会論文が公表している数字を、編集部が並べ直したものである。数字は2026年9月21日に各一次資料で確認した。確認が取れなかったものは載せていない。相関係数や単語誤り率は「何を、どの集団で、どの単位で測った値か」で大きく変わるため、各表に測定対象と件数を添えている。

目次

英語の音声認識とAI採点の精度は、公表値でどこまで分かるか

まず、性質の違う数字を1枚にまとめる。書き起こしの正確さは単語誤り率(WER=Word Error Rate)で表され、値が小さいほど誤りが少ない。採点の正確さは人の採点との相関係数で表され、値が大きいほど人の採点に近い。この2つは別物で、同じ「精度」という言葉でひとまとめにはできない。

測った対象公表されている数字出どころ(年)
英語の朗読音声の書き起こし(LibriSpeech test-clean)単語誤り率2.7%OpenAIの音声認識論文(2022年公開・2023年学会版)
英語の電話会話の書き起こし(NIST 2000のSwitchboard部分)単語誤り率5.1%Microsoftの会話音声認識システム論文(2017年)
英語学習者の自由発話の書き起こし(TOEFL iBTの音声)単語誤り率28.5%/別の評価区分で38.5%ETS研究報告 RR-18-10(2018年)
英語スピーキングのAI採点と人の採点の相関(受験者単位)r=0.770(人どうしはr=0.88)ETS研究報告 RR-18-10(2018年)
英語ライティングのAI採点と人の採点(TOEFL独立課題)相関0.74/重み付きκ0.69ETS研究報告 RR-12-06(2012年)
英語スピーキング試験Versantの機械と人の総合点の相関0.97(n=143)Pearson「Versant English Test 試験説明・妥当性報告」(2022年)
英語音声認識の話し手による差(米国の社会言語学面接)単語誤り率0.35と0.19米国科学アカデミー紀要(PNAS)掲載論文(2020年)

同じ「英語の音声認識」でも、読み上げた文を書き起こす課題と、学習者が考えながら話した内容を書き起こす課題では、公表値が1桁近く違う。この差が、以下の各章で繰り返し出てくる。

英語の書き起こし精度=単語誤り率の公表値を並べる

OpenAIが2022年に公開した音声認識モデルの論文は、68万時間(680,000時間)の音声と書き起こしの組で学習したと書いている。うち11万7,000時間は英語以外の言語である。同論文の付録には、同じ条件(貪欲法によるデコード)で測った英語書き起こしの単語誤り率が、データセット別に並んでいる。

評価データ(何の音声か)Whisper large-v2wav2vec2-large-960h-lv60-self
LibriSpeech test-clean(朗読・雑音少)2.7%1.8%
LibriSpeech test-other(朗読・難易度高)5.2%3.8%
TED-LIUM3(講演)4.0%7.4%
Switchboard(電話会話)13.8%22.2%
CommonVoice 5.1(多様な話者の読み上げ)9.0%19.9%
CHiME6(雑音下の会食会話)25.5%56.3%
AMI-SDM1(遠隔マイクの会議)36.4%57.0%

読み上げ音声だけを見ると、LibriSpeechで学習したモデルのほうが1.8%と2.7%で良い。ところが評価データを変えると逆転し、雑音下の会議音声では25.5%と56.3%まで開く。「英語の音声認識の精度は◯%」という言い方が成り立たないことを、この表がそのまま示している。

単語誤り率という指標の読み方

単語誤り率は、正解の書き起こしに対する「置換・削除・挿入」の合計を正解の単語数で割った割合である。0%に近いほど誤りが少ない。100%を超える場合もある(挿入が多いとき)。この記事で%と小数表記が混在しているのは、各資料の表記をそのまま写したためで、0.35は35%と同じ意味である。

英語の人による書き起こしと機械の差はどれくらい公表されているか

機械が人にどこまで近いかを、同じ音源で比べた公表値もある。前述のOpenAIの論文は、Kincaid46というデータセットから25件の録音を選び、5つの書き起こしサービス(うち1つは計算機支援、4つは人手のみ)に同じ音源を発注して比較している。

結果として、計算機支援の書き起こしサービスの合計単語誤り率が最も低く、Whisperより1.15ポイント低いと報告されている。人手のみの4サービスは、Whisperより「1ポイント未満だけ低い」と書かれている。音源は台本ありと台本なしの放送、電話とVoIP通話、会議など複数の録音条件を含む。

電話会話でも同種の比較がある。Microsoftが2017年に公表した会話音声認識システムの論文は、NIST 2000のSwitchboard部分で単語誤り率5.1%を報告し、前年の同社システムの5.8%から相対で12%改善したと書いている。同じ論文は、プロの書き起こし業者に同じ音源を出した際の人の誤り率を5.9%、別の研究が複数人で書き起こす手順で測った人の誤り率を5.1%としている。

英語の自由発話は読み上げより単語誤り率が上がる

ここからは英語試験の話に移る。ETSがTOEFL Junior Comprehensive(中高生向け試験)の自動採点について公表した研究報告は、同じ受験者・同じ音声認識システムで、課題の種類ごとの単語誤り率を分けて報告している。学習データは同試験の2011年の試行から集めた7,300件・約137時間の音声である。

課題の種類(話し方)開発用区分の単語誤り率評価用区分の単語誤り率
読み上げ(台本あり)9.8%9.7%
絵の説明(自由発話)29.7%26.5%
聞いて話す(自由発話)31.7%29.4%

評価用区分は150件で、台本のある読み上げが9.7%、台本のない発話が26.5%から29.4%である。同じシステムでも課題が変わるだけで3倍近い開きが出る。ETSのSpeechRaterに関する2018年の研究報告でも、TOEFL iBTの自由発話から作った約800時間のコーパスで単語誤り率28.5%、採点評価用の区分では語彙の不一致により38.5%と報告されている。

英語スピーキングのAI採点=SpeechRaterの公表値

ETSの研究報告 RR-18-10(2018年)は、SpeechRater 5.0でTOEFL Practice Online用の採点モデルを作った結果を数字で出している。2012年に集めたデータを分割し、学習用に667人・4,002件、評価用に333人・1,998件を割り当てている。最終モデルは102個の特徴量のうち20個を使った線形回帰である。

比べた組み合わせ集計単位件数相関r標準化平均差
人の採点者どうし設問ごと1,7560.5910.032
システムと人設問ごと1,7750.557−0.019
人の採点者どうし受験者ごと(6問合計)2630.880.036
システムと人受験者ごと(6問合計)2640.770−0.061

読み方として重要なのは、設問ごとの数字では人どうしですら0.591にとどまる点である。同報告は、機械と人の相関が推奨基準の0.7を下回ったものの、人どうしからの下がり幅(低下量)が推奨基準の0.1より十分小さく、標準化平均差も−0.02で基準の0.15を超えなかった、と説明している。受験者ごとに6問を合計すると、人どうしが0.88、機械と人が0.770まで上がる。

なぜ単位で数字が変わるか

1問だけの点は、話題との相性や当日の出来のぶれが強く出る。複数問を合計すると、そのぶれが打ち消し合って安定するため、同じ採点方式でも相関が上がる。「AI採点の相関0.77」といった数字を見たときは、設問単位か受験者単位かを必ず確認したい。

英語の発音や流暢さの特徴量は人の採点とどれくらい相関するか

同じETSの報告は、個々の特徴量(機械が音声から取り出す数値)と人の採点の相関も公表している。いずれも前述の評価用データで測ったピアソン相関である。1つの特徴量だけで人の採点を再現できるものは無い、という前提で見る数字である。

特徴量何を測っているか人の採点との相関r
phnshift母音の長さが母語話者の標準からどれだけずれるか0.430
L6発音に関する音響モデルの指標0.398
L7発音に関する音響モデルの指標0.396
longSilRatio長い沈黙の割合−0.356
rpvis音節の長さのばらつき(リズム)0.357
avgFreq使った語の頻度の平均(語彙の難しさ)0.33
cvamax各得点帯の語彙との近さ0.311
IPW言い直し地点の多さ(語あたり)0.279

長い沈黙の割合だけがマイナス(沈黙が長いほど点が低い方向)である。最も高いものでも0.430で、単独では人の採点の2割弱しか説明しない。実際の採点モデルは、こうした特徴量を20個組み合わせて1つの点にしている。

英語ライティングのAI採点=e-raterの公表値

書く側の自動採点についても、ETSは数字を出している。研究報告 RR-12-06(2012年)は、2008年1月から10月のTOEFL iBTから15万2,000件超の解答を集め、独立課題38題・統合課題38題(1題あたり約4,000本)でe-rater v8.1を評価した。

課題の種類比べた組み合わせ重み付きκ相関完全一致率
独立課題(平均3,483本)人1と人20.690.6960%
独立課題(汎用モデル)人1とe-rater0.690.7459%
統合課題(平均3,316本)人1と人20.820.8260%
統合課題(汎用モデル)人1とe-rater0.590.6239%
統合課題(課題別モデル)人1とe-rater0.700.7346%

独立課題(自分の意見を書く課題)では、機械と人の相関0.74が人どうしの0.69を上回っている。一方、統合課題(読んで聞いた内容をまとめる課題)では汎用モデルの重み付きκが0.59にとどまり、人どうしの0.82から0.23も下がった。同報告はこの下がり幅が基準の0.10を超えたと明記しており、課題の種類によって自動採点の当てはまり方が違うことが公表資料の中で示されている。

隣接一致(1点差までを一致とみなす扱い)で見ると、独立課題は人どうし98%・機械と人99%である。統合課題は人どうし97%に対し、汎用モデルでは87%だった。

英語スピーキング試験Versantの機械採点と人の採点

Pearsonが公表しているVersant English Testの試験説明・妥当性報告(2022年版)は、同じ受験者の音声を「機械で採点した場合」と「人が丁寧に書き起こして採点した場合」で比べている。対象は143人分である。試験時間は15分から17分と書かれている。

スコアの種類機械と人の相関(n=143)機械の折半法信頼性人の折半法信頼性
総合0.970.970.99
文の運用0.970.920.95
語彙0.960.920.93
流暢さ0.940.970.99
発音0.880.970.99

総合点では0.97だが、下位スコアに分けると発音が0.88で最も低い。同報告も「内容の正確さに関する下位スコアのほうが、話し方に関する下位スコアより人と機械の関係が近い」と書いている。再テストによる安定性は、練習テストの有無を変えた3条件すべてで0.97(140人)と報告されている。

なお同報告は、6つの出題形式のうちOpen Questions(自由回答)だけは自動で分析できる解答を引き出す形式ではない、と明記している。高い相関は「自動採点しやすい形式に絞った試験」で得られた値であり、自由に話す課題にそのまま当てはまる数字ではない。

英語の他試験スコアとVersantの相関はどう公表されているか

同じ報告には、Versantの総合点と他の英語試験の相関も載っている。人が採点する試験との関係を見る材料になる。

比べた試験相関r人数n
TOEFL iBT スピーキング0.75130
IELTS スピーキング0.76130
TSE(Test of Spoken English)0.8858
TOEFL リスニング0.79321
TOEFL iBT 総合0.64130
TOEIC 総合0.65494
CEFRの判定(3回目の実験)0.88303

読む・書くを含む総合スコアとの相関は0.64から0.65にとどまり、話す・聞くに絞った試験との相関が0.75から0.88と高い。測っている中身が違えば相関は下がるという、当たり前の構造がそのまま数字に出ている。

英語の音声認識は話し手によって数字が変わる

機械の書き起こしは、話し手の属性によって成績が変わることも公表されている。米国科学アカデミー紀要(PNAS)に2020年に掲載された論文は、Amazon・Apple・Google・IBM・Microsoftの5社の音声認識に、米国5都市で録音した社会言語学面接の音声を書き起こさせた。

論文の要旨は、黒人話者の平均単語誤り率0.35に対し、白人話者は0.19だったと述べている。対象は黒人話者73人・白人話者42人、音声は年齢と性別をそろえたうえで19.8時間である。これは米国英語の方言差についての研究であり、日本語話者の英語にそのまま当てはめられる数字ではない。ただし「同じシステムでも話し手が変われば誤り率が変わる」という一般的な論点の、実測された裏づけにはなる。

この数字から言えない範囲

この論文は2019年時点の5社の商用サービスを、特定の音源で測った結果である。その後の各社の更新を反映していない。また面接という録音条件(自由な会話・雑音あり)は、試験の録音条件とは異なる。日本語話者の英語の単語誤り率を示した数字ではない点にも注意したい。

英語のAI採点の数字を読むときに押さえる前提

ETSの2つの研究報告は、自動採点を実運用に入れてよいかの判断基準も公表している。数字を評価するときの物差しとして、この基準自体が参考になる。

基準公表されている値意味
機械と人の重み付きκまたは相関0.70以上これを下回ると原則として承認しない
人どうしからの低下量0.10以内人どうしの一致が低い課題では、この条件が優先される
標準化平均差(SMD)絶対値0.15以内機械の平均点が人より高すぎ・低すぎないこと

ETSの報告は、重み付きκが四捨五入後の点で計算されるのに対し、相関は四捨五入前の連続値で計算されるため、2つの数字は同じ意味にならないと注記している。実際、SpeechRaterの受験者単位の相関0.770は0.70を超えるが、設問単位の0.557は下回る。同じシステムでも、集計単位を変えるだけで基準の内外が入れ替わる。

また、人の採点そのものが完全な正解ではない。TOEFLの独立課題では人どうしの重み付きκが0.69、SpeechRaterの評価データでは人どうしの相関が0.59から0.61だった。機械はこの人の採点を目標に学習し、この人の採点を基準に評価される。人の一致が低い課題では機械の数字も上がりにくい、という関係がある。

英語の音声認識とAI採点で最後に確認しておくこと

公表値を見るときの要点
  • 書き起こしの正確さ(単語誤り率)と採点の正確さ(人との相関)は別の指標である
  • 英語の単語誤り率は、朗読で2.7%、電話会話で13.8%、学習者の自由発話で28.5%から38.5%と、音声の種類で大きく変わる
  • 採点の相関は、設問単位か受験者単位かで変わる(SpeechRaterは0.557と0.770)
  • 課題の種類でも変わる(e-raterはTOEFL独立課題0.74、統合課題の汎用モデル0.62)
  • Versantの総合0.97は、自動採点しやすい出題形式に絞った試験で測った値である
  • 比較対象である人の採点自体の一致度(0.59から0.88)も併せて見る必要がある

英語の自動採点の数字を比べるときは、この6点をそろえてから並べたい。数字が高い順に並べただけの比較は、測った対象が違うもの同士を並べていることが多い。

この記事の数字の出どころ

ETS(Educational Testing Service)研究報告 RR-18-10「Automated Scoring of Nonnative Speech Using the SpeechRater v. 5.0 Engine」2018年(確認日2026年9月21日)=音声認識の単語誤り率28.5%・38.5%、約800時間の学習データ、設問単位と受験者単位の相関、特徴量ごとの相関、102個中20個の特徴量。

ETS研究報告 RR-12-06「Evaluation of the e-rater Scoring Engine for the TOEFL Independent and Integrated Prompts」2012年(確認日2026年9月21日)=15万2,000件超・独立38題/統合38題、重み付きκと相関、完全一致率、承認基準0.70と低下量0.10と標準化平均差0.15。

ETS研究報告「Automated Scoring for the TOEFL Junior Comprehensive Writing and Speaking Test」(2011年試行データ)=受験者3,385人、音声・作文各1万6,925件、課題別の単語誤り率9.7%/26.5%/29.4%、書く側の相関0.83(人どうし0.90)、話す側の相関0.81(人どうし0.89)、学習用音声7,300件・約137時間。

Pearson「Versant English Test 試験説明・妥当性報告」2022年(確認日2026年9月21日)=機械と人の相関0.97ほか、折半法信頼性、再テスト0.97、他試験との相関、試験時間15分から17分、Open Questionsは自動分析の対象外。

OpenAI「Robust Speech Recognition via Large-Scale Weak Supervision」2022年公開・2023年学会版(確認日2026年9月21日)=68万時間の学習データ、データセット別の単語誤り率、Kincaid46の25録音での人の書き起こしサービスとの比較。

Microsoft「The Microsoft 2017 Conversational Speech Recognition System」2017年(確認日2026年9月21日)=NIST 2000のSwitchboard部分で5.1%、前年5.8%、人の書き起こし5.9%と5.1%。

米国科学アカデミー紀要(PNAS)掲載「Racial disparities in automated speech recognition」2020年(確認日2026年9月21日)=5社の音声認識、黒人話者0.35・白人話者0.19、73人と42人、19.8時間。

ETS公式サイトのSpeechRater紹介ページ(確認日2026年9月21日)=2006年からTOEFL Practice Onlineで使用していること。

以上が、一次資料から拾える英語の音声認識とAI採点の公表値である。各機関は継続して研究報告を更新しているため、最新の値は各団体の公式サイトで確認してほしい。この記事では、出どころと測定条件が確認できた数字だけを載せ、確認が取れなかったものは表から落としている。

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

コメント

コメントする

目次