採点規則

最終更新: 2026-09-06 / ← /facts

Stage A ― 語彙サイズ V

数える範囲(分母)

核 8,750 語です。BNC/COCA の 1k–5k 帯には全部で 15,360 語(flemma)ありますが、
そのうち頻度順に上位 8,750 語だけを数えています。この 8,750 は
映画・TV の発話の 98% を覆う地点で、ここより下の語は映画・TV にほぼ出てきません。

🔒 したがって cs の上限は 8750cs です。これを超えた推定は 8750+cs と表示して止めます。

推定のしかた(既定:曲線)

出題した語の頻度と正誤だけを使い、「頻度がこのくらいの語なら、この人は何%くらい知っている」という
S 字の曲線を 1 本当てはめます。その曲線を核 8,750 語すべてに足し上げたものが V です。

既知確率 P(f) = σ( (log10 f − t) / s )      t, s は応答から最尤推定
V = Σ_{核の全 flemma} P(freq)
95%CI = t を対数尤度が 1.92 下がるまで動かした幅を V に写したもの

なぜ帯ごとの正答率を使わないか。 帯の中の語は極端に偏っています(1k 帯は上位 10% の語が
帯のトークンの 84.5% を占める)。学習者は高頻度側から知るので、頻度の高いところから出題すると
「帯の何%を知っているか」を大きく過大評価します。合成学習者での実測(項目 62 件・反復 200):

出題のしかた 帯ごとの正答率 曲線
種から一様に引く +8% 〜 +23% −0.2% 〜 +2.2%
頻度上位から引く +58% 〜 +340% −5.7% 〜 +2.1%

なぜ核に閉じるか。 曲線は「知っているかどうかは頻度でおおむね決まる」という仮定なので、
出題した語の頻度域から遠いところへ足し上げるほど、仮定が崩れたときの誤差が効きます。
わざと仮定を外した学習者を並べて測ると:

学習者のタイプ 分母 = 全 15,360 分母 = 核 8,750
頻度で決まる(仮定どおり) +0.8% −0.6%
ある頻度を境に全部知っている +2.8% +2.6%
帯の中では頻度と無関係 −18.7% +8.1%
どの語も 10% は知っている −14.4% −1.9%
どの語も 30% は知っている −19.3% −2.7%

これは実際の項目バンク(206 語)と実際の出題(62 問)で測った値です。
理想的に出題を散らせば ±1.4% まで下がりますが、実際の出題は帯ごとに区切って引くので、
「帯の中では頻度と無関係に知っている」型の学習者では +8.1% の過大評価が残ります。
理想側の数字は載せません。

🔒 この精度は出題が核の頻度域を端まで覆っていることが前提です。だから各帯の出題は
帯の中を頻度四分位で層化して引き、最も低頻度の四分位から必ず 25% を出しています
(実際の出題は log10 頻度で 2.36〜5.58、核の下端は 2.33)。

🔒 事前分布(ベイズの当て込み)は入れていません。 弱情報の事前分布を足すと精度が上がるかを
測りましたが、上がらず、「どの語も 10% は知っている」型の学習者ではむしろ悪化しました
(−0.7% → +1.4%)。買えないものを仮定として持ちません。

曲線が当てはまらないとき(フォールバック)

出題が 12 問未満・全問正解・全問不正解では、曲線の位置が決まりません。
その場合は帯ごとの正答率に戻します。

帯 b について  p_b = 正答数 / 出題数   (「わからない」と誤答はいずれも 0 点)
V = Σ_b N_b × p_b      N_1k=2315 N_2k=1909 N_3k=1839 N_4k=1463 N_5k=1224
95%CI = V ± 1.96 × sqrt( Σ_b (N_b × sqrt(p_b(1−p_b)/n_b))² )

🔒 N_b は核に閉じた語数です(帯の全語数ではありません)。帯の全語数を使うと V が天井を超えます。
🔒 フォールバックしたときは結果画面にそう書きます。同じ「cs」が黙って別の作り方の数になることを避けます。

🔒 推測補正式(R − W/(C−1))は使いません。Frary (1988) NCME ITEMS Module 4:
適用が正当化されるのは速度検査と合格点が極めて低い難問テストのみで、
「教室テストには一般に不適切」。リスク回避的な受験者が不当に低得点になる公平性問題があります。
推測は補正ではなく「わからない」選択肢で抑制します。

🔒 信頼区間を必ず画面に出します。Gyllstad et al. (2021) Language Testing 38(4) の主張の核心は
「CIを示さない語彙サイズ推定は実践として欠陥がある」です。

🔒 当て推量は結果を上げます(2026-09-12 実測)

Stage A は4択なので、知らない語でも 1/4 で当たります。当たった語は「知っている」として
数えられ、そのあと Stage B に回って落ちます。V が上がり R が下がるので、
cs = V × R がどちらに動くかは一概には言えません。そこで実際に回して数えました。

実バンク206項目・実スクリーナー62問で、同じ人が「正直に答えた場合」と
「知らない語を 1/4 で当てた場合」を各400回ずつ比べたものです。

学習者(核の真値) 真の復元率 cs(正直) cs(当て推量) 差の中央値 下がった割合 V の変化 R の変化
初級 3,000 0.6 1,455 1,764 +313 31% +1,488 −14.7pt
中級 5,500 0.6 3,144 3,465 +371 38% +834 −2.5pt
上級 7,000 0.6 3,998 4,225 +205 43% +438 −0.4pt
帯内一様・中級 0.8 3,925 3,972 +8 50% +792 −10.0pt

12通り試したうち、平均が下がった組み合わせは1つもありませんでした。
下がることもありますが(27〜50%)、向きとしては上がります。
語彙サイズの押し上げが、復元率の押し下げに勝ちます。

⚠️ したがって、いまの器は当て推量に報酬を与えています。
「わからない」をあまり押さない人の cs は、押す人より構造的に高く出ます。
受験者どうしの比較は、この分だけ歪んでいます。

⚠️ とくに初級者で歪みが大きい(差の中央値 +313、語彙サイズは +1,488)。
知らない語が多いほど当てる機会が多いためで、一番正確さが要る層で一番外れます。

いまやっていること: Stage A の選択肢の下に
「当て推量で当たった語も『知っている』として数えるので、結果は実際より高く出ます」と表示しています。
これは指示であって補正ではありません。 当て推量そのものを補正する仕組み
(推測補正、あるいは Stage B で落ちた語を V から差し引く等)はまだ入っていません。

仮定を3つ置いています。ここを変えると結論も変わります。
(1) 4択なので知らない語は 1/4 で当たる (2) 当て推量で通した語は Stage B で必ず落ちる
(3) 知っている語は真の復元率で書ける。
計算は tools/guessing-sim.mjs、固定シードで何度でも同じ数字が出ます。

出題数を 62 問から 58 問にしました(2026-09-13)

長さを詰めるために、境界帯以外の 4 帯を 8 問 → 7 問にしました。
境界帯は 30 問のままです(Gyllstad, McLean & Stewart 2021 の「1 帯 30 項目以上」)。

62 問(旧) 58 問(現)
境界帯以外の 4 帯 8 問ずつ 7 問ずつ
境界帯 30 問 30 問
一人あたりの誤差(最悪 RMSE) 18.4% 19.6%
平均のズレ(最悪) 6.8% 3.0%

一人あたりの誤差はわずかに増え、平均のズレは減りました。

🔒 これ以上短くできません

境界帯を決める閾値は 0.85 です。7 問なら 6/7 = 0.857 で「1 問の取りこぼし」が許容されますが、
6 問だと 5/6 = 0.833 になり、1 問落としただけでその帯が境界帯になります。

実際に 4 / 5 / 6 問で回すと、能力が上の学習者のほうが低い境界帯になる逆転が起きました
(7 問・8 問では起きません)。誤差の数字には出にくい壊れ方なので、ここで止めています。

さらに短くするには 閾値 0.85 のほうを動かす必要があり、それは測定の定義そのものに触ります。

境界帯の 30 問は、帯別表示のためだけではありません

境界帯を 30 問に保つと、5 種類の想定学習者すべてで「cs を出せない人」が 0% でした。
境界帯を削った設計では、初級層の 3〜17% が Stage B に送れる既知語 12 語(§2.5)に届かず、
cs そのものが出せなくなります。

計算は tools/adaptive-sim.mjs、固定シードで何度でも同じ数字が出ます。

Stage B

k = Stage A で既知と判定され Stage B に送られた語数
r = Stage B の正答数
復元率 R = r / k        実効聴覚語彙 cs = V × R

🔒 k < 12 のとき復元率を表示しません。分母が小さすぎて区間が意味を持ちません。

綴りの扱い ― ここが測定上の選択です

入力文字列をトークンに分け、各トークンについて:

1. 音声に入っている語形と一致                          → 正答
2. 音声に入っている語形と同音(発音が一致)              → 正答
   例: night / knight・nite、past / passed、labor / labour、defense / defence
3. 編集距離1以内 かつ 実在英単語でない                   → 正答(綴りミス)
4. それ以外                                            → 不正答

なぜこうしたか: 混同語は音が近いので綴りも近くなります。距離1以内を無条件に正答にすると、
year を hear と聞き間違えた受験者がタイプ入力では正答、タイル選択では誤答になり、
形式の比較が採点の甘さの比較になってしまいます。該当する混同語は 116個でした。

穴の大きさ: 対象語の代わりに打っても正答になっていた実在英単語は 642語(1項目あたり平均5.2語)
(124 項目時点の実測。項目を 206 に増やした後も同じ規則で塞いでいます)。

もう一つ塞いだ穴: タイルに並べている混同語そのものです。actually に対する factually、
watch に対する swatch、matter に対する mutter は、いずれも距離1で、しかも
英語頻度が低いため実在語リスト(Zipf ≥ 3.0)に載っていませんでした。
規則3の「実在英単語でない」に当たってしまい、そのタイルを選ぶと正答になっていました(正解が2枚ある状態)。
混同語は「別の語」として意図的に並べたものなので、選ばれたら必ず不正答にします。
これを含めて塞いだ綴りは 1,723語(206項目・1項目あたり8.4語) です。

presence の混同語にあった presents は、規則2で正答にすると決めた綴りと重なっていたので、
混同語の側から外しました。
say 42語、lay 40語、day 36語、year 16語。

実在語の判定: 英語 Zipf ≥ 3.0 かつ CMUdict 収録の 26,470語のリストを使います。
🔒 この閾値は暫定です。低くすると珍しい語まで実在語扱いになり本物のタイプミスを弾き、
高くすると穴が残ります。

Zipf 閾値 リスト語数 塞がる誤正答(1項目平均)
2.5 43,119 6.5語
3.0 26,470 5.2語
3.5 14,322 3.9語

🔒 規則2(同音異綴)を落とすと、正しく聞き取った受験者が誤答になります。
初版の改訂案でこの条項を落としており、復元しました。

CMUdict の発音一致で機械抽出すると18項目・31綴りが出ますが、固有名詞や
学習者が打つとは考えられない綴り(se hughes mater gras 等)が混ざります。
18項目しかないので目視で確定しました。採用は12項目・13綴りです。

high → hi          read → reed           night → knight / nite
whole → hole       effect → affect       past → passed
warn → worn        labor → labour        defense → defence
alter → altar      sail → sale           presence → presents

read の red は入れていません。断片が現在形 /ɹiːd/ なので red は誤聴です。
presence / presents は編集距離 2 で規則3では救われないため、ここで明示的に許容しています。

effect / affect は厳密には同音ではありません(/ɪˈfɛkt/ と /əˈfɛkt/)が、
連結音声ではほぼ同一なので、正しく聞き取った受験者を落とさない側に倒しています。
一覧と除外した綴りは homophones.csv にあります。

🔒 採点規則を揃えても形式の差が消えなかったので、形式を1つにしました

規則1〜4は入力形式とタイル選択で同一です。ただし当てずっぽうで当たる確率が形式で違いました。
タイル選択は音を聞かずに押しても 39.6〜76.6% 当たり、入力形式ではほぼ0%です
→ /facts/foils。採点の甘さは揃いましたが、床は採点規則では揃えられません。
そのため 2026-09-05 に Stage B を書き取り(入力形式)だけにしました。

規則2(同音異綴を正答にする)と規則3(距離1でも実在語なら不正答)は、
もともと2形式の公平のために入れたものですが、それ自体で正当化できます。
測っているのは音の復元であって綴りの正確さではないので、
音を正しく取れている応答を綴りだけで落とさない、というのが書き取り採点の標準的な扱いです。

🔒 未検証: この境界の引き方(綴りミスは許す/別語の聞き取りは許さない)を検証した研究は
見つかっていません。編集距離を連続得点にする方法もありますが、復元率 R が二値前提のため採っていません。

Copied title and URL