# FSR25 ### 驗證(val)實測 4epoch | 詔安腔 | WER (%) | CER (%) | 大埔腔 | WER (%) | CER (%) | |----------------------|---------|-|----------------------|---------|-| | small | 30.19 |4.99 |small | 14.58 | 1.45 | | medium | 20.98 | <mark>3.11 | medium | 8.37 | <mark>0.78 | | large v3 | 27.55 | 4.12 | large v3 | 14.15 | 1.38 | ## 加噪 4epoch | 詔安腔 | WER (%) | CER (%) | 大埔腔 | WER (%) | CER (%) | |----------------------|---------|-|----------------------|---------|-| | small |20.22 | 3.18 |small |6.28 | 0.55 | | medium | 15.89 | <mark>2.43 | medium | 4.19|<mark>0.35 | | large v3 | 19.05 | 2.73 | large v3 | 6.35 | 0.58 | *** # 熱身賽驗證 ### 分開訓練-medium | 詔安腔5e(medium) | WER (%) | CER (%)|大埔腔5e(medium) | WER (%) | CER (%)| |---------|--|-|--------|------|--------| | eval_media_詔安腔 |94.10 | 30.80 |eval_media_大埔腔 | 88.86| 14.39| | val_recorded_ZF_女 |16.13 | 2.00|eval_recorded_DF_女 | 15.05| 1.73| | eval_recorded_ZM_男 |19.67|3.09 |eval_recorded_DM_男 |21.37 | 2.83 | | 詔安腔合併 |35.41 | 12.97 |大埔腔合併 |34.49 | 6.98 | ### 合併訓練-medium |合併5e(medium) | WER (%) | CER (%)|合併5e(medium) | WER (%) | CER (%)| |--------|-----------|--------|---|-----------|--------| | eval_media_詔安腔 |93.94 | 30.33 |eval_media_大埔腔 | 90.63| 15.69| | eval_recorded_ZF_女 | 13.68 | 1.67|eval_recorded_DF_女 | 13.31 | 1.57| | eval_recorded_ZM_男 | 18.23| 2.98 |eval_recorded_DM_男 |17.78 | 2.34| | 詔安腔合併 |33.98 | 12.69 |大埔腔合併 |32.90| 7.30 | ### 分開訓練-large | 詔安腔(large) | WER (%) | CER (%)| 大埔腔(large) | WER (%) | CER (%) |--------|--------|--------|--------|--------|--------| | eval_media_詔安腔 | 93.94 |24.99 | eval_media_大埔腔 | 88.86 | 13.03 | eval_recorded_ZF_女 | 20.26| 5.34 | eval_recorded_DF_女 |20.26 |2.50 | eval_recorded_ZM_男 | 23.85 | 4.03 | eval_recorded_DM_男 |22.02 | 2.79 | 詔安腔合併 |38.60 | 11.96 | 大埔腔合併 |36.85| 6.69 | ### 合併訓練-large | 詔安腔(large) | WER (%) | CER (%)| 大埔腔(large) | WER (%) | CER (%) |--------|--------|--------|--------|--------|--------| | eval_media_詔安腔 | 94.42|25.53| eval_media_大埔腔 | 88.86 |13.55| | eval_recorded_ZF_女 |18.19 | 2.53 | eval_recorded_DF_女 | 19.10|2.21| | eval_recorded_ZM_男 | 23.13 |3.61 | eval_recorded_DM_男| 18.60| 2.36| | 詔安腔合併 | 37.78| 11.38| 大埔腔合併 | 35.14 |6.59| *** # 對照表 <div style="display: flex; justify-content: space-between;"> <div style="flex: 1; margin-right: 10px;"> #### eval_media_詔安腔 | | WER (%) | CER (%)| |---------|--|-| | 詔安腔(medium) |94.10 | 30.80 | | 合併(medium) |93.94 | 30.33 | | 合併(medium)+lm |93.78 |29.42| | 詔安腔(large) |93.94 |24.99 | | 詔安腔(large)+lm | 93.78 | <mark>24.57 | | 合併(large) |94.42 |25.53 | | 合併(large)+lm |94.42 |25.20 | | 大埔腔(large) | 99.36 | 65.37| | lid | 94.10 | 25.02| </div> <div style="flex: 1;"> #### eval_media_大埔腔 | | WER (%) | CER (%)| |---------|--|-| | 大埔腔(medium) | 88.86| 14.39| | 合併(medium) | 90.63| 15.69| | 合併(medium)+lm |90.13 |15.53 | | 大埔腔(large) | 88.86 | 13.02| | 大埔腔(large)+lm | 88.61 |<mark>12.41| | 合併(large) | 88.86|13.55 | | 合併(large)+lm |88.86 |13.02 | | 詔安腔(large) | 99.24|53.64 | | lid | 88.86| 13.45| </div> </div> <div style="flex: 1;"> </div> --- <div style="display: flex; justify-content: space-between;"> <div style="flex: 1; margin-right: 10px;"> #### eval_recorded_ZF_女 | | WER (%) | CER (%) | |---------|--|--| | 詔安腔(medium) | 16.13 | 2.00 | | 合併(medium) | 13.68 | 1.67 | | 合併(medium)+lm |13.68 |<mark>1.61 | | 詔安腔(large) | 20.26 | 5.34 | | 詔安腔(large)+lm | 19.74 | 3.95 | | 合併(large) |18.19 |2.53 | | 合併(large)+lm |17.42 |2.40 | | 大埔腔(large) | 98.84 | 59.46| | lid | 20.90|2.96 | #### eval_recorded_ZM_男 | | WER (%) | CER (%) | |---------|--|--| | 詔安腔(medium) | 19.67 | 3.09 | | 合併(medium) | 18.23 | 2.98 | | 合併(medium)+lm |18.01 |<mark>2.86 | | 詔安腔(large) | 23.85 | 4.03 | | 詔安腔(large)+lm | 23.41| 3.80 | | 合併(large) |23.13|3.61 | | 合併(large)+lm |22.55 |3.49 | | 大埔腔(large) | 98.84 | 59.46| | lid | 23.27|3.99 | #### 詔安腔合併 | | WER (%) | CER (%) | |---------|--|--| | 詔安腔(medium) | 35.41 | 12.97 | | 合併(medium) | 33.98| 12.69 | | 詔安腔(large) | 38.60 |11.96 | | 詔安腔(large)+lm | 38.21 | 11.41 | | 合併(large) |37.78|<mark>11.38 | #### 熱身賽全部 | | WER (%) | CER (%) | |---------|--|--| | 合併(medium) |33.57 |10.39 | | 單獨腔調(large) | 37.94|9.71| | 合併(large) |36.87 |9.41 | | 合併(large)+rnn |36.78 |<mark>9.34 | | lid |36.78 |9.30 | </div> <div style="flex: 1;"> #### eval_recorded_DF_女 | | WER (%) | CER (%) | |---------|--|--| | 大埔腔(medium) | 15.05 | 1.73 | | 合併(medium) | 13.31 | 1.57 | | 合併(medium)+lm |13.17 |<mark>1.53 | | 大埔腔(large) | 20.26 | 2.50 | | 大埔腔(large)+lm | 19.68 |2.34| | 合併(large) |19.10 |2.21 | | 合併(large)+lm |18.38 |2.03 | | 詔安腔(large) | 96.09|42.72 | | lid | 20.55| 2.53| #### eval_recorded_DM_男 | | WER (%) | CER (%) | |---------|--|--| | 大埔腔(medium) | 21.37 | 2.83 | | 合併(medium) | 17.78 | 2.34 | | 合併(medium)+lm |17.46 |<mark>2.30 | | 大埔腔(large) | 22.02 | 2.79 | | 大埔腔(large)+lm | 21.53 |2.71| | 合併(large) |18.60 |2.36 | | 合併(large)+lm |18.43 |2.32 | | 詔安腔(large) | 97.06|45.32 | | lid | 20.88| 2.72| #### 大埔腔合併 | | WER (%) | CER (%) | |---------|--|--| | 大埔腔(medium) | 34.49 | 6.98 | | 合併(medium) | 32.90 | 7.30 | | 大埔腔(large) | 36.85 |6.69 | | 大埔腔(large)+lm | 36.37 |<mark>6.37| | 合併(large) |35.14 |6.59 | </div> </div> *** #### 以熱身賽5%資料作為測試集 | | WER (%) | CER (%) | |---------|--|--| | 訓練(4Epoch) | 36.28 |9.20| | 訓練+熱身(4Epoch) | 36.28| 8.38 | | 訓練+熱身(7Epoch) | 32.02|7.99 | | 訓練+熱身(8Epoch) | 32.02|7.64 | | 訓練+熱身(9Epoch) | 32.09|7.64 | | 訓練+熱身(10Epoch) | 32.09 | 7.55 | ![image](https://hackmd.io/_uploads/SJgGbdesxg.png) *** # 腔調分辨 準確率: 0.9951 預測 -> 真實: 大埔腔 -> 大埔腔: 1683 大埔腔 -> 詔安腔: 11 詔安腔 -> 大埔腔: 10 詔安腔 -> 詔安腔: 2592 ###平手情況 兩者一樣的數量: 82 / 平手數量: 108 真正cer(合併)為0的數量: 85 詔安腔真正cer為0的數量: 81 大埔腔真正cer為0的數量: 79 三者真正cer皆為0的數量: 79 三者真正cer皆一樣的數量: 80 *** # mbart 分詞後(重新設計測試集) 訓練集 總行數: 37407 CER: 0.2423 (24.23%) WER: 0.4178 (41.78%) 測試集 總行數: 1000 正確行數:511 CER: 19.29% WER: 32.34% | ALPHA | CER | WER | | ----- | ------------ | ------------ | | 0.9 | 13.16 | 21.47| | 0.8 |12.91 | 20.83| | 0.7 |13.19 | 21.33| | 0.6 | 13.04 | 21.07| | 0.5 | 13.00 | 20.87| | 0.4 | 13.38 | 21.33| #### 以熱身賽5%資料作為測試集 Whisper (5候選) → mBART (5修正) → 共10句 → RNNLM打分 → 最終輸出 | | WER (%) | CER (%) | |---------|--|--| | 訓練| 36.28 |9.20| | 訓練+熱身 | 32.09 | 7.55 | | 訓練+熱身+rnnlm | 32.09 | 7.53 | | 訓練+熱身+mbart+rnnlm(5) |54.88| 7.14| | 訓練+熱身+mbart+rnnlm(10) | 33.02 |<mark>6.26 | *** # 錯誤分析 #### 合音字 ##### 1 REF: 共下來 * 去公園運動啊嚟 large_PRED: 共下這公園運動啊嚟 medium_PRED: 共下在公園運動啊嚟 共同錯誤: large專屬錯誤: 來*去 -> 這 medium專屬錯誤: 來*去 -> 在 ##### 2 REF: 吾心臼擐人咧𠊎愛做阿奶哩*喲 large: 吾心臼擐人咧𠊎愛做阿奶哩喲 medium: 吾新坵擐人咧𠊎愛做阿奶哩喲 共同錯誤: * -> (empty) large專屬錯誤: medium專屬錯誤: 心臼 -> 新坵 ##### 3 REF: 對這*項行路去火車頭愛行七分鐘 large: 對這項行路去火車頭愛行七分鐘 medium: 對這項行路去火車頭愛行七分鐘 共同錯誤: * -> (empty) large專屬錯誤: medium專屬錯誤: ### 大埔腔 #### large 爾:45 克:36 了:35 尼:29 維:29 德:28 下:23 著:23 係:23 佛:23 瑟:23 夫:22 約:21 做:19 <mark>*:18</mark> 邱:18 過:17 斯:16 都:15 緹:15 加:14 這:14 利:13 在:12 毋:12 林:12 驢:12 蘭:11 唯:10 个:10 佢:10 盡:10 卡:10 吉:9 馬:9 伯:9 愛:9 厥:9 去:8 萬:8 #### medium 爾:45 了:45 克:33 利:31 係:29 尼:29 德:28 維:28 著:23 奧:23 瑟:23 夫:23 下:22 佛:22 夢:18 <mark>*:18</mark> 邱:18 个:16 過:16 做:15 卡:15 緹:15 馬:13 唯:13 都:13 吉:12 富:12 約:12 驢:12 在:11 斯:11 這:11 厥:11 一:10 加:10 將:9 設:9 計:9 巴:9 伯:8 ### 詔安腔 #### large <mark>*:126</mark> 个:91 王:79 係:61 熊:58 啊:58 人:57 戰:48 你:48 毋:46 按:44 國:43 救:42 利:39 路:37 諾:37 會:37 啦:35 號:34 愛:31 𫣆:30 達:30 拉:30 者:29 捷:29 得:29 文:29 里:28 爬:28 這:28 拁:27 在:27 𠊎:26 幾:26 巴:25 絜:24 琪:24 下:24 討:23 漿:23 史:20 帕:20 恁:20 著:18 擱:18 摟:18 器:18 遐:18 提:18 洛:18 多:17 干:17 賈:17 埤:17 獾:16 傷:16 即:16 長:15 行:15 哦:15 做:15 隊:15 去:15 定:15 而:14 且:14 猶:14 來:14 煞:14 族:14 雪:14 一:13 若:13 亞:13 嘛:12 仰:12 機:12 理:12 #### medium <mark>*:126</mark> 个:122 係:88 啊:85 戰:66 你:63 人:63 熊:58 𠊎:58 毋:55 會:46 路:44 這:44 按:44 利:41 救:40 諾:38 愛:37 巴:36 捷:35 𫣆:34 啦:33 號:32 著:32 達:31 里:31 在:31 幾:31 討:30 拉:30 好:30 下:30 得:30 者:29 遐:29 無:29 文:28 爬:28 隊:28 做:27 有:26 若:26 王:25 行:25 煞:25 拁:25 絜:24 琪:24 來:24 漿:24 即:23 提:22 國:21 史:20 帕:20 器:19 雪:19 蜂:19 摟:18 去:18 真:18 洛:18 長:17 卡:17 干:17 一:17 橋:17 山:17 賈:17 埤:17 :16 家:16 獾:16 嘛:16 呢:16 理:16 傷:16 哦:15 恁:15 佢:15 磅:15 定:15 機:15 坑:15 而:14 且:14 狼:14 不:14 族:14 大:13 擱:13