# AI English Auditor ## Milestone and ACs ### 本次 PoC :round_pushpin: > **本次交付:待定** > 目的是PoC,僅收**研究費用 $42,000** > 我們會使用自購的 GPU 設備研究 > 由於服務會消耗 GPU 計算資源和 OpenAI 付費服務,PoC 以後若實際應用生產環境,會以請求量體計費 (會大幅低於人工批改成本,POC成功再詳談) > Future work 的新功能需求 POC 後詳談 > 建議提供 100人以上的作文圖片、相對應的評分 1. 手動輸入題目敘述 2. 批量匯入作文圖檔(格式:`xxx.jpg`) - 能夠批改多份作文 - 本次約140份 3. 準確將 `handwriting-OCR` 轉文字 4. 輸出批改結果(`xxx.txt`) - 批改作文的標準一致 - 能夠指出錯誤和需要修正的地方 ### Future work 1. 題目可以也以圖檔直接輸入 2. 手寫稿轉文字並記下來 3. 可以增加一些重要的統計量(V1結束再討論) - 分數分佈 - 主題統計 - 佳句集錦 - 錯句分析 4. 圖檔轉文字後多做一次確認內文(人工修改錯誤以供之後訓練使用) 5. 可自行加入客製化的評分標準 6. 定義之後輸出 PDF 的格式 ## Difficulties - 以往作文批改的老師無法確定其精神狀況、批改順序、環境影響、品質和一致性 - 作文批改的消耗時間一篇約需要20~30min (以平均 25 min 計算) - 若請時薪 250 的大學生批改畢寫評語,每個年級 100 人,單次批改就要花超過 10,000 元,總時間要花費 41.6 小時(光是每月3個年級班約花費120,000,一年1,440,000) - 以這樣的時間和時薪成本很寫出詳細的評語和改善方法,且人為批改很難控制品質,除非都請名師來批改 - 很難聚集所有錯題去分析大家的易誤點供老師上課特別提及,讓學生感受到自己寫的作文被關照到,而不只是給出範文 ## The Value of `AI English Auditor` - 可以確保品質的一致性(格式、評語、標準、去除環境和批改順序影響) - 可以收集每次學生的作文主題分佈和錯題立即作為上課教材 - 可以留存作文文本和主題作為之後學生單獨的強弱點分析和複習使用 - 一個班級100人AI批改時間預估能在10分鐘內,省下原有 99.6% 的時間 - 一份作文的批改成本將會由 100~125 大幅減少約50% 成本 一年三個100人班級預估能省下 500,000~800,000 # 參考資料 ## 評分 (共20分) ### 等級 (Level) - 良(Excellent)[4分] - 可 (Good) [3分] - 普 (Fair) [2分] - 差 (below average)[1分] - 劣 (Poor) [0分] ### 評分項目 (Grading Items) #### 主題 (Topic) - 良(Excellent)[4分]主題(句)清楚切題, 過8成內容與主題相關,各項超過兩句相關細節支持。 - 可 (Good) [3分]主題清楚或突顯, 部分相關敘述發展不全,各項有一句相關細節。 - 普 (Fair) [2分]主題不明, 大部分相關敘述發展不全或與主題無關,缺乏舉例。 - 差 (below average)[1分]僅少部分與題目要求相關 - 劣 (Poor) [0分]凡文不對題、未回答題目要求、缺少主題, 其他各項均以零分計算 - #### 組織 (Organization) - 良:重點分明, 有開頭、發展、結尾, 前後連貫, 轉承語使用得當;整篇文章偶有文句不連貫,無須增加任何語句或段落即可成篇。 - 可: 重點安排不妥, 前後發展比例與轉承語使用欠妥;但不因組織不當影響語意理解。 - 普:重點安排不妥, 前後發展比例與轉承語使用欠妥;因組織不當影響語意理解。 - 差: 重點不明、前後不連貫;因組織不當影響語意理解,須增加超過五語句話或段落方可成篇 - 劣: 全文毫無組織或未按提示寫作。 #### 文法、句構 (Grammar and Sentence Structure) - 良: 全文少於五個文法、格式、標點錯誤, 文句結構富變化。 - 可: 文法、格式、標點錯誤少,少於八處 且未明顯影響文意之表達。 - 普:文法、格式、標點錯誤少,少於十處 部分影響文意之表達。 - 差: 文法、格式、標點錯誤超過十處, 明顯影響文意之表達。 - 劣: 全文文法錯誤嚴重, 導致文意不明。 #### 字彙、拼字 (Vocabulary and Spelling) - 良:用字精確、得宜, 且幾無拼字、大小寫錯誤。 - 可: 字詞單調、重複, 用字偶有不當, 少許拼字、大小寫錯誤, 但不影響文意之表達。 - 普:字詞單調、重複, 用字偶有不當, 少許拼字、大小寫錯誤, 偶爾影響文意之表達。 - 差: 用字、拼字、大小寫錯誤多, 明顯影響文意之表達。 - 劣: 只寫出或抄襲與題意有關的零碎字詞。 ## 評分原則與說明 - 本大題採整體式評分,共分為五等級:優(15-18 分)、可(10-14 分)、差(5-9 分)、劣(0-4 分)。 - 閱卷委員在仔細評閱考生的作答內容後,決定一個整數分數,並以分項式評分指檢驗分數是否合宜,以確實掌握閱卷準則,確保閱卷標準一致,穩定閱卷品質。 - 寫多段,不扣分;未分段,扣 1 分;字數明顯不足,扣 1 分。若考生作文字數明顯不足,且未分段,則不再重複扣分。 ## 題目 (至少120 words) 提示:如果你可以不用著急趕路,隨心所欲地度過一天,你會怎麼度過?請寫一篇短文,將一段或幾段你最喜歡的部分發給你一起度過這一天的朋友?你喜歡?第二段提供你最喜歡的理由?你選擇什麼事?為什麼? ## 內容 I have a dream. If one day I can control all my time, follow my heart, and don't have to worry about budget. I will invited my best friend Emily to enjoyed with me. Emily is my cram school classmate, We used to play with together when we are waiting of our parents. However, since the cram school bankrupt, I have never see her again. So I want to invited her to remind the perfect time that we excited in. How would I spend a day with Emily? I have a plan in my mind. First we will go to amusement park where she desire to go, and also we can buy the pass through that we don't have to wait for line. Then, after we enjoy the facility in the amusement park. We can have some food or drinks in the night market. Last... we will went to net store. Playing the computer games until yesterday morning. I want to have an unforgettable memory with my best friend Emily. ## 評分 (共20分) ### 等級 (Level) - 良(Excellent)[4分] - 可 (Good) [3分] - 普 (Fair) [2分] - 差 (below average)[1分] - 劣 (Poor) [0分] ### 評分項目 (Grading Items) #### 主題 (Topic) - 良(Excellent)[4分]主題(句)清楚切題, 過8成內容與主題相關,各項超過兩句相關細節支持。 - 可 (Good) [3分]主題清楚或突顯, 部分相關敘述發展不全,各項有一句相關細節。 - 普 (Fair) [2分]主題不明, 大部分相關敘述發展不全或與主題無關,缺乏舉例。 - 差 (below average)[1分]僅少部分與題目要求相關 - 劣 (Poor) [0分]凡文不對題、未回答題目要求、缺少主題, 其他各項均以零分計算 - #### 組織 (Organization) - 良:重點分明, 有開頭、發展、結尾, 前後連貫, 轉承語使用得當;整篇文章偶有文句不連貫,無須增加任何語句或段落即可成篇。 - 可: 重點安排不妥, 前後發展比例與轉承語使用欠妥;但不因組織不當影響語意理解。 - 普:重點安排不妥, 前後發展比例與轉承語使用欠妥;因組織不當影響語意理解。 - 差: 重點不明、前後不連貫;因組織不當影響語意理解,須增加超過五語句話或段落方可成篇 - 劣: 全文毫無組織或未按提示寫作。 #### 文法、句構 (Grammar and Sentence Structure) - 良: 全文少於五個文法、格式、標點錯誤, 文句結構富變化。 - 可: 文法、格式、標點錯誤少,少於八處 且未明顯影響文意之表達。 - 普:文法、格式、標點錯誤少,少於十處 部分影響文意之表達。 - 差: 文法、格式、標點錯誤超過十處, 明顯影響文意之表達。 - 劣: 全文文法錯誤嚴重, 導致文意不明。 #### 字彙、拼字 (Vocabulary and Spelling) - 良:用字精確、得宜, 且幾無拼字、大小寫錯誤。 - 可: 字詞單調、重複, 用字偶有不當, 少許拼字、大小寫錯誤, 但不影響文意之表達。 - 普:字詞單調、重複, 用字偶有不當, 少許拼字、大小寫錯誤, 偶爾影響文意之表達。 - 差: 用字、拼字、大小寫錯誤多, 明顯影響文意之表達。 - 劣: 只寫出或抄襲與題意有關的零碎字詞。 ## 評分原則與說明 - 本大題採整體式評分,共分為五等級:優(15-18 分)、可(10-14 分)、差(5-9 分)、劣(0-4 分)。 - 閱卷委員在仔細評閱考生的作答內容後,決定一個整數分數,並以分項式評分指檢驗分數是否合宜,以確實掌握閱卷準則,確保閱卷標準一致,穩定閱卷品質。 - 寫多段,不扣分;未分段,扣 1 分;字數明顯不足,扣 1 分。若考生作文字數明顯不足,且未分段,則不再重複扣分。 ## 題目 (至少120 words) 提示:如果你可以不用著急趕路,隨心所欲地度過一天,你會怎麼度過?請寫一篇短文,將一段或幾段你最喜歡的部分發給你一起度過這一天的朋友?你喜歡?第二段提供你最喜歡的理由?你選擇什麼事?為什麼? ## 內容 I have a dream. If one day I can control all my time, follow my heart, and don't have to worry about budget. I will invited my best friend Emily to enjoyed with me. Emily is my cram school classmate, We used to play with together when we are waiting of our parents. However, since the cram school bankrupt, I have never see her again. So I want to invited her to remind the perfect time that we excited in. How would I spend a day with Emily? I have a plan in my mind. First we will go to amusement park where she desire to go, and also we can buy the pass through that we don't have to wait for line. Then, after we enjoy the facility in the amusement park. We can have some food or drinks in the night market. Last... we will went to net store. Playing the computer games until yesterday morning. I want to have an unforgettable memory with my best friend Emily. ### 指令參考 你身為學測英文作文批改者,我希望你給的建議能夠具有建設性,並能夠具體的讓各個程度的學生了解如何改善以達到更高的分數。 根據前面的評分標準、作文題目,請你幫我批改作文,並有條理清楚根據評分類別描述,分項列表指出所有錯誤並改正,並提出各類別若要提升分數改如何改善和具體的建議,並在最後根據評分表給出各類別分數和總分。 以下為建議格式: - 主題 (?/5) - 分析一下題材 - 指出錯誤並改正 - 建議如何獲得更高的分數 - 評分和原因 - 組織 (?/5) - 指出錯誤並改正 - 建議如何獲得更高的分數 - 評分和原因 - 文法、句構(?/5) - 指出錯誤並改正 - 建議如何獲得更高的分數 - 評分和原因 - 字彙、拼字(?/5) - 指出錯誤並改正 - 建議如何獲得更高的分數 - 評分和原因 - 總評 - 分項分數列表和總分 - 分析 - 總結問題和如何改善(列項分類) 請客觀給出評分