# 2021/10 會議記錄 [TOC] --- ## 10/07 * 出差SOP文件(裝訂成一本),包含: * 封面 * 行前規劃(含住宿、行程): Kelly * 教材整理(給蕉埔的教學文件): Peggy * 照片整理和影片剪輯: 孟軒 * 反思與感想: 宏軒 * 姿體辨識需要有動作去切換辨識模式或是一般模式 * 要考量系統自動化的需求,像是 * 系統如何去偵測台詞結束才可以走到下一句 * 甚麼時候偵測說話 * 演員要可以辨別身分(人/虛擬人/機器人),可以扮演不同的角色 * 下周: * 列出執行時會用到的所有function * function code * function code的parameter * 所需時間與空間定出來 * 會用到哪些data --- ## DLT會用到的所有function * 基本功能 ```cpp= SetScene() //換場景 SetCostume() //換劇服 SetMask() //換面具 ShowProps() //顯示道具 ShowLines() //顯示台詞 ``` * 姿勢辨識 ``` cpp= StartOrStop() //藉由某些條件來判斷是否開始辨識,達成才呼叫辨識的function { if(...) BodyRecognition(); if(...) FacialRecognition(); } BodyRecognition() //肢體辨識 { while() // 開始辨識 if(...) // 達成辨識條件 SetCostume(); break; // 結束辨識 } FacialRecognition() //表情辨識 { while() // 開始辨識 if(...) // 達成辨識條件 SetMask(); break; // 結束辨識 } ``` * 影像辨識 ``` cpp= Class RegionOfInterest { Point p; // 左上角點 int width; Int height; RegionOfInterest(Point p, int width, int height) { } Image GetImage() { } // 取出截圖 } Class ImageRecogntion { int fNum; // 每..張frame取出1張 (為了不要每張frame都取出作辨識) int waitingSeconds; // 等待辨識的時長 RegionOfInterest roi; List<Image> imgList; // 用作辨識的圖像資料 ImageReconition(int fNum, int waitingSeconds) { } // 蒐集欲辨識的圖像, 在“waitingSeconds”時間內, 每“fNum”張frame取出一張加到"CollectImges“ void CollectImages() { } virtual string Identify() { } // 辨識完回傳json字串 } Class FaceRecognition : ImageRecognition { FaceRecognition(int fNum, int waitingSeconds) { } string GetFaceInfo(int faceID) { } override string Identify() { } // 辨識完回傳json字串 } Class ObjectRecognition : ImageRecognition { ObjectRecognition(int fNum, int waitingSeconds) { } override string Identify() { } // 辨識完回傳json字串 } Class TextRecognition : ImageRecogniton { TextRecognition(int fNum, int waitingSeconds) { } override string Identify() { } // 辨識完回傳json字串 } ``` * 語音辨識 ```cpp= Class SpeechRecognition { public string GoogleSpeechToText(byte[] audioInput, int waitingtime){} public string MircrosoftSpeechToText(byte[] audioInput, int waitingtime){} } Class SpeechSynthesis { public byte[] GoogleTextToSpeech(string textInput, int waitingtime){} public byte[] MircrosoftTextToSpeech(string textInput, int waitingtime){} } ``` ![](https://i.imgur.com/Y0JQjCZ.png) * 機器人 * ver 2021/10/13 * ![robot](https://i.imgur.com/mQ3vasZ.png) --- ## 10/14 * 列出之前劇本需要的所有東西,像是場景、演員、道具、辨識的種類等等 * 定義出來的新系統需要能夠正確執行去年的劇本以及我們要實驗用的劇本 * 可以將獎勵、懲罰的功能各訂成一張表 * 辨識的三階段 : 開始-->辨識-->結束 * 辨識須考量到時間/空間/目標物(以影像辨識為例) * 時間 : 影像辨識甚麼時候開始和結束 * 空間 : 在哪個空間抓出來辨識 * 目標物 : 例如人臉 * 辨識欄位要包含 : 開始/結束/辨識目標 * 要去了解一下學長姐的系統/過往的系統裡是如何實作辨識功能的 * 知道系統的entity有哪些(劇場的元素有哪些) * 例如 : 劇場的場景/道具/演員(真人演員, 虛擬人演員, 機器人演員) * 釐清列出來的function要綁在哪些entity(object)上面 * 有關自動換幕 : * 走到某個sequence id(section id) 就trigger換幕 * 有關目前資料表中的event欄位: * 辨識錯誤時要做甚麼也應該放在資料表 * 根據Return value的domain(eg. 回傳值介於0~4)來決定下一步 * 下周: * 提出GCCCE論文的進度完成計畫 * 11/6完成論文初稿 --- ## 10/15 * 下個月大meeting要報告: * instruction format * functions * object structure * 報告者用抽籤的方式 * 預計11/12 * ppt用英文寫 --- ## 10/21 * 要有英文版的IF(intermedium form) * 在IF中定義ECA(Event/Condition/Action): * 辨識成功和辨識失敗要做甚麼 * Ex.穿劇服的功能比較適合用Event Handling的方式來處理 * 期望:換幕過去原本的衣服還是會穿在身上 * 老師提出的問題: * 換幕的時候怎麼在IF上表示 * 穿劇服的的功能要怎麼在IF上表示 * Three types of control in DT: 1. Sequence control 2. ECA (Event/Condition/Handling) 3. Permanent loop (deman) * 我們原本定義的IF是先random再決定execute哪一條 * 但老師認為random的部分應該要放在next那邊才做決定,否則就只是line,缺乏branch,且不能夠執行卡貓的系統 * random產生的結果應該是要改變status * 下周 * 將function定義寫成英文 --- ## 10/28 * 研究工作分配 * [name=虹維] * 研究用人臉辨識的結果來換裝。 * 在劇場中設定一個區塊(像是魔鏡),用人臉辨識的方式辨識站在前面的人。 * [name=孟軒] * 把辨識出來的人縮小,放在畫面上某個特定位置。 * [name=宏軒] * 在劇場中放一個虛擬人Zenbo,讓畫面上的Zenbo和實體Zenbo的行為一致。 * 查一下我們的程式1分鐘幾個frame。 * 15~30 fps * 魔鏡 (老師提出的Scenario) * 在魔鏡前面完成特定學習任務後可以升他為店長(穿店長的衣服)。 * 對話機器人就是魔鏡,要讓站在魔鏡前的人跟魔鏡講話。 * 下周 * <span style="color: red">將IF改成英文版</span> * ICALT * 12/14 : 完成初稿給老師看 * 1/14 : 截稿 怎麼刪掉了????(哈囉?) 這樣我們要怎麼幫老師記得要頒獎的事?(沒人鳥我QQ)(國文小老師?) * 目前講的 1. 巨人手上演戲 2. 臉部辨識穿衣服 3. 魔鏡就可以有動畫在裡面,可以進去裡面 4. 假機器人 5. 貝斯特胚ㄆ 6. 大學生都會 你們也會 7. 立綸力學公式好棒棒 8. 拿論文獎要頒獎 9. 小戴有好棒棒的鏡子(虛擬教練,那是我們的想法) * 這鏡子好棒,還會比對正確率 <3 10. 要關心世界大事啊! 11. 我們實驗室就是超前部屬,該有的技術都有真棒<3 12. FB眼鏡(你都不關心我OAQ) 13. 虛擬會議 14. 我們要用兩個Kinect喔,回去試試看,一定好棒棒 * 我想擺脫kinect,但是現在要用兩個喔^_< 15. Metaverse元宇宙就是我們想弄的東西喔(小說裡的東西) 16. 系統討論 * 新的intermedia form * 是非選擇填空問答 懂不懂? * (a+b)^2^ > a^2^ + b^2^ * 特殊名詞要框起來,要直接丟進去翻譯 17.