# SITCON 投稿

NLP 、陪聊 、AI 、女孩、培育法

老師覺得有點敏感
因為北一女陪聊攤位，無本生意
（酷欸）
（這段可以拿來當笑話，拿標題開玩笑）

* 開場（4 mins）
* 自我介紹
* 演講大綱說明
* （開幕笑話互動）
* NLP 是什麼？(2 mins)
* NLP 定義介紹
* NLP: 名詞解釋
* NLP 應用範圍舉例說明
* 文字分類
* 摘要
* 命名實體識別
* 翻譯
* 問答（閱讀理解）
* 文字生成
* 想要玩可以上 Hugging Face 看更多，一堆模型
* NLP 模型的運作原理 (11 mins)
* 特徵向量機制（說明與舉例）
* 將字標記（tokenize）
* One hot encoding 太多維度，改用 Embedding Vector (semantic encoding)
* 要怎麼擺呢？AI 會去算
* 根據閱讀的文本，去訓練
* Mask 訓練法
* 經典案例
* 男
* 女
* 國王
* 皇后
* https://cloud.tencent.com/developer/article/1462012
* 神經機率語言模型（說明與舉例）
* 舊時代的 LSTM 模型簡介
* 遞迴神經網路
* 新型態的 Transformer 「注意力」機制說明
* Attention Is All You Need
* 說明 https://towardsdatascience.com/illustrated-self-attention-2d627e33b20a
* The Encoder and Decoder 範例：取用老師 0408_Attention_transformer 圖片（24, 25）
* 現常用 NLP 模型介紹
* BERT
* 取用 Encoder
* 分類
* GPT-2
* 取用 Decoder
* 生成
* GPT-3
* 參數更大，更強
* T5
* 待補充
* AI Chatbot 系統的 Demo (2 mins)
* 從 sli.do 抽幾個留言去生成聊天對話回應
* 關於 AI Chatbot 的動機架構與巧思 (11 mins)
* 動機
* 參考自誇誇群的靈感
* 想要有人能隨時隨地無條件給予正面肯定
* 在研究室開發的的 NLP 模型能做到這件事
* 架構說明
* 前後端系統架構圖
* 範例資料執行流程推演
* 雙模型機制說明
* 模型訓練資料範例
* 巧思
* 如何用多回應機制增進使用滿意度？
* 如何用動漫女孩頭像激發正向情感？
* AI Chatbot 的互動 Demo 與 Q&A 時間 (10 mins)
* 提供 Telegram 群組讓聽眾直接與 AI 妹子們聊天
* 開一個支援群組，大家可以來後續問問題，或者取得更多消息（包含實驗事項）
* 事先準備幾個問題在投影幕上，聽眾可針對有興趣的問，也歡迎自由發問
* 事先準備的問題包含：
* AI Chatbot 如何幫助人排解寂寞？（心理學、社會支持理論）
* 訓練時有遇到什麼困難嗎？（踩地雷經驗分享）
* 當初是如何接觸到 NLP 的？為什麼感興趣？（進實驗室經驗分享）
* 將此系統變成畢業專題有什麼要注意的？（學術與實作的差別）