20250219 Generative AI 小聚 === [TOC] ## 議程資訊 [點擊獲取](https://docs.google.com/document/d/1x0ig4KugsZNqiGzkagrEk_8r4I5db2KysvcE_rTEkzR0/edit?tab=t.o1ei96muv5v8#heading=h.6zg0714ljxwk) ## 議程 ### 經理人、數位時代 AI 導入旅程- 《經理人》巨思文化股份有限公司 林柏源 AI浪潮下最該擔憂的是知識白領，該怎樣透過AI賦能同事 MVP產品AI podcast=> 國科會比賽AI資料收集(主管比較容易支持）=>Google補助AI整合系統（拿到一年的補助比較容易有資源處理) - AI PODCAST 抓取各種RSS摘要流浪最好的新聞，摘要成兩百字的檔案，然後使用AI發音就可以處理 三週內處理MVP 產品原型資料來源 透過MVP專案podcast有上熱門節目。 #### 轉型 有信心的團隊 要找到MVP Team 支援團隊很重要，要辨識有禮貌說OK但其實不想做跟實際真的想做的人 拆解工作流程 拆解流程導入場景 做出來之後呢，導入場景之後找到日常一定會做的事情 must have 比nice have好 效益 正確看到價值 不能只看提升多少效率 減少多少時間，更重要的是提供了哪些價值 #### 場景 > 找到明確場景，同仁比較知道可以透過哪些地方來使用跟處理，因為有時候沒用是真的不知道 圖片辨識 因黨轉逐字稿 逐字稿轉文章 文字產圖表 圖解模板 =>大家最常用的是使用音擋轉成逐字稿，在快速寫成文章草稿 #### 拆解工作 > 編輯每天的工作有很多流程，要把他拆出來一個個小事情 收集資料 題目搜集 內容撰稿 校稿審核 文章配圖 社群文案 - 收集資料 使用外電小幫手，用RSS主動抓取找到大部分的資料給所有相關的關鍵字資料 可以找到資訊快速可以處理 找到場景 找到方式就可以找到適合的工具來導入來更細緻的來處理。 更精確的可以導入到工作之中 ### (暫定)初探GenAI-Powered Game:新感覺Roguelike遊戲 黃宏瑞 #### AI驅動遊戲 - 用AI開發(開發階段） 用AI寫code做美術素材音樂生成 - 用AI玩遊戲（增強玩家遊戲體驗 但功能可開可不開） AI的NPC互動 AI輔導遊玩 語音遊戲介面 動態難易度調整 - 用遊戲玩AI（遊戲中不可不開）(隨機排列組合延長遊戲壽命保留新鮮感) 自動化生成劇情 無限任務與事件 即時生成NPC 玩家行為描述創作 #### POC DEMO 一開始大家都會從unity處理 但使用appscript也可以簡單 依照系統可以隨機產生那些角色的資料 excel表中可以產生角色資訊，不要就丟棄，不會有任何生成的成本 AI 也很聰明 體質好的就會坦克 敏捷就是刺客 #### 程式碼架構示意圖 避免角色生成近似的方式 動態參數調整 能力數據就是生成的骨架 提示詞塞回去就會生成參數 #### 依據戰鬥結果生成對話劇本 中間可以在excel上面變色來互相攻擊，最終也可以生成對話。 #### 模型選擇 穩定跟速度 4o 品質gpt o1 兼顧品質跟成本 deepseek-R1 內容很黃很暴力 open AI是沒有任何血腥的文字出現，大推deepseek #### 後續規劃 - 戰鬥決策AI化 AI隊友之間可以產生更複雜的交互作用 - 美術繪圖API處理 角色繪圖 - 角色關係處理 父母兄弟姐妹 - 開源 #### 結語 人多的地方不要去 人類文明的終點是娛樂 雖是遊戲非兒戲 刀劍神域 ### Hire Your Employee-X：打造自己的AI研究員特助-中國信託銀行-個人金融 Evan Hsu 中國信託個人金融從業15年 #### overview 想要解決的問題 三度空間AI助理 #### 預期 從一問一答到主動報告 但AI可以幫我們做什麼事情嗎？ #### 解決問題 團隊讀報機制 (ITHOME亂抓) 訂閱電子報 (根本沒人打開) AI search AI sumary （摘要但東西太多啊） #### 三度 速度 金融動態更快知道 廣度 更多新知 深度 更多更深的資料 #### 速度 架設自動機器人 使用browse AI來處理 可以傳到line上面 一個不夠可以建立好多個 但這樣效率很快但很難吸收 #### 廣度 快速閱覽可以 但資訊來源還是很受限 還是有很多不重要資訊還要處理機器人 但怎樣做更好呢？ > 使用彙整RSS來做 而且還可以使用正規來處理。 這樣要索取文章的精準度會更高 看不完的資料可以放到你的notion中放 但不重要的資訊還是會很多 收到太多資訊還要過濾 #### 深度 太多資訊 怎樣找有價值資訊 ＡＩ幫我篩選文章資料 放到google sheet上面可以幫她評分 我看一定分數以上的文章就好 但實際上評分上面還是會有高分的無聊文章 標準很難一致，一個文章送兩次可能有不同分數 而且token要錢！！ #### 解決 每天只看五個文章 給他排序五篇文章 先把文章精簡，長度一致 多維度評分很重要 放在一起評分不要分開 使用title published的方式來做分數排序 最終送出去放到line上面處理 放到notion上面就可以有很多的keyword search了 找到老闆喜歡的資訊也可以打勾送出去摘要給老闆看 ### AI Agent 時代下的產品設計思路與 n8n Ollama Agentic Workflow - GenAI Role GDE ->Simon Liu #### overview Ai AGENTS AI overflow #### AI Agent 一格指令一個動作 但我們希望可以透過一個指令發展多個動作，這樣我們稱它為AI agent可以在高效的狀況下處理跟實踐。 - 銷售agent 一個prompt可以處理金流物流跟訂單 他可以找到兩個不同的agent分別有兩個機器人可以處理銷售跟退貨 #### 軟體開發 - 過往的開發思維都是 需求 開發 上線 - 大家對於AI的思維是 直接丟個他處理最好 但還是有很多幻覺 - AI時代下的產品比例 有部分的CRUD但也可以透過AI來生成處理 #### Agentic AI workflow 有一個流程上透過自動化的人機互動來處理 在作業中可以透過這個流程來方便作業上面的判斷應且判斷的更好 - 客服 bug填單->找不到人客戶會流失 說不定透過AI處理可以透過ＡＩ去分析，若找到問題可以找到相關問題來去做處理，並且可以主動的透過email在修復之後回給客戶 #### 檔案建議 make或 n8n make 是線上的 不靈活 但難度低 推薦初學者 n8n 地端處理 較為自由 難度高一點 但懂code的人可以處理 #### AI 使用 使用AI你就會使用api 但LLM模型越來越多了，不只閉源，你也可以使用開源模型來處理 可以透過ollama來處理來run寫起來也非常好處理 也可以使用langchain來做很好的處理 很好的就可以架設開源模型了 若ollama加上n8n你就可以在地端處理自己公司內部的資料了 可以透過html爬下來資料，然後telegram來跟他互動詢問，最終可以跟他互動來索取裡面的資料來跟使用者互動 但其實線上版本跟地端版本狀況是沒有差別的 ### FREESEED台灣製造大語言模型 布丁 使用[stream Realtime](https://aistudio.google.com/live) 輸入人設來處理更多資訊 WISEPURR 李白 schmit 互動 摘要 ### 從 UX 視角分析 GenAI 學習體驗-知識遊牧有限公司 彭其捷 現在是一個職業講師 早期是python寫推薦系統 做了十幾年工程 #### 為什麼想講知識定位 可以更知道自己的角色 就會更有效益 #### 如何建構 之前有趣mopcon可以講過。 有四種方式可以處理UX分析 (TA分析 市場分析 需求分析 願景分析) - PERSONA產製 但也可以透過AI來生成處理過相關的分析 在授課的時候若教學advanced excel但大家都不知道函數怎樣寫，那這樣就不行。 這樣就可以透過persona分析，但太多的訪談太辛苦了，可以透過ai來寫出很多人格屬性來做處理。可以生成很細節的AI的論述，而且生成不滿意就等三秒就有下一個版本了。 也可以請他生圖來處理，這樣也可以生成一個reliable的圖像 - 市場競品分析(deepresearch) 有時候prompt給了很多，但是分析出來也不一定好。我上次跟他說給我20-50個甚至提供link。但還是可能有幻覺 雙象限比較表也可以生出來 - Kano Analsis 透過狩野分析可以得到更多分析結果。可以找到各個角色他喜歡的 #### Customer Journey Map 使用者旅程 也可以透過使用者走過的過程分析來做處理，可以看到他們走過的旅程，更可以讓講者來做換位思考。 而且AI可能會跟你建議說建立社群會是提供激勵機制等。 Customer Journey Map也可以透過AI畫出來，但生成模型還沒這麼完美，還是可能會有錯 #### 結語 可以透過這種方式把你的知識定位出來，可以定位清楚你的對象，更快的可以提供你的分享找到適合的分析方式。 可以透過這四個方式可以找到你的適合分享方式 ### DeepSeek 來報春-APMIC 技術總監 Dave aka 送風 APMIC 的技術總監兼共同創辦人 #### 推理模型 更聰明的AI 只要有對應的算力就可以做出Large Reasoning Model(LRM) 不一定需要LLM DEEPSEEK的意義，大概1m的token只要四分之一的價格（跟openAI相比） #### 使用 可以使用deepseek.ai的官網 或是使用公有雲處理 4080 24G + 1T DDR5 九十萬 Mac Mini M4 32G 四到五萬 Mac Mini M4 Pro 64G *8 五十六萬 Deepseek 公司伺服器 （H100*16) 大概1600-3200萬 #### 公司伺服器解決方案 H100 16張 H200 8張 安裝要一百萬 安裝時間約七天 #### DeepSeek 671B政治問題 可以輸出繁體中文，但不會這麼好 價值觀上可能會有不同 #### DeepSeek 671B 資安上完全是離線的，不會送回去 那我們在害怕什麼？ 當然像抖音 但不希望大家仰賴 #### 蒸餾前後 會有比較精準的模型 #### 但有想要量化後的可以嗎？ 模型都需要128的attention head，所以只能2片跟4片，三沒辦法整除128。(小知識)