HackMD
何明政
投影片：Slide link
講者生命故事
- iChef Co-Founder
- 做 POS 有多難？非常難，讓我痛苦了八年
- 客戶>13000 台港新
- POS 是超大紅海，卻能靠著 POS 這個題目拿到設計金獎
開發經驗
- 產品開發 RD
- Acting CEO
- 商業模型：台灣以前沒人用 SaaS 賣 POS
- 內部營運系統開發
- 訂閱系統、財報系統當時不存在，因此開發內部系統
- 策略與資料團隊
總之我的 career 非常混亂，公司內什麼工作都有做。
(製作「Founder 的職務代理人」的挑戰)
Founder 對公司的影響
- Lagacy issue
- 組織債
- 技術債
- experience
- 成功無法複製
- 經驗如何傳承
- time
- 自我成長
- 專業技術不足
如何用 LLM 複製一個自己
透過 Q&A chatbot 重新打造自己靈魂
方式：
- 建立長期記憶庫 LLM（sample）
- 建立模型（ver0.1和0.2都是來自相同的LLM）
-
Ver 0.1
- zero shot 能超越百分之九十人類的通用知識能力
- Prompt: act as Spensor at work…
- context 基本資料、工作範疇、背景知識（做過iOS 工程師等等）
- principle: 選擇回答的偏好——反映自己的原則
- summerization：embedding 撈 knowledge base + 摘要
-
Demo 0.1
遇到的問題：雖然AI的回答和實際答案具有「相似性」，但不見得是想要的答案
註：screenshot 由下往上讀
註：business owner：ichef 專門的職位
- 影片裡有搜尋資料的過程
檢討：傻到不行的 Spencer AI 到底怎麼了？
- 只靠相似度只能取得類似概念的回答
- 只有改寫文句而已
- 答案的深度不僅僅是一個問題對應一個回答
- 缺乏深度思考的過程
分類記憶的內容
維度：長短期
維度：個人/通用
- 長期記憶
- 人格等等
- 短期記憶
- 最近的對話等等
Ver. 0.2 - Spencer AI
使用與 Ver0.1 相同的用 Notion 建立長期記憶（sample）
- 撰寫的時候就是盡量 dump。
- 第一個版本沒有去分類。
改善方式：嘗試 Reflection
- generative agent
- reflect own memory
- Build reflection with LangChain
Reflection 的例子
論文：Constitutional AI: Harmlessness from AI Feedback
請 AI 自己反思自己的答案，然後讓 AI 自己修正、重新生成
推理的結構與順序
- 問題假設
- 思考使用者提出的問題，背後可能的假設。
- 依照與知識庫文本相似度，產生 3 個假設。
- 尋找方案
- 讓LLM基於問題背後的假設，找出可能的解決方案，並且給予評分以及該評分背後的思考脈絡。
- Reflection
- 透過以上資訊以及過往的對話過程進行反思，綜合所有的資訊找出適合的回應。
- 套用人設
- 讓回答更像是人類一些，更有個性跟符合個人的回答原則。
- 請 AI 撈取 spencer 講過的話，依照 reflection 改寫 AI 回應
Demo Ver.0.2
缺點：會一直維護人設
AI:（直接在回應寫）「我認為這樣的做法符合 Spencer 的處理原則」
如何解決安全性問題？
GPT提出的解法是 – Input Safe Word
保護 Prompt
保護使用者輸入 <safe_word>
結合 User ID
結合 Question Type
LLMZoo
Conclusion
"Artificial intelligence should be the amplifier of human will, not an autonomous system." by Sam Altman
QA
- 做了這件事情後，有更了解自己嗎？
- 開始反思自己過往的選擇，跟同事溝通的方式是好還是壞？
- spenser AI 在 notion 裡面的文本、和與 GPT 的對話，都是很好地反思
- 真的有減少 loading 嗎？
- 如果在未來幾個月有成功上線，再來跟大家分享是否有成功減壓
- 爸爸代理人？
- 反思：如果你是小孩，你想被誰帶領？從 Human Wealth的角度來看，你的目的是什麼？是想要陪小孩？還是想出厲害的技術表演給大家？
- 自己做代理人的目的是要讓自己跟家人有更多時間相處（或拿來想更多 punchline）
- 會接受員工用代理人嗎？
- spenser AI 的 DB 會需要持續更新，像是長期記憶和新學到的原則，處理代理人記憶的過程不會減少
- 如果可以 amplify your will，that will be fine，薪水還是會付的
