# 以人為本的人工智慧產品設計
陳翰申

> 從這開始

###### tags: `IxDTW2021`
# Background

- Jeff Hinton 和 Norman 交集
- 之前帶同學做 AI chatbot
- Google 台灣辦的 AI workshop 後來影響史丹佛

# Human-centered AI

- H (Human): 婦女的數據有偏誤，導致貸款的時候有問題
- A (Augumented): 能增強人類的能力，而不是取代人的工作。短期內或許可以取代人，但長期要讓 AI 做決定沒有很容易。所以如果一家公司越能規劃長期目標，就越容易收益。
- I (intellect): 思考AI 要更加思考人類的多樣性，我們可以連結脈絡。

# 10 Good AI + Design Principles

現在領域發展到了一個思考 AI 和 UX 關係的點，或甚至是 AI-driven UX。

工業設計大師 Dieter Rams 提出很多超越時間的設計原則，下面介紹這些延伸到設計上可以怎麼思考：

1. Good design is innovative
- gans (generative adversarial networks)
- no user research 連 use case 都沒有
- 設計師需要讓自己延伸能力去了解技術
- 先做出 prototype 讓用戶開始使用後才能用傳統的規則去進行產品設計
2. Good design makes a product useful
- ML problem framing
- 一開始比較不了解 AI，但可以對應到設計師已知的知識

3. Good design is aestheic
- face recognition 的 UI 應該怎麼做？臉應該瞄準哪裡、距離如何、是否需要中心線？
4. Good design is honest
- 期望對 AI 設計非常重要，會影響用戶的信任感
- 例如跑步的 app 告訴你要小心，如果會說因為根據路燈的 data 這條路很暗，就會影響信任感
- 例如需要調整跑步的路線，告訴用戶根據哪些參數得到結果，可以看到數據透明度以獲得信任
5. Good design makes a product understandable
- 商品推薦解釋來自於瀏覽紀錄
- 搜尋電影時告訴用戶最接近現在地點的電影院的播映時間

6. Good design is unobtrusive
- 從反應中學習到 pattern，然後長期累積成原則
- 設計師像是一個機器訓練師，我們在橋接 machine learning model 和用戶的 mental model
7. Good design is long-lasting
- 知道 demo 和產品的差異
- 糖尿病的 AI 在展示時可以具有 12 年的醫師判斷力，但放到市面上有不同的數據加入後就失敗了
- model 建立後怎麼訓練
8. Good design thorough down to the last detail
- inter-model
- multi-model
9. Good design is environmentally-friendly
- 有沒有納入各種可能性來 de-bias
- 是否有人不能轉頭、不能舉手拍照，這些accessibility 怎麼考慮
- 事先就要考慮，以免產品上市後被市場評價為 biased
- 設計師應該要更積極去參與創造的過程
10. Good design is as little design as possible
- bounding box UI v.s 植物辨識
- 沒有 no UI
- AI-drived UI 要吻合用戶的心智模型

# AI Design Process

- 先測試用戶看到 AI 能做的事情的理解
- 怎麼創造整合性的 UI

# Q&A

- 學習技術是設計師必要的嗎？
- 了解 AI 到什麼程度才能幫助自己的決策？了解技術不是做好設計的主要條件。先從基礎了解、專有名詞、工作流程等，知道基礎觀念能不能解決問題，而不是深入鑽深。雖然鑽深對自己一定有幫助，但頂尖的設計師。
- 時間不夠有時間學習嗎？
- 跟科技有關的設計師都應該要學習，但跟 coding 無關。看對系統的了解，以及對新知的了解。
- AI product 跟其他產業的 product 整體有什麼技能？
- Product Designer 最重要的能力是 PM，要能思考 business model。
- PM 或設計師在 model 已經開發完，可以怎麼設計？
- 這個狀況是很常見的溝通問題。能不能參與跟懂不懂 model 有關係，之前遇到類似情況，可以去問工程師各種問題、第二階段要怎麼加入。這是一個建立信任的過程。現在無法加入沒關係，但長期要建立起態度、知識。
- 怎麼決定產品功能、北極星
- 應該由設計師或 PM 提出 use case 引導大家討論、取得共識，不太應該只有一個人去思考。
- 思考 dependency，從使用者的角度來思考。working backwards = everything from the customers。之前 Steven Jobs 演講被問為什麼不做功能，因為 "start from customers"，如果不知道 business 那怎麼知道 engineer 的決定是否是對的。
- 不是 ux designer 就能代表用戶講話，而是所有角色要去思考怎樣才能讓產品成功。

- UX designer 和 PM 差別？（這是關掉錄影時說的，如果不妥可刪除）
- UX 和 UI 都要會
- think like a PM，知道 product 是什麼
- 沒有 user 的 technology 就只是 demo 不是 product
- PM 可能更注重在技術、財務、時程，designer 需要關心到產出階段
- 很多人想要當 PM 是因為 PM 在 UX 上面，沒有這回事啦，只是有些公司是 PM-driven
- 感覺台灣很多 project manager，要懂 product manager, program manager, project manager 的差別
- 選自己喜歡的，越往 leadership 發展本來就什麼都要懂