# 06/25 - 為什麼人會信任並消費一個新技術呢？

> Host: 大狗狗郡主

遙想郡主的碩論最原本是做「可驗證隨機數產生器的 user study」，依稀記得當時開發團隊說明這個產品的特色時，最常見的例子是「人們都很相信線上的隨機數產生器（aka 抽籤小工具），但沒有人想過他背後是否安全且公正」，因此萌生了這個可以讓大家相信的技術，但推廣真的好難推啊...
反觀 AI 在這兩三年迅速竄起，大家從一開始的不信任，到現在願意向他請教情感問題且相信他的回答，到底其中的差異在哪？哪些原因是影響人們信任新科技的因素呢？

相關文獻：
- [The Role of Trust in Information Science and Technology](https://www.researchgate.net/publication/220142007_The_Role_of_Trust_in_Information_Science_and_Technology) （內有不少信任相關理論）
- [How to Recommend? User Trust Factors in Movie Recommender Systems](https://doi.org/10.1145/3025171.3025209) （是關於 User 信任推薦系統的原因，文獻回顧也有提到一些信任理論）
- [Integrating Empirical Evidence on Factors That Influence Trust](https://journals.sagepub.com/doi/10.1177/0018720814547570) （在史官的筆記中翻到的，感覺有料）
- [A Systematic Literature Review of User Trust in AI-Enabled Systems: An HCI Perspective](https://www.tandfonline.com/doi/full/10.1080/10447318.2022.2138826) （3 年內快200個 citation，感覺有料）

---

[wen 亂看的一些東東]
* [Machine Heuristic: Concept Explication and Development of a Measurement Scale](https://academic.oup.com/jcmc/article/29/6/zmae019/7775449?login=false)
* [Algorithm Appreciation: People Prefer Algorithmic to Human Judgment](https://www.sciencedirect.com/science/article/abs/pii/S0749597818303388)
* [Mediated Trust: A Theoretical Framework to Address the Trustworthiness of Technological Trust Mediators](https://journals.sagepub.com/doi/10.1177/1461444820939922)

[fei]
* [A Systematic Literature Review of User Trust in AI-Enabled Systems: An HCI Perspective](https://www.tandfonline.com/doi/full/10.1080/10447318.2022.2138826#abstract)
* [Theory of Trust and Acceptance of Artificial Intelligence Technology (TrAAIT): An Instrument to Assess Clinician Trust and Acceptance of Artificial Intelligence](https://pubmed.ncbi.nlm.nih.gov/37981107/)

Wen: **人使用科技只有因為「信任」嗎？或許有更深的動機？**

演算法偏好效應：對機器或演算法有預設，比起自己的判斷更願意相信機器的結果（也許在 HeadStart 的使用情境中或許不是因為真的相信，只是覺得沒有其他選擇、無傷大雅、反正他給錯也不會怎麼樣）。
- 跟 positive machine heuristic 有點像，就是說我們會有一種預設——『機器應該比人準確』=正面機器啟發的體現

positive machine heuristic 正向的機器啟發：預設在 ___ 方面機器會表現的比人類好 --> 信任？
- 人們過往認為機器在情感相關的任務上表現較差、AI＆社會機器人的興起讓「機器表達情感」的潛力提升，所以拓展了MH的適用範圍

不完全信任（untrust）：信任度不足以達到合作門檻，但並非主動的不信任。在這種情境下，人們可能「別無選擇」或認為這是「最佳選項」而選擇依賴。

Jay: 在 [A Systematic Literature Review of User Trust in AI-Enabled Systems: An HCI Perspective] 裡面有整理大家對於信任的定義，Jay 觀察當中兩項共同的元素是：
* 能夠完成任務（AI 產品的成效）
* 對於風險的承受考量（或許呼應到 wen 說的無傷大雅相信他也沒關係）


fei: 在親密關係<3中，信任別人是在給別人傷害自己的機會 -- 疑似電影台詞也有用到-->推推 the fault in our stars（生命中的美好缺憾）
誒冷：信任是在混亂的環境之中，相信事情會順利進行

fei: 為什麼大家比較不介意、感覺比較少研究針對隱私（機密性）＆對ai信任的議題？
AJ：可能因為專家跟使用者判斷安全的標準不一樣、如果一個東西被專家認證安全，也可能被使用者認為是一種判定信任的___(突然失去詞彙請大家 @AJ來補)

wen：我們的目標是要讓使用者信任科技嗎？還是要使用科技？
Jay：到底要鼓勵相信還是保持警覺
AJ：認為是讓使用者了解「安全」是什麼
Fei：HCI 的研究視角偏向要推廣？
Allen：需要使用者相信一些 Privacy Infra (有聽錯ㄇ?) 是安全的。
不安全的技術，要讓使用者知道、對於安全的技術 --> 只需要使用者相信，不需要知道

需不需要讓使用者“理解”技術？
Fei：這就是我口試被問的～～～～
蕭老師：你這個溝通策略會不會被有心人士拿去哄騙
Fei的重新答：我覺得overall來說會是好的影響，這感覺蠻像揭露一個漏洞（？）/操弄手法，希望大家知道這種操弄手法後會更警覺嗎？（我還沒好好想）

AJ搶答：應該讓使用者理解「安全」
Jay：所以使用者要用跟專家一樣的標準去看待安全？

digital identity
沒有假資訊的情況下，(allen那篇不知道結論的)

前提：獨家保證的技術（？）

AJ:使用者還要可以驗證技術方說的話是不是真實？

[“It’s Stored, Hopefully, on an Encrypted Server”: Mitigating Users’ Misconceptions About FIDO2 Biometric WebAuthn](https://www.blaseur.com/papers/fido2biometrics-extended.pdf)

如果對技術本身的陳述就不準確但具行銷效果？
廣告商巧妙的論述避開「非真」指證，但專家就看得出其實對隱私無助益

實質安全性（專家判斷）vs大眾的信任之GAP
- 人們對於技術的信任大於它實際的安全性（更危險，會讓使用者鬆懈）
- 人們對於技術的信任小於它實際的安全性
fei:致力於弭平信任與實際安全性之間的gap

AJ：使用者感知的安全跟實質上的安全如果完全沒有共通的話呢
AGA：可能無法被弭平，是粒度上的問題。對專家而言可以考量細緻的情境，使用者可能只能依靠「特徵」的印象？這兩者之間的粒度差異，可能就是無法弭平的 GAP

Allen：寧可不要相信，也不要誤信（把https的鎖頭圖示拿掉）

fei：三波科學民主化

AJ:

Allen:實際上的安全是不是一個客觀事實（只是專家的判斷可能是比較接近實際安全的）某種層面上專家也是使用者，只是專家有“更多能力”可以判斷唬爛的地方
Jay:攻擊者也是使用者，共同的幻象 (駭客：慎選 target 很重要)
Allen:攻擊者的信念也可能導致不會去攻擊某個地方、而導致安全 -> 覺得安全感是一直不斷重新被形塑的（wen:以第二或三波科學民主化的理念來看就是醬子！-->目標在於
AJ:可以有四種case(矩陣) 第一象限：實際安全＋感知安全 / 第二象限：實際不安全＋感知安全 / 第三象限：實際不安全＋感知到不安全/ 第四象限：實際安全＋感知到不安全 不分角色都去打擊第二跟第四象限、增強第一跟第三現象
Jay:會不會最佳解是“有必要的保持不一致的信任”？
All: 好像是喔...就要保有這些不一致，要懷疑是好的

小結：維持混沌態（no一言堂）、邁向開放社會 椰

Allen: 我們可以在信心上混亂（不一致），但信念上應該不可以混亂（Statement 應該要符合實際狀況）
要確保這些 Statement 是正確的被設定出來的（？
[這邊我沒有串起來，求幫補充]
pre-bunking!-->小飛要看

有三個面向要討論
命題本身(Statement) vs 是否相信命題為真（態度_可混亂） vs 基於是否相信命題為真產生的信念（價值判斷，本來就是開放的）-> (加上其他因素之後）形成 intention ->導出相對應的行為

會不會對使用者來說的命題開始就錯ㄌ

知識倫理：有些東西該相信、有些不該相信

風險[ ][ ]
效益[ ]

0/1的棋盤

原本預先認知的就不足 ->依靠過往經驗形成想像 mental model(?)

應該關注在：怎麼選命題、

結束掰掰