---
title: Tammy Yang
tags: AI
---

{%hackmd Cp-6sY4yRqqGLZgF0zM__Q %}

[TOC]

# Tammy Yang
:::info
本講著重在資料溯源、負責任的 AI

+ [投影片 Slide](https://docs.google.com/presentation/d/1WAobCf_j05CJgSkfizs0heq04BKC1CGTZXGxdubnC9k/edit?usp=share_link)
+ [Link used today](https://linktr.ee/tammy_numbers?utm_source=qr_code)
:::

## 講者背景
+ 物理PhD
+ AI的侷限：時間
+「 不管你怎麼把資料餵進去，你才是那個時間的擁有者」

## 資料溯源
+ 網路資料很難找到是誰產生的
like: 迷因

## 問題
+ 動機：為什麼資料溯源這件事情對於AIGC那麼重要

現在的 generative AI 會這麼聰明，是因為模擬人類的大腦大量學習，所以學習的資料品質很重要。（就跟教小孩一樣）
比如說這本書的著作、版本編修過程。

misinformation （被拼湊的失真訊息）：像是 A 事件的圖片被拿來當作 B 事件的新聞圖片。
舉例：土耳其地震後，有很多假圖片用來騙捐款

議題：Digital media / data，provenance

### 判斷資料品質和使用資料 媒體識讀、事實查核
- Who Create it?
- How it was created?
- How can I license it?

### 如何證明有足夠人的成分
- Creation history?
- Software?
- human involvement?
- how to prove? -> data tracibility! provenance

## 解決辦法
+ Solutions must satisfy:
+ easy-to-use
+ 與大規模導入有連動性，要能容易使用。
+ 開源
+ immutable
+ 不可篡改
+ widely adopted
+ 大規模導入
+ 因為網路是沒有邊際的

2023起，逐步出現越來越多數位資訊查核工具。
使用資料時的可信度，需要各領域的大規模的導入，且不可篡改。

接下來針對三個不同的解決方式做評價：
### C2PA
全稱：Coalition for Content Provenance and Authenticity (https://c2pa.org/)
出版商、創作者與消費者之間的資料處理過程
+ provenance via history storage
+ Adobe提出 [NEWS](https://intlfocus.ncc.gov.tw/xcdoc/cont?xsmsid=0J210565885111070723&sid=0L085546163261835915&sq=)
+ 概念
+ 在編輯過程的記錄，會保留在檔案的 metadata 中
+ 證明 human involvement
+ 檔案就在那，自己證明自己，可以挖掉
+ across multiple tools
+ all standard asset formats
- do not require cloud storage
- allow flexibility in the nature of information stored
+ Verify tool: https://verify-beta.contentauthenticity.org/inspect
+ **downside**
+ allow modification without proper verification.

#### 講者給 C2PA 的評價
引用性adoption: ⭐️⭐️⭐️⭐️⭐️
不可篡改性immutability: ⭐️⭐️⭐️
開放資源Open Source: ⭐️⭐️⭐️⭐️⭐️
服務Service: ⭐️⭐️⭐️⭐️

### Starling Framework
證據保存、新聞媒體之用
co-founders: stanford engineering and USC Shoah Foundation
做戰爭罪紀錄/證據保存，這些證詞一百年後還會被保存且被信賴
進度：烏克蘭區塊鏈上紀錄，送去國際法庭審理

Web3 can help decentralized
+ Trust
+ Storage
+ Governance

#### 講者評分
引用性adoption: ⭐️⭐️
不可篡改性immutability: ⭐️⭐️⭐️⭐️⭐️
開放資源Open Source: ⭐️⭐️⭐️⭐️⭐️
服務Service: ？

缺點：商業或個人使用上太重了

### Numbers Protocol
+ 同時是C2PA和Starling的合作夥伴
+ 適合個人與商業
（世界上唯二比較適合的Digital data provenance framework）

#### 講者評分
引用性adoption: ⭐️⭐️⭐️.5
不可篡改性immutability: ⭐️⭐️⭐️⭐️
開放資源Open Source: ⭐️⭐️⭐️⭐️
服務Service: ⭐️⭐️⭐️⭐️⭐️

## 實務經驗
Tammy:

不好意思時間沒控制好，這個部份我直接加到共筆。
請參考 [deck page 42~46](https://www.dropbox.com/s/g0a8b3jajck1t0w/230506%20Generative%20AI%20talk%20%28public%29.pdf?dl=0)
另外想提一下，最近我們跟 [Instill AI](https://www.instill.tech/) 正在 cook 新的 Generative AI 溯源應用，也很期待幾個月後能跟大家分享這個部分，屆時關於 Generative AI 的實務應用面就會更清晰了。

## 結論
「可信賴的AI來自可信賴的網路」

[QA截圖](https://hackmd.io/_uploads/HJDp0OQVh.png)
[QA回覆](https://github.com/numbersprotocol/community-support/wiki/Event-Logs#2023-may-06-generative-ai-%E5%B9%B4%E6%9C%83-taipei)