民主科技：去中心技術與 AI

本文件為以生成式 AI 為主體，且與去中心技術、審議技術相關之資訊，由於坊間較少相關資訊，故整理之。

mashbean 整理 （2023/11/25 update）
weijen liu 協作 （2023/11/25 update）

科技的發展進程

1. 分散式過去：
   1. 身分：各自獨立的身分服務
   2. 資料：數位資料分散儲存，且未受保護
   3. 資產：未受保護的智慧財產等
2. 集中化現狀：
   1. 身分：單一登入（Single Sign-on, SSO）服務
   2. 資料：增進資料效率的搜尋引擎、生成式 AI 服務
   3. 資產：經過保護的平台資料庫、簽章與認證
3. 分散式未來：
   1. 身分：身份自主權（Self-sovereign Identity, SSI）、聯邦身分（Fediverse, ActivityPub…等），數位活動的信任鏈（Chain of Trust）
   2. 資料：分散式儲存，非對稱加密，資料合作社
   3. 資產：可信賴憑證與去中心身分（VC+DID）

---

生成式 AI 時代的倡議觀點：民主科技如何達成

1. 分散式過去：
   1. 數位世界短期內仍將是「一個網路」的世界
   2. 若資料如同 Kevin Kelly 所說，未受加密的資料無可避免的將被掠奪
   3. 掠奪者是「資本—技術複合體」，有機房、算力、資本、人才、法規優勢者
      1. 極權政體
      2. 巨型企業
   4. 因此民主政體手段不外乎有兩種：
      1. 提高法規難度（築牆）：參照布魯塞爾效應（Brussel Effect）、強化資料保護與資料應用相關法規、強化在地產業鏈
      2. 提升擴散效率（造橋）：新興科技使用率、數位素養與衝擊、促進在地化資料數位化
   5. 民主政體的障礙：
      1. 現狀：政策保守與政策滯後
      2. 資訊環境變動快速，須考量境外勢力的政策影響能力
      3. 國際化科技發展環境可能留不住境內人才與資本
2. 集中化現狀：
   1. 規管中心化企業的「AI 憲法」（Constitutional AI）是否必要？
      1. 共識：促進各地公民審議活動
      2. 工具：促進以 LLM 為工具的民主審議技術
      3. 法治：民主政體彼此可互通的監理聯盟
   2. 但是以上作法，皆無法避免「資本—技術複合體」的掠奪
      1. 極權政體：深偽、資訊操縱、利益集團裙帶關係
      2. 巨型企業：演算法、個資濫用、社群極化
3. 分散式未來： 因此以科技抗衡科技，是少數符合趨勢的解法，諸如
   1. 導正技術架構（多元宇宙）：開源、分散、可組裝的生成式 AI 模型、可簡易溯源（Provenance） 的生成式 AI 服務
   2. 強化民主科技（自由主義）：上述 SSI、DLT、聯邦宇宙、VC+DID 等
   3. 強化審議科技（社會民主）：審議技術與文化、將資料視為合作社

---

創新模式的發展進程

可分為：

1. 效率式創新：因簡化生產流程而強化既有供給者的創新，效率式創新會增強集中度。
2. 破壞式創新：因降低生產成本而取代既有供給者的創新，破壞性創新會取代既有的集中節點
3. 下放式創新（Empowering Innovation）：因降低參與門檻而分散供給者的創新，下放式創新可能會改變供應鏈與供需模式。下放式創新會降低既有體系的監管力度，且可能強化生態系的韌性。若出現有利下放式創新的政策，可能影響產業平衡。

生成式 AI 有效率式、破壞式、下放式的創新模式。任一種發展模式影響科技進程走向。

共筆者著作之相關文章

以 AI 法規為主題

1. 生成式 AI 之原則試寫 (draft)

以 AI 與民主科技為主題

1. 「黑暗大陸」的人工智慧紀行，開放科技及其恩人
2. 後LLM的權力地景：擁抱暗夜呢喃的時刻已然降臨
3. 當AI成為人的「雙生火焰」：競爭帶來威脅，融合帶來力量
4. 當AI成為人的「雙生火焰」：機器伴侶永遠監視著你
5. 眾議式民主新可能？除了區隔衝突，「Pol.is 2.0」透過 AI 收斂論述，找出群眾共識
6. 網路極化言論中，真理真的越辯越明？

以分散式 AI 為主題

1. 人工智慧作為一種踰越／愉悅─論AI詠唱者的合成欲望與匱乏追求
2. Democratizing AI _Utilizing LLM as a Cultural Technology, to Reshape the Digital Public Sphere
3. 演講講稿：民主化AI的實驗與展望

以創作為主題

1. 當機器談論藝術時，我們在談論什麼？
2. 林茲電子藝術節（三）｜作品與 AI
3. 寤寐之中與虛擬實境

---

相關議題之文章

訊息溯源

1. Contextual Confidence and Generative AI
2. Cross-Platform Origin of Content (XPOC) Framework
3. Coalition for Content Provenance and Authenticity (C2PA)

審議科技

1. Polis: Opportunities and Risks of LLMs for Scalable Deliberation with Polis
2. AOI: Talk to the City Demo: GenAI Taiwan 2023
3. Introducing Talk to the City: Collective Deliberation at Scale
4. Fine-tuning language models to find agreement among humans with diverse preferences
5. Human-centred mechanism design with Democratic AI

AI 憲法

1. Anthorpic: Collective Constitutional AI: Aligning a Language Model with Public Input
2. CIP: Alignment Assemblies: Nine Months In
3. Meta: Bringing People Together to Inform Decision-Making on Generative AI
4. 陽明交大與史丹佛合辦公民審議大會 促AI發展走向負責任創新
5. 數位部成為國際組織「集體智慧計畫（CIP）」合作夥伴 凝聚人工智慧需求與風險共識

High Level Discussion

1. Democracy by Design: Perspectives for Digitally Assisted, Participatory Upgrades of Society
2. Ethical Principles for Web Machine Learning

---

關注組織

台灣：

1. AIA: 台灣人工智慧共識協作工作坊
2. vTaiwan
3. moda

國際

1. Stanford Deliberative Democracy Lab
2. Meta
3. CIP
4. Polis
5. AOI/Talk to the City
6. OpenAI: Democratic inputs to AI