# AI與資安 研究領域

## 一、研究主題簡介

DSET在AI與資安研究領域的主要研究方向專注於探索人工智慧和資訊安全，這兩個前瞻技術在多個領域中的應用與影響。致力於深入研究這些技術在民主制度、國際地緣政治等重大領域中的作用和影響，特別是對自由社會與國際關係的實踐效應。藉由徵詢多方利害關係人意見、跨領域的綜合分析和實證研究，我們希望能夠發掘AI和資安技術在推動數位化轉型、提升國家安全及影響全球政治格局方面的潛力，並在政策上提出建議方向。我們的研究不僅涵蓋社會層面的影響，還注重社會、法律和倫理等方面的深遠影響，致力於為未來的科技發展提供全面且具前瞻性的洞見和政策建議。

## 二、任務

### （一）研究方法

#### 文獻回顧

進行廣泛的文獻回顧，以了解人工智慧與資訊安全在民主影響和國際地緣政治領域中的現有研究，包含學術期刊、專著、會議論文和政策報告等，同時也將分析和整合現有理論，針對個別議題分析與應用妥適之理論框架。

#### 社群參與

透過參與社群討論，了解人工智慧、資訊安全等議題的前沿技術狀況，以了解未來趨勢。

#### 資料收集與分析

DSET從公開資料庫、政府報告等管道收集與研究相關之資料，如重要之網路安全事件、生成式AI的應用與影響等，並使用相關工具進行資料的分析與呈現。

#### 多方利害關係人訪談

DEST與議題相關之多方利害關係人進行訪談，如政府機構、技術創新公司、社群、NGO等，了解他們對於最新技術的見解與擔憂，並依此進行後續研究規劃。

### （二）研究規劃

- 定期發表與人工智能與資安主題相關之研究報告
- 串聯國内外智庫、學界、產業界，舉辦演講活動或工作坊，持續研討人工智慧和資訊安全在多個領域中的應用與影響。

## 三、年度成果

### （一）專文產出

#### **探索科技民主的新面貌：生成式AI在2024美國總統選舉中的挑戰與回應**

郭毓倫

選舉是民主的核心，但生成式AI技術的興起對其公正性提出了挑戰。美國於2023年推出《AI權利法案藍圖》和《AI風險管理框架》，旨在建立AI的風險管理原則。隨著AI在政治廣告中的廣泛使用，如共和黨利用AI製作攻擊廣告，美國國會正推動法律，要求政治廣告揭露AI的使用情況。同時，科技大公司如NVIDIA、Meta和Google也制定相應政策。這顯示了隨著AI技術的普及和影響力增加，制定適當的監管政策以保障選舉的完整性和透明度，防止誤導信息擴散，成為了當務之急。

#### **數位轉型下的「哲學」— 以歐盟的《數位權利與原則的歐洲宣言》為參考**

劉子安

2022年，歐洲執委會提交《數位權利與原則的歐洲宣言》並於12月獲簽署。宣言強調在數位轉型時代保護個人基本權利，如隱私與勞工離線權，並適用相同法律於線上與離線。包含數位公共參與、安全與可持續發展等原則，對抗假訊息並強化數位時代的勞工權利，指引數位政策應基於人本價值觀。

#### **AI科技導入的風險由誰承擔？有無「侵害人權」是重點**

甘偵蓉、陳煒林

在目前對人工智慧（AI）的監管框架中，風險評估成為關鍵，特別是識別易受傷害群體和基本人權侵犯的風險。歐盟即將實施的「歐盟人工智慧法案」要求對所有高風險AI應用進行風險評估，首次明確將人權保障作為監管底線。案例分析顯示，不同地區AI應用對易受傷害群體影響差異顯著，如台灣法務部開發的再犯風險評估系統與美國COMPAS系統在假釋決策中的應用引發種族歧視爭議。這強調了AI監管中，人權的重要性。

#### **美國食藥署與歐洲藥品局發布人工智慧在藥物開發應用之展望與討論**

許祐湉

近年美國食藥署的新藥申請中，在開發過程使用AI/ML的送件量顯著增加，並且應用在相當廣泛的藥物開發過程，美國食品藥物管理署為回應與日俱增的人工智慧/機器學習 (AI/ML) 於藥物開發的應用，於2023年5月發表《人工智慧與機器學習於藥物與生物製品開發的使用 – 討論報告與意見徵詢》，以推動AI/ML的治理並促進公眾利益，本短評將簡介此份報告書以及AI/ML在美國藥物開發扮演的角色，並提供建議。

#### **人工智慧/機器學習在藥物開發的監管與展望**

許祐湉

在台灣，人工智慧與機器學習（AI/ML）的應用於新藥開發和生醫商品是快速成長的領域。學術界、製藥和生技產業之間的產學合作，結合大學的研究、公司的製藥技術和AI公司的數據分析專長，共同推動生醫產品的研發。AI在藥物開發的各個階段，如篩選藥物標的、文獻研究、藥物設計和臨床試驗，透過處理大量資料和模式識別來加速這些過程，被寄予厚望將使台灣生技製藥產業成為繼半導體之後的重點發展產業。

#### **人工智慧醫療器材該如何監管? 以美國經驗為例**

陳昱安

醫療器材市場近年來因疫情和技術進步而有重大變革。數位醫療和可穿戴式電子產品興起,人工智慧(AI)和機器學習(ML)成為創新的驅動力。AI/ML在醫療器材的應用包括資料管理、疾病診斷、風險預測、病人監測和個人化治療。影像診斷是最常見的應用，AI/ML能快速準確地發現人眼難以察覺的異常,減少誤診風險。數位醫療和AI/ML的結合，也使遠距醫療更加普及，AI聊天機器人能初步判斷症狀，建議是否需要就醫，有效實施檢傷分類以減輕急診壅塞。總體來說，醫療器材市場正朝向數位化、智慧化的方向發展，以提供更優質、更便捷的醫療服務。

#### **面對人工智慧醫療器材的興起，台灣該注意什麼?**

陳昱安

台灣自2020年至2023年間已經通過超過100件人工智慧/機器學習 ( AI/ML)醫療器材的上市申請。其中，宏碁智醫開發的「智骨篩」是台灣第一個以胸腔 X 光影像分析骨質密度異常的AI/ML醫療器材，能快速篩檢出民眾是否有骨質疏鬆症狀。英華達 AI 團隊推出的「英愛膚」是以App模式操作的軟體，能輔助非傷口照護專科的醫療人員判讀傷口。台灣食藥署會考量軟體是否具有診斷、治療功能、對疾病治療的重要性、對疾病診斷的貢獻度、以及對人類健康的可能為害等因素，來判定醫用軟體是否屬於醫療器材。

### （二）外部連結

#### 國內

DSET近期積極參與台灣技術社群活動，了解AI、資安議題之最新進展，包含「Cybersec 2024 台灣資安大會」、「生成式AI年會」、「g0v summit 2024」等諸多活動。

目前已接觸的單位如下：台灣事實查核中心、IORG、Cofacts、Mygopen、Taiwan AI Labs、假新聞清潔劑、放伴教育協會、台灣民主實驗室、開放文化基金會、民間司法改革基金會、自由之家、資安院人才培育中心。

#### 國外

黃凱紳研究員、林哲瑋研究員、王禕祺分析師前往匹茲堡參與Carnegie Mellon University CASOS Summer Institutes活動。CASOS全名為Center for Computational Analysis of Social and Organizational Systems，是匹茲堡卡內基美隆大學旗下之組織，使用網絡科學、文本挖掘和基於代理的模型等先進技術來進行與假消息相關研究。其組織目標為促進計算社會科學的發展。該活動主要為打擊假消息、網路仇恨等相關技術之研討，廣邀美國業界、政府、軍方等相關利害關係人一同參與。