# <a id="ai-expo-2025-議程筆記-第二天-3月27日"></a>AI Expo 2025 議程筆記 - 第二天 (3月27日)

## <a id="今日議程表-點擊跳轉"></a>今日議程表 (點擊跳轉)

| 時間 | 議程 | 講師 |
| :-------- | :-------------------------------------------------------------------------------------------------- | :-------------------------------------------------------------------------------------- |
| 09:30-10:00 | [AI for Good - 開啟 AI 普惠新時代](#ai-for-good-開啟-ai-普惠新時代) | 卞志祥 (台灣微軟) |
| 10:00-10:20 | [AI 世代的網路犯罪趨勢與資安防禦革命](#ai-世代的網路犯罪趨勢與資安防禦革命) | 洪偉淦 (趨勢科技) |
| 10:20-10:40 | [突破瓶頸•打造 AI 應用儲存新價值](#突破瓶頸打造-ai-應用儲存新價值) | 苟嘉章 (慧榮科技) |
| 10:40-11:00 | **上午休息** | |
| 11:00-11:20 | [從理想到現實，AI 與製造的完美交融](#從理想到現實ai-與製造的完美交融) | 李冠儀 (緯謙科技) |
| 11:20-11:40 | [2025 AI 趨勢與應用](#2025-ai-趨勢與應用) | 王辰博 (Google Cloud) |
| 11:40-12:00 | [AI 驅動半導體與系統設計創新](#ai-驅動半導體與系統設計創新) | 宋柏安 (益華電腦 - Cadence) |
| 12:00-13:10 | **中午休息** | |
| 13:10-13:30 | [AI 加持提升邊緣運算效能](#ai-加持提升邊緣運算效能) | Neal Huang (ADI) |
| 13:30-13:50 | [民主化 AI：落地應用革新未來 (聯合演講)](#民主化-ai落地應用革新未來-聯合演講) | 潘健成 (群聯電子), 杜奕瑾 (台灣人工智慧實驗室) |
| 13:50-14:10 | [從存儲到 AI：Flash 記憶體的角色](#從存儲到-aiflash-記憶體的角色) | 陳薏蓉 (華邦電子) |
| 14:10-14:30 | [實現資料韌性：AI 主動守護與零信任並肩防護](#實現資料韌性ai-主動守護與零信任並肩防護) | 陳毓麟 (Veeam) |
| 14:30-15:00 | **下午休息** | |
| 15:00-15:20 | [透過 AI 來實現行車零事故的願景](#透過-ai-來實現行車零事故的願景) | 陳俊雄 (光寶科技) |
| 15:20-15:40 | [AI 驅動電子產業數位化: footprintku.ai](#ai-驅動電子產業數位化-footprintkuai) | 陳怡婷 (富比庫) |
| 15:40-16:00 | [賦能商業洞察: 如何成功 AI 引領企業決策](#賦能商業洞察-如何成功-ai-引領企業決策) | 魏劭芸 (美商鄧白氏) |
| 16:00-16:30 | [AI 代理與最新 AI 發展](#ai-代理與最新-ai-發展) | 康靖韻 (Jade Chan) (NVIDIA) |

---

## <a id="ai-for-good-開啟-ai-普惠新時代"></a>AI for Good - 開啟 AI 普惠新時代

### <a id="演講基本資訊"></a>演講基本資訊

* **講者:** 卞志祥 (Sean Pien), 總經理, 台灣微軟 (Microsoft Taiwan)
* **時間:** 2025年3月27日 09:30-10:00
* **場次:** AI Expo 2025
* **形式:** 單一講者

### <a id="內容摘要"></a>內容摘要

卞志祥總經理從「以終為始」的角度出發，探討 AI 發展的終極目標——服務人類與地球，即「AI for Good」的理念。他指出，在關注 AI 的商業價值與技術進展的同時，不能忽略全球面臨的氣候變遷、地緣政治混亂、人權挑戰等問題。微軟的願景是賦能地球上的每個人和每個組織成就更多，因此致力於將 AI 應用於解決這些宏大挑戰。演講展示了 AI 在環境保護、無障礙輔助、人權維護、文化遺產保護、醫療健康等「AI for Good」領域的應用潛力與實際案例，如利用 AI 預測蛋白質分子結構加速新藥開發、微軟自身的碳中和與負碳排承諾、賦能新能源管理、在台灣與多家醫療院所合作改善醫療服務、透過 AI 輔助教育弭平數位落差等。他強調 AI 應是普惠的、民主的，微軟透過提供易用的算力 (涵蓋雲端到邊緣，並佈局量子計算)、開發工具 (AI Foundry 概念，讓非專家也能開發) 和應用程式介面 (如 Copilot)，打造「用 AI」、「導 AI」、「寫 AI」的人才與文化生態，最終目標是讓 AI 成為每個人的智能夥伴。演講進一步闡述了 AI Agent 時代的來臨，其在輸入、推理、執行能力上的進化將徹底改變服務模式（從 Web Content 到 Agent Services），並以 Toyota 倉儲機器人為例說明其潛力。最後，他將 AI 的發展與網路、行動時代類比，認為 AI 最好的時代尚未到來，並重申微軟與台灣產業 50 年來的緊密連結，將持續賦能台灣，共創未來。

### <a id="主要章節"></a>主要章節

#### <a id="1-ai-for-good-的理念與範疇"></a>1. AI for Good 的理念與範疇

* **演講主旨：** 強調科技發展應回歸初衷，探討 AI 在解決全球性挑戰和促進社會福祉方面的應用。
* **核心理念：** 以終為始，思考 AI 發展的目的，不僅追求商業利益，更要關注對人類和地球的正面影響。
> "We are not dreaming. We are doing it."
* **全球挑戰：** 氣候變遷、地緣政治、人權問題、科技倫理質疑 (AI 好壞論)。
* **微軟願景：** 賦能 (Empower) 地球上的每一個人、每一個組織，去成就更多 (Achieve More)。
* **AI for Good 應用領域：**
* **環境與地球 (Environment & Earth):** 監測生態、保護物種、應對氣候變遷。
* **無障礙輔助 (Accessibility):** 協助身心障礙者克服困難，實現平等參與。
* **人道主義行動/人權 (Humanitarian Action/Human Rights):** 基礎人權維護，弭平科技導致的不平等。
* **文化遺產 (Cultural Heritage):** 保護和傳承文化資產。
* **健康 (Health):** 提升醫療水平，改善人類健康福祉。

#### <a id="2-ai-for-good-實例與科學突破"></a>2. AI for Good 實例與科學突破

* **科學研究突破：**
* 微軟研究院利用預訓練模型 (Foundation Models) 預測蛋白質分子結構、摺疊與化學反應，加速新藥開發。 (連結諾貝爾獎成果)
* **永續發展承諾 (Sustainability):**
* 微軟承諾 2030 年碳中和 (Carbon Neutral)，2050 年負碳排 (Carbon Negative)，並清除 1975 年以來所有碳排。
* 透過 AI 賦能能源行業：新能源生成、智慧電網管理與配置。
* **醫療健康 (Health) - 台灣案例：**
* 應對高齡化、醫療資源不均挑戰。
* 與台灣超過 15 家大型醫療院所合作，應用 AI 於不同領域 (影像判讀、流程優化、輔助診斷等)。
* 目標：賦能護理人員、醫生，改善病患體驗。
* **教育 (Education) - 台灣案例：**
* 目標：弭平數位落差，釋放教師量能，提供個人化學習輔助。
* 合作項目：教育部酷英網、因材網，未來擴及更多學科。
* **台灣產業落地成果：** 超過 12 個行業，250+ 上線案例 (製造、IC 設計、金融、電信等)，證明 AI 的真實影響力。

#### <a id="3-實現-ai-普惠微軟的策略與平台"></a>3. 實現 AI 普惠：微軟的策略與平台

* **演講主旨：** 闡述微軟如何透過基礎設施、開發平台與應用工具，推動 AI 民主化，讓 AI 人人可用。
* **三大層次策略：**
1. **基礎設施 (Infrastructure):** 提供便捷、強大、節能的算力。
* **全球雲端網絡：** 超過 60 個區域中心，350+ 資料中心。
* **台灣資料中心落地：** 解決法規遵循問題 (個資不出境)，引入國際技術，將台灣方案推向全球。
* **下一代算力：量子計算 (Quantum Computing):** 發表基於 Majorana 準粒子的拓撲量子位元技術，開啟量子運算新契機，目標是提供更強、更節能、更乾淨的算力。
2. **開發平台 (AI Foundry):** 提供低門檻、易用的開發環境。
* **概念：** 打通算力、儲存、數據集、AI 模型 (大語言/生成式)、開發工具，形成 AI 工廠。
* **目標：** 解決數據孤島，提供多樣化模型選擇 (Azure OpenAI Service, 自研模型, 開源模型)，支持低代碼/無代碼開發 (如用自然語言描述生成應用界面)。
* **核心價值：** 讓非 AI 專家也能快速開發應用。
3. **應用介面 (Application Interface):** 將 AI 融入日常使用的工具。
* **代表：Copilot (智能夥伴)。**
* **目標：** 讓 AI 觸手可及 (手機、電腦等)。
* **AI 人才金字塔 & 文化：**
* **用 AI 的人 (Use AI):** 最廣大的基礎，需要培養使用 AI 的文化、習慣、精神和環境。提供開箱即用的工具 (如 Office Copilot)。
* **導 AI 的人 (Guide AI):** 橋樑角色，懂產業痛點，懂 AI 能力，能定義問題、描述場景。台灣極需的跨領域整合人才。
* **寫 AI 的人 (Build AI):** 技術實現者，有越來越多工具輔助。
* **微軟目標：** 提供平台培養三類人才，特別是賦能「導 AI」的人才。

#### <a id="4-ai-agent-時代未來已來"></a>4. AI Agent 時代：未來已來

* **演講主旨：** 描繪 AI Agent 的發展趨勢及其對未來服務模式的顛覆。
* **Agent 的進化：**
* **輸入 (Input):** 從文字/多模態數據 -> Agent 對 Agent 的互動。
* **推理 (Reasoning):** 從單純回答 -> 多層次推理 (將自身答案作為下一步輸入)。
* **執行 (Action):** 從回答問題 -> 實際執行動作。
* **實例：Toyota 倉儲機器人**
* **場景：** 結合 IoT 感測器、攝影機、語音，賦予倉儲搬運機器人思考與決策能力。
* **過程：** 堆高機讀取物料條碼 -> AI 大腦根據倉儲地圖規劃路徑 -> 堆高機自主編程、執行搬運與放置任務。
* **潛力：** 若連接 ERP, CRM 等系統，將產生巨大生產力。
* **未來服務模式：Agent Services Portal**
* 入口將從目前的網頁內容 (Web Content) 轉變為代理人服務 (Agent Services)。
* 用戶呼叫 Agent 來完成任務，而非自行操作網頁。
* **AI 發展階段類比：**
* **基礎建設就緒 (Infrastructure Ready):** 如網路時代的 Cisco，雲端/邊緣算力。
* **平台/工具就緒 (Platform/Tool Ready):** 如網路時代的 Google，AI 時代的微軟/OpenAI 等提供的模型與開發平台。
* **應用爆發 (Application Ready):** 如行動時代的 Apple App Store，AI Agent 將帶來應用程式的爆發。
> "最好的時代還沒有開始。"
* **AI 的三重視野 (Three Lenses):**
1. 告訴你已知且易想到的 (快速歸納整理)。
2. 告訴你未知但想得到的 (華語的成分 - 推理)。
3. 告訴你未知且想不到的 (開啟全新科學領域 - 類比牛頓定律)。

#### <a id="5-微軟與台灣的連結與承諾"></a>5. 微軟與台灣的連結與承諾

* **歷史巧合與共生：** 微軟 50 年發展歷程與台灣半導體/資通訊產業 50 年起飛歷程高度重疊，是生命共同體。
* **承諾：** 持續賦能台灣所有產業，共同邁向 AI 新時代。

### <a id="專業術語與強調點"></a>專業術語與強調點

* **專業術語:**
* **AI for Good:** 為公益、社會福祉、環境永續等目標應用 AI。
* **Foundation Models (預訓練模型):** AI 研究的基礎。
* **Carbon Neutral (碳中和), Carbon Negative (負碳排):** 環境永續目標。
* **Quantum Computing (量子計算):** 下一代計算技術 (提及 Majorana)。
* **AI Foundry:** 微軟提出的 AI 開發平台概念。
* **Copilot:** 微軟的 AI 智能夥伴品牌。
* **AI Agent / Agentic AI:** AI 代理/智能體。
* **Reasoning (推理):** AI Agent 的核心能力之一。
* **Agent Services Portal:** 未來的服務入口模式。
* **Digital Twin (數位孿生):** (未直接說，但 Toyota 案例有此概念)。
* **強調點:**
* AI 的發展應「以終為始」，關注其對人類和地球的正面影響。
* AI 應是「普惠的」、「民主的」，人人皆可受益。
* 微軟致力於提供從算力、平台到應用的完整生態系。
* 「導 AI」的跨領域人才是未來關鍵。
* AI Agent 是正在發生的革命，將重塑服務模式。
* AI 最好的應用時代尚未真正來臨。
* 微軟與台灣產業的深厚連結與共同未來。

### <a id="關鍵啟示"></a>關鍵啟示

1. **AI 價值超越商業：** AI 技術的終極價值在於解決人類面臨的重大挑戰，推動社會進步與永續發展 (AI for Good)。
2. **普惠是 AI 的終極目標：** 降低 AI 的使用和開發門檻，讓技術惠及每個人，是產業領導者的共同責任與方向。
3. **人才培育需轉變思維：** 除了技術專家，更需要大量能理解業務、定義問題並引導 AI 解決方案的跨領域人才。
4. **AI Agent 將引領下一波變革：** 具備自主規劃、推理和執行能力的 AI Agent，將從根本上改變人機協作模式與服務交付方式。
5. **基礎設施與平台是基石：** 強大、易用、可負擔的算力與開發平台，是實現 AI 普惠與 Agent 時代的必要條件。
6. **生態協作至關重要：** 單一企業無法獨力完成 AI 革命，需要全球科技公司、產業夥伴、學術界及政府的共同努力。

### <a id="行動建議"></a>行動建議

1. **企業/組織：**
* 將「AI for Good」理念融入企業社會責任 (CSR) 或 ESG 策略，思考如何利用 AI 解決社會或環境問題。
* 培養「用 AI」的企業文化，鼓勵全員學習和使用 Copilot 等 AI 工具。
* 重點發掘和培育「導 AI」的跨領域人才，將其視為數位轉型的核心驅動力。
* 關注 AI Agent 的發展，探索其在自動化客服、內部流程優化、數據分析等方面的應用潛力。
* 利用 Azure 等雲平台提供的 AI Foundry 工具，加速內部 AI 應用的開發與部署。
2. **個人：**
* 積極學習使用 Copilot 等 AI 工具，提升個人生產力。
* 若具備領域知識，可思考如何結合 AI 解決該領域的問題，成為「導 AI」人才。
* 關注 AI倫理與社會影響，思考如何負責任地使用 AI。
3. **政府/政策制定者：**
* 支持 AI for Good 相關的研究與應用專案。
* 制定有利於 AI 普惠化發展的政策，包括人才培育、數據開放、算力支持等。
* 關注 AI Agent 發展帶來的社會、經濟與倫理影響，及早研擬應對策略。

---

## <a id="ai-世代的網路犯罪趨勢與資安防禦革命"></a>AI 世代的網路犯罪趨勢與資安防禦革命

### <a id="演講基本資訊"></a>演講基本資訊

* **講者:** 洪偉淦 (Paul Hung), 台灣暨香港區總經理, 趨勢科技 (Trend Micro)
* **時間:** 2025年3月27日 10:00-10:20
* **場次:** AI Expo 2025
* **形式:** 單一講者

### <a id="內容摘要"></a>內容摘要

洪偉淦總經理從資安角度剖析了 AI 帶來的雙面刃效應。他首先指出 AI 推理成本的大幅下降，使得 AI 技術更容易被惡意利用。演講重點分析了 AI 在助長網路犯罪方面的幾大趨勢：利用 AI 加速惡意程式開發、生成高仿真釣魚郵件突破語言障礙、竊取雲端資源訓練駭客專用 LLM (如 WormGPT)、以及利用 Deepfake 進行詐騙和散播假訊息。這些已非未來空想，而是正在發生的威脅。接著，他探討了企業在使用 AI (特別是 LLM) 時面臨的資安風險，主要歸納為數據安全（機敏資料輸入導致外洩、惡意資料污染）和模型安全。模型安全中，提示注入 (Prompt Injection) 被認為是最大風險 (OWASP Top 1)，他詳細解釋了多種注入手法（如忽略指示、角色扮演、反向提問、情感勒索 "Grandma Prompt"）及其可能造成的危害（繞過安全限制、洩漏機密、導致 AI 誤判或服務中斷）。為了應對這些威脅，他提出資安防禦的核心策略是「以 AI 對抗 AI」(Fight AI vs AI)，並介紹了趨勢科技等資安產業如何早期並廣泛地應用 AI/ML 技術。他特別展示了趨勢科技如何利用 AI 強化風險評估與攻擊路徑預測，透過視覺化介面幫助管理者理解風險、識別弱點並採取最有效的阻斷措施，實現從被動防禦到主動防禦 (Proactive Security) 的轉變。

### <a id="主要章節"></a>主要章節

#### <a id="1-ai-的雙面刃機遇與風險並存"></a>1. AI 的雙面刃：機遇與風險並存

* **演講主旨：** 強調在擁抱 AI 帶來的便利與效率的同時，必須正視其被惡意利用和使用本身所衍生的資安風險。
* **驅動因素：** AI 推理成本大幅下降 (每年 40 倍速度)，降低了攻擊者使用 AI 的門檻。
* **企業應用趨勢：** AI 從潛力評估走向核心業務應用。
* **資安視角核心問題：**
1. 如何識別和降低**使用 AI** 產生的風險？
2. 如何應對 **AI 被惡意使用** 加劇的資安威脅？

#### <a id="2-ai-助長網路犯罪-ai-for-bad"></a>2. AI 助長網路犯罪 (AI for Bad)

* **演講主旨：** 分析駭客如何利用 AI 技術提升攻擊效率和複雜度。
* **主要惡意應用趨勢：**
* **惡意程式/勒索病毒生成：** AI 輔助編寫惡意程式碼，降低技術門檻。
* *案例：* 日本無程式基礎者利用 AI 生成勒索病毒被捕。
* **高仿真釣魚郵件 (Phishing):**
* 克服語言/語氣障礙，生成高度在地化、個人化的釣魚內容。
* 結合網路資訊搜集，製作針對性攻擊。
* **駭客專用 LLM (如 WormGPT):**
* 駭客竊取雲端算力 (從挖礦轉向訓練 LLM) 訓練攻擊專用模型。
* 用於快速生成勒索病毒、輔助漏洞挖掘與利用。
* **深度偽造 (Deepfake):**
* 利用少量聲音/影像樣本生成逼真偽造內容。
* 應用於詐騙、散播假訊息、身份盜用。
* **強調：** 這些並非未來式，而是**正在發生**。

#### <a id="3-使用-ai-的資安風險-owasp-top-10-for-llm"></a>3. 使用 AI 的資安風險 (OWASP Top 10 for LLM)

* **演講主旨：** 分析企業在部署和使用 AI (特別是 LLM) 時，需要關注的內在安全風險。參考 OWASP (Open Web Application Security Project) 的分類。
* **兩大風險類別：**
* **數據安全 (Data Security):**
* **輸入風險：**
* **機密外洩：** 無意中將個資、商業機密、服務憑證等敏感資訊輸入 LLM，可能被模型學習或外洩。
* **數據污染 (Data Poisoning):** 惡意注入錯誤或有害數據，影響模型判斷。
* **企業最在意：** 資料外洩。
* **模型安全 (Model Security):**
* **核心風險：提示注入 (Prompt Injection)** - OWASP LLM 風險排名第一。
* **定義：** 透過精心設計的 Prompt (提示詞)，繞過 AI 的安全設定或預期功能，使其執行非預期操作或洩漏資訊。
* **為何重要：** LLM 的運作方式使其易受此類攻擊。
* **System Prompt 的角色：** 用於設定 AI 功能定位和限制 (如美妝客服不回答數學問題)。Prompt Injection 旨在繞過 System Prompt。
* **案例：** 北捷 AI 客服被誘導寫程式。
* **注入手法：**
* **忽略指示 (Ignore Previous Instructions):** 直接命令 AI 忽略先前規則。
* **角色扮演 (Role Play):** 讓 AI 扮演不受限制的角色 ("Do Anything Now" - DAN)。
* **反向提問 (Reverse Psychology):** 以“避免做某事”為由，誘導 AI 說出不該說的資訊 (如詢問紅燈區位置)。
* **情感勒索/誤導提示 (Misleading Prompt / "Grandma Prompt"):** 透過編造情境或利用同情心，讓 AI 洩漏敏感資訊 (如製作炸彈的方法)。
* **注入途徑：** 直接輸入、間接注入 (如透過讓 AI 讀取包含惡意 Prompt 的網頁)。
* **其他模型風險：** (未詳細展開) 可能包含模型竊取、阻斷服務等。
* **歷史案例：** 微軟 Tay 聊天機器人 (2016) 在一天內被網友惡意誘導變成種族歧視者，被迫下架。

#### <a id="4-ai-時代的資安防禦策略以-ai-對抗-ai"></a>4. AI 時代的資安防禦策略：以 AI 對抗 AI

* **演講主旨：** 闡述資安產業應對 AI 威脅的核心方法，並介紹趨勢科技的實踐。
* **核心策略：Fight AI vs AI (用好的 AI 打壞的 AI)**
* **資安產業與 AI 的淵源：** 資安是 AI 技術的早期且重度使用者 (處理海量數據的需求)。趨勢科技自 2005 年起即用 AI 對抗垃圾郵件。
* **趨勢科技的 AI 應用：**
* 廣泛應用於各產品模組與平台。
* **重點案例一：AI 強化風險可視性 (Risk Visibility)**
* **挑戰：** 企業數位資產複雜 (雲、地、端混合)，未知/未管理資產成主要風險來源 (7 成事件發生於此)。管理者難以全面掌握風險。
* **解決方案：** 透過部署 Sensor 收集數據，利用 AI 分析整合，提供統一的風險視圖 (如雲端環境風險儀表板)。實現「看得到才能管得到」。
* **重點案例二：AI 驅動主動防禦 - 攻擊路徑預測 (Attack Path Prediction)**
* **目標：** 從被動響應轉為主動防禦 (從急診醫生 -> 健康管理)。在駭客攻擊前識別並修補弱點。
* **方法：**
* 風險 = 可能性 x 影響。
* AI 學習駭客攻擊邏輯 (從入口點 -> 橫向移動 -> 核心資產)。
* 輸入企業環境的脆弱性資訊。
* AI 生成視覺化攻擊路徑圖譜。
* **效益：**
* 一目了然地展示最可能的攻擊路徑。
* 解釋風險成因。
* 識別最有效的防禦阻斷點 (Choke Points)，集中資源修補。
* **成果：** 已有實際案例驗證。
* **未來方向：主動安全 (Proactive Security)**
* 利用 AI 從被動防禦走向主動預測與防禦。
* 降低資安工作者的負擔與入門門檻。

### <a id="專業術語與強調點"></a>專業術語與強調點

* **專業術語:**
* **AI 推理 (AI Inference):** 模型進行預測或生成。
* **大型語言模型 (LLM - Large Language Model):** 核心 AI 技術。
* **WormGPT:** 駭客專用 LLM 示例。
* **深度偽造 (Deepfake):** AI 生成的逼真偽造影音。
* **OWASP (Open Web Application Security Project):** 網路安全標準組織。
* **提示注入 (Prompt Injection):** 針對 LLM 的主要攻擊手法。
* **System Prompt:** 給予 LLM 的初始指令與限制。
* **數據污染 (Data Poisoning):** 惡意污染訓練數據。
* **Proactive Security (主動安全):** 強調預測與預防。
* **攻擊路徑 (Attack Path):** 駭客在網路中移動以達目標的路徑。
* **阻斷點 (Choke Point):** 最有效的防禦位置。
* **強調點:**
* AI 帶來便利，但也加劇資安風險。
* 駭客正積極利用 AI 提升攻擊能力。
* 企業使用 AI 本身也存在數據和模型安全風險。
* **提示注入 (Prompt Injection) 是 LLM 的頭號風險。**
* **防禦 AI 威脅的關鍵是「以 AI 對抗 AI」。**
* AI 能實現更主動、更智能的資安防禦。
* 可視化和攻擊路徑預測是 AI 在資安的有效應用。

### <a id="關鍵啟示"></a>關鍵啟示

1. **AI 是資安的放大器：** AI 技術既能極大提升防禦能力，也能被攻擊者利用來發動更複雜、更難偵測的攻擊。
2. **Prompt Injection 是 LLM 安全的核心挑戰：** 由於 LLM 的運作機制，防禦惡意設計的提示詞以阻止非預期行為將是持續的攻防焦點。
3. **數據安全在使用 AI 時至關重要：** 企業必須謹慎管理輸入 LLM 的數據，防止敏感資訊外洩或被污染。
4. **主動防禦成為可能：** AI 的分析和預測能力，使資安從傳統的被動響應（事後處理）向主動預防（事前識別風險、預測攻擊）轉變成為可能。
5. **資安需要擁抱 AI：** 面對日益智能化的攻擊，資安防禦體系必須深度整合 AI 技術才能有效應對。

### <a id="行動建議"></a>行動建議

1. **提高資安意識：** 企業全員需了解 AI 可能帶來的釣魚、詐騙、假訊息等風險，提高警覺。
2. **審慎評估 AI 應用風險：** 在導入任何 AI (特別是 LLM) 應用前，進行資安風險評估，特別關注數據隱私和模型安全 (Prompt Injection)。
3. **建立數據輸入規範：** 制定明確政策，規範哪些數據可以、哪些數據禁止輸入公有或內部 AI 模型，並進行監控。
4. **加強模型安全防護：** 部署能夠檢測和過濾惡意 Prompt 的安全機制，關注 OWASP LLM Top 10 的建議。
5. **採用 AI 驅動的資安解決方案：** 選擇整合了 AI 技術的資安產品/服務 (如趨勢科技 Vision One 平台)，以提升威脅偵測、風險評估和響應效率。
6. **實施主動風險管理：** 定期利用 AI 工具進行攻擊面管理 (Attack Surface Management) 和攻擊路徑模擬，找出並修補潛在弱點。
7. **持續關注威脅情報：** 了解最新的駭客 AI 利用手法和防禦技術。

---

## <a id="突破瓶頸打造-ai-應用儲存新價值"></a>突破瓶頸•打造 AI 應用儲存新價值

### <a id="演講基本資訊"></a>演講基本資訊

* **講者:** 苟嘉章 (Wallace Kou), 總經理, 慧榮科技 (Silicon Motion Technology Corp. - SMI)
* **時間:** 2025年3月27日 10:20-10:40
* **場次:** AI Expo 2025
* **形式:** 單一講者

### <a id="內容摘要"></a>內容摘要

苟嘉章總經理從儲存控制晶片領導廠商的角度，深入探討了儲存技術在 AI 浪潮中的關鍵角色與未來價值。他首先點出，過去 AI 的焦點多在 GPU 運算，儲存常被忽略，但隨著 DeepSeek 等低成本模型的成功，以及 AI 在手機、PC、XR、V2X 等邊緣裝置的落地加速，儲存的重要性日益凸顯。他分析了完整的 AI Pipeline（從數據收集到推理）對儲存效能（高傳輸、低延遲、低功耗、高可靠性、擴展性）提出的嚴苛要求。演講揭示了儲存控制器設計的技術門檻極高，涉及先進製程 (如 4nm)、複雜 IP 整合以及高昂的 NRE 成本。他深入探討了 NAND Flash 的先天限制（抹寫損耗、讀取干擾）以及 SMI 如何透過先進技術克服這些挑戰，包括 FDP (彈性數據放置) 和 Performance Shaping (效能整形，優化佇列管理以達穩定效能)，並展示了這些技術帶來的顯著效能提升。他介紹了 SMI 在企業級、消費級、行動裝置及車用儲存市場的廣泛佈局與領導地位。特別針對新興的人型機器人市場，分析了其對儲存的需求（結合 LLM 與 LMM），並預期未來需要更特化的儲存指令來優化效能。最後，他總結 AI 時代儲存技術的發展趨勢：高密度、高效能、低功耗、高可靠性是必然方向，而低門檻的 AI 開發（如 DeepSeek）將加速普及，儲存控制器廠商需持續創新以滿足不斷演進的需求。

### <a id="主要章節"></a>主要章節

#### <a id="1-ai-浪潮下儲存角色的轉變與重要性"></a>1. AI 浪潮下儲存角色的轉變與重要性

* **演講主旨：** 強調儲存不再是 AI 發展的配角，而是實現 AI 應用價值、突破效能瓶頸的關鍵因素。
* **背景：**
* 早期 AI 焦點在 GPU 運算，儲存被忽略。
* DeepSeek 等低成本模型的成功，降低了 AI 開發門檻，刺激更廣泛應用。
* 邊緣 AI 裝置 (AI Smartphone, AI PC, AI XR, AI V2X) 加速落地，對本地儲存提出更高要求。
* **AI Smartphone:** 預計下半年起普及 (提及 MWC 上榮耀 Magic 6)。
* **AI PC:** 預計下半年至明年有突破性應用 (如 Video-to-Text 本地處理)。
* **AI XR:** 預計今年出貨量達千萬台級別。
* **AI V2X:** 中國市場已出現產業化趨勢。
* **核心觀點：** 儲存是 AI Pipeline 中不可或缺的一環，其效能直接影響 AI 應用的可行性與效率。

#### <a id="2-ai-pipeline-對儲存的需求與挑戰"></a>2. AI Pipeline 對儲存的需求與挑戰

* **演講主旨：** 分析 AI 工作流程各階段對儲存的具體需求特性。
* **AI Pipeline 各階段與儲存：**
* **數據收集/轉換 (Ingest/Transformation):** 需要處理大量原始數據。
* **訓練 (Training):** 需要高速讀取訓練數據，並進行 Checkpoint 和 Backup (大量寫入)。
* **推理 (Inference):** 需要快速加載模型和數據。
* **關鍵儲存需求指標：**
* **高傳輸量 (High Throughput):** 快速移動大量數據。
* **低延遲 (Low Latency):** 快速響應數據請求 (Nvidia GTC 強調 GPU 到儲存的奈秒級速度)。
* **低功耗 (Low Power):** 對邊緣裝置尤其重要。
* **可擴展性 (Scalability):** 應對數據量增長。
* **可靠性/耐久性 (Reliability/Endurance):** 確保數據完整與長期可用。

#### <a id="3-儲存控制器的技術門檻與創新"></a>3. 儲存控制器的技術門檻與創新

* **演講主旨：** 揭示儲存控制器設計的複雜性與高門檻，並介紹 SMI 的關鍵技術創新。
* **技術門檻：**
* **先進製程：** PCIe Gen 5/6 控制器需採用 6nm 甚至 4nm 製程。
* **高 NRE 成本：** 4nm 光罩費用達 5000 萬美元，不含 IP 費用與改版成本。
* **IP 整合複雜：** 需要整合高速接口、NAND 控制、錯誤校正、電源管理等多種 IP。
* **需要規模經濟：** 沒有足夠客戶支撐難以參與競爭。
* **NAND Flash 的挑戰：**
* **物理限制：** 讀寫抹操作會造成耗損 (Wear-out)、讀取干擾 (Read Disturb)、數據保持力下降 (Retention Loss)。
* **管理複雜：** 需要耗損均衡 (Wear Leveling)、垃圾回收 (Garbage Collection)、壞塊管理 (Bad Block Management) 等。
* **QLC/PLC 挑戰更大：** 密度越高，可靠性挑戰越大。
* **SMI 的解決方案與創新技術：**
* **FDP (Flexible Data Placement):**
* **概念：** 讓主機 (Host) 可以更靈活地指定數據寫入 NAND 的物理位置，繞過傳統 FTL (Flash Translation Layer) 的部分限制。
* **目標：** 減少寫入放大 (Write Amplification)、降低延遲、提升效能和耐久性。
* **效益：** 對比測試顯示，開啟 FDP 可將寫入放大降低 3 倍，吞吐量提升 5 倍。尤其對 QLC SSD 至關重要。
* **趨勢：** 預計未來兩年成為企業級 SSD 的必要條件。
* **Performance Shaping (效能整形):**
* **問題：** 多個 Host/Tenant 同時訪問 SSD 時，佇列管理不當會導致效能波動 (Jitter)。
* **解決方案：** 開發精確的演算法和 QoS (Quality of Service) 機制，根據工作負載動態調整資源分配，確保關鍵任務獲得優先處理，維持效能一致性 (Consistency)。
* **效益：** 提供穩定、可預期的儲存效能，滿足資料中心對 QoS 的要求。
* **先進 LDPC + AI 輔助錯誤校正：**
* **挑戰：** NAND 層數堆疊越高 (232L -> 400L+)，錯誤率越高，傳統 ECC (Error Correction Code) 面臨極限。
* **解決方案：** 採用更強大的 LDPC (Low-Density Parity-Check) 糾錯碼，並引入 AI/ML 技術輔助進行錯誤預測和校正，將錯誤率控制在可接受範圍內，延長 NAND 壽命。
* **目標：** 實現從 TLC -> QLC -> PLC (Penta-Level Cell) 的平滑過渡。

#### <a id="4-smi-市場佈局與人型機器人儲存需求"></a>4. SMI 市場佈局與人型機器人儲存需求

* **產品線與市場地位：**
* **企業級 SSD:** 下半年量產 PCIe Gen 5，明年導入 Gen 6。
* **消費級 SSD (Client SSD):** PCIe Gen 4/5 產品線完整，全球市佔率 30-33%。
* **行動儲存 (Mobile Storage - UFS):** UFS 2.2/3.1 市佔 20-23%，目標 UFS 4.0 達 30%。
* **車用儲存 (Automotive):** 深耕十年，已打入 Honda, Nissan, Toyota (最大供應商)，並獲 VW 集團訂單。強調車規產品的高可靠性要求。
* **人型機器人 (Humanoid Robot) 儲存需求：**
* **架構：** 高端用 CPU+GPU，低端用 SOC/Arm。
* **模型：** LLM (大型語言模型) + LMM (大型運動模型 - Large Motion Model)。
* **儲存現況：** 目前多使用標準 eMMC, UFS, Client SSD。
* **未來趨勢：** 預期 2-3 年後，隨著機器人能力提升，需要更特化的儲存指令 (Special Command) 來優化 CPU/GPU 與儲存之間的數據交換。SMI 已在佈局。
* **市場潛力：** 未來 5-10 年可能達到百萬台級別。

#### <a id="5-結論與展望"></a>5. 結論與展望

* **核心觀點：**
* AI 應用普及需要低門檻的開發環境 (如 DeepSeek 帶來的啟示)。
* AI 生態需要多元化的硬體 (Nvidia, AMD, Intel) 和軟體參與者。
* 儲存是 AI 系統的基礎，高密度、高效能、高可靠性是必然趨勢。
* Edge AI 裝置 (手機、PC、XR) 將迎來爆發。
* **對台灣的期許：** 把握 AI 發展機遇，政府應加強人才培養和生態系建設，避免再次錯失浪潮。

### <a id="專業術語與強調點"></a>專業術語與強調點

* **專業術語:**
* **DeepSeek:** 一個重要的開源 AI 模型，降低了開發門檻。
* **AI Pipeline:** AI 工作流程 (Ingest, Prep, Train, Tune, Inference, Backup)。
* **儲存控制器 (Storage Controller):** SSD 的核心晶片。
* **NAND Flash:** 儲存介質 (TLC, QLC, PLC)。
* **PCIe (Peripheral Component Interconnect Express):** 高速接口。
* **NRE (Non-Recurring Engineering):** 非重複性工程成本 (如光罩費)。
* **FTL (Flash Translation Layer):** SSD 中管理邏輯地址到物理地址映射的韌體層。
* **FDP (Flexible Data Placement):** 一種優化數據寫入位置的技術標準 (NVMe 標準的一部分)。
* **Write Amplification (寫入放大):** 實際寫入 NAND 的數據量大於主機發出寫入量的現象。
* **Performance Shaping:** SMI 提出的優化多工效能穩定性的技術。
* **QoS (Quality of Service):** 服務品質，強調效能穩定性。
* **LDPC (Low-Density Parity-Check):** 一種先進的錯誤校正碼。
* **UFS (Universal Flash Storage):** 行動裝置儲存標準。
* **eMMC (embedded MultiMediaCard):** 另一種嵌入式儲存標準。
* **LLM (Large Language Model):** 大型語言模型。
* **LMM (Large Motion Model):** 大型運動模型 (用於機器人)。
* **強調點:**
* 儲存是 AI 應用的關鍵瓶頸與價值所在。
* DeepSeek 等低成本模型對 AI 普及有重要意義。
* 儲存控制器技術門檻極高。
* FDP 和 Performance Shaping 是 SMI 的關鍵技術，能顯著提升 SSD 效能與穩定性。
* AI 輔助的錯誤校正對未來高密度 NAND 至關重要。
* SMI 在多個儲存市場領域具有領導地位。
* 人型機器人是潛力巨大的新興儲存應用市場。
* Edge AI 裝置即將爆發。

### <a id="關鍵啟示"></a>關鍵啟示

1. **儲存技術是 AI 落地的隱形推手：** 高效能、高可靠、低功耗的儲存是實現複雜 AI 運算，特別是在邊緣裝置上實現的基礎。
2. **控制器是儲存核心競爭力：** 在 NAND Flash 技術趨同的背景下，儲存控制器的設計能力（整合先進製程、優化演算法、管理 NAND 缺陷）成為差異化的關鍵。
3. **技術創新克服物理限制：** 透過 FDP、Performance Shaping、AI ECC 等創新技術，可以有效緩解 NAND Flash 的物理限制，提升 SSD 的效能、壽命和可靠性。
4. **邊緣 AI 驅動儲存需求多樣化：** 從手機、PC 到汽車、機器人，不同的邊緣 AI 應用對儲存的容量、效能、功耗、尺寸和可靠性有不同的側重。
5. **生態系合作加速創新：** 控制器廠商需要與 NAND 廠、CPU/GPU 廠、系統廠緊密合作，才能開發出滿足市場需求的儲存解決方案。

### <a id="行動建議"></a>行動建議

1. **系統/裝置開發商：**
* 在設計 AI 產品時，需將儲存視為整體效能的關鍵環節，根據應用負載選擇合適效能、功耗、可靠性的 SSD 及控制器。
* 關注 FDP 等新標準/技術，評估其對特定應用的效益。
* 針對邊緣 AI 裝置，優先考慮低功耗、小尺寸的儲存方案。
* 與 SMI 等控制器廠商合作，獲取針對性的儲存解決方案與支援。
2. **企業 IT/資料中心管理者：**
* 評估 SMI 等廠商提供的企業級 SSD 方案，關注其在效能一致性 (QoS)、可靠性方面的表現。
* 了解 FDP 等技術如何幫助優化資料中心儲存效率。
3. **AI 開發者：**
* 理解儲存效能（延遲、吞吐量）對模型訓練和推理時間的影響。
4. **產業觀察者/投資者：**
* 關注儲存控制器廠商的技術創新能力和市場佈局。
* 將儲存視為 AI 供應鏈中的關鍵環節，其發展將影響 AI 應用的普及速度和成本。
* 留意人型機器人等新興應用對儲存市場的潛在帶動效應。

---

## <a id="從理想到現實ai-與製造的完美交融"></a>從理想到現實，AI 與製造的完美交融

### <a id="演講基本資訊"></a>演講基本資訊

* **講者:** 李冠儀 (Kate Lee), 副總經理, 緯謙科技 (WiAdvance Technology) - (緯創集團子公司)
* **時間:** 2025年3月27日 11:00-11:20
* **場次:** AI Expo 2025
* **形式:** 單一講者

### <a id="內容摘要"></a>內容摘要

李冠儀副總經理從緯創集團子公司的視角，分享了 AI 在製造業落地的實務經驗與觀點，特別強調數據治理在其中的核心地位。她首先點出製造業面臨全球競爭、成本上升、客戶期望提高等壓力，驅使其必須進行數位轉型，而高度數位化的製造業更重視庫存管理、流程透明度和數據可視性。演講的核心論點是，AI 應用（如預測性維護、品質控制、供應鏈優化、生產排程、輔助設計）的成功與否，高度依賴於輸入數據的品質，即所謂的「AI Ready Data」。她引用 IDC 數據和集團內部經驗，指出數據問題是導致製造業 AI 專案延遲或失敗的主要原因 (64%)，大部分時間 (60%) 都需投入數據準備與治理。她定義了 AI Ready Data 的要素（完整、一致、及時、標準化），並強調數據治理的重要性，如同給 AI 模型一位好老師，能大幅提升學習效率與成果準確性，降低對算力或複雜模型的依賴。接著，她介紹了 AI Agent 在製造業的應用潛力，認為其學習與自主執行能力超越傳統 RPA，能在供應鏈優化（自動協調訂單交期）、品質管控（自動調整產線參數）及 AI 輔助設計（自動生成 Mechanical 設計初稿）等方面帶來突破。最後，她介紹了緯謙科技提供的數據治理平台 (VKMS/KMS) 和 AI 服務架構，旨在結合其製造業 Domain Know-how 與 AI 技術，協助客戶實現智慧製造。

### <a id="主要章節"></a>主要章節

#### <a id="1-製造業的-ai-需求與挑戰"></a>1. 製造業的 AI 需求與挑戰

* **演講主旨：** 闡述製造業導入 AI 的動機，並點出數據問題是核心挑戰。
* **驅動因素：**
* 全球競爭加劇。
* 成本上升壓力。
* 客戶期望提高 (更快的響應速度)。
* 數位轉型需求。
* **高數位化製造業特徵：** 更重視有效庫存管理、流程透明度、數據可視性。
* **為何需要 AI？**
* 處理複雜、無法完全用規則 (Rule-based) 定義的問題。
* 透過數據學習，提供更有效率、更精準的決策輔助。
* **AI 的前提：數據！**
* AI 的回應基於數據。
* 數據必須**可靠 (Reliable)、更新 (Updated)、精確 (Accurate)**。
* **核心挑戰：數據問題**
* **IDC 數據：** 64% 製造業 AI 項目因數據問題延遲或失敗。
* **集團經驗：** AI 專案 60% 時間投入在數據整合與治理。
* **常見問題：** 數據不足、不精準、不乾淨、未更新、散落各處（數據孤島）、未被治理。
> "如果你的數據不夠精準、不夠乾淨、都 update，再怎樣都不再好的技術、更高的 computing power，都很難達到好的效果。" (引述集團內部專家觀點)

#### <a id="2-數據治理ai-在製造業成功的基石"></a>2. 數據治理：AI 在製造業成功的基石

* **演講主旨：** 強調數據治理對於 AI 模型效能的重要性，並定義 AI Ready Data 的標準。
* **關鍵概念：AI Ready Data**
* **定義：** AI 模型能看懂、能有效利用的數據。
* **要素：** 完整性 (Completeness)、一致性 (Consistency)、時效性 (Timeliness)、**標準化 (Standardization)** (特別強調)。
* 標準化包含數據顆粒度 (Granularity - 週/月/年/季) 和定義 (Definition)。
* **目標：** 確保數據可靠、可信、可被 AI 正確解讀。
* **數據治理的流程：** 收集 -> 清理 -> 整合 -> 標準化 -> 驗證。
* **數據治理的價值：**
* **提升 AI 模型精準度：** 提供乾淨、標準化的數據讓模型高效學習。
* **降低開發成本/時間：** 減少因數據問題導致的額外工程投入或對高算力的依賴。
* **類比：** 如同有好老師整理知識重點，學生能更快吸收應用，而非給一堆雜亂無章的書讓其自行摸索。

#### <a id="3-ai-agent驅動製造業流程自動化與創新"></a>3. AI Agent：驅動製造業流程自動化與創新

* **演講主旨：** 介紹 AI Agent 在製造業的應用潛力，強調其超越傳統 RPA 的學習與自主性。
* **從檢索式 AI 到行動式 AI：**
* 過去 AI 多為問答式 (像小助理)。
* AI Agent 能主動執行任務 (像小幫手甚至大學生)。
* **AI Agent vs. RPA (流程自動化):**
* **RPA:** 執行預定規則，不會學習改變。
* **AI Agent:** 結合 LLM、流程、API、數據庫，具備學習和進化能力，能處理更複雜、動態的任務。
> "AI Agent 是可以學習的...剛進來的時候可能三歲，我們訓練他...最後會變成大學生。"
* **AI Agent 在製造業的應用場景：**
* **供應鏈優化：**
* 基於可靠數據進行需求預測。
* Agent 自動計算最佳庫存水位、調整策略。
* **自動化行動：** 與供應商自動協調訂單、交期 (取代部分 SCM/採購人員工作)。
* **品質管控：**
* AI 模型進行瑕疵檢測。
* **自動化行動：** Agent 在授權下自動調整產線參數，再由人工覆核 (相較於過去僅發出警報需人工處理)。
* **AI 輔助設計 (AI-Assisted Design):**
* **前提：** 設計數據 (如 CAD 圖檔) 已被治理，知識點、特徵點有標準化定義。
* **應用：** 機械設計 (Mechanical Design)。
* **流程：** 將過去設計數據餵給模型 -> 工程師給定條件 (如成本最低、最輕薄) -> Agent 自動生成多版本設計初稿。
* **效益：** 大幅縮短設計迭代時間 (從多次溝通數天 -> 幾十分鐘)，快速響應工程變更 (ECR - Engineering Change Request)。
* **案例：** 緯創集團內部應用於 Notebook 機械設計。

#### <a id="4-緯謙科技的解決方案與價值主張"></a>4. 緯謙科技的解決方案與價值主張

* **演講主旨：** 介紹緯謙科技如何結合製造背景與 AI 技術，提供智慧製造解決方案。
* **數據架構的演變：**
* **舊架構：** Data -> Apps (應用直接取用原始數據)。
* **新架構：** Data -> **Knowledge Graph / Data Fabric** (數據治理層) -> AI Engines / Apps (應用透過治理後的知識層獲取數據)。強調將數據轉化為 AI 可理解的知識。
* **緯謙科技產品/服務：**
* **VKMS / KMS 平台：** (推測為知識管理/數據治理平台) 整合內外部數據，支持 AI Agent 應用。
* **服務架構：** 提供從數據治理到 AI 應用開發的服務。
* **核心優勢：**
* **製造業 Domain Know-how:** 源自緯創集團的深厚製造背景。
* **AI 技術能力：** 結合 Microsoft 等夥伴技術。
* **目標：** 提供務實、有價值的智慧製造解決方案。

### <a id="專業術語與強調點"></a>專業術語與強調點

* **專業術語:**
* **智慧製造 (Smart Manufacturing):** 將 AI, IoT 等技術應用於製造流程。
* **數據治理 (Data Governance):** 管理數據品質、標準、安全的流程。
* **AI Ready Data:** 符合 AI 模型使用需求的高品質數據。
* **數據孤島 (Data Silos):** 數據分散、不互通。
* **AI Agent:** 具備學習和自主執行能力的 AI 智能體。
* **RPA (Robotic Process Automation):** 基於規則的流程自動化。
* **SCM (Supply Chain Management):** 供應鏈管理。
* **瑕疵檢測 (Defect Detection):** 利用 AI 進行品質控制。
* **AI 輔助設計 (AI-Assisted Design):** 利用 AI 輔助工程設計。
* **CAD (Computer-Aided Design):** 電腦輔助設計。
* **ECR (Engineering Change Request):** 工程變更請求。
* **Knowledge Graph / Data Fabric:** 數據治理與知識表達的技術架構。
* **強調點:**
* **數據治理是製造業 AI 成功的絕對關鍵。** (反覆強調)
* 沒有 AI Ready Data，AI 應用難以成功或成本高昂。
* AI Agent 的學習能力使其在製造業應用潛力超越 RPA。
* AI 輔助設計能大幅提升設計效率。
* 需要將數據轉化為 AI 可理解的知識。
* 結合 Domain Know-how 與 AI 技術才能提供真正有價值的解決方案。

### <a id="關鍵啟示"></a>關鍵啟示

1. **製造業 AI，數據先行：** 對於想導入 AI 的製造業來說，首要任務是進行數據盤點與治理，建立 AI Ready 的數據基礎。
2. **AI Agent 賦能流程再造：** AI Agent 的自主學習與執行能力，為優化供應鏈、品質控制甚至設計流程帶來了新的可能性，而不僅僅是簡單的任務自動化。
3. **Domain Know-how 不可或缺：** AI 技術需要與深厚的行業知識相結合，才能準確定義問題、建立有效模型並產生實際效益。
4. **標準化是規模化的前提：** 無論是數據格式還是設計流程，建立標準化的方法論是實現 AI 應用規模化複製的基礎。
5. **從輔助到自動：** AI 在製造業的應用正從輔助決策（如瑕疵檢測）向自動執行（如參數調整、訂單協調）演進。

### <a id="行動建議"></a>行動建議

1. **製造業企業：**
* **優先投資數據治理：** 將數據治理列為數位轉型的核心工作，投入資源建立數據標準、清理數據、打破孤島。
* **評估 AI Agent 潛力：** 檢視供應鏈、生產、設計等環節，思考哪些複雜、動態的流程可以透過 AI Agent 實現更智能的自動化。
* **尋求外部合作：** 與緯謙科技等具備製造 Domain Know-how 和 AI 技術的廠商合作，共同探索和導入 AI 解決方案。
* **從痛點出發：** 選擇對營運效率或成本影響最大的環節作為 AI 導入的切入點。
* **標準化內部流程：** 在導入 AI 輔助設計等應用前，先建立內部設計規範與數據標準。
2. **技術供應商：**
* 開發易於製造業使用的數據治理工具與平台。
* 提供針對製造業特定場景 (如 SCM, QC, Design) 的 AI Agent 解決方案。
* 強調解決方案如何處理和利用製造業的數據。
3. **AI 人才：**
* 除了 AI 技術，也需學習製造業的 Domain Know-how。
* 專注於數據處理、數據建模以及 AI Agent 的開發與應用。

---

## <a id="2025-ai-趨勢與應用"></a>2025 AI 趨勢與應用

### <a id="演講基本資訊"></a>演講基本資訊

* **講者:** 王辰博 (Simon Wang), 臺灣業務副總經理, Google Cloud
* **時間:** 2025年3月27日 11:20-11:40
* **場次:** AI Expo 2025
* **形式:** 單一講者

### <a id="內容摘要"></a>內容摘要

王辰博副總經理探討了 2025 年 AI 發展的關鍵趨勢及其在企業中的應用潛力。他首先回顧了自 Transformer 模型以來 AI 的快速發展，指出模型能力已大幅提升，但企業應用落地仍面臨挑戰。演講聚焦於四大趨勢：第一是多模態 AI (Multimodal AI) 的普及，AI 需要像人一樣能理解和處理文字、圖像、語音等多種信息，才能帶來更自然、更有效的互動體驗（以 AI 洗衣助手為例）；第二是輔助式搜尋 (Assistive Search) 將成為企業內部的核心應用，透過 RAG 等技術將通用 AI 模型與企業內部數據結合，打造安全的、能理解企業知識的 AI 搜尋引擎與助手（以 Mayo Clinic、Moody's 為例）；第三是 AI 全面革新客戶體驗 (Customer Experience)，從智能客服、客戶情緒分析、個人化推薦到自助服務查詢，AI 能顯著提升效率和滿意度；第四，也是最重要的趨勢，是 AI 代理 (AI Agent) 的崛起，Google 正透過 Agent Builder 等工具降低開發門檻，他歸納了六種企業可以立即投入發展的 Agent 類型：任務型、員工輔助型、創意生成型、數據分析型、程式碼開發型以及資安攻防型，強調 AI 已深度改變資安領域。結論指出，科技進步總是促使我們重新思考既有做法，鼓勵企業擁抱 AI 尋找新的解決方案。

### <a id="主要章節"></a>主要章節

#### <a id="1-ai-發展回顧與企業落地挑戰"></a>1. AI 發展回顧與企業落地挑戰

* **演講主旨：** 簡述 AI 近年發展，點出模型能力與企業應用之間的差距。
* **發展歷程：** 2017 年 Google Transformer 模型 -> 各種大型模型 (LLM) 湧現 -> 模型能力快速進步。
* **企業挑戰：** 模型很強大，但如何有效應用於企業場景 ("到底要用在哪邊?")。

#### <a id="2-趨勢一多模態-ai-multimodal-ai"></a>2. 趨勢一：多模態 AI (Multimodal AI)

* **演講主旨：** 強調 AI 模型處理多種數據類型的能力是未來主流。
* **核心概念：** AI 需像人一樣，透過多種感官 (文字、圖像、聲音) 認知世界。
* **Google 的理念：** 從一開始就致力於開發原生多模態模型 (如 Gemini)。
* **案例：AI 洗衣助手 (影片 Demo 解說)**
* **流程：** 用戶拍洗衣標籤 (圖像識別) -> AI 理解標籤意義 (文字/符號理解) -> 用戶拍洗衣機旋鈕 (圖像識別) -> AI 告知操作步驟 (文字/圖像理解 + 語音輸出)。
* **價值：** 若非多模態，無法完成此任務。
* **多模態的好處：**
* **更佳的溯源性 (Greater Grounding):** 更容易理解 AI 結論的依據。
* **更好的結論與建議 (Better Conclusions & Recommendations)。**
* **更優的互動體驗 (Better Interaction Experience)。**

#### <a id="3-趨勢二輔助式搜尋-assistive-search"></a>3. 趨勢二：輔助式搜尋 (Assistive Search)

* **演講主旨：** 預測基於 RAG 的企業內部 AI 搜尋將成為核心應用。
* **概念類比：**
* **通用 LLM：** 像剛畢業的大學生，知識廣泛但不了解特定公司。
* **傳統微調 (Fine-tuning):** 像讓大學生重新學習公司內部知識，成本高、效率低。
* **輔助式搜尋 (RAG 模式)：** 給大學生 (通用 LLM) 一個內部搜索引擎，讓他能即時查詢公司內部數據 (Data Source) 來回答問題或執行任務。
* **架構：** 將通用模型 (如 Gemini) + 企業內部數據源 + 搜尋/RAG 技術結合，打造企業專屬 AI 助手。
* **優勢：** 兼顧通用模型的強大能力與企業內部知識的相關性、安全性。
* **案例：**
* **Mayo Clinic (醫療):** 利用 Vertex AI 建立 AI 驅動的企業內部搜尋，連接 50 PB 醫療數據，輔助醫生護士進行醫療判斷，加速資料查找、提高精準度。
* **Moody's (金融):** 建立內部 AI 搜尋，結合外部公開資訊與內部研究報告，快速生成金融分析報告，並能追溯資料來源。

#### <a id="4-趨勢三ai-革新客戶體驗-customer-experience"></a>4. 趨勢三：AI 革新客戶體驗 (Customer Experience)

* **演講主旨：** 分析 AI 在提升客戶服務效率與滿意度方面的多種應用。
* **應用方向：**
* **智能客服 (AI-powered Customer Service):** 直接由 AI 回應或作為客服人員的 AI 助理。
* **客戶情緒分析 (Customer Sentiment Analysis):**
* 超越傳統關鍵字分析，GenAI 能更精準理解文字/語音中的複雜情緒（如先揚後抑的抱怨）。
* 分析大量歷史客服錄音檔，挖掘潛在問題。
* **個人化體驗 (Personalized Experiences):** 基於對客戶行為和情緒的深刻理解，提供量身訂做的服務或推薦。
* **自助服務搜尋強化 (Self-service Search Enhancement):**
* 在現有知識庫 (FAQ, Knowledge Base) 上疊加 GenAI 搜尋引擎。
* 用戶可用自然語言提問複雜問題，AI 從知識庫中尋找並整合答案，減少轉接人工客服的需求。
* **客服支援輔助 (Support Agent Assistance):** AI 自動收集客戶問題相關的證據 (Evidence) 或歷史記錄，供客服人員快速判斷問題。

#### <a id="5-趨勢四ai-代理-ai-agent-的崛起"></a>5. 趨勢四：AI 代理 (AI Agent) 的崛起

* **演講主旨：** 強調 AI Agent 是未來最重要的發展方向，並歸納企業可立即投入的 Agent 類型。
* **Google 的投入：** 多年前即佈局 Agent，推出 Agent Builder 等工具，旨在縮短從模型到可用 Agent 的差距。
* **企業的核心問題：** 該開發哪些 Agent？ROI 如何？
* **六大高價值 Agent 類型 (基於 Google 千家客戶訪談)：**
1. **任務型 Agent (Tasking Agent):** 執行特定任務，如客戶互動、流程自動化。
* *案例：* Bramble (公司名可能有誤，Bramble?) 使用 Vertex AI + Anthropic Claude 模型構建客服 Agent (體現 Google 平台開放性)。
2. **員工輔助 Agent (Employee Agent):** 自動化重複性工作，提升內部員工效率，甚至完成員工原本做不到的事。
3. **創意生成 Agent (Creative Agent):** 快速生成行銷素材、文案、圖像、影片 (提及 Sora)。解決創意發想和時效性問題。
4. **數據分析 Agent (Data Agent):**
* **變革：** 大幅簡化從原始數據到商業洞察的流程 (取代部分 Data Engineer, Data Scientist, BI 工具)。
* **運作：** 連接企業數據源 (Data Warehouse, Data Lake) -> 決策者用自然語言提問 -> Agent 自動分析並給出結論。
* **類比：** Google NotebookLM。
* **效益：** 非技術人員也能進行數據分析。
5. **程式碼開發 Agent (Coding Agent):** 輔助程式撰寫、測試、部署 (如 Gemini Code Assist)。Google 內部已有 25% code 由 AI 輔助生成。
6. **資安 Agent (Security Agent):**
* **背景：** AI 使攻擊手段 (詐騙、假訊息、網路攻擊) 的量與質都大幅提升。
* **應用：** AI 同樣用於防禦，偵測威脅、分析 Log、阻擋攻擊。
* **結論：** 資安領域已全面進入 AI 攻防時代。

#### <a id="6-結語擁抱-ai重新思考"></a>6. 結語：擁抱 AI，重新思考

* 科技進步促使我們重新評估既有工作方式。
* 鼓勵企業利用 AI 趨勢，思考新的解決方案。

### <a id="專業術語與強調點"></a>專業術語與強調點

* **專業術語:**
* **Transformer:** Google 提出的 foundational AI 模型架構。
* **Multimodal AI (多模態 AI):** 能處理多種數據類型。
* **Assistive Search (輔助搜尋):** 結合 LLM 與 RAG 的企業內部搜尋。
* **Vertex AI:** Google Cloud 的 AI/ML 平台。
* **RAG (Retrieval-Augmented Generation):** 檢索增強生成。
* **Customer Sentiment Analysis (客戶情緒分析)。**
* **AI Agent (AI 代理):** 核心趨勢。
* **Agent Builder:** Google Cloud 的 AI Agent 開發工具。
* **Gemini Code Assist:** Google 的 AI 輔助編程工具。
* **Sora:** OpenAI 的影片生成模型。
* **NotebookLM:** Google 的筆記與資料分析 AI 工具。
* **Cybersecurity (網路安全)。**
* **強調點:**
* AI 模型能力已很強，重點在於企業應用落地。
* **多模態**是 AI 互動自然化的關鍵。
* **輔助搜尋**將是企業內部 AI 的重要應用。
* AI 將**全面革新客戶體驗**。
* **AI Agent** 是最重要趨勢，將帶來巨大變革。
* **數據分析**和**資安**是受 AI 影響最深的領域之二。
* Google 提供開放的 AI 平台 (Vertex AI) 和易用的工具 (Agent Builder, Code Assist)。

### <a id="關鍵啟示"></a>關鍵啟示

1. **從模型能力到應用價值：** AI 發展的重心已從追求模型本身的指標，轉向如何將 AI 能力有效應用於解決實際的企業問題。
2. **多模態是交互的未來：** AI 需要具備理解和生成多種信息類型的能力，才能實現更自然、更全面的應用場景。
3. **企業知識需要 RAG 賦能：** 將強大的通用 LLM 與企業內部獨有的、經過治理的數據通過 RAG 結合，是兼顧能力、相關性和安全性的務實路徑。
4. **AI Agent 將無處不在：** 從輔助個人工作到驅動複雜的企業流程，具備自主能力的 AI Agent 將滲透到各個層面。
5. **AI 對特定領域的顛覆性：** 數據分析和網路安全等高度依賴模式識別和自動化處理的領域，正被 AI 徹底重塑。

### <a id="行動建議"></a>行動建議

1. **企業應擁抱多模態思維：** 在規劃 AI 應用時，考慮如何整合文字、圖像、語音等多種數據輸入和輸出，以創造更豐富的體驗。
2. **優先建構內部輔助搜尋：** 將建立 AI 驅動的內部知識庫和搜尋引擎作為早期落地的重點項目，以提升資訊獲取效率和知識共享。
3. **系統性評估 AI 對客服流程的優化：** 從客服效率、客戶滿意度、成本等多角度，分析 AI 在客服各環節的應用潛力。
4. **立即啟動 AI Agent 探索：** 根據演講提出的六大 Agent 類型，識別企業內部最適合導入 Agent 的場景，並利用 Agent Builder 等工具進行試點開發。
5. **高度關注 AI 在數據分析和資安的應用：** 評估如何利用 AI Agent 簡化數據分析流程，並採用 AI 驅動的資安工具應對日益增長的威脅。
6. **利用雲平台加速落地：** 善用 Google Cloud Vertex AI 等平台提供的模型、工具和基礎設施，降低 AI 開發與部署的複雜度。

---

## <a id="ai-驅動半導體與系統設計創新"></a>AI 驅動半導體與系統設計創新

### <a id="演講基本資訊"></a>演講基本資訊

* **講者:** 宋柏安, 台灣區總經理, 益華電腦 (Cadence Design Systems)
* **時間:** 2025年3月27日 11:40-12:00
* **場次:** AI Expo 2025
* **形式:** 單一講者

### <a id="內容摘要"></a>內容摘要

宋柏安總經理闡述了 AI 如何深刻變革半導體及系統設計領域，並介紹了 Cadence 在此浪潮中的定位與策略。他強調 Cadence 已從傳統的 EDA 公司轉型為「AI 計算軟體公司」(AI Computational Software Company)，其應用範圍從核心的 IC 設計擴展到系統級設計 (多物理模擬、3D-IC) 乃至基礎科學領域 (分子模擬、藥物開發)。演講指出，隨著晶片製程進入奈米甚至原子級別，傳統 IC 設計方法已難以為繼，AI 成為推動設計自動化和優化的關鍵力量，如同無人駕駛之於汽車。Cadence 預見 AI 發展的三個階段 (Horizon)：1) **基礎設施 AI 與代理式 AI (Infrastructure & Agentic AI)** (1-3 年)：利用 AI 優化現有設計工具流程，透過 AI Agent 簡化人機互動；2) **物理 AI (Physical AI)** (3-5 年)：AI 驅動機器人等實體系統的設計與模擬；3) **科學 AI (Science AI)** (5-10 年)：利用 AI 解決分子模擬、氣候科學等複雜科學問題。目前正處於 Horizon 1，Cadence 已將 AI 全面融入其設計工具 (IP, Digital, Analog, Verification, Packaging, System)，並開發了 AI Agent (如 Cadence JedAI Platform) 作為與底層工具互動的自然語言介面，大幅提升設計效率 (案例：6 個工程師 6 個月 -> 1 個工程師 1 週，效能提升 3-5 倍)。他強調，Cadence 提供的是通用 AI 平台，客戶可在其上建立符合自身需求的專家系統。最後，他點出雖然 AI 能力強大，但與人腦的效率相比仍有巨大差距，意味著未來還有巨大的創新空間。

### <a id="主要章節"></a>主要章節

#### <a id="1-cadence-的轉型從-eda-到-ai-計算軟體公司"></a>1. Cadence 的轉型：從 EDA 到 AI 計算軟體公司

* **演講主旨：** 重新定義 Cadence 的公司定位，強調其業務已超越傳統 EDA，全面擁抱 AI 並拓展至系統與科學計算領域。
* **傳統 EDA (Electronic Design Automation):** 提供電子設計自動化軟體，用於 IC 設計。
* **新定位：AI Computational Software Company**
* 提供 AI 賦能 (AI-Enabled) 的計算軟體工具。
* **業務範疇擴展：**
* **核心 IC 設計：** IP (矽智財), Digital IC, Analog IC, Verification (驗證), Packaging (封裝)。
* **系統級設計：** System Analysis (ACP - Acoustic, Thermal, Power?), 3D-IC, 多物理模擬 (Multiphysics - 熱、電、磁)。
* **基礎科學 (Fundamental Science):** 分子模擬 (Molecular Simulation), 生物製藥 (Biopharma - Drug Discovery), 計算流體力學 (CFD - 隱含於氣象科學)。
* **公司概況：** 13,000 員工，研發投入佔營收 1/3，台灣設有重要研發中心。

#### <a id="2-ai-在-ic-設計自動化中的角色與進程"></a>2. AI 在 IC 設計自動化中的角色與進程

* **演講主旨：** 說明 AI 如何應對日益複雜的 IC 設計挑戰，並推動設計流程的自動化。
* **IC 設計的挑戰：**
* 製程微縮 (5nm, 3nm, 2nm, 18A/1.8nm) 導致設計極度複雜。
* 傳統手動設計 (Schematic, Layout) 已不適用。
* 驗證 (Verification) 成本極高，不容許錯誤 (Tapeout 成本高昂)。
* **AI 的作用：數學最佳化 (Mathematical Optimization)**
* EDA 的本質是解決數學最佳化問題。
* AI 同樣擅長解決最佳化問題。
* 因此，EDA 公司本質上具備 AI 基因。
* **IC 設計自動化進程 (類比自駕車)：**
* **Phase 1 (過去):** 手動設計 (人工駕駛)。
* **Phase 2 (現在):** RTL Code 為主 (輔助駕駛)。
* **Phase 3 (進行中):** 人機協作 (Managing AI - L3/L4 自駕)。AI Agent 輔助設計。
* **Phase 4 (未來):** 完全自動化？(No Humans Needed - L5 自駕) - 目前不可能，仍需人類定義目標。
* **AI 帶來的效益：** 更快、更好、更自動化的設計。

#### <a id="3-cadence-的-ai-發展三階段-horizons"></a>3. Cadence 的 AI 發展三階段 (Horizons)

* **演講主旨：** 提出 Cadence 對未來十年 AI 發展階段的預判，並定位各階段的技術重點。
* **Horizon 1: Infrastructure & Agentic AI (1-3 年)**
* **重點：** 利用現有算力基礎設施 (GPU/NPU) 和 AI 模型，優化現有工作流程。
* **應用：** 將 AI 融入 IC 設計、系統設計工具；開發 AI Agent 作為人機互動介面。
* **狀態：** 正在發生。
* **Horizon 2: Physical AI (3-5 年)**
* **重點：** AI 驅動實體世界系統的設計與模擬。
* **應用：** 機器人設計、自動駕駛模擬、複雜物理系統仿真。需要更強算力、感測器整合、更複雜的模擬。
* **核心概念：數位孿生 (Digital Twin) 的深化。**
* **Horizon 3: Science AI (5-10 年)**
* **重點：** 利用極強算力 (可能包含量子計算) 和先進 AI 解決基礎科學難題。
* **應用：** 分子動力學、新材料發現、藥物設計、氣候模擬、天氣預報。
* **核心概念：在原子/分子層級進行模擬與預測。**

#### <a id="4-horizon-1-實踐ai-賦能-ic-與系統設計"></a>4. Horizon 1 實踐：AI 賦能 IC 與系統設計

* **演講主旨：** 詳細介紹 Cadence 如何在當前階段將 AI 技術應用於其產品與解決方案。
* **AI 全面融入工具鏈 (AI Everywhere):**
* **底層工具優化：** 將 AI (最佳化演算法) 嵌入到 IP, Digital, Analog, Verification, Packaging, System Analysis 等所有核心工具中。
* **效益：** 設計效能普遍提升 30% 以上。
* **AI Agent / 平台層 (Cadence JedAI Platform):**
* **定位：** 在底層工具之上，建立 AI 代理層，作為統一的數據平台和自然語言交互介面。
* **功能：**
* 整合各設計環節數據。
* 允許用戶用自然語言下指令 (如 "給我一個 5x5 乘法器")，Agent 自動調用底層工具生成結果。
* 讓工程師專注於更高層次的設計意圖，而非底層實現細節。
* **合作架構 (與 Nvidia GTC 發布內容呼應)：**
* 底層：Nvidia GPU / Custom Compute。
* 中層：Cadence JedAI Platform (通用 AI 能力)。
* **上層：用戶自定義專家系統 (User-Defined Expert System):** 強調客戶需基於 JedAI 平台，結合自身 Domain Knowledge，訓練和部署最適合自己的 AI 設計流程。
* **顯著效益案例 (Digital Design Flow):**
* **傳統：** 6 位工程師，花費 6 個月完成從 RTL 到 GDS 的流程。
* **AI 賦能後：** 1 位工程師，使用 Agentic AI (JedAI)，花費 1 週完成。
* **結果：** 效能 (PPA - Power, Performance, Area) 比傳統方法好 3-5 倍。
* **原因：** AI 在多變數、大規模最佳化問題上優於人類。

#### <a id="5-physical-ai-science-ai-展望"></a>5. Physical AI & Science AI 展望

* **Physical AI (Horizon 2):**
* 核心是模擬物理世界 (Digital Twin)。
* 機器人是典型應用，需模擬複雜的運動、感知與互動。
* 需要更強大的 AI 和模擬能力來應對系統複雜性。
* **Science AI (Horizon 3):**
* 核心是模擬原子/分子層級的行為。
* 應用於藥物發現、材料科學、氣候預測等。
* 需要指數級增長的算力 (超越傳統計算)。
* **共同點：都是 Digital Twin 的不同層次應用。**

#### <a id="6-ai-效能的終極挑戰與人腦的比較"></a>6. AI 效能的終極挑戰：與人腦的比較

* **對比：**
* **LLM (Llama 3 400B):** 訓練需 21 GWh 電力。
* **人腦:** 約 120 萬億個突觸，僅需約 4W (0.004kW) 功率運行。
* **結論：** 人腦的能源效率遠超當前 AI，AI 發展仍有巨大的進步空間。

### <a id="專業術語與強調點"></a>專業術語與強調點

* **專業術語:**
* **EDA (Electronic Design Automation):** 電子設計自動化。
* **AI Computational Software:** Cadence 的新定位。
* **IP (Intellectual Property):** 矽智財。
* **Verification (驗證):** 確保 IC 設計正確性的過程。
* **System Analysis:** 系統級分析。
* **Multiphysics (多物理):** 涉及多種物理場（熱、電、磁等）的模擬。
* **3D-IC:** 三維集成電路。
* **Agentic AI (代理式 AI):** 具備自主能力的 AI 系統。
* **Physical AI (物理 AI):** 應用於模擬和控制物理系統的 AI。
* **Science AI (科學 AI):** 應用於基礎科學研究的 AI。
* **RTL (Register-Transfer Level):** 硬體描述語言的抽象層級。
* **Digital Twin (數位孿生):** 物理實體的虛擬映射。
* **Cadence JedAI:** Cadence 的 AI 驅動設計平台。
* **PPA (Power, Performance, Area):** IC 設計的關鍵衡量指標。
* **GWh (Gigawatt-hour):** 電力量單位。
* **強調點:**
* Cadence 已轉型為 AI 計算軟體公司。
* AI 是解決 IC 設計複雜性和加速創新的關鍵。
* IC 設計自動化是必然趨勢。
* Cadence 的 AI 發展分為三個階段 (Horizon 1/2/3)。
* **AI Agent (JedAI)** 將大幅改變 IC 設計的人機互動模式和效率。
* 客戶需要在 Cadence 平台上建立自己的專家系統。
* AI 在物理和科學模擬領域潛力巨大。
* 人腦的效率遠超現有 AI，技術進步空間廣闊。

### <a id="關鍵啟示"></a>關鍵啟示

1. **AI 正在重塑 EDA：** AI 不僅是 IC 設計的輔助工具，更從根本上改變了設計方法學、效率和自動化程度。
2. **Agentic AI 提升設計抽象層次：** 透過 AI Agent 作為自然語言介面，工程師可以更專注於設計意圖和系統級優化，而非繁瑣的底層實現。
3. **平台 + 客製化是趨勢：** EDA 廠商提供通用的 AI 平台和工具，而 IC 設計公司則需要在平台上結合自身經驗和數據，構建客製化的專家設計系統。
4. **系統級思維日益重要：** IC 設計不再是孤立的，需要考慮封裝、多物理效應等系統級問題，AI 為複雜的系統級模擬與優化提供了可能。
5. **AI 應用前景廣闊：** AI 的影響力將從電子設計延伸到更廣泛的物理世界模擬和基礎科學探索。

### <a id="行動建議"></a>行動建議

1. **IC 設計公司/工程師：**
* 積極擁抱和學習 AI 驅動的 EDA 工具 (如 Cadence JedAI)。
* 轉變思維，從指令式操作轉向意圖導向的自然語言交互。
* 思考如何將公司內部的設計經驗和數據，用於訓練或微調 AI 設計 Agent，建立自身競爭優勢。
* 加強系統級設計和多物理模擬的知識。
2. **半導體產業決策者：**
* 認識到 AI 對設計效率和 PPA 的巨大提升潛力，將 AI EDA 工具的導入納入戰略規劃。
* 投資於數據整理和知識管理，為訓練客製化 AI 設計系統做準備。
* 關注 Cadence 等 EDA 廠商在 Physical AI 和 Science AI 方面的佈局，評估其對未來產品線的影響。
3. **系統廠/其他行業：**
* 了解 Cadence 等公司將 AI 計算能力擴展到系統模擬和基礎科學領域的趨勢，探索 AI 在自身領域（如機器人、流體力學、材料科學）的應用潛力。
4. **學術界/研究人員：**
* 關注 AI 在 EDA、物理模擬、科學計算方面的前沿研究。
* 利用 AI 工具加速研究進程 (如藥物發現、材料設計)。

---

## <a id="ai-加持提升邊緣運算效能"></a>AI 加持提升邊緣運算效能

### <a id="演講基本資訊"></a>演講基本資訊

* **講者:** Neal Huang, Staff Application Engineer, ADI (Analog Devices, Inc.)
* **時間:** 2025年3月27日 13:10-13:30
* **場次:** AI Expo 2025
* **形式:** 單一講者

### <a id="內容摘要"></a>內容摘要

Neal Huang 工程師聚焦於 ADI 在低功耗微控制器 (MCU) 領域的 AI 解決方案，特別是其內建硬體 CNN 加速器的 MAX78000 和 MAX78002 系列。他首先對比了雲端/高階處理器與 MCU 在 AI 應用上的差異，強調 MCU 在功耗、尺寸、成本和即時性方面的優勢，特別適合電池供電和對功耗敏感的邊緣應用。演講詳細介紹了 MAX78000/MAX78002 的架構，其特色在於將 CNN 加速器與權重記憶體、數據記憶體整合在同一晶片內，無需外掛記憶體，實現極低的功耗和延遲。他透過具體的效能數據（關鍵字識別 KWS20、人臉辨識 FaceID）展示了其方案相較於標準 Cortex-M4/M7 MCU 在功耗和速度上的顯著優勢（數百倍甚至千倍的提升）。接著，他展示了多個基於 MAX78000 的實際應用 Demo，包括數字/人臉辨識、人數統計、姿態辨識 (伏地挺身/仰臥起坐) 以及結合機械手臂的 QR Code 識別與抓取，突顯其在視覺和語音識別方面的能力。演講也介紹了 ADI 的 AI 開發流程與工具鏈，提供開源 SDK、模型轉換工具 (ai8x-synthesis) 以及可在 GitHub 上獲取的範例程式碼和預訓練模型。最後，他提到了 ADI 針對特定應用的參考設計，如人臉辨識門鎖和 AI BMS (電池管理系統)，展示其將 AI 技術落地到具體產品的能力。

### <a id="主要章節"></a>主要章節

#### <a id="1-adi-mcu-portfolio-與邊緣-ai-定位"></a>1. ADI MCU Portfolio 與邊緣 AI 定位

* **演講主旨：** 介紹 ADI 的 MCU 產品線，特別是針對 AI 應用的 MAX78000/MAX78002，並區隔其與雲端/高階 AI 的應用場景。
* **ADI MCU 產品線概覽：**
* **AI 核心：** MAX78000, MAX78002 (內建 CNN 加速器)。
* **安全 MCU：** 用於 POS 支付。
* **超低功耗 MCU：** 強調性價比 (有 < $1 且帶 256KB Flash 的型號)。
* **無線 MCU：** 整合連接性。
* **邊緣 AI 場景區隔：**
* **高階/雲端：** 需要強大算力的應用 (複雜視覺、自動駕駛)。
* **ADI 微邊緣 (MCU-based):** 專注於**功耗敏感 (Power Sensitive)**、**成本敏感 (Cost Sensitive)**、**尺寸受限 (Size Constrained)** 的應用，如電池供電裝置、穿戴設備、簡單感測節點。
* **功耗對比：** 強調數據傳輸到雲端的功耗遠高於本地 MCU 處理。

#### <a id="2-微邊緣-ai-的挑戰與-adi-的硬體解決方案"></a>2. 微邊緣 AI 的挑戰與 ADI 的硬體解決方案

* **演講主旨：** 分析微邊緣 AI 的核心挑戰，並介紹 MAX78000/MAX78002 如何透過硬體設計應對這些挑戰。
* **挑戰 (Challenges):**
* **功耗 (Energy):** GPU/高階處理器功耗高，需要散熱；MCU 本身功耗低，但若 AI 演算法效率不高，仍會消耗過多電力。
* **延遲 (Latency):** 雲端傳輸有延遲；MCU 本地處理快，但運算速度是瓶頸。
* **尺寸 (Size):** SOC 方案通常需要外掛 PMIC, DRAM, Flash，佔用 PCB 面積。
* **成本 (Cost):** SOC 及周邊元件成本高。
* **ADI MAX78000/MAX78002 硬體架構與優勢：**
* **核心處理器：** Arm Cortex-M4F + RISC-V (用於週邊控制)。
* **記憶體：** 內建 Flash (512KB / 2MB) 和 SRAM (128KB / 512KB?)。
* **關鍵：內建硬體 CNN 加速器**
* 包含 64 個並行處理器 (Parallel Processors)。
* **整合權重記憶體 (Weight Memory):** 442KB (MAX78000) / 1.2MB or 2.3MB? (MAX78002，口述略有不一致)。
* **整合數據記憶體 (Data Memory)。**
* **優勢：**
* **極低功耗 (Ultra Low Power):** 所有 AI 運算在硬體加速器內部完成，CPU 可休眠。權重和數據不需從外部讀取，大幅減少 I/O 功耗。
* **極低延遲 (Low Latency):** 硬體直接加速，速度快。
* **小尺寸/低成本 (One-Chip Solution):** 無需外掛 RAM/Flash (用於 AI 模型)，簡化設計。
* **功耗/效能數據比較 (vs. Cortex-M4/M7)：**
* **場景：** 關鍵字識別 (KWS20), 人臉辨識 (FaceID)。
* **結果：**
* **功耗：** 比 M4/M7 省電數百至上千倍 (1100x for KWS, 600x for FaceID)。
* **速度/延遲：** 比 M4/M7 快數百倍 (400x for KWS, 200x for FaceID)。
* **實例數據：** KWS20 只需 2ms / 0.14mJ；FaceID 只需 13.89ms / 4.0mJ (數字非常驚人)。

#### <a id="3-應用-demo-展示"></a>3. 應用 Demo 展示

* **演講主旨：** 透過實際影片展示 MAX78000 在視覺和語音應用上的能力。
* **Demo 列表：**
* **數字辨識 (Digit Recognition):** 快速辨識手寫數字。
* **人臉辨識 (Face ID):** 展示識別 ADI 員工臉部的過程 (準確率 > 96%)。
* **人數統計 (People Counting):** 在畫面中劃定區域，偵測區域內是否有人，實時顯示推理時間 (16ms)。
* **姿態辨識 (Pose Estimation):** 辨識伏地挺身 (Push-up)、仰臥起坐 (Sit-up) 等動作 (準確率約 70%，仍需精進)。
* **機械手臂 + QR Code 識別:**
* 將 MAX78000 + Camera 模組安裝在手臂末端。
* MCU 識別到 QR Code 後，觸發手臂進行抓取動作。
* 展示如何用低成本 MCU 賦予傳統設備「視覺」與「智能」。
* **關鍵字識別 (Keyword Spotting - KWS):** 辨識語音指令控制馬達 (左/右/停)。

#### <a id="4-adi-ai-開發流程與工具"></a>4. ADI AI 開發流程與工具

* **演講主旨：** 介紹開發者如何使用 ADI 提供的工具將 AI 模型部署到其 MCU 上。
* **開發流程：**
1. **模型訓練 (Training):** 使用標準框架 (PyTorch, TensorFlow)。開發者需自行收集數據、訓練模型。
2. **模型轉換與量化 (Synthesis/Quantization):** 使用 ADI 提供的 `ai8x-synthesis` 工具 (基於 PyTorch)，將訓練好的模型轉換成適合在 ADI CNN 加速器上運行的格式 (C Code)。此過程包含量化等優化。
3. **代碼整合與編譯 (Integration & Compilation):** 將生成的 C Code 整合到基於 ADI SDK 的專案中，與周邊驅動等一起編譯。
4. **燒錄與運行 (Deployment):** 將最終的程式碼燒錄到 MAX7800x MCU 上運行。
* **工具與資源：**
* **SDK (Software Development Kit):** 提供底層驅動和函式庫。
* **ai8x-synthesis Tool:** 模型轉換與生成工具。
* **GitHub Repository:** 提供 SDK、工具、大量範例程式碼 (KWS, FaceID, Object Detection 等) 和預訓練模型。
* **強調：** 所有軟體工具和資源都是**免費、開源**，並持續更新。
* **硬體開發板 (EV Kits):** 提供多種評估板和小型模組 (Feather board, Camera board) 方便開發與原型製作。

#### <a id="5-參考設計與應用方案"></a>5. 參考設計與應用方案

* **智慧門鎖 (Smart Lock Reference Design):**
* 使用 MAX78000 實現本地人臉辨識。
* 可存儲 500-1000 人臉。
* 目標：取代傳統需外購 SoC 模組的方案，降低成本與複雜度。
* **AI BMS (Battery Management System):**
* **痛點：** 傳統 BMS 對 SOC/SOH 的估算依賴經驗法則或簡化模型，準確度有限。
* **解決方案：** 利用 AI 模型，根據電池的電壓、電流、溫度、循環次數等數據，更精準地預測 SOC/SOH。
* **狀態：** ADI 已訓練好模型並驗證可用。

### <a id="專業術語與強調點"></a>專業術語與強調點

* **專業術語:**
* **MCU (Microcontroller):** 微控制器。
* **CNN (Convolutional Neural Network):** 卷積神經網路 (AI 硬體加速器針對的類型)。
* **Edge AI / TinyML:** 微邊緣 AI。
* **RISC-V:** 開源指令集架構。
* **NPU (Neural Processing Unit):** (ADI未使用此術語，稱 CNN Accelerator)。
* **KWS (Keyword Spotting):** 關鍵字識別。
* **FaceID:** 人臉辨識。
* **Pose Estimation:** 姿態辨識。
* **QR Code:** 二維碼。
* **SDK (Software Development Kit):** 軟體開發套件。
* **PyTorch, TensorFlow:** 主流 AI 訓練框架。
* **Quantization (量化):** 模型優化技術。
* **BMS (Battery Management System):** 電池管理系統。
* **SOC (State of Charge):** 電池充電狀態。
* **SOH (State of Health):** 電池健康狀態。
* **強調點:**
* ADI 專注於**功耗、尺寸、成本**敏感的微邊緣 AI 應用。
* MAX78000/MAX78002 的核心優勢在於**內建 CNN 硬體加速器和整合記憶體**，實現極致的低功耗和低延遲。
* 相較於通用 MCU，ADI 的 AI MCU 在特定 AI 任務上效能**提升數百甚至上千倍**。
* 提供**免費、開源**的完整工具鏈和豐富範例，降低開發門檻。
* 已有多個成熟的應用 Demo 和參考設計可供參考。

### <a id="關鍵啟示"></a>關鍵啟示

1. **MCU 級 AI 效能突破：** 透過專用的硬體加速器和優化的架構設計，MCU 也能實現過去難以想像的 AI 推理效能，尤其在視覺和語音領域。
2. **功耗是微邊緣 AI 的核心競爭力：** 對於大量電池供電或功耗受限的應用，ADI 這類超低功耗 AI MCU 方案具有顯著優勢。
3. **軟硬整合生態是關鍵：** 除了高效能硬體，提供易用的開發工具、豐富的軟體範例和參考設計，對於加速微邊緣 AI 的普及至關重要。
4. **特定應用場景潛力巨大：** AI 在 MCU 上的應用，可在智慧家居、穿戴設備、工業感測、資產追蹤、簡易機器視覺/聽覺等方面開創大量新機會。
5. **AI 賦能傳統應用：** 如 BMS、智慧門鎖等傳統嵌入式應用，可透過 AI 加持實現功能升級和效能提升。

### <a id="行動建議"></a>行動建議

1. **嵌入式開發者/工程師：**
* 針對功耗、成本、尺寸有嚴格限制的 AI 應用，應重點評估 ADI MAX7800x 等內建硬體加速器的 AI MCU。
* 利用 ADI 提供的 GitHub 資源、開發板和範例程式碼，快速上手並評估其方案是否符合專案需求。
* 熟悉其模型轉換工具 (`ai8x-synthesis`) 的使用。
2. **物聯網/邊緣裝置產品經理：**
* 思考如何將低功耗 AI 功能（如 KWS、簡單視覺/聲音事件偵測、異常偵測）集成到產品中，提升產品價值和差異化。
* 評估 AI BMS 等方案在電池供電產品中的應用潛力。
3. **AI 模型研究者：**
* 了解 MCU 的資源限制，設計輕量化、高效率的 CNN 模型。
* 探索模型量化、剪枝等技術，以適應微邊緣部署。

---

## <a id="民主化-ai落地應用革新未來-聯合演講"></a>民主化 AI：落地應用革新未來 (聯合演講)

### <a id="演講基本資訊"></a>演講基本資訊

* **講者:**
* 潘健成, 執行長, 群聯電子 (Phison Electronics Corp.)
* 杜奕瑾 (Ethan Tu), 創辦人, 台灣人工智慧實驗室 (Taiwan AI Labs)
* **時間:** 2025年3月27日 13:30-13:50
* **場次:** AI Expo 2025
* **形式:** 雙講者對談/聯合發表

### <a id="內容摘要"></a>內容摘要

這場聯合演講聚焦於如何透過技術創新與合作，降低 AI (特別是生成式 AI) 的門檻，實現「民主化 AI」並推動其在百工百業的落地應用。台灣 AI Labs 的杜奕瑾創辦人首先介紹了其開發的 FedGPT (Federated GPT) 平台的核心理念，強調其聯邦式學習 (Federated Learning) 架構允許模型在企業內部進行訓練，確保數據隱私與安全，同時又能透過共享模型更新來提升跨組織的專業能力。他以醫療、金融、影視等行業為例，說明 FedGPT 如何在符合法規（如 GDPR）的前提下，協助企業建立私有、可信任的專家模型。接著，群聯電子的潘健成執行長介紹了其全球首創的「aimL」(AI on Micro-Learning?) 解決方案 (逐字稿中多次使用 "Adaptive" 或相關詞，推測品牌名稱為 aimL 或類似發音，強調適應性)。該方案透過將 Flash Memory (快閃記憶體) 創新地整合進 GPU 系統，有效解決了 LLM 推理過程中對高昂 DRAM (VRAM) 容量需求的瓶頸，大幅降低了本地部署 AI 的硬體成本，使得中小企業甚至個人都有能力負擔。他強調，Flash 在此方案中不再只是儲存，而是直接參與運算過程。兩位講者共同強調了此次合作的意義：結合 AI Labs 的 FedGPT 軟體平台 (提供可信任、符合法規的 AI 模型與訓練框架) 與群聯的 aimL 硬體解決方案 (提供經濟實惠的本地部署硬體)，能夠打造出一個從軟體到硬體、真正實現 AI 民主化的台灣自主方案。這個方案不僅能服務台灣企業，更能推向全球，特別是那些無法負擔高昂 GPU 設備的發展中國家。他們展望未來 AI 的發展將走向永續 (Regenerative AI)，重視在地化、符合法規、成本效益，並強調軟硬整合生態系的重要性。

### <a id="主要章節"></a>主要章節

#### <a id="1-ai-民主化的挑戰與-fedgpt-的理念-杜奕瑾"></a>1. AI 民主化的挑戰與 FedGPT 的理念 (杜奕瑾)

* **演講主旨：** 說明實現 AI 普惠化面臨的挑戰，並介紹台灣 AI Labs FedGPT 的核心理念與架構。
* **AI 發展趨勢回顧：** 2022 (ChatGPT 普及) -> 2023 (GenAI iPhone 時刻) -> 2024 (算力、能源、治理、法規討論) -> 2025 (永續 AI - Regenerative AI)。
* **企業導入 LLM 的挑戰：**
* **訓練成本高昂：** 大型基礎模型訓練需數百萬美元，非企業能負擔。
* **數據隱私與安全：** 不願將內部機密資料上傳至公有雲模型。
* **模型泛化 vs. 專業：** 通用模型缺乏特定行業知識，需要本地化微調。
* **法規遵循：** 如何確保 AI 應用符合 GDPR、AI Act 等法規。
* **FedGPT 核心理念與架構：**
* **定位：** 國家級可信賴 AI (Trustworthy AI) 基礎設施，專注於台灣語言文化與行業知識。
* **聯邦式學習 (Federated Learning):**
* **基礎模型：** 由 AI Labs 訓練 (如同大學研究所提供基礎教育)。
* **本地訓練/微調：** 模型部署到企業內部，利用企業私有數據進行訓練，數據不離開本地。
* **模型更新共享：** 不同企業/中心學習到的知識 (模型參數更新，非原始數據) 可以安全地共享，共同提升模型能力。
* **多模態、多中心、多專家：** 支持不同數據類型、跨組織協作、訓練特定領域專家模型。
* **優勢：**
* **數據隱私與安全：** 企業數據保留在內部。
* **符合法規：** 設計理念符合 GDPR、AI Act 等。
* **專業性：** 結合通用知識與企業內部專業知識。
* **成本效益：** 企業無需負擔基礎模型訓練成本。
* **應用案例：**
* **醫療：** 與 92% 醫學中心合作，應用於護理交班紀錄、病歷摘要、影像輔助診斷 (腦轉移瘤)，強調聯邦學習可提升跨院區模型的準確性。
* **金融：** 與台新銀行合作建立「台新大腦」，應用於客服、內部知識問答。
* **影視音：** 建立「AI 影視音基地」，訓練理解台灣特有聲音、影像的模型。

#### <a id="2-ai-硬體成本瓶頸與群聯-aiml-的突破-潘健成"></a>2. AI 硬體成本瓶頸與群聯 aimL 的突破 (潘健成)

* **演講主旨：** 指出高昂的硬體成本 (尤其 VRAM) 是 AI 落地普及的最大障礙，並介紹群聯 aimL 如何透過 Flash 技術創新解決此問題。
* **AI 落地痛點：**
* **成本高昂：** 雲端 AI 持續付費；本地部署 LLM 對 GPU VRAM 要求極高 (動輒數十萬、數百萬甚至數千萬台幣的硬體投入)，中小企業無法負擔。
> "過去這兩年大家認為 LLM 反正一句話就是很貴...一個 LLM 的模型的 POC 的時候，一開口就要 3000 萬台幣的話，我想 99.9% 的企業主會慢慢等，絕對不會用。"
* **數據隱私擔憂：** 重申雲端方案的資料外洩風險。
* **群聯 aimL 解決方案 (Adaptive Micro-Learning? / AI Machine Learning?)**
* **核心創新：將 Flash Memory 整合進 GPU 運算系統。**
* **運作原理：** (未詳細解釋技術細節，但暗示) 利用 Flash 作為 DRAM 的擴展或替代，緩解 LLM 對大容量 VRAM 的依賴，可能涉及數據的智能加載/卸載或直接從 Flash 執行部分運算。
* **關鍵轉變：** Flash 從單純的「儲存」介質，轉變為參與「運算」過程的關鍵角色。
> "自從把 Flash 放進 GPU 系統當作 Cache 的概念之後，Flash 跟 AI 就有直接的關係。"
* **主要效益：大幅降低硬體成本。** 讓本地部署、可信任的生成式 AI 變得「價格親民」，人人可用。
> "證明這種便宜的方案可以走入每家每戶，讓大家都可以用得起生成式 AI，而不是生成式 AI 都是貴族的專用產品。"
* **市場定位：** 提供經濟實惠的本地 AI 部署硬體平台。

#### <a id="3-軟硬整合打造台灣自主-ai-生態系-共同觀點"></a>3. 軟硬整合：打造台灣自主 AI 生態系 (共同觀點)

* **演講主旨：** 強調台灣 AI Labs 與群聯電子的合作，是結合軟體平台與硬體創新的典範，旨在建立台灣自主的 AI 解決方案。
* **合作模式：**
* **AI Labs (軟體):** 提供 FedGPT 平台，包含預訓練的基礎模型 (多模態、多行業)、聯邦式學習框架、模型微調工具、Agent 開發工具，確保 AI 的可信任性、合規性與專業性。
* **群聯電子 (硬體):** 提供 aimL 硬體解決方案，大幅降低本地部署 AI 的成本。
* **整合效益：**
* **解決 AI 落地核心痛點：** 同時解決數據隱私安全和硬體成本過高的問題。
* **實現 AI 民主化：** 提供一套完整、可負擔、可信任的本地 AI 解決方案，讓百工百業都能導入。
* **提升台灣 AI 主導權：** 擺脫對國外特定雲端或硬體方案的依賴，建立台灣自主的 AI 生態系，並有潛力推向國際。
> "把台灣從所謂的硬體的品牌，加上軟體應用推到全世界去...主導權放在台灣的生態圈上面。"
> "我們的合作呢，可以快速的有一個成熟的硬體品牌，加上呢這個好的 FedGPT 的這種應用，整合起來之後呢可以快速走入每一個行業裡面。"
* **未來展望：**
* **永續 AI (Regenerative AI):** 強調未來 AI 需考慮永續性、合理資源消耗、成本效益與法規遵循。本地化、小型化、專業化模型是方向。
* **生態系持續發展：** 需要更多軟體應用開發，如同手機 App 生態。
* **全球影響力：** 台灣的軟硬整合方案有望協助開發中國家跨越 AI 門檻。

#### <a id="4-專業術語與強調點"></a>4. 專業術語與強調點

* **專業術語:**
* **生成式 AI (Generative AI):** 討論的核心。
* **大型語言模型 (LLM):** 討論的核心。
* **FedGPT (Federated GPT):** 台灣 AI Labs 的核心平台。
* **聯邦式學習 (Federated Learning):** FedGPT 的核心技術。
* **多模態 (Multimodal):** AI Labs 模型支持文字、影像、聲音。
* **模型蒸餾 (Model Distillation):** 將大模型知識轉移到小模型的技術。
* **AI Agent:** 透過 FedGPT 平台可快速建立。
* **aimL (Adaptive Micro-Learning?):** 群聯的 AI 硬體解決方案品牌 (推測)。
* **Flash Memory (快閃記憶體):** aimL 的關鍵技術核心。
* **DRAM / VRAM:** 傳統 GPU 使用的高速記憶體，容量有限且昂貴。
* **永續 AI / 再生 AI (Regenerative AI):** 未來 AI 發展趨勢。
* **GDPR, AI Act:** 歐洲的重要法規。
* **強調點:**
* **數據隱私與安全**是企業導入 AI 的核心顧慮。
* **硬體成本**是 AI 落地普及的最大障礙。
* **聯邦式學習**是兼顧模型效能與數據隱私的有效途徑。
* **Flash 技術創新 (aimL)** 能大幅降低本地 AI 部署成本。
* **軟硬整合**是實現 AI 民主化的關鍵。
* 台灣有潛力打造**自主可控、可信任、可負擔**的 AI 解決方案。
* AI 的未來在於**永續發展**。

### <a id="關鍵啟示"></a>關鍵啟示

1. **AI 民主化需解決兩大核心障礙：** 高昂的硬體成本和數據隱私安全問題是阻礙 AI 普及到百工百業的關鍵。
2. **聯邦式學習提供隱私保護新路徑：** 允許模型在本地數據上訓練而無需共享原始數據，為處理敏感資料的行業（醫療、金融）提供了合規的 AI 導入方案。
3. **儲存技術創新可顛覆 AI 硬體格局：** 群聯 aimL 展示了透過創新地利用 Flash Memory，可以有效緩解對昂貴大容量 VRAM 的依賴，從而大幅降低 AI 硬體門檻。
4. **軟硬整合是台灣 AI 發展的利基：** 結合台灣強大的硬體製造能力與領先的 AI 軟體平台（如 AI Labs），可以打造具有國際競爭力的自主 AI 解決方案。
5. **AI 發展走向在地化與永續性：** 未來趨勢將更側重於開發符合特定區域文化、法規、且資源消耗合理的在地化、專業化 AI 模型與應用。

### <a id="行動建議"></a>行動建議

1. **有數據隱私顧慮的企業 (醫療、金融等)：**
* 深入了解並評估 FedGPT 等聯邦式學習平台，作為建立內部可信任 AI 應用的方案。
2. **預算有限但希望本地部署 AI 的企業 (尤其是中小企業)：**
* 關注群聯 aimL 等旨在降低硬體成本的創新解決方案，評估其是否能滿足自身應用需求。
3. **系統整合商 (SI) / 解決方案提供商：**
* 探索整合 AI Labs FedGPT 平台與群聯 aimL 硬體的可能性，為客戶提供端到端的、經濟實惠的本地 AI 解決方案。
4. **政府/產業協會：**
* 支持像 AI Labs 與群聯這樣的軟硬整合合作，打造台灣自主的 AI 生態系。
* 推廣聯邦式學習等隱私保護技術的應用。
* 協助將台灣的 AI 解決方案推向國際市場，特別是新興市場。
5. **AI 開發者/研究者：**
* 關注聯邦式學習、模型蒸餾、小模型優化等技術。
* 探索如何在資源受限的硬體上高效運行 AI 模型。

---

## <a id="從存儲到-aiflash-記憶體的角色"></a>從存儲到 AI：Flash 記憶體的角色

### <a id="演講基本資訊"></a>演講基本資訊

* **講者:** 陳薏蓉, 快閃記憶體產品企劃處處長, 華邦電子 (Winbond Electronics Corp.)
* **時間:** 2025年3月27日 13:50-14:10
* **場次:** AI Expo 2025
* **形式:** 單一講者

### <a id="內容摘要"></a>內容摘要

陳薏蓉處長從 Flash Memory 供應商的角度，探討了快閃記憶體在 AI 時代，特別是邊緣 AI 和端側 AI (Endpoint AI) 應用中的演變與關鍵作用。她首先指出 AI 正在改變人機互動方式（從文字搜尋到語音對話），並推動 AI 從雲端走向邊緣和終端，以滿足即時決策和隱私保護的需求。演講重點分析了在資源受限的邊緣/終端裝置上運行 AI 所面臨的挑戰，包括計算能力、功耗和可靠性。她強調，為了應對這些挑戰，越來越多的設計傾向於將部分程式碼和 AI 模型存儲在外部 Flash 中執行 (XiP - Execute in Place)，以釋放內部 SRAM 給更核心的 AI 運算。這對 Flash 提出了新的要求：更高的讀取速度（透過提升頻率和通道數實現 XiP 效能）、更強的安全性（防止惡意韌體更新、確保端到雲安全）和更高的可靠性（符合車規 AEC-Q100、功能安全 ISO 26262 等標準）。此外，她反駁了 Flash 功耗不重要的觀點，認為 Flash 雖非主要耗電元件，但不應成為系統整體功耗優化的瓶頸，需要配合系統進行低電壓操作。最後，她指出了小型化 (Miniaturization) 的趨勢，如 WLCSP 封裝，以滿足日益縮小的設備尺寸需求。演講總結，華邦電子致力於提供高品質、高可靠、安全且性能滿足需求的 Flash 產品，支持 AI 在邊緣和終端的落地。

### <a id="主要章節"></a>主要章節

#### <a id="1-ai-驅動的應用轉變與-flash-的新角色"></a>1. AI 驅動的應用轉變與 Flash 的新角色

* **演講主旨：** 闡述 AI 如何改變人機互動和運算架構，以及 Flash Memory 在此趨勢下的角色演變。
* **AI 應用轉變：**
* 從傳統搜尋 -> 對話式 AI (如 ChatGPT)。
* 從雲端集中運算 -> 邊緣/終端運算。
* **邊緣/終端 AI 的驅動力：**
* 即時決策需求 (如機器人避障)。
* 隱私保護需求。
* 離線/間歇連線操作需求。
* **Flash 角色的演變：**
* 傳統：僅用於儲存程式碼和數據。
* **AI 時代新角色：** 成為**本地執行 (XiP - Execute in Place)** 平台，儲存部分程式碼甚至 AI 模型，釋放內部 SRAM 給核心運算，並需要滿足更高的性能、安全和可靠性要求。

#### <a id="2-邊緣終端-ai-對-flash-的核心挑戰與需求"></a>2. 邊緣/終端 AI 對 Flash 的核心挑戰與需求

* **演講主旨：** 分析在資源受限的邊緣裝置上運行 AI，對 Flash Memory 提出的具體挑戰和性能要求。
* **核心挑戰：**
* **計算能力 (Computing Power):** 無法像雲端一樣無限擴展。
* **功耗 (Power Consumption):** 電池供電或散熱限制。
* **可靠性 (Reliability):** 系統穩定性要求高。
* **新架構趨勢：SRAM + 外部 Flash (XiP)**
* **動機：** 將內部寶貴且快速的 SRAM 留給 AI 模型/運算密集型任務。將部分非核心程式碼或模型數據放在外部 Flash 中執行。
* **對 Flash 的影響：** 需要 Flash 提供足夠快的讀取速度，以減少 XiP 造成的效能損失。
* **Flash 的關鍵需求：**
1. **高效能 (High Performance):**
* **目標：** 實現快速的程式碼/模型加載與執行 (XiP)。
* **方法：** 提高時脈頻率 (Clock Rate)、增加通道數 (e.g., Octal SPI)。
2. **高安全性 (High Security):**
* **威脅：** 惡意韌體更新、模型篡改、數據竊取。第三方惡意攻擊。
* **需求：**
* **信任根 (Root of Trust):** 確保韌體來源可信。
* **安全啟動 (Secure Boot):** 驗證啟動程式碼完整性。
* **安全韌體更新 (Secure OTA Update):** 防止回滾攻擊 (Rollback Protection)，確保更新過程安全。
* **端到雲安全 (End-to-End Security):** 建立從裝置 Flash 到雲端的安全連接與認證。
3. **高可靠性 (High Reliability):**
* **挑戰：** Flash Memory 本身的物理限制 (讀寫壽命、資料保存期限)。AI 應用可能增加讀寫頻次。
* **衡量標準/認證：**
* **AEC-Q100:** 車規元件可靠性標準。
* **ISO 26262:** 道路車輛功能安全標準 (確保系統在失效時能進入安全狀態)。
* **方法：** 從設計、製造流程控管品質 ("品質是由製造來的，不是由測試來的")。
4. **低功耗 (Low Power):**
* **觀點澄清：** 雖然 Flash 本身功耗佔比不高 (DRAM/處理器佔大宗)，但**不能成為系統功耗優化的瓶頸**。
* **需求：** 支持更低的電壓操作 (如 1.8V -> 更低)，配合系統其他元件的低功耗趨勢。
* **影響：** 有助於延長電池壽命或降低整體系統功耗。
5. **小型化 (Miniaturization):**
* **驅動力：** 終端裝置 (耳機、智慧眼鏡等) 尺寸越來越小，PCB 空間有限。
* **趨勢：** 採用更小型的封裝技術，如 WLCSP (Wafer-Level Chip Scale Package)。

#### <a id="3-華邦電子的-flash-解決方案"></a>3. 華邦電子的 Flash 解決方案

* **演講主旨：** 介紹華邦電子如何透過其產品組合滿足 AI 時代對 Flash 的新需求。
* **產品策略：**
* **品質與可靠性：** 強調符合 AEC-Q100, ISO 26262 等高標準，適用於嚴苛環境。
* **安全性：** 提供內建安全功能的 Flash 產品 (TrustME® 系列 - 未在本次演講明確提及但屬華邦安全產品線)。
* **效能：** 提供不同容量和速度等級的產品 (SPI NOR Flash, NAND Flash)，滿足不同應用需求 (提及 OctalNAND)。
* **小型化：** 提供 WLCSP 等小尺寸封裝。
* **長期供貨保證 (Longevity Program)。**
* **目標客戶/市場：** 車用電子 (全球前十大 Tier 1)、工業控制、通訊、消費電子等需要高品質、高可靠性儲存的領域。

### <a id="專業術語與強調點"></a>專業術語與強調點

* **專業術語:**
* **Flash Memory (快閃記憶體):** 主要討論對象 (NOR Flash, NAND Flash)。
* **邊緣 AI (Edge AI), 端側 AI (Endpoint AI):** 在裝置本地運行的 AI。
* **XiP (Execute in Place):** 直接在 Flash 中執行程式碼。
* **SRAM (Static Random-Access Memory):** 靜態隨機存取記憶體 (通常在 MCU/SoC 內部，速度快但容量小、成本高)。
* **DRAM (Dynamic Random-Access Memory):** 動態隨機存取記憶體。
* **信任根 (Root of Trust - RoT):** 硬體安全基礎。
* **安全啟動 (Secure Boot):** 驗證啟動代碼的過程。
* **OTA (Over-the-Air) Update:** 無線韌體更新。
* **Rollback Protection:** 防止系統被降級到有漏洞的舊版本。
* **AEC-Q100:** 汽車電子協會的元件可靠性標準。
* **ISO 26262:** 道路車輛功能安全國際標準。
* **WLCSP (Wafer-Level Chip Scale Package):** 晶圓級晶片尺寸封裝。
* **SPI (Serial Peripheral Interface):** 串行外設接口 (常用於 Flash)。
* **Octal SPI / OctalNAND:** 8 位元寬的 SPI 接口，速度更快。
* **強調點:**
* AI 運算正從雲端下放到邊緣和終端。
* **XiP** 是邊緣 AI 系統架構的重要趨勢，對 Flash 性能提出更高要求。
* **安全性**是 AIoT/邊緣裝置的關鍵需求，Flash 需要內建安全機制。
* **可靠性**對許多邊緣應用（尤其是車用、工業）至關重要，需符合嚴格標準。
* Flash 雖非主要功耗來源，但**低功耗設計**仍需配合系統整體趨勢。
* **小型化**是滿足終端裝置需求的趨勢。
* 華邦電子專注於提供滿足**高效能、高安全、高可靠、低功耗、小型化**需求的 Flash 解決方案。

### <a id="關鍵啟示"></a>關鍵啟示

1. **Flash 在邊緣 AI 中角色升級：** 不再只是被動儲存，而是透過 XiP 成為運算系統的一部分，直接影響系統效能。
2. **性能、安全、可靠成 Flash 新三要素：** 除了傳統的容量和成本，AI 時代的邊緣應用對 Flash 的讀取速度、內建安全功能和長期可靠性提出了更高要求。
3. **系統級功耗優化需 Flash 配合：** 雖然 Flash 本身功耗佔比較低，但其工作電壓和待機功耗需要跟上系統其他部件的步伐，才能實現整體低功耗目標。
4. **認證標準體現產品價值：** AEC-Q100、ISO 26262 等行業標準認證，是衡量 Flash 是否適用於高可靠性 AI 應用的重要指標。
5. **封裝技術影響終端設計：** WLCSP 等小型化封裝技術，對於空間受限的 AI 穿戴設備、IoT 節點等至關重要。

### <a id="行動建議"></a>行動建議

1. **邊緣 AI 系統設計者/硬體工程師：**
* 在進行 MCU/SoC 選型和系統架構設計時，考慮採用 XiP 架構的可能性，並評估其對 Flash 性能的需求。
* 根據應用的安全等級要求，選擇具備相應安全功能 (如 RoT, Secure Boot) 的 Flash 產品。
* 對於車用、工業等高可靠性應用，務必選用通過 AEC-Q100、ISO 26262 (如適用) 等認證的 Flash 元件。
* 在功耗預算評估中，考慮 Flash 的工作電壓和待機功耗。
* 根據產品尺寸限制，選擇合適封裝的 Flash (如 WLCSP)。
* 與華邦等 Flash 供應商溝通具體應用需求，獲取選型建議。
2. **韌體/軟體工程師：**
* 了解 XiP 的工作原理和效能影響，優化程式碼在 Flash 上的執行效率。
* 配合硬體，利用 Flash 提供的安全功能實作安全啟動、安全更新等機制。
3. **採購/供應鏈管理者：**
* 關注 Flash 供應商的產品品質認證和長期供貨能力。

---

## <a id="實現資料韌性ai-主動守護與零信任並肩防護"></a>實現資料韌性：AI 主動守護與零信任並肩防護

### <a id="演講基本資訊"></a>演講基本資訊

* **講者:** 陳毓麟, 資深技術顧問, Veeam
* **時間:** 2025年3月27日 14:10-14:30
* **場次:** AI Expo 2025
* **形式:** 單一講者
*(註：逐字稿開頭介紹了華邦電子陳處長，但隨後內容切換到資料保護與備份，更符合 Veeam 的業務範圍及議程安排，故筆記以 Veeam 角度撰寫)*

### <a id="內容摘要"></a>內容摘要

陳毓麟顧問闡述了在 AI 時代，面對日益猖獗的勒索軟體和數據洩露威脅，傳統備份已不足夠，企業必須實現「資料韌性」(Data Resilience)。他強調思維模式的轉變：從「如果中毒怎麼辦」變為「假設現在就被攻擊，我的應對計劃是什麼」，如同購買旅遊不便險。演講指出，駭客常將備份系統作為攻擊目標，因為其通常防護較弱且連接所有前端系統。為此，Veeam 提出了現代化的資料保護框架，核心是「主動防禦」而非被動備份。這包括：1) **自動化驗證與掃描：** 備份完成後自動驗證可用性並掃描惡意軟體；2) **不可變儲存：** 將驗證後的乾淨備份存儲在無法被竄改、加密或刪除的安全區域 (Immutability)；3) **多副本策略 (3-2-1 Rule 延伸)：** 強調至少保留兩份以上位於不同地點或儲存媒介（如雲端）的副本，以應對地緣政治等風險；4) **安全還原：** 還原前在沙箱環境再次掃描，確保還原的資料是乾淨的；5) **全程加密：** 無論是傳輸中還是靜態儲存的備份數據都應加密。他特別介紹了 Veeam 如何利用 AI 進行「主動式」風險偵測，例如監控備份前後的環境配置變化、數據變化率異常、系統行為異常等，提前發出警示。並展示了其 AI 驅動的管理介面，能以自然語言解釋風險評分、提供修復建議。此外，Veeam 還提供與公有雲 (如 AWS) 整合的儲存方案 (Veeam Data Cloud Vault)，解決雲端出口費用高昂的問題，並強調與其他資安工具 (SIEM, SOAR) 的整合能力，構建縱深防禦體系。

### <a id="主要章節"></a>主要章節

#### <a id="1-ai-時代的數據風險與韌性需求"></a>1. AI 時代的數據風險與韌性需求

* **演講主旨：** 強調 AI 發展伴隨著嚴峻的數據安全威脅 (勒索軟體、資料外洩)，傳統備份不足以應對，企業需要建立「資料韌性」。
* **威脅現況：**
* 台灣是資安攻擊熱點 (技術領先 + 地緣政治)。
* AI 應用依賴數據，數據成為主要攻擊目標。
* 近期攻擊頻繁 (提及醫療產業案例)。
* 攻擊後果：7 成資料外洩，9 成資料受損。
* **思維轉變：從被動備份到主動韌性**
* **舊思維：** 如果中毒怎麼辦？(If)
* **新思維：** 假設現在就被攻擊，我的恢復計畫是什麼？(When)
* **類比：** 買旅遊不便險，預先規劃應對意外。
* **資料韌性 (Data Resilience):** 確保在遭受攻擊或災難時，能快速、安全、可靠地恢復數據與服務的能力。

#### <a id="2-傳統備份的弱點與現代資料保護框架"></a>2. 傳統備份的弱點與現代資料保護框架

* **演講主旨：** 分析為何傳統備份容易被駭客攻破，並提出 Veeam 的現代化資料保護理念。
* **傳統備份的問題：**
* **駭客目標：** 備份系統常被作為主要攻擊目標。
* **原因：**
* 防護相對薄弱。
* 連接所有生產系統，可作為橫向移動跳板。
* 破壞備份可阻止企業恢復，增加勒索成功率。
* **常見做法：** 僅做備份，缺乏驗證和安全儲存。
* **Veeam 現代資料保護框架 (關鍵要素)：**
1. **自動化驗證與掃描 (Automated Verification & Scanning):**
* 備份後自動驗證數據可恢復性 (SureBackup/SureReplica)。
* 自動掃描備份數據中是否潛藏惡意軟體。
* **目的：** 確保備份有效且乾淨。
2. **不可變儲存 (Immutable Storage):**
* 將乾淨的備份副本存儲在無法被竄改、加密或刪除的儲存區域（硬化 Linux 存儲庫、物件鎖定 S3 等）。
* **目的：** 防範勒索軟體加密或刪除備份數據。
3. **多副本與異地備份 (3-2-1 Rule + Offsite/Cloud):**
* 至少 3 份副本，2 種不同介質，1 份異地。
* **延伸：** 強調利用公有雲進行異地備份，應對地緣政治等大規模風險。
* **Veeam 能力：** 只要雲端還有一份副本，即可協助從任何地方還原。
4. **安全還原 (Secure Restore):**
* 還原前，在隔離的沙箱環境 (Staged Restore / DataLabs) 中再次進行病毒掃描。
* **目的：** 避免將帶有惡意軟體的備份還原回生產環境。
5. **全程加密 (End-to-End Encryption):**
* 備份數據在傳輸過程和靜態存儲時都應加密。
* **目的：** 防止數據在備份過程中或被竊取後洩露。

#### <a id="3-ai-驅動的主動式防護與風險偵測"></a>3. AI 驅動的主動式防護與風險偵測

* **演講主旨：** 介紹 Veeam 如何利用 AI 技術實現更主動、更智能的數據保護。
* **核心理念：主動式防護 (Proactive Defense) vs. 被動式反應**
* **類比：** Apple Watch 提前預警心率異常 vs. 不舒服才去醫院。
* **目標：** 在問題發生前或初期就偵測到異常，提前應對。
* **AI 應用於風險偵測：**
* **備份前環境監控：** 偵測生產環境的異常配置、未修補漏洞、可疑活動。
* **備份中異常檢測：**
* **數據變化率分析：** 監控每次備份之間數據變化的量和模式，偵測勒索軟體加密導致的異常增長。
* **系統行為分析：** 監測備份過程中的 CPU、網路、磁碟 I/O 等指標，識別異常活動模式。
* **備份後惡意軟體掃描：** (前面已提及，AI 可提升掃描效率與準確性)。
* **AI 驅動的管理介面 (Demo 展示)：**
* **風險評分儀表板：** 顯示整體備份環境的安全分數。
* **自然語言解釋：** 可詢問 AI 為何分數低、哪些項目未做好。
* **修復建議：** AI 提供具體的、步驟化的修復指引 (甚至提供適合台灣用戶的口語化解釋)。
* **效益：** 降低管理複雜度，讓非專家也能理解風險並採取行動。

#### <a id="4-雲端整合與生態系合作"></a>4. 雲端整合與生態系合作

* **演講主旨：** 說明 Veeam 如何解決雲端備份的成本問題，並強調與其他資安工具整合的重要性。
* **雲端備份成本挑戰 (公有雲原生儲存)：**
* **出口費用 (Egress Fee):** 從雲端將數據拉回 (還原) 時，費用高昂。
* **API 調用費用/操作費用。**
* **總體擁有成本 (TCO) 高：** 導致企業對雲端備份卻步。
* **Veeam 解決方案：Veeam Data Cloud Vault (與雲服務商合作)**
* 由 Veeam 提供優化的雲儲存空間 (基於合作夥伴如 AWS/Azure 的基礎設施)。
* **特性：** 專用於 Veeam 備份、原生不可變、端到端加密。
* **優勢：** 無出口費用，成本可預測，簡化管理。
* **生態系整合 (Integration):**
* **目標：** 構建縱深防禦體系，單一廠商無法解決所有問題。
* **整合對象：** SIEM (安全資訊事件管理), SOAR (安全編排自動化響應) 等平台。
* **方式：** 提供 API 與認證的整合方案。
* **效益：** 實現跨平台的威脅情報共享與自動化響應。

### <a id="專業術語與強調點"></a>專業術語與強調點

* **專業術語:**
* **資料韌性 (Data Resilience):** 核心概念，指恢復能力。
* **勒索軟體 (Ransomware):** 主要威脅之一。
* **備份 (Backup):** 傳統數據保護方式。
* **還原 (Restore / Recovery):** 恢復數據。
* **不可變性 (Immutability):** 指數據一旦寫入無法被修改或刪除的特性。
* **沙箱 (Sandbox):** 隔離的測試環境。
* **3-2-1 Rule:** 備份策略黃金法則。
* **公有雲 (Public Cloud):** 如 AWS, Azure, GCP。
* **出口費用 (Egress Fee):** 從雲端下載數據的費用。
* **TCO (Total Cost of Ownership):** 總體擁有成本。
* **SIEM (Security Information and Event Management):** 安全資訊事件管理。
* **SOAR (Security Orchestration, Automation and Response):** 安全編排自動化響應。
* **API (Application Programming Interface):** 應用程式介面。
* **強調點:**
* **思維轉變：從 "If" 到 "When"。** 假定攻擊必然發生。
* 傳統備份已不足夠，需要**資料韌性**。
* **不可變儲存**是防禦勒索軟體的關鍵。
* **自動化驗證和掃描**確保備份可用且乾淨。
* **安全還原**防止二次感染。
* **AI** 在**主動風險偵測**和**簡化管理**方面作用巨大。
* 解決雲端備份的**成本問題** (出口費用)。
* 資安需要**生態系整合**，而非單打獨鬥。

### <a id="關鍵啟示"></a>關鍵啟示

1. **數據保護進入韌性時代：** 面對無孔不入的勒索軟體威脅，僅僅備份數據是不夠的，必須確保備份數據本身的安全（不可變）以及快速、可靠、安全的恢復能力。
2. **主動防禦優於被動響應：** 利用 AI 等技術提前偵測環境風險、備份異常和潛在威脅，比事後補救更有效、成本更低。
3. **不可變性是基石：** 確保至少有一份備份副本無法被攻擊者竄改或刪除，是應對勒索軟體的最後防線。
4. **AI 簡化複雜性：** AI 可以自動執行繁瑣的驗證、掃描任務，並將複雜的風險信息以易於理解的方式呈現給管理者，降低管理門檻。
5. **成本是雲採用的關鍵考量：** 雲備份雖有優勢，但潛在的出口費用等成本問題需要有針對性的解決方案（如 Veeam Data Cloud Vault）。
6. **資安是聯防而非單點防禦：** 資料保護方案需要與其他資安工具（SIEM/SOAR）整合，形成協同防禦體系。

### <a id="行動建議"></a>行動建議

1. **企業 IT / 資安管理者：**
* **重新評估備份策略：** 檢查現有備份方案是否具備不可變性、自動驗證、安全還原等現代資料韌性特徵。
* **採納 3-2-1 (或更佳) 規則：** 確保有多份副本，並至少有一份儲存在不可變的異地（如 VDCV 或具備物件鎖定的雲儲存）。
* **導入 AI 驅動的監控：** 利用 Veeam 等工具提供的 AI 功能，主動監測備份環境的健康狀況和潛在風險。
* **定期演練還原計畫：** 不僅要備份，更要確保能夠成功還原，並測試還原時間目標 (RTO) 和恢復點目標 (RPO)。
* **考慮與 SIEM/SOAR 整合：** 將備份系統的告警納入整體資安監控與響應流程。
2. **採購決策者：**
* 在評估備份解決方案時，將資料韌性、不可變性、AI 風險偵測、安全還原等功能列為關鍵考量因素。
* 仔細評估雲備份方案的總體擁有成本，特別是潛在的數據傳輸費用。

---

## <a id="透過-ai-來實現行車零事故的願景"></a>透過 AI 來實現行車零事故的願景

### <a id="演講基本資訊"></a>演講基本資訊

* **講者:** 陳俊雄, 視覺軟體部門經理, 光寶科技 (LITE-ON Technology)
* **時間:** 2025年3月27日 15:00-15:20
* **場次:** AI Expo 2025
* **形式:** 單一講者

### <a id="內容摘要"></a>內容摘要

陳俊雄經理分享了光寶科技如何利用 AI 技術，特別是電腦視覺，來提升行車安全，朝著「零事故」的願景邁進。他指出，儘管 ADAS (先進駕駛輔助系統) 已逐漸普及，但仍存在局限性，例如警示音過於頻繁導致駕駛關閉系統、未能充分理解駕駛員狀態等。光寶科技的解決方案核心在於**融合車外環境感知與車內駕駛員監控 (DMS - Driver Monitoring System)**，以提供更智能、更情境感知的安全輔助。演講重點介紹了其技術如何利用既有車載鏡頭（環景魚眼鏡頭、DMS 鏡頭）實現多重功能：1) **精準的外部物件偵測與追蹤：** 利用多鏡頭融合，在 20-30 公尺範圍內偵測車輛、行人、自行車等，並計算相對距離、速度和碰撞時間。2) **高精度駕駛員狀態監控：** 不僅符合法規要求 (如偵測分心、疲勞)，更能精準判斷駕駛視線方向，了解駕駛是否注意到特定風險。3) **A 柱盲區警示優化：** 結合外部物件偵測和駕駛視線判斷，只在駕駛確實未看到盲區內的危險時才發出關鍵警示，避免無效干擾。4) **單目/雙目 3D 感知：** 利用車內外既有鏡頭（無需增加昂貴的立體相機或光達），實現對車內外環境的 3D 空間感知，用於判斷停車距離、乘客位置（影響氣囊策略）等。5) **非接觸式生理監測：** 透過 DMS 鏡頭分析人臉微血管變化，非接觸式偵測駕駛心率變化，結合分心/疲勞偵測，判斷潛在的健康風險（如心臟病發作前兆），及早預警。演講透過實際道路測試影片展示了系統在盲區警示和自動煞車輔助方面的效果，並強調其方案利用既有硬體、透過軟體升級實現加值，符合車廠對成本效益的追求。

### <a id="主要章節"></a>主要章節

#### <a id="1-現行-adas-的局限與行車安全挑戰"></a>1. 現行 ADAS 的局限與行車安全挑戰

* **演講主旨：** 指出現有 ADAS 技術的不足之處，以及駕駛過程中依然存在的風險。
* **ADAS 普及與問題：**
* AEB (自動緊急煞車) 等功能可減少事故。
* **但：** 65% 駕駛因警示過多、過吵而想關閉 ADAS。原因是系統無法判斷駕駛是否已察覺風險，常發出無效警示。
* **常見 ADAS 功能：** 碰撞預警、盲點偵測 (燈號)。
* **核心問題：** 系統僅感知外部環境，未結合駕駛員狀態進行判斷。
* **持續存在的風險：**
* **A 柱盲區：** 駕駛視線被車體結構遮擋，尤其左轉時。
* **路口/巷口視線遮蔽。**
* **道路設計不良。**
* **駕駛員自身狀況：** 分心、疲勞、突發疾病。
* **目標：** 實現「零事故」願景，需要更智能、更理解情境的輔助系統。

#### <a id="2-光寶-ai-視覺解決方案融合內外感知"></a>2. 光寶 AI 視覺解決方案：融合內外感知

* **演講主旨：** 介紹光寶以 AI 電腦視覺為核心，整合車外環境與車內駕駛監控的解決方案。
* **核心策略：利用既有硬體，透過軟體加值。**
* **硬體基礎：** 環景攝影鏡頭 (Around View Monitor - AVM)、駕駛監控系統鏡頭 (DMS Camera) - 這些已逐漸成為標準配備或法規要求。
* **軟體核心：** AI 視覺演算法。
* **技術能力：**
* **外部環境感知 (基於 AVM 魚眼鏡頭)：**
* 偵測範圍：近距離 (20-30 公尺內)。
* 功能：多物件偵測、追蹤、分類 (車輛、行人、自行車)。
* **關鍵能力：** 精準定位、相對距離、相對速度、**碰撞時間 (Time-to-Collision - TTC)** 計算。這是許多純 AI 團隊缺乏的能力。
* **駕駛員狀態監控 (基於 DMS 鏡頭)：**
* 符合法規要求 (分心、疲勞、違規行為如講電話)。
* **關鍵能力：** 高精度視線追蹤 (Gaze Tracking)，判斷駕駛正在看車外哪個區域。
* **內外感知融合：情境式盲區警示**
* **運作：** 系統偵測到 A 柱盲區有危險物件，**同時**透過 DMS 確認駕駛視線**沒有**看向該盲區。
* **觸發：** 只有在「有危險」且「駕駛未注意」的雙重條件下，才發出警示或介入 (如自動煞車)。
* **效益：** 大幅減少不必要的警示，提高系統的可信度和駕駛接受度。
* **Demo 影片：** 展示了左轉時偵測到盲區行人，因駕駛未看該方向而觸發煞車輔助。右轉時雖有行人，但因駕駛已看到，系統未介入。
* **3D 空間感知 (基於既有雙鏡頭)：**
* **痛點：** 傳統需用立體相機 (Stereo Camera) 或光達 (LiDAR) 實現 3D 感知，成本高。
* **光寶方案：** 利用車上已有的兩個不同視角鏡頭 (如前擋風玻璃鏡頭 + AVM 前鏡頭，或 DMS 鏡頭 + 乘客監控鏡頭 - OBS?)，透過 AI 演算法實現 3D 重建。
* **應用：**
* **停車輔助：** 判斷與路緣石或障礙物的精確距離。
* **車內乘客定位：** 判斷駕駛/乘客與方向盤/氣囊的距離，優化氣囊引爆策略 (不同距離用不同力道)。取代 ToF (Time-of-Flight) Sensor。
* **成本效益：** 節省額外硬體成本。
* **非接觸式生理監測 (基於 DMS 鏡頭)：**
* **技術：** rPPG (Remote Photoplethysmography) - 分析人臉特定區域皮膚下微血管的顏色變化，推算心率。
* **挑戰：** 車內環境光線變化、駕駛晃動。光寶已克服部分挑戰，可在駕駛講話、晃動時偵測。
* **準確度：** 接近穿戴式心率帶。
* **應用：**
* **偵測心率異常變化：** 結合 DMS 的疲勞/分心/異常行為偵測，判斷駕駛是否可能因突發疾病 (如心臟病、中風前兆) 而處於危險狀態。
* **目標：** 提前預警，而非醫療診斷。
* **案例：** 公車司機心臟病發作前努力停車的事件。

#### <a id="3-技術優勢與市場價值"></a>3. 技術優勢與市場價值

* **演講主旨：** 總結光寶 AI 視覺方案的獨特之處與為車廠帶來的價值。
* **獨特優勢總結：**
* 利用既有鏡頭實現高階 ADAS/DMS 功能。
* 精準的多物件追蹤與 TTC 計算。
* 高精度視線追蹤。
* 融合內外感知的智能警示。
* 基於既有鏡頭的低成本 3D 感知。
* 非接觸式心率監測。
* 支持多鏡頭影像縫合 (AVM)。
* **市場價值：**
* **提升安全性：** 更有效預防事故，朝零事故目標邁進。
* **改善使用者體驗：** 減少無效警示，提高 ADAS 系統接受度。
* **降低成本：** 最大化利用現有硬體，減少對昂貴感測器 (立體相機, ToF, LiDAR) 的依賴。符合車廠成本敏感的需求。
* **軟體定義汽車趨勢：** 透過軟體升級持續提供新功能。

### <a id="專業術語與強調點"></a>專業術語與強調點

* **專業術語:**
* **ADAS (Advanced Driver-Assistance Systems):** 先進駕駛輔助系統。
* **AEB (Autonomous Emergency Braking):** 自動緊急煞車。
* **DMS (Driver Monitoring System):** 駕駛監控系統。
* **AVM (Around View Monitor):** 環景影像系統 (通常使用魚眼鏡頭)。
* **A 柱 (A-Pillar):** 汽車前擋風玻璃兩側的車身支柱。
* **盲區 (Blind Spot):** 駕駛視線或後視鏡無法涵蓋的區域。
* **電腦視覺 (Computer Vision):** AI 的一個分支，處理圖像和視頻。
* **物件偵測/追蹤/分類 (Object Detection/Tracking/Classification):** CV 核心任務。
* **碰撞時間 (Time-to-Collision - TTC):** 預計發生碰撞所需時間。
* **視線追蹤 (Gaze Tracking):** 判斷眼睛注視方向的技術。
* **立體相機 (Stereo Camera):** 模仿人眼，用兩個鏡頭產生深度信息。
* **光達 (LiDAR - Light Detection and Ranging):** 使用雷射測距的感測器。
* **ToF (Time-of-Flight) Sensor:** 飛行時間感測器，用於測距。
* **rPPG (Remote Photoplethysmography):** 遠程光體積變化描記圖法 (非接觸式心率測量技術)。
* **強調點:**
* 現有 ADAS 存在警示過多、缺乏駕駛狀態感知的問題。
* **融合車內 DMS 與車外環境感知**是提升行車安全的關鍵。
* 利用**既有硬體**，透過**軟體**實現功能升級和成本效益。
* 精準的**視線追蹤**和**碰撞時間計算**是實現智能警示的基礎。
* 低成本的 **3D 感知**和**非接觸生理監測**是未來潛力應用。
* 最終目標是實現**零事故**願景。

### <a id="關鍵啟示"></a>關鍵啟示

1. **下一代 ADAS 需更懂駕駛：** 僅感知外部環境已不夠，結合駕駛員的注意力狀態 (DMS) 進行情境判斷，是提升 ADAS 效果和接受度的關鍵。
2. **軟體定義汽車價值凸顯：** 光寶的方案展示了如何透過先進的 AI 視覺軟體，在既有或標準化的硬體基礎上，實現差異化的高階安全功能。
3. **感測器融合與 AI 計算提供新可能：** 融合來自不同鏡頭（甚至不同類型感測器）的資訊，並利用 AI 進行處理，可以實現超越單一感測器能力的感知功能（如低成本 3D 感知）。
4. **成本效益是車用 AI 落地的關鍵：** 車廠對成本極為敏感，能夠利用既有硬體、降低額外感測器需求的 AI 方案更具吸引力。
5. **健康監測融入駕駛艙：** 將非接觸式生理監測技術 (如心率偵測) 引入車內，為預防因駕駛健康問題導致的事故開闢了新方向。

### <a id="行動建議"></a>行動建議

1. **汽車製造商 (OEMs) / Tier 1 供應商：**
* 評估導入融合 DMS 與外部感知的 ADAS 方案，以提升安全性和用戶體驗。
* 考慮採用光寶等廠商提供的基於既有硬體的 AI 視覺軟體解決方案，以控制成本。
* 探索低成本 3D 感知和非接觸式生理監測技術在未來車型中的應用潛力。
* 與具備 AI 視覺演算法和車用領域知識的廠商建立合作。
2. **ADAS / DMS 系統開發商：**
* 加強內外感知數據的融合演算法研發。
* 提升視線追蹤、TTC 計算等關鍵技術的精度。
* 開發更智能、更少誤報的警示策略。
3. **消費者/駕駛員：**
* 在選購車輛時，關注其 ADAS 系統是否整合了 DMS 功能，以及警示系統是否足夠智能。
* 了解 A 柱盲區等固有風險，謹慎駕駛。
4. **AI / 電腦視覺研究者：**
* 持續研究多鏡頭融合、低成本 3D 重建、非接觸生理監測等前沿技術。
* 開發更高效、更魯棒的演算法，以適應車載複雜環境。

---

## <a id="ai-驅動電子產業數位化-footprintkuai"></a>AI 驅動電子產業數位化: footprintku.ai

### <a id="演講基本資訊"></a>演講基本資訊

* **講者:** 陳怡婷 (Yiting Chen), 共同創辦人暨執行長, 富比庫 (Footprintku, Inc.)
* **時間:** 2025年3月27日 15:20-15:40
* **場次:** AI Expo 2025
* **形式:** 單一講者

### <a id="內容摘要"></a>內容摘要

陳怡婷執行長介紹了富比庫 (Footprintku) 如何利用 AI 技術，專注於解決電子產業設計流程中最基礎也最耗時的環節——電子零件規格書 (Datasheet) 的數位化與 ECAD Library (電子設計自動化零件庫) 的自動化創建。她指出，當前電子產品設計複雜、週期縮短，但流程中大量依賴人工處理 PDF 規格書，導致效率低下、易出錯且資訊孤島嚴重。規格書本身格式多樣、排版不一、包含圖文混合內容，數位化難度極高。富比庫開發了超過 50 種結合影像處理、OCR、NLP 及多種 AI 模型的專利技術，能將非結構化的 PDF 規格書自動轉換為結構化的數位數據。在此基礎上，她展示了透過 AI Chatbot 實現規格書內容的快速查詢與比較，大幅提升工程師查找資料的效率。更進一步，她強調創建精確 ECAD Library 的關鍵在於結合零件數位資料與 DFM (Design for Manufacturability - 可製造性設計) 規則的數據化。DFM 規則直接影響 PCB 焊接可靠性與生產良率，但過去高度依賴工程師個人經驗，缺乏標準化且易隨人員流動而流失。富比庫為此打造了全球唯一的 DFM 規則管理器，將隱性的設計知識轉化為可管理、可複用的數位資產。最終，透過整合零件數位資料和 DFM 數據，富比庫實現了 ECAD Library 的自動化創建，旨在將工程師從重複、繁瑣的資料處理工作中解放出來，專注於更有價值的設計與創新。

### <a id="主要章節"></a>主要章節

#### <a id="1-電子設計流程的痛點規格書處理與零件庫創建"></a>1. 電子設計流程的痛點：規格書處理與零件庫創建

* **演講主旨：** 指出當前電子設計流程中，處理 PDF 規格書和創建 ECAD Library 的低效率與挑戰。
* **產業背景：**
* 電子產品設計日益複雜。
* 製程要求嚴苛。
* 產品生命週期縮短。
* => 對設計效率和彈性要求高。
* **現實痛點：**
* **高度依賴人工處理 PDF 規格書：** 工程師需手動閱讀、查找、複製、貼上數據。
* **效率低下：** 耗費大量工時，尤其對於複雜零件 (數千 pin)。
* **易出錯：** 人工處理容易發生錯誤 (如 BGA pin mapping)。
* **資訊孤島：** 資料分散在不同系統，格式不一。
* **溝通成本高：** 設計端與生產端資訊可能存在落差。

#### <a id="2-規格書數位化的挑戰與-footprintku-的-ai-解方"></a>2. 規格書數位化的挑戰與 Footprintku 的 AI 解方

* **演講主旨：** 分析 PDF 規格書數位化的技術難點，並介紹富比庫如何利用 AI 克服這些困難。
* **規格書數位化的難點：**
* **格式/排版不統一：** 不同製造商、不同類型零件的規格書風格迥異。
* **資料來源多樣：** 文字、表格 (有/無格線、樣式/顏色不同)、圖片 (甚至文字是以圖片形式存在)。
* **表格複雜：** 儲存格合併、嵌套等。
* **BGA 封裝圖解析困難：**
* 圖形樣式不一 (圓形、方形、矩形)。
* 顏色深淺不一。
* Pin Name / Pin Number 標示方式不同 (內/外)。
* 需要準確對應 Pin Number 與 Pin Name。
* **字元辨識挑戰 (OCR 難點)：** 易混淆字元 (O vs 0, I vs l vs 1)，對電子零件編號等關鍵資訊影響大。
* **Footprintku 的解決方案：AI 驅動的規格書數位化引擎**
* **多技術融合：** 開發超過 50 種專利技術，結合影像處理、OCR、NLP、知識庫、多種 AI 模型 (CNN, RNN, Transformer 等)。
* **目標：** 將非結構化 PDF 自動轉換為結構化數位數據。
* **成果：** 已能有效提取規格書中關鍵資訊，達到輔助工程師工作的水平。
* **AI Chatbot 應用展示 (Demo):**
* **功能：** 上傳 PDF 規格書後，可用自然語言查詢內容。
* **查詢示例：** 料號數量、指定料號的腳位資訊 (Pin assignment)、零件尺寸 (Package dimension)、電氣特性 (Electrical characteristics)。
* **效益：** 將查找時間從數十分鐘/小時縮短至 1-2 分鐘，方便快速了解規格、進行零件比較或 Second Source 尋找。

#### <a id="3-dfm-數據化與-ecad-library-自動化"></a>3. DFM 數據化與 ECAD Library 自動化

* **演講主旨：** 強調 DFM (可製造性設計) 規則在 ECAD Library 創建中的重要性，並介紹富比庫如何將 DFM 數據化以實現 Library 自動化。
* **ECAD Library 是什麼：** 電子設計自動化所需的零件數位資料庫，包含符號 (Symbol)、封裝 (Footprint/Land Pattern) 等資訊，用於電路圖 (Schematic) 和電路板 (PCB Layout) 設計。
* **DFM 的重要性：**
* 連接設計與製造的橋樑。
* Footprint (焊盤/Land Pattern) 的設計直接影響 PCB 焊接品質、可靠性、生產良率。
* **不良 DFM 案例：**
* 焊盤/開口過小 -> 零件接觸不良、空焊、掉件。
* 焊盤/開口過大 -> 錫膏過多、溢出、短路。
* 鑽孔尺寸不當 -> 插件困難、偏位。
* **DFM 的挑戰：經驗依賴與標準化困難**
* **高度依賴個人經驗：** 設計好壞取決於工程師的經驗和判斷。
* **缺乏標準/一致性：** 不同工程師、不同工廠、不同產品線的 DFM 規則可能不一致。
* **知識流失：** 寶貴經驗隨人員流動而消失。
* **難以管理/複用：** 缺乏系統化管理，資料難以共享和重複利用。
* **Footprintku 的解決方案：**
* **DFM 數據化：** 將隱性的 DFM 設計規則、知識轉換為數位化、結構化的數據。
* **全球唯一 DFM 規則管理器：** 開發系統化工具，讓企業可以：
* 依據不同需求 (工廠、產品線) 彈性設定 DFM 規則。
* 將寶貴經驗轉化為可管理的數位資產。
* 實現 DFM 規則的標準化、共用與複用。
* 擺脫對個人經驗的依賴。
* **終極目標：AI 驅動的 ECAD Library 自動化創建平台**
* **整合：** 結合自動提取的零件數位資料 (來自規格書) 與數據化的 DFM 規則。
* **實現：** 自動生成符合可製造性要求的、高品質的 ECAD Library (Symbol & Footprint)。
* **願景：** 將工程師從大量、重複、繁瑣的 Library 創建工作中解放出來，專注於核心設計與創新。

### <a id="專業術語與強調點"></a>專業術語與強調點

* **專業術語:**
* **Datasheet (規格書):** 電子零件的技術文件。
* **ECAD Library (電子設計自動化零件庫):** 包含 Symbol, Footprint 的設計資料庫。
* **Schematic (電路圖):** 描述電路連接關係的圖。
* **PCB (Printed Circuit Board) Layout:** 電路板佈局設計。
* **Footprint / Land Pattern (焊盤圖/元件佈局):** 元件焊接到 PCB 上的接觸點圖形。
* **Symbol (符號):** 在電路圖中代表元件的圖形。
* **DFM (Design for Manufacturability):** 可製造性設計。
* **BGA (Ball Grid Array):** 一種高密度表面貼裝封裝技術。
* **Pin Assignment / Pin Mapping:** 引腳定義/映射。
* **Package Dimension:** 零件封裝尺寸。
* **Electrical Characteristics:** 電氣特性。
* **OCR (Optical Character Recognition):** 光學字元辨識。
* **NLP (Natural Language Processing):** 自然語言處理。
* **Chatbot:** 聊天機器人。
* **Second Source:** 替代料件。
* **錫膏 (Solder Paste):** 用於 SMT 焊接的膏狀焊料。
* **鋼板 (Stencil):** 用於印刷錫膏的模板。
* **強調點:**
* 人工處理規格書是電子設計流程的主要瓶頸。
* **規格書數位化**的技術難度極高，需要多種 AI 技術融合。
* AI Chatbot 可大幅提升規格書查詢效率。
* **DFM** 對產品品質和良率至關重要，但過去依賴經驗。
* **DFM 數據化**是將隱性知識轉化為數位資產的關鍵。
* 富比庫開發了**全球唯一的 DFM 規則管理器**。
* 最終目標是透過整合**零件數位數據**和 **DFM 數據**，實現 **ECAD Library 自動化創建**。
* 旨在**解放工程師**，專注創新。

### <a id="關鍵啟示"></a>關鍵啟示

1. **基礎數據處理是 AI 落地的關鍵環節：** 在光鮮亮麗的 AI 應用背後，對基礎數據（如規格書）的有效處理和數位化是實現自動化和提升效率的前提。
2. **非結構化數據處理需要複合 AI 技術：** 對於格式多樣、內容複雜的 PDF 規格書，單一 AI 技術（如 OCR 或 NLP）難以有效處理，需要結合影像、文字、表格識別等多種 AI 模型。
3. **Domain Know-how 的數據化價值巨大：** 將特定領域（如 DFM）中隱性的、依賴個人經驗的知識，透過系統化的方法進行數據化管理，是企業保留核心競爭力、實現知識傳承與複用的重要途徑。
4. **自動化需打通數據鏈路：** 實現 ECAD Library 自動化，不僅要數位化零件規格，還需要將影響製造的 DFM 規則數據化，打通從設計規格到可製造零件庫的數據鏈路。
5. **AI 的價值在於賦能而非取代：** 富比庫的目標是將工程師從繁瑣的數據處理中解放出來，讓他們能更專注於高價值的設計與創新工作。

### <a id="行動建議"></a>行動建議

1. **電子設計企業/部門：**
* 評估內部在處理規格書和創建 ECAD Library 方面所耗費的人力與時間成本，以及可能存在的錯誤風險。
* 探索採用 Footprintku 等 AI 工具實現規格書數位化和 Library 自動化創建的可行性，以提升設計效率。
* 重視 DFM 知識的系統化管理，考慮導入 DFM 規則管理器，將個人經驗轉化為企業資產。
* 鼓勵工程師利用 AI Chatbot 等工具快速查詢和比較零件規格。
2. **電子設計工程師：**
* 嘗試使用 AI 工具輔助規格書閱讀和資料查找。
* 了解 DFM 對產品品質的重要性，並學習標準化的 DFM 設計方法。
3. **EDA 工具/零件庫供應商：**
* 關注利用 AI 技術自動化處理規格書和生成 Library 的趨勢。
* 思考如何將 DFM 規則更緊密地整合到設計工具或零件庫中。

---

## <a id="賦能商業洞察-如何成功-ai-引領企業決策"></a>賦能商業洞察: 如何成功 AI 引領企業決策

### <a id="演講基本資訊"></a>演講基本資訊

* **講者:** 魏劭芸, 資深產品經理, 美商鄧白氏 (Dun & Bradstreet - D&B)
* **時間:** 2025年3月27日 15:40-16:00
* **場次:** AI Expo 2025
* **形式:** 單一講者

### <a id="內容摘要"></a>內容摘要

魏劭芸產品經理從全球最大商業數據公司鄧白氏 (D&B) 的角度，探討了如何利用 AI 技術結合高質量的商業數據，來賦能企業做出更明智的決策。她首先介紹了鄧白氏的核心資產——包含全球 6 億筆企業數據的數據雲 (Data Cloud) 和作為全球統一標識的鄧白氏環球編碼® (D-U-N-S® Number)，強調了可信任、經驗證的數據是 AI 應用的基礎。演講指出了企業在發展 AI 時普遍存在的焦慮，包括技術選型的困惑、對 AI 結果的不信任、以及對 ROI 的擔憂。為此，鄧白氏提出了一套負責任的 AI (Responsible AI) 開發框架，涵蓋治理、技術和商業應用層面，強調以人為本、數據透明、公平、可解釋和安全。在此基礎上，她重點介紹了鄧白氏推出的生成式 AI 產品——ChatD&B (逐字稿中品牌名為 ChainMap D&B，推測為 ChatD&B 或類似產品)，該產品旨在讓用戶透過自然語言與鄧白氏龐大的商業數據庫互動。透過 Demo 展示，用戶可以輕鬆查詢一家公司（如鄧白氏自身）的基本信息、股權結構、風險指標、最終受益人 (UBO)、ESG 數據等，將過去可能需要數週甚至數月的數據蒐集與分析工作，縮短至幾分鐘。ChatD&B 的核心價值在於結合了鄧白氏可信賴的數據、專業分析能力與先進的生成式 AI 技術，同時確保了用戶查詢的隱私性（不將用戶問題用於模型訓練），並提供結果的可追溯性。

### <a id="主要章節"></a>主要章節

#### <a id="1-鄧白氏商業數據的領導者與-ai-時代的基礎"></a>1. 鄧白氏：商業數據的領導者與 AI 時代的基礎

* **演講主旨：** 介紹鄧白氏的核心能力（數據雲、D-U-N-S Number），並強調高質量、可信任的數據是 AI 成功應用的基石。
* **鄧白氏概況：**
* 近 200 年歷史的全球商業數據公司。
* 台灣在地經營超過 30 年。
* **核心資產：**
* **數據雲 (Data Cloud):** 全球最大商業數據庫，含 6 億+ 企業數據。
* **鄧白氏環球編碼® (D-U-N-S® Number):** 全球唯一的企業身份標識碼，用於管理和串聯全球商業數據。如同企業的身份證。
* **核心理念：數據是決策的基礎**
* **可信任數據 (Trusted Data):** 強調數據需經驗證、可靠，才能有效輔助決策。
* 此理念同樣適用於 AI 應用：Garbage in, Garbage out。沒有好的數據，AI 無法產生可信賴的結果。
> "數據不是只有要有，我們必須要建構可信任的、可被驗證的商業數據的基礎，才能夠更好地去運用整個商業數據在於 AI 上面的發展。"

#### <a id="2-企業-ai-發展的焦慮與鄧白氏的負責任-ai-框架"></a>2. 企業 AI 發展的焦慮與鄧白氏的負責任 AI 框架

* **演講主旨：** 指出企業在 AI 發展中普遍存在的顧慮，並介紹鄧白氏為確保 AI 可靠、合規、符合道德所建立的框架。
* **企業 AI 焦慮 (AI Anxiety):**
* 技術選型困惑：採用的 AI 技術是否合適？
* 結果可信度：能否相信 AI 的輸出？
* 效益不明：投入的成本與人力能否帶來預期 ROI？
* **鄧白氏的應對：負責任的 AI (Responsible AI) 框架**
* **核心原則：** AI 相關行動的基礎。
* **11 大核心方向 (部分列舉)：** 以人為本、數據透明性、可解釋性、公平性、責任與問責、安全。
* **三個實踐領域：**
1. **AI 治理 (AI Governance):** 確保政策符合法規標準。
2. **技術與數據合作 (Technology & Data Collaboration):** 嚴格規範數據使用與技術開發方法。
3. **商業應用 (Business Application):** 透過協議和使用規範，明確 AI 應用的範圍與方式。
* **目標：** 在確保公平、安全、透明的前提下，最大化 AI 應用的效益。

#### <a id="3-chatdbai-賦能的商業數據洞察平台"></a>3. ChatD&B：AI 賦能的商業數據洞察平台

* **演講主旨：** 介紹鄧白氏結合其數據優勢與 GenAI 技術推出的 ChatD&B 平台，及其應用場景與價值。
* **產品定位：** (品牌名 ChainMap D&B? 推測為 ChatD&B)
* 基於鄧白氏全球 6 億筆高品質商業數據打造的生成式 AI 應用。
* 目標：讓用戶透過自然語言互動，輕鬆獲取深度商業洞察，加速並簡化商業決策。
* **核心功能與價值：**
* **自然語言交互：** 用戶像聊天一樣提問，即可查詢龐大的 D&B 數據庫。
* **降低使用門檻：** 無需複雜操作或專業背景，任何人都能快速上手。
* **大幅提升效率：** 將傳統需要數週甚至數月的數據蒐集分析工作縮短至分鐘級。
* **高品質可信賴數據：** 不同於通用 LLM，ChatD&B 的回答基於鄧白氏經驗證的專業商業數據。
* **結合專業分析能力：** 不僅提供數據，還結合 D&B 的風險評估模型和分析能力。
* **應用場景 (Demo 示例：以財務人員 Emma 調查 D&B 公司為例)：**
* **查詢公司基本信息：** 公司名、成立時間、股權結構等。
* **獲取風險相關指標：** 國家風險、付款指數、營運失敗風險分數、財務壓力指數等 D&B 獨家指標。
* **識別最終受益人 (UBO - Ultimate Beneficial Owner)。**
* **評估 ESG 表現：** 快速獲取企業 ESG 相關數據。
* **全球市場拓展：** 快速搜索潛在客戶列表、驗證身份、獲取聯繫資訊。
* **法遵合規 (Compliance):** 高效評估企業合規風險。
* **四大設計要素：**
1. **基於可信賴數據 (Trusted Data):** 提供即時、可靠的商業洞察。
2. **可追溯性 (Traceability):** 每個回答都提供數據來源和分析過程，確保透明度和可信度。
3. **用戶隱私保護 (Privacy):** **不使用**用戶與 ChatD&B 的互動內容進行模型再訓練，保護企業商業機密。
4. **安全性 (Security):** 遵循嚴格的數據安全規範。

#### <a id="4-總結ai-可信數據-智慧決策"></a>4. 總結：AI + 可信數據 = 智慧決策

* **核心論點：**
* 數據是一切決策的基礎。
* 可信任、經驗證的數據是做出**聰明決策**的關鍵。
* AI 技術的賦能，可以**加速和簡化**從數據到洞察的過程。
* **AI + 可信數據 = 賦能智慧決策。**
* **目標：** 協助企業透過 AI 賦能的數據，快速獲取商業洞見，提升競爭力。
* **邀請參觀展位：** 歡迎聽眾前往鄧白氏攤位體驗 ChatD&B。

### <a id="專業術語與強調點"></a>專業術語與強調點

* **專業術語:**
* **數據雲 (Data Cloud):** 鄧白氏的核心數據資產。
* **鄧白氏環球編碼® (D-U-N-S® Number):** 全球企業唯一標識碼。
* **可信任數據 (Trusted Data):** 經驗證、可靠的數據。
* **負責任的 AI (Responsible AI):** 符合倫理、安全、公平原則的 AI 開發與應用框架。
* **AI 治理 (AI Governance):** 管理 AI 風險與合規的政策與流程。
* **生成式 AI (Generative AI):** ChatD&B 使用的核心技術。
* **ChatD&B / ChainMap D&B:** 鄧白氏的 AI 商業數據查詢平台。
* **自然語言處理 (NLP):** 使機器能夠理解和生成人類語言。
* **風險指標 (Risk Indicators):** 如付款指數、失敗風險分數等。
* **最終受益人 (UBO - Ultimate Beneficial Owner):** 公司最終的實際控制人。
* **ESG (Environmental, Social, and Governance):** 環境、社會與公司治理。
* **強調點:**
* **數據品質和可信度**是 AI 應用成功的基礎。
* 鄧白氏擁有全球最大的**可驗證商業數據庫**。
* 發展 AI 需遵循**負責任的原則** (Responsible AI)。
* ChatD&B 透過**自然語言**讓用戶輕鬆訪問 D&B 的**專業數據與洞察**。
* ChatD&B **保護用戶查詢隱私**，且結果**可追溯**。
* AI 技術能**大幅加速**商業數據分析與決策流程。
* **AI + 可信數據**是實現智慧決策的關鍵。

### <a id="關鍵啟示"></a>關鍵啟示

1. **AI 應用價值高度依賴數據品質：** 對於商業決策等嚴肅應用，AI 所依賴的數據是否準確、及時、可驗證至關重要。
2. **垂直領域 AI 需要專業數據支持：** 通用 LLM 無法取代基於特定領域（如商業資訊）深度數據和專業知識庫構建的 AI 應用。
3. **負責任 AI 是企業應用的必要條件：** 企業在開發和部署 AI 時，必須建立治理框架，確保其公平、透明、安全、合規，才能獲得用戶信任並實現長期價值。
4. **自然語言交互降低數據使用門檻：** AI Chatbot 介面可以讓非數據專業人員也能輕鬆查詢和利用複雜的數據庫，實現數據民主化。
5. **隱私保護是企業級 AI 應用的核心關切：** 尤其在處理敏感商業數據時，必須確保用戶的查詢和互動數據不被濫用或洩露。

### <a id="行動建議"></a>行動建議

1. **需要進行商業情報分析的企業 (如市場拓展、風險管理、供應鏈管理部門)：**
* 認識到高質量商業數據對決策的重要性。
* 評估 ChatD&B 等工具是否能提升內部獲取商業洞察的效率和深度。
* 利用這類工具快速進行潛在客戶篩選、合作夥伴背景調查、供應商風險評估等。
2. **企業 IT 與數據團隊：**
* 在引入外部 AI 工具或數據服務時，嚴格審查其數據來源的可信度、隱私保護政策和安全措施。
* 思考如何將內部數據與像鄧白氏這樣的外部權威數據源進行整合與驗證，提升內部數據的價值。
3. **AI 應用開發商：**
* 在開發面向企業的 AI 應用時，需高度重視數據源的質量和可信度。
* 將「負責任 AI」的原則融入產品設計和開發流程。
* 設計易於理解和追溯的 AI 結果呈現方式。

---

## <a id="ai-代理與最新-ai-發展"></a>AI 代理與最新 AI 發展

### <a id="演講基本資訊"></a>演講基本資訊

* **講者:** 康靖韻 (Jade Chan), 資深協理 (職稱可能為 Solutions Architect 或類似角色), NVIDIA
* **時間:** 2025年3月27日 16:00-16:30
* **場次:** AI Expo 2025
* **形式:** 單一講者

### <a id="內容摘要"></a>內容摘要

康靖韻協理從 NVIDIA 的角度，深入探討了 AI Agent 的興起以及支撐其發展的技術與平台。她首先提出了 AI 發展的三個「擴展定律」(Scaling Laws)：1) **預訓練擴展 (Pre-training Scaling)**，對應 GenAI 的爆發；2) **後訓練擴展 (Post-training Scaling)**，透過 RAG 或微調提升特定領域智能；3) **AI Agent 擴展 (Agentic Scaling)**，透過推理 (Reasoning) 和工具使用實現更高級的智能。她強調 AI Agent 的推理能力需要更大量的運算，但也帶來了更高的智能水平和應用價值，並預示了 Physical AI 作為下一個前沿。演講核心介紹了 NVIDIA 支持 AI Agent 開發的三層技術棧：1) **NIM (NVIDIA Inference Microservices):** 提供超過 100 種預優化、容器化的推理微服務，涵蓋不同模型與專長，易於部署且效能高 (比開源方案快 2 倍以上)，支援本地部署保障隱私；2) **NeMo:** 提供模型微調 (Fine-tuning)、對齊 (Alignment) 和守衛 (Guardrails) 的框架與工具，讓企業能客製化 NIM 中的模型以符合自身需求 (展示了 Llama 2 70B 微調成 8B 的案例)；3) **Blueprints:** 提供開源的應用藍圖 (如 Agent Chat UI, RAG, AI Research Assistant)，幫助企業快速將 NIM 和 NeMo 技術整合到現有工作流程中 (展示了基於 AI Chat Q&A 的研究助手 Blueprint)。她進一步闡述了 Physical AI 的概念，即賦予實體機器人智能，並介紹了 NVIDIA 的三大支柱平台：DGX (訓練)、Omniverse (虛擬世界模擬與合成數據生成)、Jetson (機器人部署)。她特別強調了 Omniverse 在訓練 Physical AI 中的重要性，可透過數位孿生在虛擬世界中安全、低成本地進行大量模擬與訓練，並以 Cosmos (基礎世界模型) 為例，展示其在物理模擬、數據轉換 (Sim2Real)、推理規劃方面的能力。最後，她指出了 AI Agent 推理 (Reasoning) 對算力的巨大需求 (比預訓練多 7 倍 Token 處理量)，並介紹了最新的 TensorRT-LLM 和 Triton Inference Server 更新 (代號 "Dynamo") 如何透過軟硬體協同優化，將推理吞吐量提升 30 倍，整體 AI Factory 效益提升 50 倍，以應對 Agentic AI 時代的挑戰。

### <a id="主要章節"></a>主要章節

#### <a id="1-ai-發展的新階段從-genai-到-ai-agent-與-physical-ai"></a>1. AI 發展的新階段：從 GenAI 到 AI Agent 與 Physical AI

* **演講主旨：** 提出 AI 發展的三個擴展定律，定位 AI Agent 為當前焦點，並展望 Physical AI 的未來。
* **三個擴展定律 (Scaling Laws):**
1. **Pre-training Scaling:** 更多運算提升基礎模型智能 (GenAI 爆發)。
2. **Post-training Scaling:** 更多運算 + 數據 (RAG/Fine-tuning) 提升特定領域智能。
3. **Agentic Scaling:** 更多運算 + 推理 (Reasoning) + 工具使用 (Tool Use) 提升解決複雜問題的智能。
* **AI Agent 的核心能力：** 推理 (Reasoning)、規劃 (Planning)、工具使用 (Tool Use)。
* **運作方式示例：** 回答「今天 8-12 點平均溫度與去年同期比較，並語音回覆」 -> Agent 規劃步驟 -> 調用天氣 API -> 寫 Python 腳本計算 -> 查歷史資料庫 -> 用 TTS 生成語音。
* **AI 的價值：** 產生智能 (Intelligence as Tokens)，提升各行各業效率與品質。
* **IT 部門的新角色：** 從管理人力 -> 管理虛擬員工 (AI Agents)，招聘不同技能的 AI。
* **AI Agent 應用潛力：**
* 科學發現 (Google Co-scientist 案例)。
* 天氣預報 (單 GPU 數秒完成區域預報 vs. 傳統 CPU 超算數十分鐘)。
* 藥物開發 (AlphaFold 加速蛋白質結構預測)。
* **下一個前沿：Physical AI:** 賦予實體機器人感知、推理與行動能力。

#### <a id="2-nvidia-的-ai-agent-技術棧nim-nemo-blueprints"></a>2. NVIDIA 的 AI Agent 技術棧：NIM, NeMo, Blueprints

* **演講主旨：** 介紹 NVIDIA 為開發和部署 AI Agent 提供的三層核心技術與平台。
* **技術棧概覽：**
* **底層 - NIM (NVIDIA Inference Microservices):** 提供預優化的「技能包」。
* **中層 - NeMo:** 提供模型客製化與「教育訓練」的工具。
* **上層 - Blueprints:** 提供快速整合到工作流程的「應用範本」。
* **NIM (NVIDIA Inference Microservices):**
* **定位：** 容器化的、即用型的 AI 推理微服務。
* **內容：** 超過 100 種 NIMs，涵蓋 NVIDIA 及第三方開源模型 (Llama, Mistral, Phi 等)，橫跨語言、視覺、醫療、生物等 40+ 領域。
* **優勢：**
* **易部署 (Easy Deployment):** 容器化，5 分鐘可部署。
* **可移植 (Portable):** 可部署在任何有 NVIDIA GPU 的地方 (雲、數據中心、工作站、邊緣)。
* **企業級 (Enterprise Grade):** API 穩定、安全、有支援。
* **高效能 (Performance):** 經 TensorRT 等工具優化，比開源部署快 2 倍以上 (同樣硬體服務 2 倍客人)。
* **最新模型示例：Nemo-Llama3-70B:** (或指 Llama 2?) 在推出時於多項推理基準測試中領先。透過優化，吞吐量提升 5 倍。
* **推理能力展示：** Demo 顯示 NIM 可執行多步驟推理任務 (如 Pizza topping 組合問題)。
* **NeMo Framework:**
* **定位：** 用於大型語言模型客製化的端到端框架。
* **功能：**
* **數據策劃 (Data Curation):** 準備訓練數據。
* **模型微調 (Fine-tuning):** 使用企業私有數據調整模型。
* **對齊 (Alignment):** 確保模型輸出符合人類期望和安全要求 (RLHF 等)。
* **檢索增強生成 (RAG):** (隱含能力) 連接外部知識庫。
* **模型評估 (Evaluation):** 測試模型效能。
* **守衛 (Guardrails):** 設定模型行為邊界。
* **目標：** 讓企業能安全、有效地將通用模型客製化為符合自身需求的專家模型。
* **案例：NVIDIA ChipNeMo (內部應用):**
* 將開源 Llama 模型用 NeMo 微調，整合內部設計知識庫。
* 實現精準回答內部技術問題。
* 透過蒸餾將 70B 模型壓縮至 8B，大小減 10 倍，準確率更高，延遲更低。
* **Blueprints:**
* **定位：** 開源的參考架構和應用範本。
* **目標：** 解決將新 AI 技術整合到現有企業流程的複雜性。
* **示例：AI Chat Q&A Blueprint (基於 LangChain & LlamaIndex):**
* 快速搭建企業內部 RAG 系統。
* **應用：AI Research Assistant:** 輸入研究主題 -> AI Agent 自動規劃 -> 從多個內部/外部來源擷取資料 -> 彙整生成報告 -> 加速研究迭代。
* **核心價值：** 提供起點，降低整合難度，加速應用落地。

#### <a id="3-physical-ai-與-omniverse-平台"></a>3. Physical AI 與 Omniverse 平台

* **演講主旨：** 介紹 Physical AI 的概念以及 NVIDIA Omniverse 在其中扮演的關鍵角色。
* **Physical AI：** 具備感知、理解、互動能力的實體 AI (如機器人、自駕車)。
* **挑戰：** 實體世界訓練成本高、風險大、速度慢。
* **NVIDIA 解決方案三大支柱：**
1. **DGX / AI Infrastructure:** 提供訓練 Physical AI 所需的大規模算力。
2. **Omniverse:**
* **定位：** 基於 OpenUSD 的虛擬世界模擬與協作平台。
* **核心價值：** **數位孿生 (Digital Twin)**。在虛擬世界中創建物理精確的環境，用於安全、低成本、快速地訓練和測試 Physical AI。
* **功能：** 生成合成數據 (Synthetic Data Generation)、物理模擬 (Physics Simulation)、Sim2Real (從模擬到現實的轉換)。
3. **Jetson / DRIVE / IGX / Holoscan:** 部署 Physical AI 的邊緣計算平台。
* **Omniverse Cloud APIs / Microservices (NIM for Omniverse):**
* **目標：** 將 Omniverse 的能力以微服務形式提供。
* **示例：**
* **RTX Renderer:** 生成符合物理真實的光線追踪渲染圖像。
* **PhysX:** 物理引擎模擬 (展示流體力學 CFD 模擬，透過 AI 加速可在數秒內完成互動式模擬)。
* **Project Groot:** 人型機器人模擬與訓練平台 (在虛擬世界訓練機器人動作)。
* **Cosmos: Foundation World Model for Omniverse:**
* **定位：** Omniverse 的基礎世界模型。
* **能力：**
* **預測模擬 (Predictive Simulation):** 輸入圖像，預測未來幾秒的物理變化 (如街景)。
* **數據轉換 (Cosmos Transfer / Sim2Real):** 將虛擬 3D 物件轉換成具有真實紋理、光照的樣貌 ("以假亂真")。自動生成大量、多樣化的訓練數據 (不同天氣、光照、材質)。
* **推理規劃 (Reasoning & Planning):** 理解指令，在虛擬環境中規劃機器人完成任務的步驟。
* **開源數據：** NVIDIA 已開源利用 Cosmos 生成的大量高質量合成數據，供研究者訓練 Physical AI。

#### <a id="4-應對-agentic-ai-的算力挑戰tensorrt-llm-dynamo"></a>4. 應對 Agentic AI 的算力挑戰：TensorRT-LLM "Dynamo"

* **演講主旨：** 指出 AI Agent 推理對算力的巨大需求，並介紹 NVIDIA 最新的推理優化技術。
* **Agentic Reasoning 的算力需求：**
* 需要處理的 Token 數量是預訓練的 7 倍。
* 涉及大量迭代、工具調用、知識檢索。
* **挑戰：** 如何在有限的硬體資源下實現高效、低延遲的 Agent 推理。
* **NVIDIA 解決方案：TensorRT-LLM + Triton Inference Server (代號 "Dynamo")**
* **核心技術：軟硬體協同設計 (Software-Hardware Co-design)**
* 針對 LLM 推理的兩個階段 (Prefill - Compute Bound, Decode - Memory Bound) 進行深度優化。
* 動態調配 GPU 資源，最大化利用率。
* **效益：**
* **吞吐量提升 30 倍：** 相較於未優化方案 (vLLM on H100)，在使用 Llama3 70B 進行 Agent 推理時。
* **AI Factory 整體效益提升 50 倍：** 結合 Hopper 到 Blackwell 平台的硬體提升 (網路、計算、記憶體) 與 Dynamo 軟體優化。
* Token 生成速度提升 10 倍。
* 每瓦效能提升 5 倍。
* **AI Factory 概念：** 提供從硬體 (Networking, Compute, Storage) 到軟體 (OS, Cluster Mgmt, NIM, NeMo, AI Enterprise) 到服務的 Full-Stack 解決方案，加速 AI 價值實現 (Time to Value)。
* **部署選項：** OEM 合作夥伴、雲服務提供商 (CSP)、NVIDIA DGX Cloud。

### <a id="專業術語與強調點"></a>專業術語與強調點

* **專業術語:**
* **AI Agent (AI 代理):** 核心主題。
* **Reasoning (推理), Planning (規劃), Tool Use (工具使用):** AI Agent 的關鍵能力。
* **Scaling Laws (擴展定律):** 描述運算投入與智能提升的關係。
* **NIM (NVIDIA Inference Microservices):** 推理微服務。
* **NeMo:** LLM 客製化框架。
* **Fine-tuning (微調), Alignment (對齊), Guardrails (守衛):** NeMo 的功能。
* **Blueprints:** 開源應用藍圖/參考架構。
* **Physical AI:** 實體 AI (機器人等)。
* **Omniverse:** NVIDIA 的虛擬世界模擬平台。
* **OpenUSD:** Omniverse 的基礎標準。
* **Digital Twin (數位孿生):** 物理實體的虛擬映射。
* **Synthetic Data Generation:** 合成數據生成。
* **Sim2Real:** 從模擬到現實的轉換。
* **Cosmos:** Omniverse 的基礎世界模型。
* **TensorRT-LLM:** NVIDIA 的 LLM 推理優化函式庫。
* **Triton Inference Server:** NVIDIA 的推理服務器。
* **Token:** AI 處理的基本單位。
* **Throughput (吞吐量):** 單位時間內處理的數據量/請求量。
* **AI Factory:** NVIDIA 提出的 AI 基礎設施解決方案概念。
* **Full Stack:** 提供從硬體到軟體到服務的完整方案。
* **強調點:**
* AI Agent 是繼 GenAI 之後的**重要發展階段**。
* **Reasoning** 是 Agentic AI 的核心，但也帶來巨大算力挑戰。
* NVIDIA 提供**分層 (NIM, NeMo, Blueprints)** 的技術棧支持 Agent 開發部署。
* **NIM** 提供高效、易用、可移植的推理能力。
* **NeMo** 賦能企業安全、有效地客製化模型。
* **Blueprints** 加速技術整合與應用落地。
* **Physical AI** 是下一個前沿，**Omniverse** 是關鍵的訓練與模擬平台。
* **Cosmos** 世界模型為 Omniverse 提供了強大的生成與模擬能力。
* **TensorRT-LLM "Dynamo"** 透過軟硬協同，**大幅提升了 Agent 推理效能**。
* NVIDIA 致力於提供**完整的 AI Factory 解決方案**。

### <a id="關鍵啟示"></a>關鍵啟示

1. **AI Agent 代表智能的躍升：** 從被動生成到主動推理、規劃和執行，AI Agent 標誌著 AI 能力的質變，將解鎖更複雜的應用。
2. **推理 (Reasoning) 是新瓶頸與機遇：** Agentic AI 對推理算力的需求遠超以往，這既是挑戰，也驅動了推理優化技術（如 TensorRT-LLM）的快速發展。
3. **平台化與模組化是趨勢：** NVIDIA 的三層技術棧 (NIM, NeMo, Blueprints) 體現了將複雜 AI 能力模組化、平台化，以降低開發和部署門檻的思路。
4. **虛擬世界加速實體 AI：** 對於 Physical AI（如機器人），在 Omniverse 等高擬真虛擬環境中進行訓練和測試，是克服現實世界高成本、高風險、低效率的關鍵途徑。
5. **軟硬體協同優化至關重要：** 要應對 AI Agent 等複雜應用的效能需求，必須在硬體架構和軟體（編譯器、函式庫、框架）層面進行深度協同優化。
6. **AI Factory 概念普及：** 建立高效、可擴展、易於管理的 AI 基礎設施（從硬體到應用）成為企業部署 AI 的核心需求。

### <a id="行動建議"></a>行動建議

1. **企業決策者/技術領導者：**
* 認識到 AI Agent 是重要趨勢，開始規劃 Agent 在企業內部的潛在應用場景。
* 評估 NVIDIA NIM 等推理微服務平台，以加速 AI 模型部署並提升效能。
* 若有模型客製化需求，研究 NeMo 等框架提供的微調、對齊和安全功能。
* 利用 Blueprints 等開源參考架構，快速搭建 RAG 或內部 AI 助手等應用原型。
* 若涉及機器人或實體 AI，深入了解 Omniverse 平台的模擬與合成數據生成能力。
* 在規劃 AI 基礎設施時，考慮 TensorRT-LLM 等推理優化方案，以應對 Agentic AI 的算力需求。
2. **AI 開發者/研究者：**
* 學習使用 NIM 部署和調用預優化模型。
* 掌握 NeMo 框架進行模型微調和安全對齊。
* 基於 Blueprints 進行二次開發，快速實現應用。
* 對於 Physical AI 研究，利用 Omniverse 進行模擬和數據生成。
* 關注 TensorRT-LLM 等推理優化技術的最新進展。
3. **IT 基礎設施管理者：**
* 了解 AI Factory 的概念和組件，規劃支持大規模 AI 訓練和推理的基礎設施。
* 評估支持最新推理優化技術的硬體和軟體平台。
* 考慮採用容器化 (如 NIM) 部署方式簡化 AI 服務管理。

---