# 現今「Agentic AI」的骨架:聊聊各熱門 AI 相關技術如何協作 ![開發者 buffet - banner](https://hackmd.io/_uploads/H1ELgGrhxl.jpg) *開發者 Buffet, [banner image], Facebook, https://www.facebook.com/groups/buffet.dev/?locale=zh_TW* ## 開發者 Café - 9月聚會 主題:現今「Agentic AI」的骨架:聊聊各熱門 AI 相關技術如何協作 日期:2025-09-30 週二 時間:1900-2100 地點:Second Space,高雄 ### 講者個人背景 - Aaron Ng(黃立仁) - AI 研發工程師、智慧系統架構師、超精密機台核心開發 - 目前從事:智慧監控、智慧工廠、智慧交通、智慧港口、智慧醫療、智慧城市、智慧空間 - 學術專長:人工智慧、深度學習、理論物理、量子物理、材料科學、電腦科學、工程科學 - HackMD:https://hackmd.io/@liren0907 - GitHub:https://github.com/liren0907 - LinkedIn:https://www.linkedin.com/in/liren0907/ - E-mail:liren0907@gmail.com ## 前言 * 近期新聞:“某外行講師 Vibe coding 失誤導致 API 費用暴漲,然後砲轟 Google AI Studio等服務規則”。一句話就是 “上山的人不要笑下山的神”、“我是工程師,申請出戰!”、“工程師還有30秒到達戰場”。 * 想問:各位有什麼好奇想知道的嗎?關於這幾年很 trending 但又沒有落地的科技趨勢 * 量子計算、量子加密、量子通訊 * 半導體:CoWoS、後摩爾定律時代、矽光子 * AI:模型底層 * Perceptron AI -> Generative AI -> Physical AI -> Simulation AI -> Interpretable AI * 科技趨勢:區塊鏈、元宇宙、3D 重構、AR/VR、數位孿生、具身機器人 * 今日大聊的目標: * AI 領域是心法快50年都不變,但技法一直在迭代的領域 * 外行人看熱鬧,內行人看門道 * AI 落地開發者需集全角色於一身:數學家、工程師、導演、編劇、廠務,所以你問我 AI 怎麼開始?“同時學習成為這些角色就是答案”,適用於經營者、管理者、技術者與使用者 * 理解整體框架,你能夠破解下一篇技術新聞 ## 現今「Agentic AI」的骨架:聊聊各熱門 AI 相關技術如何協作 * 課程賣到 TWD60000!欸,要確? ByteByteGo 旗下 USD1999 AI Engineer 課程 - [ByteByteAI](https://bytebyteai.com/) ## 傳統 AI 模型 -> 大型語言模型 -> 多模態大型語言模型 ### 大數據時代 #### 大數據之死 * [原子能,“大數據時代過去了,我很懷念它【讓編程再次偉大#36】”](https://www.youtube.com/watch?v=n7z1V2lo_gQ) * OG 工程師、真。技術者的知音 -- Youtube channel:[原子能](www.youtube.com/@yuan_zi_neng) * 類似 LeetCode 最優排序演算法在現實情境下,沒必要完整實現 * 當時候我還在中山唸大學的時候,就對大數據的東西感興趣的時候,就問了一些老師這樣的答覆,然後時代證明我是對的。 #### 大數據時代留下什麼?(觀念是最重要的產物,大數據並沒死) * 工程師明白技術和商業到底是怎麼運轉了,技術-商業-落地,分離且鼎力時代開始 * 學生看著技術被炒熱到崩盤的歷史循環,成為工程師後技術卻內斂在看不到的地方 ![Apache-Spark-Streaming-ecosystem-diagram](https://hackmd.io/_uploads/SkXnOaD2ll.png) *"Apache Spark Key Terms, Explained", databricks, June 22, 2016, https://www.databricks.com/blog/2016/06/22/apache-spark-key-terms-explained.html* * 後續有太多的技術,在看不到的地方悄悄把大樓給蓋起來 ### 神經網路時代(Perceptron AI) #### ANN -> CNN -> LSTM -> Attention * 1957' - Perceptron * 1980' - CNN (Neocognitron) * 1982' - Hopfield Network * 1985' - Boltzmann Machines * 1997' - LSTM * 2016~2017 - Attention ### Transformer 架構時代 ![transformer](https://hackmd.io/_uploads/ByKbVg_hxl.png) * [Sebastian Raschka, PhD - The Big LLM Architecture Comparison](https://magazine.sebastianraschka.com/p/the-big-llm-architecture-comparison)! ![transformer-architecture-different-llm](https://hackmd.io/_uploads/HJLQ_fdnex.jpg) ### Diffusion 模型 * [Inception Labs, Mercury - The fastest commercial-grade diffusion LLM](https://chat.inceptionlabs.ai/) ### 世界模型 ![JEPA](https://hackmd.io/_uploads/Sk0X01Onex.png) ![oak-architecture-rich sutton](https://hackmd.io/_uploads/ry_MOzdhle.jpg) --- ## 現今「Agentic AI」骨架 - 全圖譜 ![agentic-ai-map](https://hackmd.io/_uploads/HJQPKhw3xe.png) ## 大型語言模型的誕生 ![deepseek-training](https://hackmd.io/_uploads/B1ae4iv3ee.jpg) ### Chain-of-thoughts * [Topologies of Reasoning: Demystifying Chains, Trees, and Graphs of Thoughts](https://arxiv.org/pdf/2401.14295v1) * [Graph of Thoughts: Solving Elaborate Problems with Large Language Models](https://arxiv.org/pdf/2308.09687) ![Screenshot 2025-09-29 at 22.48.15](https://hackmd.io/_uploads/HJ_PhG_hgl.png) ### Prompt Engineering -> Context Engineering * [A Survey of Context Engineering for Large Language Models](https://arxiv.org/pdf/2507.13334) ### Reasoning LLMs * [Sebastian Raschka, PhD, "Understanding Reasoning LLMs"](https://magazine.sebastianraschka.com/p/understanding-reasoning-llms) ### Multimodal LLMs * [Sebastian Raschka, PhD, "Understanding Multimodal LLMs"](https://magazine.sebastianraschka.com/p/understanding-multimodal-llms) ![25decf66-bc41-44e3-8df8-1186ea31c4cb_1372x1600](https://hackmd.io/_uploads/B127Vxungg.jpg) ## 大型語言模型部署 ### Closed-source model provider vs. On-premise - Ollama // LM Studio // llama.cpp ![Screenshot 2025-09-29 at 17.10.12](https://hackmd.io/_uploads/BJA-ppw3ll.png) ## 模組化應用:Pydantic AI, LangChain, LangGraph ![langchain_langgraph](https://hackmd.io/_uploads/S13uLgd3ll.jpg) ## RAG(Retrieval-Augmented Generation) * [Agentic Retrieval-Augmented Generation: A Survey on Agentic RAG](https://arxiv.org/pdf/2501.09136) ## MCP(Model Context Protocol) * [ByteByteGo, "Why Everyone's Talking About MCP?"](https://www.youtube.com/watch?v=_d0duu3dED4&t=89s) ## A2A(Agent2Agent Protocol) * [Agent2Agent (A2A) Protocol](https://a2a-protocol.org/latest/) ## ACP(Agent Client Protocol) * [Agent Client Protocol, Architecture](https://agentclientprotocol.com/overview/architecture) ## ACP(Agent Communication Protocol) * [IBM, "What is Agent Communication Protocol (ACP)?"](https://www.ibm.com/think/topics/agent-communication-protocol#1190488334) --- ![architectures](https://hackmd.io/_uploads/B1_2miwnlx.png) ## 附錄:LSP(Language Server Protocol) ![lsp-diagram](https://hackmd.io/_uploads/B1LYj2vhgg.png) *"Integrating the Language Server Protocol in Verible", April 12, 2023, Chips Alliance, https://www.chipsalliance.org/news/integrating-language-server-protocol-in-verible/* ## 附錄:先給我發電廠,才來講模型訓練吧 ![G12KXYaWwAAQTtf](https://hackmd.io/_uploads/SyaTzTPhle.jpg) * 台灣日平均發電量:~30 GW ## 附錄:羊毛出在狗身上,雞來付錢 ![Screenshot 2025-09-29 at 16.24.23](https://hackmd.io/_uploads/BJdDfpDhlg.png) * OpenAI and NVIDIA Announce Strategic Partnership to Deploy 10 Gigawatts of NVIDIA Systems - [Press Release, NVIDIA Newsroom](https://nvidianews.nvidia.com/news/openai-and-nvidia-announce-strategic-partnership-to-deploy-10gw-of-nvidia-systems) ## 附錄:人工智慧發展史 ![history-flow](https://hackmd.io/_uploads/HytweAvnxe.png) ## 附錄:Youtube channel * [Welch Labs](https://www.youtube.com/@WelchLabsVideo/videos)