t# 基於LLM模型的 AI Agent 從零到進階實踐 - 陳葵懋(Ian Chen)

{%hackmd @HWDC/BJOE4qInR %}

>#### 》[議程介紹](https://hwdc.ithome.com.tw/2024/session-page/3220)
>#### 》[填寫議程滿意度問卷｜回饋建言給辛苦的講者](https://forms.gle/r1q6MbPcxZV6G2pY9)

---
# 參考資訊

- [簡報及Demo Code](https://medium.com/playtech/hello-world-dev-ai-agent-a9e57f62fb71)
- [Semantic Kernel Developers Taiwan](https://www.facebook.com/groups/skdeveloptw)
- [本次Demo之一的Linebot](https://line.me/R/ti/p/%40899mxodm)

[TOC]
---

# LLM的限制
## 使用API調用LLM模型
- 無法聯網
- 無法記憶
- 會有幻覺

## ChatGPT APP
- GPT Plugins
- MyGPTs
- Actions
- 內建Plugins

## Copilot/平台

## Plugin = 拓展LLM能力
- plugin 程式或是單純 Prompt

## 讓 AI 幫你做更多事情
- 傳統應用 - 規則
- 條件式應用程式 (if... else...)

- LLM 應用 - 自主調用
- ex: LangChain， Semantic Kernel

- Steps involved when LLMs use external
- 工具檢索和選擇
- 弄清楚如何使用工具
- 實際調用/使用工具
- 取得工具調用的輸出並結合到上下文中

## AI Agent - 理解目標（使用者意圖）/完成任務（行動反應）
> 根據可用工具完成任務

- 擅長處理非結構化問題
- 客服:問題千奇百怪
- 文案:創作
- 旅遊規劃:行程 / 交通 / 住宿
### What to do?
- 計畫
- AI Agent 理解
- Plugins 使用

Agnet Kernel
- 模型
- LLM
- 工具
- external, ex: web search api rag
- Memory 記憶
- RAG
### Plugins 決定 AI Agent 的能力

> OpenAI 可以使用 Assistants API

### AI Agnet Framework - Semantic Kernel
Microsoft open source SDK

Micro-Service -> Micro-AI-Service