---
# System prepended metadata

title: 保護你的AI應用程式 - Model Armor and more...

---

# 保護你的AI應用程式 - Model Armor and more...

> 📌 Slido 📌
> https://app.sli.do/event/wKXpM43iFDmyHXFg3s4QX3

> 共筆請從這裡開始


長官對於 AI 的想像：AI 是全能的，應該要能幫我做到我的需求
![image](https://hackmd.io/_uploads/BkcN6mYbbg.jpg)



https://github.com/google/adk-samples/tree/main/python/agents/bidi-demo

SECURE_INSTRUCTION
xml tags
ex:
<role></role>
<step>

  <action></action>
</step>


最可能遭受攻擊的注入點：
1. 惡意的使用者輸入
2. 錯誤的文件/知識
3. 惡意的 MCP 工具


## OWASP Top 10 for LLM Application

https://genai.owasp.org/llm-top-10/

### LLM01 Prompt Injection

### LLM06 Excessive Agency

## Model Armor
防火牆 -> AI 閘道
https://cloud.google.com/security/products/model-armor



~~捏造 A2A 套件的是 Gemini 3 嗎？~~
開發階段的 AI 幻覺仍需要工程師查核，或是透過公司內部的 Package Registry 做管控