# 生成式AI銀行知識庫管理系統的RAG架構風險以及實作分析 - 劉岦崱(Nils)

{%hackmd @HWDC/BJOE4qInR %}

>#### 》[議程介紹](https://hwdc.ithome.com.tw/2024/session-page/3223)
>#### 》[填寫議程滿意度問卷｜回饋建言給辛苦的講者](https://forms.gle/DvTHGgMmUX6Ksr8J7)

國泰智多星
- 首款正式環境PoC的GenAI服務
- AI 業務場景分析與導入
- Prompt-Flow 風險斷點管控
- 功能模組持續導入

化繁為簡的專注力
- 快速整理行內資訊
- 旁徵博引想辦法
- 提及資料來源
- 理解話中話
- 自動重新排版整理
- 中文資料源、外語回覆
- 遵照指令輸出結構

與時俱進的技術力
- 檢索增強生成 - 基本元件
- 檢索增強生成 - 國泰智多星服務
- 轉譯層
- 資安層
- 路由層
- 索引層
- 建構層
- 檢索層
- 生成與回饋學習
- 透過架構解決幻覺、注意力潰散、惰性等難控性質
- 檢索增強生成 - 國泰智多星平台
- 整合前後端、LLM、及智多星架構
- 檢索增強生成 - 轉譯層、資安層
- 偽文件嵌入
- 查詢解構
- 資安護欄
- 檢索增強生成 - 路由層
- 集成路由
- 常見問題
- 邏輯語義
- 檢索增強生成 - 索引層
- 文字轉cypher
- 自查詢檢索
- 文字轉SQL
- 檢索增強生成 - 建構層
- 圖像式
- 向量式
- 關聯式
- 檢索增強生成 - 檢索層
- 文本整理
- 多重代理人
- Re-rank
- RankGPT
- RAG-Fusion
- CRAG
-檢索增強生成 - 生成與回饋學習
- GenAI 評估
- 真實答案
- 同仁提問
- AI 回答
- 取樣文本
- 使用者回饋
- RAGAS 評估工具

xxxx的oo力

智能賦能的創新力
- Phase 1 減法
- Phase 2
- 代理審核
- 自省修正
- 代理審計
- 多重索引
- 階層索引
- 區塊優化
- 特化嵌入
- 思考鍊
- 任務拆解
- 文本森林 GANESHA
- 自動標註資料
- 資料結構、來源標注、文本關聯、向量搜尋
- 知識湖 PANTHEON
- 儲存多種形式資料
- 使用只可以獲得更全面的資訊
- 多模態 (表格、文字、圖片、流程圖)
- 工具花園 SIVA
- 使用各業務領域專有工具
- e.g. 複利計算機、信用評分公式 ...
- 記憶宮殿 HERMES
- 記住使用者的偏好與領域
- 外顯、語義、短期、長期、情節、內隱
- 五大模組持續導入

總結