# 智慧助教來襲：使用Code Assist與RAG引爆程式開發與學習體驗 - 陳琮文 & 劉昱志

{%hackmd @HWDC/BJOE4qInR %}

>#### 》[議程介紹](https://hwdc.ithome.com.tw/2024/session-page/3246)
>#### 》[填寫議程滿意度問卷｜回饋建言給辛苦的講者](https://forms.gle/n6TRWqGnbx7ano8E7)

## AI?

- 圖書館長
- 包含一切的知識
- 擁有處理資訊、學習、解決問題的能力

1. 第一次工業革命 蒸氣時代
2. 第二次工業革命 電器時代 electricity
3. 第三次科技革命 資訊時代 information
4. 第四次科技革命 人工智慧 A.I.

## tech innovation & iteration acceleration

達到一億用戶所花的時間：
- ChatGPT < 2 個月
- Tiktok 9 個月
- IG 30 個月

## Popular AI tools

NL
- Speech Recognition
- Language Translation

Recommendation Tool
- Product Recomm - Amazon
- Content Recomm - Youtube Video Recomm

## AI Development Assistant

GenAI x LLM
- Librarian
- Know it All
- Search Engine

Code Quality
Test Automation and Documentation
提升開發效率
理解程式碼

實際開發場景的測試
- 未符合公司環境
- 過度簡化
- 仍有先備知識

## 導入銀行前要先討論什麼？
行內的資安議題
- Log 是否可看到詳細提示詞？
- 如何確認使用者上傳的資料部會用來訓練模型？以及是否會落地？

### 開始 Gemini Code Assist 實驗

#### 實驗項目
- 程式碼生成
- 產生單元測試
- 程式碼註解
- 程式碼解釋
- Java & .NET

#### 個人生產力差距
- 初階開發人員 +26%
- 資深開發人員 +15%
- 新進人員 2.85倍
- SD人員 不明顯

#### 程式開發速度差異
- 有用AI - 快 12.4%
- 有用AI - 減少 0.8 小時

#### 單元測試
- 快 58 %
- 請 ChatGPT 產生測試計畫腳本 -> 修訂測試計畫 -> 產生單元測試程式碼

#### 原廠案例教你怎麼問
- 提示詞應更詳細，不應該只是寫出參考內容
- 直接點出要參考的檔案名稱
- 提示詞中提及的關鍵字，會在下方明確列出，讓AI更可以偵測到
- 部分詞彙可使用英文

開發互動 AI Chatbot

工商：5月 Java 開發

## LLM 的風險與挑戰
風險
- 訓練資料中存在的偏見歧視
- 生成惡意內容仇恨or假新聞
挑戰
- 決策 難解釋

## RAG（檢索＋生成式模型）
- 精準地找到我們想要的內容
- AI 幻覺 - 一本正經胡說八道
- 擴展知識範圍，提升應用靈活性
- 提升回答準確性，豐富回答內容
- 實時更新資料庫，減少訓練成本

## AI Chatbot x Bank 知識管理系統
- 使用知識管理系統現有架構，結合程式設計規範等內部資料

## AI Chatbot 在培訓人員的應用案例
- 重複性問題的回答

未來趨勢與挑戰