---
title: 王鵬傑
tags: AI
---
{%hackmd Cp-6sY4yRqqGLZgF0zM__Q %}

[TOC]

# 王鵬傑
:::info
透過現有產品案例分析，了解 Embedding 的技術與特性，再利用 Embedding 以及不同資料源打造多種產品，包含客服機器人、AI 英文口說家教、即時停車場搜尋、院線電影推薦、Google Map 2.0 等，透過實作打開聽眾對於 ChatGPT 應用的視野與想像。
+ [投影片 Slide](https://docs.google.com/presentation/d/1sGYTVvGLvjdCnx8ANamkxPHKGbZJxeJUNgbqgdbVbQo/edit?usp=sharing)
:::

[explanthis](https://www.explainthis.io/zh-hant)：提供了許多相關的工具
+ [CHATGPT指令大全](https://www.explainthis.io/zh-hant/chatgpt)
+ [AI工具百寶箱
](https://www.explainthis.io/zh-hant/ai-toolkit)

## ChatPDF Demo
+ [ChatPDF](https://pdf.chat/)
+ 功能：問pdf文檔內容
+ 解決什麼ChatGPT的問題？
- 正經胡說
- 4096 token 限制
- 8k limited for GPT4

我期待，在違禁品說出，提示詞問

## Embedding
+ 每串文字都會對應到一個向量

意思：
比對文本，相似度比較
座標軸某位置，抓向量，搜尋範圍

流程：
文章區塊或是單句分析
相似度比較
重新組裝
核心功能
[智能機器人程式碼] (https://replit.com/@TheExplainthis/ChatGPT-Customer-Service)

[院線電影推薦系統] (https://replit.com/@TheExplainthis/ChatGPT-Movie-Recommendation)

[Google Map API] (https://replit.com/@TheExplainthis/ChatGPT-Google-Map-20)

## 打造差異化產品
Question: 你我之間都有ChatGPT，之間會有什麼差別？

### 三個重點方向
- 使用者需求
- 反面案例：snapchat MY AI
- 推薦思考框架工具：Design Thinking（設計思考）
- empathize, define, ideate, prototype and test
- 從同理、需求出發
- 粗糙原型
- 領域知識
- 數據的重要，但也要注意資安疑慮
- 常見資料來源：
- 企業內部資料
- Onboard文件
- 銷售數據
- 公開資料-例如政府掌握的資料
- 藝文、交通數據、開放政府、國民法官
- ubike 資料、停車場資料等
- 資料爬蟲-未滿需求，多數據結合。
- 定期更新
- 注意成本（建pipeline）＆法規
- API串接-成本在消費者身上
- 例：Google Map API
- 成本會比較高
- 推薦：[Rapid API](https://rapidapi.com/)
- Tips: 名詞與形容詞分類，重新組裝提問詞
- 範例程式碼：google map 2.0

- 品質與效能
- eg: whatsapp
- 分享、共享位置，降低延遲
- 回覆位置、效能
- 回應準確度
- embedding algorithm
- 相似度比較算法
- consine
- KNN、SVM
- 語系、情境
- 回應速度
- Vector Store資料庫選擇
- 文本很長，很難全部load進去比較
- Vector Store DB 比較
- Pinecone
- 快取機制
- 範例：GPTCache
- 過去都要完全相同的問題
- GPTCache 會CCCC
- Batch Prompting
- [paper link](https://arxiv.org/abs/2301.08721)
- Streaming機制
- 呼叫API的時候可以設定`stream=true`
- 穩定輸出格式
- Guardrails.ai
- 使用框架
- Lang Chain
- 資安問題
- MiniGPT4:自己復刻一個GPT4
- 模型部署與擴展
- Seldon core
- 模型管理、資料管理
- MLflow
- 一條龍服務
- Azure OpenAI

## wrap up
+ 藉由ChatPDF來了解Embedding 概念
+ 產品開發的三個面向
+ 使用者需求顯得更重要，可嘗試D、T、Ｐ
+ 不同資料源
+ 實際開發要注意的事情
+ 好的準確度
+ 快的速度
+ 可擴展性和維護性

## 社群
+ Twitter：https://twitter.com/ExplainThisAll
+ Discord 交流群：https://discord.gg/Va4ZFM85hh

## Q&A

提示詞重新組裝，破碎，資訊完整。
enbedding

驗證市場需求
商業的合作性，發現痛點