GenAI on Rails - nickle

歡迎來到 MOPCON 2024 共筆

Image Not Showing Possible Reasons

The image file may be corrupted
The server hosting the image is unavailable
The image path is incorrect
The image format is not supported

共筆入口：https://hackmd.io/@mopcon/2024
手機版請點選上方按鈕展開議程列表。

從這開始

簡報

講者聯絡資訊

nickle.cheng@gmail.com

重點摘要

大綱

GAI 與開發
GAI 與醫療
GAI 實例

GAI 與開發

加入 GAI 後，開發速度加快 35%-45%
Developer -> Gen AI -> Deploy a Service
Use Cases
- 請 AI 寫一個 MVP
- 生成 Tailwind CSS
- 修正 LINE Bot 的輸出 JSON
開發工具
- Cursor
- VSCode + Claude Dev
因為是醫療體系偏好落地建立 LLM 服務
- 成本限制
- 個資問題

GAI 與醫療

Use Cases
- 由錄音得到的逐字稿，最終生成護理紀錄。
- 國軍總醫院 POC
  Image Not Showing Possible Reasons
  - The image was uploaded to a note which you don't have access to
  - The note which the image was originally uploaded to has been deleted
  Learn More →
  講者有感而發，POC 很重要，老闆先嚐到甜頭才有機會弄到設備。
須留意問題
- 生成錯誤的醫療方法或內容
- 臨床人員的不信任感（生成出來萬一是錯的）

GAI 實例

Tech Stack
- LINE Bot
- Ollama（減少個資往外流出的機會）
- Docker
- Qdrant（Vector DB for RAG）
  Image Not Showing Possible Reasons
  - The image was uploaded to a note which you don't have access to
  - The note which the image was originally uploaded to has been deleted
  Learn More →
- GitLab（For CI/CD）
- Kamal - 輕量型的軟體發佈方式
  - 輕鬆 Deploy/Rollback

疑問

OpenAI 的使用上會顧慮到病人的資料，是否可以透過代稱的方式解決這問題？

講者回答

醫療個人病歷資料的訓練資料牽涉的範圍很廣，一般來說台灣健保資料庫應該有足夠的資料來訓練，但是礙於法規，目前是無法將全民的健保資料庫給任何單位做訓練的，醫院端大部分用自己的內部資料來做fine tune，我想不是技術或去識別的問題，衛福部目前也在努力透過FHIR、醫療三大AI中心、數位健康平台(DHP)，以及修訂法規讓民眾可以有參與或退出研究等等的方式來試圖找到出路，拭目以待囉！