TranscriptHub是中央研究院開源的AI語音轉錄平台，前端採用Go，後端使用Node.js，而我都沒學過也看不懂在幹嘛。所以建置過程遇到問題就交給生成式AI吧！TranscriptHub開源後各大網路媒體就可以看到相關報導，其實從那時就把它建置起來，只是一直忙別的事情就這樣端斷續續的看著github上README.md有些修改，所以您如果看到這篇筆記可能會發現有些我遇到的問題，README.md可能已經修正了，但我還是紀錄一下，畢竟那是我經歷的坑。 專案README.md連結 後端 https://github.com/AS-AIGC/TranscriptHub/blob/main/apps/backend/README.md 前端 https://github.com/AS-AIGC/TranscriptHub/blob/main/apps/frontend/README.md 需要proxy才能連外的網路環境 命令提示字元、Anaconda Prompt，可以參照以下語法替換成自己網路環境的proxy server，並於一開始就進行設定。 set "https_proxy=http://proxy.XXX.com.tw:3128"

Kuwa GenAI OS從v0.2.0(2024/4/15發布)就開始安裝到目前最新版v0.3.2(2024/7/5發布)，不得不讚賞Kuwa GenAI OS團隊，一鍵就可在Windows上部署生成式AI GUI平台，並立即使用。 不過在不同硬體上，面對不同使用者需求，還需要額外調校。因為怕自己未來重新部署時，也忘記要調整什麼，所以就生出這一篇筆記。 如人飲水冷暖自知。看別人做事很容易，沒有實際自己摸索過，永遠不會知道固中道理。 Ｗindows可攜式版本安裝到： acer P3-131 acer P259-MG-30ES Apple MacBook Pro(2020) 文書PC ASUSPRO M840MB

MediaTek-Research的Llama-Breeze2-8B-Instruct從Llama3.2基礎上做預訓練，也就是說它可以理解圖片，當然包含繁體中文。但是它無法直接使用Kuwa GenAI OS(v0.3.4)平台上huggingface的executors進行掛載並執行推論任務。 方法 在不去嘗試調整Kuwa GenAI OS(v0.3.4)平台上的C:\kuwa\GenAI OS\src\executor\huggingface.py前提下，思考是否有別種方式能在Kuwa GenAI OS(v0.3.4)平台上運行。 安裝必要套件 若網路環境需設定proxy才能連到網際網路，需先設定proxy。 set "https_proxy=http://proxy.XXXX.com.tw:3128" set "http_proxy=http://proxy.XXXX.com.tw:3128"

原本使用網路搜尋到使用Google Colab跑轉檔成GGUF，但一開始卡在找不到tokenizer models，然後吐出一段網址llama.cpp#6920。所以我就開始打開HackMD紀錄可以成功的過程。在此過程中分別使用Google Colab和Apple MacBook Pro(2020)交互測試。此筆記主要紀錄於MAC可成功執行的指令。於Google Colab主要差異在llama.cpp目錄前面的指令要改成!python /content/。 Homebrew 若使用MAC會推薦使用Homebrew管理電腦上的第三方套件版本。 安裝方式為終端機上執行以下指令： /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)" 前置作業 安裝huggingface-cli MAC OS利用Homebrew安裝huggingface-cli

整理從Apple MacBook Pro(2020)到丐版Apple MAC Mini M4上，使用docker版Kuwa GenAI OS的安裝經驗及如何結合mlx-whisper榨出Apple silicon的效能。 安裝過程 下載整包原始碼 打開終端機輸入以下指令： git clone https://github.com/kuwaai/genai-os.git cd genai-os/docker 調整設定 模型設定檔