--- disqus: ahb0222 GA : G-VF9ZT413CG --- > [color=#40f1ef][name=LHB阿好伯, 2021/07/16][:earth_africa:](https://www.facebook.com/LHB0222/) [TOC] # Ollama與Open WebUI Open WebUI 是一種可擴展、功能豐富且使用者友好的自託管 WebUI 完全離線運行支援各種 LLM ，包括 Ollama 和 OpenAI 相容的 API ![image](https://hackmd.io/_uploads/H1Gh0v2F0.png) [:earth_asia: open-webui](https://github.com/open-webui/open-webui) Open WebUI 主要特點 ⭐ 🚀 輕鬆設置: 使用Docker或Kubernetes輕鬆安裝,支持標準和CUDA映像。 🤝 Ollama/OpenAI API集成: 無縫集成OpenAI兼容API,可與Ollama模型一起使用。支持自定義OpenAI API URL,可連接LMStudio、GroqCloud等多種服務。 🧩 管道和插件支持: 通過管道插件框架集成自定義邏輯和Python庫。支持函數調用、用戶限流、使用監控等多種功能。 📱 響應式設計: 在桌面電腦、筆記本和移動設備上提供流暢體驗。支持移動端PWA應用。 ✒️🔢 完整Markdown和LaTeX支持: 豐富的Markdown和LaTeX功能,增強LLM交互體驗。 🎤📹 免提語音/視頻通話: 集成語音和視頻通話功能,實現更動態的聊天環境。 🛠️ 模型構建器: 通過Web UI輕鬆創建Ollama模型,支持自定義角色/代理。 🐍 原生Python函數調用工具: 內置代碼編輯器支持,可添加自定義Python函數。 📚 本地RAG集成: 支持檢索增強生成(RAG),可直接在聊天中加載和使用文檔。 🔍 Web搜索RAG: 使用多種搜索提供商進行網絡搜索,並將結果注入聊天。 🌐 網頁瀏覽功能: 可將網站內容直接集成到聊天中。 🎨 圖像生成集成: 集成本地和外部圖像生成功能。 ⚙️ 多模型對話: 同時與多個模型交互,發揮各自優勢。 🔐 基於角色的訪問控制: 確保安全訪問,管理員擁有特權。 🌐🌍 多語言支持: 支持國際化,可使用首選語言。 🌟 持續更新: 承諾定期更新、修復和添加新功能。 Open WebUI是一個功能豐富的開源聊天界面 集成了多種先進的AI和自然語言處理技術 支持多種模型、RAG、圖像生成等功能 並具有良好的可定制性和擴展性 無論是個人使用還是團隊協作 Open WebUI都能提供強大而靈活的AI對話體驗 # 安裝指南 🚀 ## Docker 快速啟動 🐳 :::danger 某些 Docker 環境可能需要額外配置 使用 Docker 安裝時，請確保包含 `-v open-webui:/app/backend/data` 以正確掛載數據庫 如需 CUDA 加速，請使用 :cuda 或 :ollama 標記的官方鏡像，並安裝 Nvidia CUDA 容器 ::: ### 安裝命令: - 集成 Ollama 支持: - GPU 版: ``` docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama ``` - CPU 版: ``` docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama ``` - Ollama 在本機: ``` docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main ``` - Ollama 在其他服務器: ``` docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main ``` - 使用 Nvidia GPU: ``` docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda ``` - 僅使用 OpenAI API: ``` docker run -d -p 3000:8080 -e OPENAI_API_KEY=your_secret_key -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main ``` 安裝完成後，訪問 http://localhost:3000 即可使用 Open WebUI。 ![下載模型0](https://hackmd.io/_uploads/H1aKx_2tR.jpg) ![下載模型](https://hackmd.io/_uploads/rJM9gdnYR.jpg) ![模型選擇](https://hackmd.io/_uploads/Hkc9xd3FC.jpg) ![測試](https://hackmd.io/_uploads/S1Leb_hKC.jpg) # 模型庫 https://ollama.com/library ![image](https://hackmd.io/_uploads/By3RxOntC.png) 🌟全文可以至下方連結觀看或是補充 全文分享至 https://www.facebook.com/LHB0222/ https://www.instagram.com/ahb0222/ 有疑問想討論的都歡迎於下方留言 喜歡的幫我分享給所有的朋友 \o/ 有所錯誤歡迎指教 # [:page_with_curl: 全部文章列表](https://hackmd.io/@LHB-0222/AllWritings) ![](https://i.imgur.com/nHEcVmm.jpg)