Try   HackMD

Windows 如何安裝 Anything LLM

Anything LLM on Windows

使用 WSL + Docker

以下是安裝 AnythingLLM 的步驟:

步驟 1: 檢查 WSL 版本

wsl -v

你的 WSL 版本是 2.4.13.0,核心版本是 5.15.167.4-1,已經準備好了。

步驟 2: 安裝 Ubuntu 22.04 LTS

wsl --install -d Ubuntu-22.04

安裝完成後,會要求你創建一個 UNIX 用戶帳戶,你創建了用戶名 。

步驟 3: 在 WSL 中安裝 Docker

sudo apt update
sudo apt install -y docker.io
sudo systemctl enable docker
sudo systemctl start docker
sudo usermod -aG docker $USER
newgrp docker  # 讓群組設定立即生效

步驟 4: 安裝 Node.js 與 Yarn

curl -fsSL https://deb.nodesource.com/setup_18.x | sudo -E bash -
sudo apt install -y nodejs
sudo npm install -g yarn

步驟 5: 建立本機資料夾並拉取映像檔

export STORAGE_LOCATION=$HOME/anythingllm
mkdir -p $STORAGE_LOCATION
touch "$STORAGE_LOCATION/.env"
docker pull mintplexlabs/anythingllm

步驟 6: 使用 Docker 執行 AnythingLLM

docker run -d -p 3001:3001 \
  --cap-add SYS_ADMIN \
  --add-host=host.docker.internal:host-gateway \
  -v ${STORAGE_LOCATION}:/app/server/storage \
  -v ${STORAGE_LOCATION}/.env:/app/server/.env \
  -e STORAGE_DIR="/app/server/storage" \
  mintplexlabs/anythingllm

執行完成後,系統回傳了容器 ID

步驟 7: 使用 AnythingLLM

打開瀏覽器並訪問:

http://localhost:3001

備註

  1. 如果你之後想要連接本地的 LLM(如 Ollama),可以在 .env 檔案中添加:

    ​​​OLLAMA_BASE_PATH=http://host.docker.internal:11434
    ​​​EMBEDDING_BASE_PATH=http://host.docker.internal:11434
    
  2. 系統已成功下載 AnythingLLM 映像檔,並以守護進程模式運行。