43 lines
1.4 KiB
Plaintext
43 lines
1.4 KiB
Plaintext
# Kopieren nach .env und anpassen: cp .env.example .env
|
||
# API-Key erzeugen: openssl rand -hex 32
|
||
|
||
LLM_API_KEY=CHANGE_ME
|
||
|
||
# Netze, die auf die API zugreifen dürfen (Leerzeichen-getrennt)
|
||
# localhost | LAN | NetBird
|
||
ALLOWED_NETS="127.0.0.0/8 ::1 192.168.178.0/24 100.73.0.0/16"
|
||
|
||
# Port, auf dem Caddy lauscht (extern) und llama-swap (nur 127.0.0.1)
|
||
LISTEN_PORT=8800
|
||
BACKEND_PORT=8080
|
||
|
||
# Web-Chat (Open WebUI): Port nach außen (Caddy) und intern (nur 127.0.0.1)
|
||
WEBUI_PORT=8801
|
||
WEBUI_BACKEND_PORT=3000
|
||
# Schlüssel für Login-Sitzungen: openssl rand -hex 32
|
||
WEBUI_SECRET_KEY=CHANGE_ME
|
||
|
||
# Host-Nutzer, dem die Modelldateien in ./models gehören: id -u / id -g
|
||
HOST_UID=1000
|
||
HOST_GID=1000
|
||
|
||
# GIDs der Gruppen render/video auf dem Host: getent group render video
|
||
RENDER_GID=987
|
||
VIDEO_GID=983
|
||
|
||
# GPU-Auswahl (0 = erste ROCm-GPU; iGPU ausblenden)
|
||
HIP_VISIBLE_DEVICES=0
|
||
# GPU für Vulkan (whisper-/sd-server) als PCI-ID vendor:device – stabil, anders als
|
||
# die Geräte-Nummer, die zwischen Reboots wechselt: lspci -nn | grep -i vga
|
||
VK_DEVICE=1002:73a5
|
||
|
||
# Optional: Hugging-Face-Token für gated Modelle / höhere Download-Limits
|
||
HF_TOKEN=
|
||
|
||
# Image-Versionen (gepinnt)
|
||
LLAMA_SWAP_TAG=v265-rocm-b11610
|
||
# Quelle für whisper-server/sd-server (gleiche llama-swap-Version wie oben wählen)
|
||
UNIFIED_TAG=unified-vulkan-265
|
||
CADDY_TAG=2.10.2-alpine
|
||
OPEN_WEBUI_TAG=v0.11.4
|