36 lines
1.1 KiB
Plaintext
36 lines
1.1 KiB
Plaintext
# Kopieren nach .env und anpassen: cp .env.example .env
|
||
# API-Key erzeugen: openssl rand -hex 32
|
||
|
||
LLM_API_KEY=CHANGE_ME
|
||
|
||
# Netze, die auf die API zugreifen dürfen (Leerzeichen-getrennt)
|
||
# localhost | LAN | NetBird
|
||
ALLOWED_NETS="127.0.0.0/8 ::1 192.168.178.0/24 100.73.0.0/16"
|
||
|
||
# Port, auf dem Caddy lauscht (extern) und llama-swap (nur 127.0.0.1)
|
||
LISTEN_PORT=8800
|
||
BACKEND_PORT=8080
|
||
|
||
# Host-Nutzer, dem die Modelldateien in ./models gehören: id -u / id -g
|
||
HOST_UID=1000
|
||
HOST_GID=1000
|
||
|
||
# GIDs der Gruppen render/video auf dem Host: getent group render video
|
||
RENDER_GID=987
|
||
VIDEO_GID=983
|
||
|
||
# GPU-Auswahl (0 = erste ROCm-GPU; iGPU ausblenden)
|
||
HIP_VISIBLE_DEVICES=0
|
||
# GPU-Auswahl für Vulkan (sd-server). Vulkan zählt die iGPU mit – Reihenfolge steht
|
||
# beim Laden eines Bildmodells im Log: docker compose logs llama-swap | grep ggml_vulkan
|
||
VK_VISIBLE_DEVICES=1
|
||
|
||
# Optional: Hugging-Face-Token für gated Modelle / höhere Download-Limits
|
||
HF_TOKEN=
|
||
|
||
# Image-Versionen (gepinnt)
|
||
LLAMA_SWAP_TAG=v265-rocm-b11610
|
||
# Quelle für whisper-server/sd-server (gleiche llama-swap-Version wie oben wählen)
|
||
UNIFIED_TAG=unified-vulkan-265
|
||
CADDY_TAG=2.10.2-alpine
|