DigitalInfinity/LocalAI
1
0 Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

bildgenerierung auf GPU

Browse Source
This commit is contained in:
DigitalInfinity committed 2026-10-18 14:24:56 +02:00
1 parent 571652f480
commit 4e7f9425e3
6 files changed
+21 -8
Download Patch File Download Diff File Expand all files Collapse all files

No files matched your search

docs/webchat.md
+1 -1
View File
@@ -25,7 +25,7 @@ Chat im Browser, ohne Client-Installation. Open WebUI läuft im selben Stack und
| Spracheingabe (Mikrofon) | `whisper` | nur über HTTPS oder `localhost`, siehe unten |
| Bilder (Bild-Knopf im Chat) | `z-image` | verdrängt das Chat-Modell; der nächste Chat lädt es neu |
Die Auswahlliste zeigt auch `qwen2.5-coder-1.5b`, `nomic-embed`, `whisper` und `z-image`. Diese Modelle taugen nicht zum Chatten. Ausblenden kann man sie unter *Admin-Bereich → Einstellungen → Modelle*.
Die Auswahlliste zeigt nur die Chat-Modelle. `qwen2.5-coder-1.5b`, `nomic-embed`, `whisper` und `z-image` sind in `llama-swap/config.yaml` als `unlisted: true` markiert, weil sie im Chat-Feld nur einen Fehler liefern würden. Bilder erzeugt man über den Bild-Knopf im Chat, nicht über die Modellauswahl.
Die Chat-Modelle laufen mit `-np 1`, also mit einer Sitzung gleichzeitig. Wenn opencode gerade arbeitet, wartet der Web-Chat (und umgekehrt). Titel-Generierung nutzt dasselbe Modell und hängt sich hinten an. Autocomplete- und Folgefragen-Vorschläge sind deshalb abgeschaltet.