Modelle und Verbindungstest

Vorgehen

1. Anbieter auswählen.
2. Basis-URL prüfen.
3. Falls erforderlich den Schlüssel eingeben.
4. Verbindungstest ausführen.
5. Ein tatsächlich zurückgegebenes Modell auswählen oder seine genaue Kennung eingeben.
6. Einen kurzen Test im Testbereich starten.

Ein erfolgreicher Verbindungstest beweist nicht, dass ein vollständiges Buch verarbeitet werden kann. Er bestätigt vor allem, dass der Endpunkt antwortet und die Authentifizierung akzeptiert.

Automatische Erkennung

Bei kompatiblen APIs fragt TraDoc die Modellliste ab. Manche Anbieter stellen diesen Endpunkt nicht bereit oder filtern Ergebnisse nach Konto; verwende dann die vom Anbieter dokumentierte Kennung.

Lokaler Endpunkt nicht erreichbar

• Prüfe, ob der LLM-Server läuft.
• Erlaube Netzwerkanfragen in LM Studio oder Ollama, wenn TraDoc auf einem anderen Rechner läuft.
• Ersetze in Docker localhost durch die in Compose vorgesehene Hostadresse.
• Veröffentliche den Modell-Port nicht direkt im Internet.

Liste erlaubter Hosts

ALLOWED_LLM_HOSTS kann die vom Backend erreichbaren Ziele einschränken. Ist die Variable gesetzt, muss der Host des Endpunkts in dieser Liste stehen.