Konfiguration

Übersetzungsmodul

Segmentgröße, Parallelität, Temperatur, Wiederholungen und Prompt-Cache.

Segmentgröße

CHUNK_TOKEN_SIZE ist standardmäßig 1000 und erlaubt Werte von 200 bis 10000. Ein niedriger Wert vereinfacht die Wiederaufnahme und reduziert den Kontext; ein hoher Wert kann die Kontinuität verbessern, erhöht aber Kosten, Latenz und Überlaufrisiko.

Parallelität

CONCURRENCY ist standardmäßig 1 und erlaubt 1 bis 32. Erhöhe den Wert schrittweise: Anbieter, lokaler Server, VRAM und Ratenbegrenzung müssen die parallele Last gemeinsam tragen können.

Temperatur

Der Standardwert ist 0.15 innerhalb eines Bereichs von 0 bis 2. Für eine treue, reproduzierbare Übersetzung sollte der Wert meist niedrig bleiben. Eine hohe Temperatur steigert die Variation und kann die terminologische Konsistenz verschlechtern.

Wiederholungen und Zeitlimit

  • MAX_RETRIES=3: Höchstzahl kontrollierter Versuche.
  • REQUEST_TIMEOUT=180.0: Zeitlimit in Sekunden von 10 bis 1800.

Bei einer Trennung oder einem Anbieterausfall kann das Projekt pausiert werden, damit bereits gespeicherte Ergebnisse erhalten bleiben.

Prompt-Cache

Ein Projekt kann ein Prompt-Cache-Flag aktivieren. Die Wirksamkeit hängt von Anbieter und Modell ab; unterstützt die gewählte API den Mechanismus nicht, ist keine Einsparung garantiert.