Zum Inhalt springen
Diese Seite wurde von einer KI übersetzt und kann Fehler enthalten. Englisches Original lesen

Service-Konfiguration: Generische KI

Diese Seite ist als Referenz für Benutzer mit mittleren und fortgeschrittenen Kenntnissen sowie für Entwickler gedacht. Sie kann hilfreich sein, wenn Sie andere Drittanbieterdienste manuell konfigurieren.

Generische KI wird verwendet für:

  • Text extrahieren
  • Bildzusammenfassung extrahieren
  • Übersetzen

Textblöcke erkennen gehört nicht zur Generischen KI. Dafür ist ein spezieller Dienst zur Textblockerkennung erforderlich.

So wählen Sie ein geeignetes Modell für Generische KI

Abschnitt betitelt „So wählen Sie ein geeignetes Modell für Generische KI“
  • Text extrahieren und Bildzusammenfassung extrahieren erfordern Bildverständnis.
  • Achten Sie bei der Übersetzung vorrangig auf ein Modell mit stabiler Sprachqualität und ausreichender Kontextlänge.
  • Behalten Sie die Token-Kosten des Modells im Blick. Sie können zunächst einen kleinen Stapel zum Testen ausführen.
  • Um Kosten zu sparen, verwenden Sie ein lokales Modell.

Text extrahieren und Bildzusammenfassung extrahieren

Abschnitt betitelt „Text extrahieren und Bildzusammenfassung extrahieren“

Beide Aufgaben erfordern ein Modell mit Bildverständnis. In der Produktterminologie werden diese meist als multimodale Modelle oder Vision-Language-Modelle (VLMs) bezeichnet.

Gängige Modelle mit Bildverständnis leisten in der Regel gute Arbeit, besonders bei unregelmäßigem Text, Text außerhalb von Sprechblasen und Soundeffekt-Lettering (SFX). Sie können außerdem japanische Furigana bis zu einem gewissen Grad herausfiltern.

Selbst wenn ein Modell für Textblöcke erkennen bereits Text zurückgegeben hat, kann es daher hilfreich sein, ihn noch einmal mit einem Vision-Language-Modell zu verarbeiten, auch wenn die Verbesserung begrenzt sein kann.

Reasoning hilft bei der Textextraktion nicht. Es ist in der Regel besser, Reasoning zu deaktivieren, um Token und Zeit zu sparen.

Eine genaue Bildzusammenfassung kann Szene und Stimmung beschreiben und so die Übersetzungsqualität verbessern. Ein schwächeres Modell kann jedoch Details halluzinieren und die Übersetzung in die Irre führen. Wählen Sie sorgfältig ein leistungsfähiges Modell.

Erfahrungswerte zu Modellen:

  • Modelle ab gpt-6-sol (high) liefern sehr gute Ergebnisse.
  • OpenRouter: google/gemma-4-31b-it – mittelmäßig. Die Schnellstartanleitung verwendet es, weil es kostengünstig ist und gut für Text extrahieren funktioniert, nicht weil es die beste Wahl für Bildzusammenfassungen ist.
  • mimo-v2.6-flash – mittelmäßig.
  • glm-5.3-flash und deepseek-v4.1-flash – neigen zu starken Halluzinationen; für diese Aufgabe nicht empfohlen.

Reasoning hat bei dieser Aufgabe einen erheblichen Einfluss. Verwenden Sie nach Möglichkeit eine höhere Reasoning-Stufe. Die Fähigkeit allgemeiner KI-Modelle, Manga zu interpretieren, wird sich mit der Zeit möglicherweise verbessern.

Achten Sie bei der Übersetzung vorrangig auf stabile Sprachqualität und ausreichende Kontextlänge. Erfahrungswerte zu Modellen:

  • Offizielle DeepSeek-API: deepseek-v4-flash, Reasoning-Aufwand Hoch. Schnell und mit guten Ergebnissen.
  • Zhipu: glm-5.3-flash, Reasoning-Aufwand Maximal. Vergleichsweise hohe Genauigkeit.
  • Xiaomi Mimo: mimo-v2.6-flash, Reasoning-Aufwand Maximal. Etwas schwächer als die beiden oben genannten, aber dennoch brauchbar.

Der Endpunkt, der die Anfragen empfängt. Vorgaben stellen ihn normalerweise bereit. Ändern Sie ihn, wenn Sie Ollama oder einen anderen kompatiblen lokalen Dienst verwenden.

Der vom Anbieter ausgegebene Schlüssel. Bei lokalen Diensten kann das Feld leer bleiben. Der Schlüssel wird im sicheren Speicher des Geräts abgelegt und entfernt, wenn die zugehörige Service-Konfiguration gelöscht wird.

Der genaue Modellname, der an den Anbieter gesendet wird. Er muss einem vom Anbieter unterstützten Modell entsprechen. Ein eigener Anzeigename ändert die in der Anfrage gesendete Kennung nicht.

Die Fähigkeiten bestimmen, welche Automatisierungsaktionen ein Modell verwenden können.

Markieren Sie ein Modell ohne Bildeingabe nicht als fähig zu Text extrahieren oder Bildzusammenfassung extrahieren. Eine falsche Angabe der Fähigkeiten kann eine Aktion aktivieren, deren Anfrage letztlich fehlschlägt.

Die Anzahl gleichzeitig laufender Anfragen. Höhere Werte sind meist schneller, lösen aber eher Ratenbegrenzungen aus und belegen mehr Arbeitsspeicher. 0 bedeutet unbegrenzt. Wenn Sie unsicher sind, behalten Sie den voreingestellten Wert bei.

Die maximale Anzahl von Anfragen, die innerhalb eines Zeitfensters gestartet werden. Das unterscheidet sich von der Parallelität: Die Parallelität begrenzt gleichzeitig laufende Arbeit, die Ratenbegrenzung dagegen, wie viele Anfragen innerhalb eines Zeitraums starten. 0 deaktiviert die Begrenzung.

Die minimale Verzögerung zwischen dem Start aufeinanderfolgender Anfragen, in Sekunden. Erhöhen Sie den Wert, wenn ein Anbieter Anfragen drosselt.

Die Anzahl der Wiederholungen nach einer fehlgeschlagenen Anfrage. 0 deaktiviert automatische Wiederholungen. Wiederholungen können Kosten beim Anbieter verursachen; ist der Fehler ein ungültiger API-Schlüssel oder ein unbekanntes Modell, hilft eine höhere Anzahl an Wiederholungen in der Regel nicht.

Temperature, Token-Limits, Top P und ähnliche Parameter wirken sich direkt auf die an das Modell gesendete Anfrage aus. Lassen Sie sie leer, um die Standardwerte des Anbieters oder Modells zu verwenden. Füllen Sie sie nur aus, wenn Sie wissen, dass der Anbieter den Parameter unterstützt.

Die Anfrageüberschreibung (requestOverride) gleicht Unterschiede zwischen einem Anbieter und dem standardmäßigen OpenAI-kompatiblen Anfrageformat aus. Sie kann Anfrage-Header, URL-Query-Parameter und den Anfragetext ändern, ohne die allgemeine Anfragelogik der App zu verändern.

Eine Anfrageüberschreibung muss ein JSON-Objekt sein:

{
"headers": {},
"query": {},
"body": {}
}

Behalten Sie alle drei Felder bei. Verwenden Sie ein leeres Objekt {} für einen Abschnitt, der keine Überschreibung benötigt.

headers und query unterstützen den Platzhalter {{API_KEY}}. Vor dem Senden der Anfrage wird er durch den API-Schlüssel aus der aktuellen Konfiguration ersetzt. Tragen Sie keinen echten API-Schlüssel direkt in eine Anfrageüberschreibung ein und committen Sie ihn nicht in eine Dokumentation oder ein Repository.

headers ist ein flaches JSON-Objekt. Die Schlüssel sind Header-Namen, die Werte müssen Strings oder null sein:

  • Ein String fügt einen Header hinzu oder ersetzt ihn.
  • null entfernt das entsprechende Feld aus den Standard-Headern der App.

Beispiel zum Hinzufügen eines Headers, den ein Anbieter verlangt:

{
"headers": {
"X-Provider-Version": "2026-01"
},
"query": {},
"body": {}
}

query ist ebenfalls ein flaches Objekt. Es ändert die Query-Parameter, die an die API-URL angehängt werden:

  • Ein String fügt einen Query-Parameter hinzu oder ersetzt ihn.
  • null entfernt einen Query-Parameter.

Beispiel: Manche Anbieter verlangen den API-Schlüssel im Query-Parameter key:

{
"headers": {},
"query": {
"key": "{{API_KEY}}"
},
"body": {}
}

Eine Anfrageüberschreibung kann Query-Parameter ändern, aber nicht die HTTP-Methode oder den API-Pfad.

body ist ein partieller Patch für den Anfragetext, kein vollständiger Anfragetext. Die App erzeugt zunächst die gemeinsamen Anfrageparameter und führt diesen Inhalt dann mit ihnen zusammen:

  • Gewöhnliche Felder fügen gleichnamige Felder hinzu oder ersetzen sie.
  • Verschachtelte Objekte werden rekursiv zusammengeführt; das Überschreiben eines Unterfelds entfernt dessen Geschwisterfelder nicht.
  • Ein Feld mit dem Wert null wird aus dem endgültigen Anfragetext entfernt.
  • Zahlen, Strings, Boolesche Werte und Arrays ersetzen einen gleichnamigen Wert direkt.

Beispiel zum Hinzufügen anbieterspezifischer Parameter:

{
"headers": {},
"query": {},
"body": {
"response_format": {
"type": "json_object"
},
"vendor_option": "value"
}
}

Verwenden Sie null, um ein Feld zu entfernen, das die App sonst senden würde:

{
"headers": {},
"query": {},
"body": {
"reasoning": null,
"reasoning_effort": null
}
}

Die Body-Überschreibung wird nach den Modell- und Reasoning-Parametern angewendet. Werte in body haben daher Vorrang vor gemeinsamen Parametern und Reasoning-Zuordnungen. Eine fehlerhafte Überschreibung kann die Anfrage mit dem Anbieter inkompatibel machen.

Eine Anfrageüberschreibung kann von zwei Ebenen stammen:

  • Überschreibung auf Anbieterebene: die Standardüberschreibung des Anbieters, in der Regel aus dem Anbieterkatalog.
  • Überschreibung auf Modellebene: eine Überschreibung, die nur für ein Modell gilt.

Für Überschreibungen auf Modellebene gelten folgende Wertzustände:

  • null: übernimmt die Überschreibung auf Anbieterebene.
  • Ein Objekt ungleich null: ersetzt das Objekt auf Anbieterebene vollständig; es wird nicht tief mit dem Objekt auf Anbieterebene zusammengeführt.
  • {}: ebenfalls ein Objekt ungleich null; es bedeutet, dass dieses Modell ausdrücklich keine Überschreibung auf Anbieterebene verwendet.

Ändert eine Überschreibung auf Modellebene also nur ein Feld einer Überschreibung auf Anbieterebene, muss sie auch die übrigen Felder der Anbieterebene enthalten, die erhalten bleiben sollen.

Wird eine Konfiguration aus dem Anbieterkatalog erstellt, kann die App eine Anfrageüberschreibung automatisch ausfüllen. Bis Sie diese manuell bearbeiten, folgt die Konfiguration weiterhin den Aktualisierungen der Katalogstandards.

Nachdem Sie eine Anfrageüberschreibung manuell bearbeitet haben, kennzeichnet die App sie als benutzerdefinierten Inhalt und ersetzt Ihre Eingabe beim Öffnen der Einstellungsseite nicht mehr durch Katalogstandards. Wählen Sie Standardwerte wiederherstellen, um wieder die vom Katalog bereitgestellte Überschreibung zu verwenden.

  • Die Inhalte von headers, query und body müssen gültige JSON-Objekte sein.
  • headers und query verwenden flache String- oder null-Werte; schreiben Sie dort keine verschachtelten Objekte.
  • Nur body unterstützt verschachtelte Objekte und tiefes Zusammenführen.
  • Verwenden Sie bevorzugt die Werte, die der Anbieterkatalog automatisch bereitstellt.
  • Wenn Sie unsicher sind, ob ein Anbieter ein Feld unterstützt, lesen Sie zuerst dessen API-Dokumentation.
  • Testen Sie die gespeicherte Konfiguration mit einem Bild, bevor Sie sie auf einen ganzen Band anwenden.