Перейти к содержимому
Эта страница переведена ИИ и может содержать ошибки. Читать оригинал на английском

Настройка сервисов: универсальный ИИ

Эта страница задумана как справочник для пользователей среднего и продвинутого уровня, а также разработчиков. Она может пригодиться при ручной настройке других сторонних сервисов.

Какие возможности предоставляет универсальный ИИ?

Заголовок раздела «Какие возможности предоставляет универсальный ИИ?»

Универсальный ИИ используется для:

  • извлечения текста;
  • извлечения описания изображения;
  • перевода.

Обнаружение текстовых блоков не входит в универсальный ИИ. Для него нужен специальный сервис обнаружения текстовых блоков.

Как выбрать подходящую модель универсального ИИ

Заголовок раздела «Как выбрать подходящую модель универсального ИИ»
  • Для извлечения текста и извлечения описания изображения нужны визуальные возможности.
  • Для перевода отдавайте предпочтение модели со стабильным качеством языка и достаточной длиной контекста.
  • Следите за стоимостью токенов модели. Для проверки можно сначала запустить небольшой пакет.
  • Чтобы снизить расходы, используйте локальную модель.

Извлечение текста и описания изображения

Заголовок раздела «Извлечение текста и описания изображения»

Обе задачи требуют модели с визуальными возможностями. В описаниях продуктов такие модели обычно называют мультимодальными моделями или визуально-языковыми моделями (VLM).

Распространённые модели с поддержкой изображений обычно справляются хорошо, особенно с нестандартным текстом, текстом вне пузырей и звуковыми эффектами (SFX). В некоторой степени они также умеют отфильтровывать японскую фуригану.

Поэтому даже если модель для шага Обнаружить текстовые блоки уже вернула текст, повторный прогон через визуально-языковую модель всё ещё может помочь, хотя улучшение может быть ограниченным.

Рассуждение не помогает при извлечении текста. Обычно лучше отключить рассуждение, чтобы сэкономить токены и время.

Точное описание изображения может передать сцену и её настроение, повышая качество перевода. Однако слабая модель может выдумывать детали и вводить перевод в заблуждение. Тщательно выбирайте достаточно мощную модель.

Ориентиры по моделям:

  • Модели уровня gpt-6-sol (high) и выше справляются очень хорошо.
  • OpenRouter: google/gemma-4-31b-it — посредственно. В руководстве по быстрому старту она используется потому, что недорога и хорошо справляется с извлечением текста, а не потому, что это лучший выбор для описаний изображений.
  • mimo-v2.6-flash — посредственно.
  • glm-5.3-flash и deepseek-v4.1-flash — склонны к серьёзным галлюцинациям; для этой задачи не рекомендуются.

Рассуждение существенно влияет на эту задачу. По возможности используйте более высокий уровень рассуждения. Способность моделей универсального ИИ понимать мангу со временем может улучшиться.

Для перевода отдавайте предпочтение стабильному качеству языка и достаточной длине контекста. Ориентиры по моделям:

  • DeepSeek (официальный API): deepseek-v4-flash, уровень рассуждения Высокий. Работает быстро и даёт хорошие результаты.
  • Zhipu: glm-5.3-flash, уровень рассуждения Максимальный. Отличается сравнительно высокой точностью.
  • Xiaomi Mimo: mimo-v2.6-flash, уровень рассуждения Максимальный. Несколько уступает двум предыдущим, но вполне пригодна.

Конечная точка, принимающая запросы. Обычно её задают предустановки. Измените её, если используете Ollama или другой совместимый локальный сервис.

Ключ, выданный провайдером. Для локальных сервисов поле можно оставить пустым. Ключ хранится в защищённом хранилище устройства и удаляется вместе с конфигурацией сервиса.

Точное имя модели, отправляемое провайдеру. Оно должно совпадать с моделью, которую поддерживает этот провайдер. Пользовательское отображаемое имя не меняет идентификатор, отправляемый в запросе.

Возможности определяют, какие действия автоматизации могут использовать модель.

Не отмечайте у модели без поддержки ввода изображений возможности извлечения текста или извлечения описания изображения. Неверно объявленная возможность может включить действие, запрос которого в итоге завершится ошибкой.

Количество одновременно выполняемых запросов. Более высокие значения обычно ускоряют работу, но чаще приводят к срабатыванию ограничений частоты и требуют больше памяти. 0 означает отсутствие ограничения. Если не уверены, оставьте значение из предустановки.

Максимальное количество запросов, запускаемых за интервал времени. Это не то же самое, что параллельность: параллельность ограничивает одновременную работу, а ограничение частоты — количество запросов, запускаемых за период. 0 отключает ограничение.

Минимальная задержка между запусками последовательных запросов, в секундах. Увеличьте её, если провайдер ограничивает частоту запросов.

Количество повторных попыток после неудачного запроса. 0 отключает автоматические повторы. Повторы могут повлечь расходы у провайдера; если ошибка вызвана недействительным API-ключом или неизвестной моделью, увеличение числа повторов обычно не поможет.

Температура, лимиты токенов, Top P и подобные параметры напрямую влияют на запрос, отправляемый модели. Оставьте их пустыми, чтобы использовать значения по умолчанию провайдера или модели. Не заполняйте их, если не уверены, что провайдер поддерживает параметр.

Переопределение запроса (requestOverride) устраняет различия между провайдером и стандартным форматом запросов, совместимым с OpenAI. Оно может изменять заголовки запроса, параметры строки запроса URL и тело запроса, не меняя общую логику запросов приложения.

Переопределение запроса должно быть объектом JSON:

{
"headers": {},
"query": {},
"body": {}
}

Сохраняйте все три поля. Для раздела, который не нужно переопределять, используйте пустой объект {}.

headers и query поддерживают заполнитель {{API_KEY}}. Перед отправкой запроса он заменяется API-ключом из текущей конфигурации. Не вставляйте настоящий API-ключ непосредственно в переопределение запроса и не коммитьте его в документацию или репозиторий.

headers — плоский объект JSON. Ключи — имена заголовков, а значения должны быть строками или null:

  • Строка добавляет или заменяет заголовок.
  • null удаляет соответствующее поле из заголовков приложения по умолчанию.

Например, чтобы добавить заголовок, который требует провайдер:

{
"headers": {
"X-Provider-Version": "2026-01"
},
"query": {},
"body": {}
}

query: переопределение параметров строки запроса URL

Заголовок раздела «query: переопределение параметров строки запроса URL»

query — тоже плоский объект. Он изменяет параметры строки запроса после URL API:

  • Строка добавляет или заменяет параметр запроса.
  • null удаляет параметр запроса.

Например, некоторые провайдеры требуют передавать API-ключ в параметре запроса key:

{
"headers": {},
"query": {
"key": "{{API_KEY}}"
},
"body": {}
}

Переопределение запроса может изменять параметры строки запроса, но не может изменить HTTP-метод или путь API.

body — это частичный патч к телу запроса, а не полное тело запроса. Приложение сначала формирует общие параметры запроса, а затем объединяет с ними это содержимое:

  • Обычные поля добавляют или заменяют поля с тем же именем.
  • Вложенные объекты объединяются рекурсивно; переопределение одного дочернего поля не удаляет соседние.
  • Поле со значением null удаляется из итогового тела запроса.
  • Числа, строки, логические значения и массивы напрямую заменяют значение с тем же именем.

Например, чтобы добавить параметры, специфичные для провайдера:

{
"headers": {},
"query": {},
"body": {
"response_format": {
"type": "json_object"
},
"vendor_option": "value"
}
}

Используйте null, чтобы удалить поле, которое приложение иначе отправило бы:

{
"headers": {},
"query": {},
"body": {
"reasoning": null,
"reasoning_effort": null
}
}

Переопределение тела применяется после параметров модели и параметров рассуждения. Поэтому значения в body имеют приоритет над общими параметрами и сопоставлениями параметров рассуждения. Неверное переопределение может сделать запрос несовместимым с провайдером.

Переопределения на уровне провайдера и на уровне модели

Заголовок раздела «Переопределения на уровне провайдера и на уровне модели»

Переопределение запроса может задаваться на двух уровнях:

  • Переопределение на уровне провайдера: переопределение провайдера по умолчанию, обычно поставляемое каталогом провайдеров.
  • Переопределение на уровне модели: переопределение, которое применяется только к одной модели.

Переопределение на уровне модели может принимать следующие значения:

  • null: наследовать переопределение на уровне провайдера.
  • Объект, отличный от null: целиком заменяет объект уровня провайдера; глубокого слияния с объектом уровня провайдера не происходит.
  • {}: тоже объект, отличный от null; означает, что эта модель явно не использует переопределение уровня провайдера.

Поэтому если переопределение на уровне модели меняет лишь одно поле из переопределения уровня провайдера, в него нужно включить и остальные поля уровня провайдера, которые следует сохранить.

Значения каталога по умолчанию и ручные правки

Заголовок раздела «Значения каталога по умолчанию и ручные правки»

Когда конфигурация создаётся из каталога провайдеров, приложение может автоматически заполнить переопределение запроса. Пока вы не отредактируете его вручную, конфигурация продолжает получать обновления значений по умолчанию из каталога.

После ручного редактирования переопределения запроса приложение помечает его как пользовательское содержимое и больше не заменяет ваш ввод значениями каталога по умолчанию при открытии страницы настроек. Нажмите Восстановить значения по умолчанию, чтобы снова использовать переопределение из каталога.

  • Содержимое headers, query и body должно быть допустимыми объектами JSON.
  • В headers и query используются плоские значения — строки или null; не записывайте туда вложенные объекты.
  • Только body поддерживает вложенные объекты и глубокое слияние.
  • Отдавайте предпочтение значениям, автоматически предоставляемым каталогом провайдеров.
  • Если не уверены, поддерживает ли провайдер поле, сначала проверьте его документацию по API.
  • Проверьте сохранённую конфигурацию на одном изображении, прежде чем запускать её на целом томе.