Cấu hình dịch vụ: AI đa năng
Trang này là tài liệu tham khảo dành cho người dùng trung cấp, nâng cao và nhà phát triển. Trang có thể hữu ích khi bạn tự cấu hình các dịch vụ bên thứ ba khác.
AI đa năng cung cấp những khả năng nào?
Phần tiêu đề “AI đa năng cung cấp những khả năng nào?”AI đa năng được dùng cho:
- Trích xuất văn bản
- Trích xuất tóm tắt ảnh
- Dịch
Phát hiện khối văn bản không thuộc AI đa năng. Khả năng này cần một dịch vụ phát hiện khối văn bản chuyên dụng.
Cách chọn mô hình AI đa năng phù hợp
Phần tiêu đề “Cách chọn mô hình AI đa năng phù hợp”- Trích xuất văn bản và Trích xuất tóm tắt ảnh cần khả năng thị giác.
- Để dịch, hãy ưu tiên mô hình có chất lượng ngôn ngữ ổn định và độ dài ngữ cảnh đủ lớn.
- Hãy để ý chi phí token của mô hình. Bạn có thể chạy thử một lô nhỏ trước.
- Để giảm chi phí, hãy dùng mô hình cục bộ.
Trích xuất văn bản và Trích xuất tóm tắt ảnh
Phần tiêu đề “Trích xuất văn bản và Trích xuất tóm tắt ảnh”Cả hai tác vụ đều cần mô hình có khả năng thị giác. Trong thuật ngữ sản phẩm, các mô hình này thường được gọi là mô hình đa phương thức hoặc mô hình thị giác–ngôn ngữ (VLM).
Trích xuất văn bản
Phần tiêu đề “Trích xuất văn bản”Các mô hình có khả năng thị giác phổ biến nhìn chung hoạt động tốt, đặc biệt với văn bản không theo quy tắc, văn bản nằm ngoài bong bóng thoại và chữ hiệu ứng âm thanh (SFX). Chúng cũng có thể lọc bỏ furigana tiếng Nhật ở một mức độ nhất định.
Vì vậy, ngay cả khi mô hình Phát hiện khối văn bản đã trả về văn bản, việc chạy lại bằng một mô hình thị giác–ngôn ngữ vẫn có thể có ích, dù mức cải thiện có thể hạn chế.
Suy luận không giúp ích cho việc trích xuất văn bản. Nhìn chung, nên tắt suy luận để tiết kiệm token và thời gian.
Trích xuất tóm tắt ảnh
Phần tiêu đề “Trích xuất tóm tắt ảnh”Một bản tóm tắt ảnh chính xác có thể mô tả bối cảnh và không khí của cảnh, giúp cải thiện chất lượng bản dịch. Tuy nhiên, mô hình yếu hơn có thể bịa ra chi tiết (ảo giác) và làm bản dịch sai lệch. Hãy chọn kỹ một mô hình đủ mạnh.
Tham khảo mô hình:
- Các mô hình từ
gpt-6-sol (high)trở lên cho kết quả rất tốt. - OpenRouter:
google/gemma-4-31b-it— trung bình. Hướng dẫn bắt đầu nhanh dùng mô hình này vì chi phí thấp và hoạt động tốt cho Trích xuất văn bản, chứ không phải vì đây là lựa chọn tốt nhất để tóm tắt ảnh. mimo-v2.6-flash— trung bình.glm-5.3-flashvàdeepseek-v4.1-flash— dễ bị ảo giác nghiêm trọng; không khuyến nghị cho tác vụ này.
Suy luận có ảnh hưởng đáng kể đến tác vụ này. Hãy dùng mức suy luận cao hơn khi có thể. Khả năng hiểu manga của các mô hình AI nói chung có thể sẽ cải thiện theo thời gian.
Để dịch, hãy ưu tiên chất lượng ngôn ngữ ổn định và độ dài ngữ cảnh đủ lớn. Tham khảo mô hình:
- DeepSeek chính thức:
deepseek-v4-flash, mức suy luận Cao. Nhanh và cho kết quả tốt. - Zhipu:
glm-5.3-flash, mức suy luận Tối đa. Độ chính xác tương đối cao. - Xiaomi Mimo:
mimo-v2.6-flash, mức suy luận Tối đa. Kém hơn một chút so với hai mô hình trên, nhưng vẫn dùng được.
Các trường cấu hình AI đa năng
Phần tiêu đề “Các trường cấu hình AI đa năng”API URL
Phần tiêu đề “API URL”Endpoint nhận yêu cầu. Bộ thiết lập sẵn thường đã cung cấp giá trị này. Hãy thay đổi khi dùng Ollama hoặc một dịch vụ cục bộ tương thích khác.
API Key
Phần tiêu đề “API Key”Key do nhà cung cấp cấp. Dịch vụ cục bộ có thể để trống trường này. Key được lưu trong kho lưu trữ bảo mật của thiết bị và bị xóa khi cấu hình dịch vụ của nó bị xóa.
Mã định danh mô hình
Phần tiêu đề “Mã định danh mô hình”Tên mô hình chính xác được gửi đến nhà cung cấp. Tên này phải khớp với một mô hình mà nhà cung cấp đó hỗ trợ. Tên hiển thị tùy chỉnh không làm thay đổi mã định danh được gửi trong yêu cầu.
Khả năng của mô hình
Phần tiêu đề “Khả năng của mô hình”Khả năng quyết định những thao tác tự động hóa nào có thể dùng một mô hình.
Đừng đánh dấu một mô hình không nhận đầu vào ảnh là có khả năng Trích xuất văn bản hoặc Trích xuất tóm tắt ảnh. Khai báo khả năng sai có thể kích hoạt một thao tác mà yêu cầu của nó cuối cùng sẽ thất bại.
Số yêu cầu đồng thời
Phần tiêu đề “Số yêu cầu đồng thời”Số yêu cầu chạy cùng một lúc. Giá trị cao hơn thường nhanh hơn, nhưng dễ chạm giới hạn tốc độ hơn và tốn nhiều bộ nhớ hơn. 0 nghĩa là không giới hạn. Nếu không chắc chắn, hãy giữ giá trị thiết lập sẵn.
Giới hạn tốc độ
Phần tiêu đề “Giới hạn tốc độ”Số yêu cầu tối đa được bắt đầu trong một khoảng thời gian. Điều này khác với số yêu cầu đồng thời: số yêu cầu đồng thời giới hạn lượng công việc chạy cùng lúc, còn giới hạn tốc độ giới hạn số yêu cầu được bắt đầu trong một khoảng thời gian. 0 sẽ tắt giới hạn.
Khoảng cách giữa các yêu cầu
Phần tiêu đề “Khoảng cách giữa các yêu cầu”Độ trễ tối thiểu giữa hai lần bắt đầu yêu cầu liên tiếp, tính bằng giây. Hãy tăng giá trị này khi nhà cung cấp điều tiết yêu cầu.
Tự động thử lại
Phần tiêu đề “Tự động thử lại”Số lần thử lại sau khi một yêu cầu thất bại. 0 sẽ tắt tự động thử lại. Việc thử lại có thể phát sinh phí từ nhà cung cấp; nếu lỗi là API key không hợp lệ hoặc mô hình không xác định, tăng số lần thử lại thường không giúp ích gì.
Tham số nâng cao
Phần tiêu đề “Tham số nâng cao”Temperature, giới hạn token, Top P và các tham số tương tự ảnh hưởng trực tiếp đến yêu cầu gửi đến mô hình. Để trống để dùng giá trị mặc định của nhà cung cấp hoặc mô hình. Đừng điền các tham số này trừ khi bạn biết nhà cung cấp hỗ trợ chúng.
Ghi đè yêu cầu
Phần tiêu đề “Ghi đè yêu cầu”Ghi đè yêu cầu (requestOverride) xử lý sự khác biệt giữa một nhà cung cấp và định dạng yêu cầu chuẩn tương thích OpenAI. Nó có thể sửa header của yêu cầu, tham số truy vấn của URL và phần thân yêu cầu mà không thay đổi logic gửi yêu cầu chung của ứng dụng.
Ghi đè yêu cầu phải là một đối tượng JSON:
{ "headers": {}, "query": {}, "body": {}}Giữ đủ cả ba trường. Dùng đối tượng rỗng {} cho phần không cần ghi đè.
headers và query hỗ trợ placeholder {{API_KEY}}. Trước khi gửi yêu cầu, placeholder này sẽ được thay bằng API key của cấu hình hiện tại. Đừng đặt API key thật trực tiếp vào ghi đè yêu cầu, cũng đừng commit nó vào tài liệu hay kho mã nguồn.
headers: ghi đè header yêu cầu
Phần tiêu đề “headers: ghi đè header yêu cầu”headers là một đối tượng JSON phẳng. Khóa là tên header, và giá trị phải là chuỗi hoặc null:
- Một chuỗi sẽ thêm hoặc thay thế một header.
nullsẽ xóa trường tương ứng khỏi các header mặc định của ứng dụng.
Ví dụ, để thêm một header mà nhà cung cấp yêu cầu:
{ "headers": { "X-Provider-Version": "2026-01" }, "query": {}, "body": {}}query: ghi đè tham số truy vấn URL
Phần tiêu đề “query: ghi đè tham số truy vấn URL”query cũng là một đối tượng phẳng. Nó sửa các tham số truy vấn phía sau API URL:
- Một chuỗi sẽ thêm hoặc thay thế một tham số truy vấn.
nullsẽ xóa một tham số truy vấn.
Ví dụ, một số nhà cung cấp yêu cầu API key nằm trong tham số truy vấn key:
{ "headers": {}, "query": { "key": "{{API_KEY}}" }, "body": {}}Ghi đè yêu cầu có thể sửa tham số truy vấn, nhưng không thể sửa phương thức HTTP hay đường dẫn API.
body: ghi đè phần thân yêu cầu
Phần tiêu đề “body: ghi đè phần thân yêu cầu”body là một bản vá một phần cho phần thân yêu cầu, không phải toàn bộ phần thân yêu cầu. Ứng dụng trước tiên tạo các tham số yêu cầu chung, sau đó hợp nhất nội dung này vào:
- Các trường thông thường sẽ thêm hoặc thay thế trường cùng tên.
- Các đối tượng lồng nhau được hợp nhất đệ quy; ghi đè một trường con không xóa các trường cùng cấp với nó.
- Trường có giá trị
nullsẽ bị xóa khỏi phần thân yêu cầu cuối cùng. - Số, chuỗi, boolean và mảng sẽ thay thế trực tiếp giá trị cùng tên.
Ví dụ, để thêm các tham số riêng của nhà cung cấp:
{ "headers": {}, "query": {}, "body": { "response_format": { "type": "json_object" }, "vendor_option": "value" }}Dùng null để xóa một trường mà ứng dụng vốn sẽ gửi:
{ "headers": {}, "query": {}, "body": { "reasoning": null, "reasoning_effort": null }}Ghi đè phần thân được áp dụng sau tham số mô hình và tham số suy luận. Do đó, giá trị trong body được ưu tiên hơn các tham số chung và các ánh xạ suy luận. Ghi đè sai có thể khiến yêu cầu không tương thích với nhà cung cấp.
Ghi đè cấp nhà cung cấp và cấp mô hình
Phần tiêu đề “Ghi đè cấp nhà cung cấp và cấp mô hình”Ghi đè yêu cầu có thể đến từ hai cấp:
- Ghi đè cấp nhà cung cấp: ghi đè mặc định của nhà cung cấp, thường do danh mục nhà cung cấp cung cấp.
- Ghi đè cấp mô hình: ghi đè chỉ áp dụng cho một mô hình.
Ghi đè cấp mô hình tuân theo các trạng thái giá trị sau:
null: kế thừa ghi đè cấp nhà cung cấp.- Một đối tượng khác
null: thay thế toàn bộ đối tượng cấp nhà cung cấp; không được hợp nhất sâu với đối tượng cấp nhà cung cấp. {}: cũng là một đối tượng khácnull, nghĩa là mô hình này chủ động không dùng ghi đè cấp nhà cung cấp.
Vì vậy, nếu ghi đè cấp mô hình chỉ thay đổi một trường so với ghi đè cấp nhà cung cấp, nó cũng phải bao gồm các trường cấp nhà cung cấp khác cần được giữ lại.
Giá trị mặc định của danh mục và chỉnh sửa thủ công
Phần tiêu đề “Giá trị mặc định của danh mục và chỉnh sửa thủ công”Khi một cấu hình được tạo từ danh mục nhà cung cấp, ứng dụng có thể tự động điền ghi đè yêu cầu. Cho đến khi bạn chỉnh sửa thủ công, cấu hình sẽ tiếp tục theo các bản cập nhật giá trị mặc định của danh mục.
Sau khi bạn chỉnh sửa thủ công ghi đè yêu cầu, ứng dụng sẽ đánh dấu đó là nội dung tùy chỉnh và sẽ không còn thay nội dung bạn nhập bằng giá trị mặc định của danh mục khi mở trang cài đặt nữa. Chọn Khôi phục mặc định để dùng lại ghi đè do danh mục cung cấp.
Kiểm tra trước khi lưu
Phần tiêu đề “Kiểm tra trước khi lưu”- Nội dung của
headers,queryvàbodyphải là các đối tượng JSON hợp lệ. headersvàquerydùng giá trị phẳng là chuỗi hoặcnull; đừng viết đối tượng lồng nhau ở đó.- Chỉ
bodyhỗ trợ đối tượng lồng nhau và hợp nhất sâu. - Ưu tiên các giá trị do danh mục nhà cung cấp tự động cung cấp.
- Nếu không chắc nhà cung cấp có hỗ trợ một trường hay không, hãy xem tài liệu API của họ trước.
- Kiểm tra cấu hình đã lưu với một ảnh trước khi chạy trên cả một tập.