Khi phát triển hệ thống tự động hóa quy trình nghiệp vụ (Workflow Automation) sử dụng LLM với định dạng đầu ra JSON (Structured Output), làm thế nào để giải quyết bài toán lỗi cú pháp JSON và sai lệch schema từ phía mô hình?

Question

Accepted Answer

Trong các hệ thống Enterprise Workflow, việc LLM trả về JSON không hợp lệ hoặc thiếu trường dữ liệu sẽ làm hỏng toàn bộ pipeline xử lý tiếp theo. Ở cấp độ Middle, bạn cần kết hợp giữa thiết kế Prompt chuẩn mực và các giải pháp kỹ thuật ở tầng Middleware. Các phương pháp giải quyết tối ưu: 1. Sử dụng tính năng native của Provider (JSON Mode / Function Calling / Structured Outputs) Hầu hết các nhà cung cấp LLM hiện đại (OpenAI, Anthropic, Gemini) đều cung cấp các tham số cấu hình trực tiếp như response_format: { type: 'json_object' } hoặc JSON Schema validation. Đây là lớp bảo vệ đầu tiên ép mô hình tuân thủ cấu trúc từ phía API. 2. Thiết kế Prompt với Few-Shot Examples và Schema rõ ràng Đưa ra định nghĩa Schema JSON chi tiết ngay trong System Prompt, đi kèm với ít nhất một ví dụ mẫu (Few-shot) về cặp Input và Output JSON chuẩn xác. 3. Tầng Middleware phục hồi lỗi tự động (Self-Correction / Retry Mechanism) Khi ứng dụng nhận được JSON lỗi từ LLM (ví dụ thiếu dấu ngoặc kép, sai kiểu dữ liệu), không nên throw exception ngay lập tức. Hãy xây dựng cơ chế Retry tự động gửi kèm thông báo lỗi của bộ phân tích cú pháp (JSON Parser Error) ngược lại cho LLM để mô hình tự sửa lỗi. Ví dụ chiến lược Prompt và Cơ chế xử lý: Bạn là bộ máy phân tích đơn hàng tự động. Bạn phải luôn trả về kết quả dưới dạng một JSON hợp lệ tuân thủ tuyệt đối Schema dưới đây. Không kèm theo bất kỳ văn bản giải thích nào bên ngoài JSON. JSON Schema: { "type": "object", "properties": { "order_id": { "type": "string" }, "status": { "type": "string", "enum": ["PENDING", "APPROVED", "REJECTED"] }, "items_count": { "type": "integer" } }, "required": ["order_id", "status", "items_count"] } Input: Đơn hàng DH123 đã được duyệt, bao gồm 5 sản phẩm. Output: {"order_id": "DH123", "status": "APPROVED", "items_count": 5} Đoạn mã giả (Pseudo-code) xử lý tầng Middleware: max_retries = 3 current_prompt = initial_prompt for attempt in range(max_retries): response = call_llm(current_prompt) try: parsed_data = json.loads(response) validate_json_schema(parsed_data, expected_schema) return parsed_data # Thành công except (json.JSONDecodeError, SchemaValidationError) as e: # Tự động đưa lỗi về cho LLM để sửa ở vòng lặp tiếp theo current_prompt = f"{initial_prompt} Lỗi cú pháp ở lần gọi trước: {str(e)}. Hãy sửa lại JSON cho đúng chuẩn." raise Exception("Không thể thu được JSON hợp lệ từ LLM sau nhiều lần thử.") Lưu ý kinh nghiệm thực chiến Luôn sử dụng các thư viện hỗ trợ như Pydantic (trong Python) hoặc Zod (trong TypeScript) để định nghĩa Schema và xác thực dữ liệu đầu ra từ LLM một cách chặt chẽ trước khi đưa dữ liệu vào các bước xử lý nghiệp vụ tiếp theo.

Khi phát triển hệ thống tự động hóa quy trình nghiệp vụ (Workflow Automation) sử dụng LLM với định dạng đầu ra JSON (Structured Output), làm thế nào để giải quyết bài toán lỗi cú pháp JSON và sai lệch schema từ phía mô hình?

Mở Khóa Full Câu Trả Lời & Code Chuẩn Senior

Làm Chủ Phỏng Vấn & Nâng Cao Trình Độ Chuyên Nghiệp

Tải Tuyển Tập 100+ Câu Hỏi Phỏng Vấn Chuyên Sâu (PDF)

Cần Mentor Phỏng Vấn Thử 1-1 & Tối Ưu CV?

Kiểm Tra CV Chuẩn ATS Miễn Phí

Câu hỏi Prompt Engineering liên quan cùng chủ đề

Khi phát triển hệ thống tự động hóa quy trình nghiệp vụ (Workflow Automation) sử dụng LLM với định dạng đầu ra JSON (Structured Output), làm thế nào để giải quyết bài toán lỗi cú pháp JSON và sai lệch schema từ phía mô hình?

Đăng nhập để xem câu trả lời

Mở Khóa Full Câu Trả Lời & Code Chuẩn Senior

Làm Chủ Phỏng Vấn & Nâng Cao Trình Độ Chuyên Nghiệp

Tải Tuyển Tập 100+ Câu Hỏi Phỏng Vấn Chuyên Sâu (PDF)

Cần Mentor Phỏng Vấn Thử 1-1 & Tối Ưu CV?

Kiểm Tra CV Chuẩn ATS Miễn Phí

Câu hỏi Prompt Engineering liên quan cùng chủ đề