AI Skill không chỉ cần đúng hướng dẫn; nó còn cần nhận đúng lượng ngữ cảnh. Context budget là giới hạn có chủ đích cho dữ liệu mà Skill được phép đọc, truyền tiếp và lưu lại trong mỗi bước. Thiết kế tốt giúp câu trả lời tập trung hơn, giảm dữ liệu thừa và dễ kiểm thử.
Context budget trong AI Skill là gì?
Context budget là tập quy tắc trả lời ba câu hỏi: bước này cần những trường nào, mỗi trường dài tối đa bao nhiêu, và dữ liệu nào phải loại bỏ trước khi gọi model hoặc công cụ. Budget có thể gồm số tin nhắn, kích thước tệp, số kết quả truy xuất hoặc thời gian lịch sử được phép giữ.
Vì sao context quá lớn làm Skill kém ổn định?
Context chứa nhiều thông tin không liên quan sẽ làm tín hiệu quan trọng bị chìm. AI có thể ưu tiên chỉ dẫn cũ, lặp dữ liệu hoặc tạo đầu ra dài nhưng lệch mục tiêu; context lớn cũng làm tăng chi phí và khó debug.
Bốn bước thiết kế context budget
Xác định mục tiêu và trường bắt buộc; đặt hạn mức theo trường; ưu tiên tín hiệu mới có bằng chứng; ghi lại lý do cắt hoặc tóm tắt mà không lưu dữ liệu nhạy cảm.
Context budget và output contract
Output contract cần nêu rõ đầu ra nào được tạo từ context đã rút gọn. Nếu thiếu trường bắt buộc, Skill trả về trạng thái cần bổ sung thay vì đoán, giúp phân biệt lỗi dữ liệu với lỗi định dạng.
Context budget trong handoff giữa các Skill
Handoff chỉ nên chuyển mục tiêu, dữ kiện liên quan, bằng chứng, trạng thái và hành động kế tiếp. Kết hợp với handoff AI Skill, hãy đặt budget riêng cho từng chặng.
Kiểm thử budget trước khi triển khai
Tạo ca test cho context ngắn, sát hạn mức, vượt hạn mức và dữ liệu xung đột. Kiểm tra output contract, NEEDS_SOURCE và log đã che dữ liệu nhạy cảm chưa. Dùng bộ test hồi quy AI Skill để bảo đảm thay đổi hạn mức không làm hỏng ca đạt.
Checklist thiết kế context budget
Có mục tiêu và trường bắt buộc; có hạn mức độ dài và kích thước tệp; có quy tắc ưu tiên, tóm tắt và xử lý vượt hạn mức; không truyền dữ liệu nhạy cảm nếu không cần; output contract phản ánh trường có thể thiếu; handoff và log giữ dữ liệu tối thiểu; đã chạy test dưới, sát và vượt hạn mức.
Có nên đặt một context budget cho toàn bộ AI Skill không?
Không nên. Mỗi bước có mục tiêu và mức chi tiết khác nhau, nên budget cần đặt theo bước hoặc loại tác vụ.
Khi vượt budget có nên cắt phần đầu tiên không?
Không mặc định. Hãy dùng thứ tự ưu tiên, giữ trường bắt buộc và báo thiếu nếu không thể rút gọn an toàn.
Context budget có làm câu trả lời kém thông minh không?
Có thể nếu loại nhầm dữ kiện cần thiết. Hãy kiểm thử missing-field và so sánh đầu ra trước và sau khi áp dụng budget.
Context budget biến giới hạn dữ liệu thành một phần có thể thiết kế và kiểm thử của AI Skill. Khi xác định mục tiêu, đặt hạn mức theo trường, ưu tiên bằng chứng và kiểm tra vượt ngưỡng, Skill sẽ ít nhiễu hơn và tiết kiệm hơn. Xem thêm data minimization trong AI Skill.