Thất Bại Là Thông Tin
Khi một AI agent cố gắng hoàn thành một nhiệm vụ và thất bại, bản thân sự thất bại đó chứa đựng thông tin có giá trị. API trả về mã 429 (rate limited), điều này nói cho agent biết phải chậm lại. Mô hình tạo ra JSON không hợp lệ, điều này nói cho agent biết phải thêm bước xác thực định dạng. Tệp không tồn tại tại đường dẫn được kỳ vọng, điều này nói cho agent biết phải xác minh đường dẫn trước khi thao tác.
Những agent coi thất bại là sự kiện dùng một lần rồi bỏ sẽ lặp lại cùng một sai lầm. Những agent biết ghi nhận và học từ thất bại sẽ ngày càng đáng tin cậy hơn. Sự khác biệt nằm ở việc thất bại có được ghi lại ở đâu đó để agent có thể tham chiếu sau này hay không.
Phân Loại Thất Bại
Không phải mọi thất bại đều như nhau, và phản ứng của agent nên phụ thuộc vào loại thất bại. Thất bại tạm thời (timeout mạng, rate limit, dịch vụ ngừng hoạt động tạm thời) nên kích hoạt việc thử lại với backoff. Thất bại vĩnh viễn (thông tin xác thực không hợp lệ, thiếu quyền, thao tác không được hỗ trợ) nên kích hoạt một cách tiếp cận khác hoặc leo thang lên cấp cao hơn. Thất bại logic (kế hoạch của agent sai, không phải do thực thi) nên kích hoạt việc lập kế hoạch lại.
Việc phân loại quan trọng vì phản ứng sai với một thất bại sẽ làm mọi thứ tệ hơn. Thử lại một thất bại vĩnh viễn là lãng phí thời gian. Lập kế hoạch lại sau một thất bại tạm thời là lãng phí một kế hoạch tốt. Leo thang một thất bại tạm thời sẽ làm phiền con người không cần thiết.
Xây Dựng Cơ Sở Tri Thức Về Thất Bại
Mô hình hiệu quả nhất là lưu trữ thất bại ở định dạng có thể tìm kiếm: đã thử gì, có gì đi sai, nguyên nhân gốc rễ là gì, và cuối cùng cái gì đã hoạt động. Trước khi thử một nhiệm vụ, agent tìm kiếm trong cơ sở tri thức này để tìm những thất bại tương tự trong quá khứ và điều chỉnh cách tiếp cận của mình cho phù hợp.
"Lần trước khi tôi cố gọi API này với payload trên 1MB, nó đã timeout. Giải pháp là chia request thành các khối nhỏ hơn." Nếu thông tin này nằm trong hệ thống bộ nhớ của agent, nó có thể chủ động chia nhỏ payload lớn thay vì thất bại rồi lại tự tìm ra giải pháp một lần nữa.
Vòng Lặp Phản Hồi
Phản hồi của con người về thất bại của agent đặc biệt có giá trị vì nó cung cấp "lý do" mà agent có thể không tự tìm ra được. "Việc đó thất bại vì môi trường staging của chúng tôi yêu cầu truy cập VPN" là ngữ cảnh mà agent không thể tự khám phá thông qua thử và sai. Việc thu thập phản hồi này và cung cấp cho agent cho các nhiệm vụ tương lai sẽ khép kín vòng lặp học hỏi.
Một số khung agent bao gồm các cơ chế phản hồi tích hợp sẵn, nơi người dùng có thể chú thích các nhiệm vụ thất bại. Chú thích này trở thành một phần bộ nhớ dài hạn của agent, cải thiện cách nó xử lý các tình huống tương tự trong tương lai.
Tránh Học Sai Bài Học
Agent cũng có thể học sai bài học từ thất bại. Nếu một lệnh gọi API thất bại một lần do vấn đề tạm thời, agent không nên vĩnh viễn tránh API đó. Tri thức về thất bại cần có ngày hết hạn hoặc mức độ tin cậy. "API này không ổn định ba tháng trước" ít liên quan hơn "API này thất bại năm phút trước."
Đọc Thêm
- Xây Dựng Quy Trình AI Agent Chịu Lỗi Tốt
- Tại Sao AI Agents Cần Hệ Thống Bộ Nhớ Vượt Ra Ngoài Lịch Sử Trò Chuyện
- Kiến Trúc Của Hệ Thống AI Agent Tự Phục Hồi
Khám phá AI agents trên Skillful.sh. Tìm kiếm hơn 137.000 công cụ AI.