Khi các hệ thống học máy ngày càng tham gia vào những quyết định có tác động lớn đến thế giới thực, nhu cầu hiểu rõ cách thức các hệ thống này đưa ra kết quả cũng ngày càng gia tăng. Các lời giải thích thường được kỳ vọng sẽ tạo dựng niềm tin thông qua khả năng kiểm toán và giám sát, đồng thời cung cấp cơ sở để điều chỉnh các biến trong thực tế nhằm đạt được kết quả mong muốn. Ngoài ra, chúng còn được cho là có khả năng phát hiện các thiên lệch tiềm ẩn, xác định sai sót trong quá trình tiền xử lý dữ liệu, và phân biệt giữa các mẫu có ý nghĩa với những tín hiệu nhiễu. Trong các bối cảnh pháp lý, đạo đức và vận hành, khả năng giải thích thường được xem là điều kiện nền tảng cho việc triển khai có trách nhiệm các hệ thống thuật toán.
Tuy nhiên, trái ngược với những kỳ vọng này, các phương pháp giải thích hiện nay bộc lộ nhiều hạn chế nghiêm trọng. Thay vì mang lại sự minh bạch, nhiều kỹ thuật lại tạo ra thêm bất định, rủi ro và mơ hồ. Do đó, một số học giả trong lĩnh vực trí tuệ nhân tạo có thể giải thích (Explainable AI – XAI) đã lên tiếng cảnh báo về việc sử dụng các phương pháp này, thậm chí có ý kiến cho rằng nên từ bỏ hoàn toàn. Khoảng cách giữa những cam kết về công bằng, an toàn và minh bạch của XAI với năng lực thực tế của các phương pháp hiện hành vẫn còn rất lớn.
Bài báo này lập luận rằng các phương pháp giải thích hiện tại chưa đáp ứng được các tiêu chuẩn của khoa học thực nghiệm và chưa đủ độ tin cậy để hỗ trợ các quyết định mang tính rủi ro cao. Tác giả chỉ ra những vấn đề nền tảng cần được giải quyết trước khi các phương pháp này có thể được áp dụng một cách đáng tin cậy, đồng thời phân loại các thách thức này thành ba nhóm liên kết chặt chẽ: ý nghĩa, diễn giải và khả năng hành động. Trong bối cảnh những hạn chế này vẫn còn tồn tại, bài báo khuyến nghị các nhà thực hành không nên sử dụng các kỹ thuật giải thích trong các tình huống mà quyết định có thể gây ra hệ quả nghiêm trọng.
Trích dẫn
TY - JOURAU - Gervais, NicolasPY - 2026/01/14SP - T1 - Explainable AI: An Idea that Badly Needs GroundworkVL - ER -
